Tekst druku sejmowego nr 2443
· druk sejmowy · PDF · 1426 stron · 3 226 899 znaków · 10,3 MB
Tekst został odczytany automatycznie z pliku opublikowanego przez Kancelarię Sejmu. Odczyt może różnić się od oryginału układem, podziałem wierszy i formatowaniem tabel. Wersją rozstrzygającą jest plik źródłowy. Pobierz oryginał (PDF).
Tekst jest bardzo długi i został tu przycięty. Pełną treść zawiera plik źródłowy.
Treść druku
Druk nr 2443 Warszawa, 9 kwietnia 2026 r.
SEJM
RZECZYPOSPOLITEJ POLSKIEJ
X kadencja Prezes Rady Ministrów RM-0610-41-26 Pan Włodzimierz Czarzasty Marszałek Sejmu Rzeczypospolitej Polskiej
Szanowny Panie Marszałku, na podstawie art. 118 ust. 1 Konstytucji Rzeczypospolitej Polskiej przedstawiam Sejmowi Rzeczypospolitej Polskiej projekt ustawy
- o systemach sztucznej inteligencji.
Projekt ma na celu wykonanie prawa Unii Europejskiej.
Do prezentowania stanowiska Rządu w tej sprawie w toku prac parlamentarnych został upoważniony Minister Cyfryzacji.
Z poważaniem Donald Tusk /podpisano kwalifikowanym podpisem elektronicznym/
Tłoczono z polecenia Marszałka Sejmu Rzeczypospolitej Polskiej
Projekt
U S T AWA
z dnia o systemach sztucznej inteligencji1), 2)
Rozdział 1 Przepisy ogólne
Art. 1. Ustawa określa: 1)
organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz.
Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”;
2)
postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy;
3)
warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność;
4)
działania wspierające rozwój systemów sztucznej inteligencji;
5)
zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689.
Art. 2. 1. Ustawy nie stosuje się do:
1)
2)
Niniejsza ustawa służy stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024).
Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustawę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustawę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa.
–2– 1)
spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187);
2)
spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26);
3)
spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157);
4)
badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.3)), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689;
5)
systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689;
6)
systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689.
2. Organem publicznym właściwym do prowadzenia kontroli działalności służb
specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania.
Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1)
osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością:
3)
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328 i 370.
–3– a)
o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm.4),
b)
gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826),
c)
nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r.
– Prawo przedsiębiorców,
d)
o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców,
e)
rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317);
2)
organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689.
2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej
inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.
Art. 4. Użyte w ustawie określenia oznaczają: 1)
system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689;
2)
ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689;
3)
dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689;
4)
operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689;
5)
wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689;
6)
wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689;
7)
wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689;
8)
organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689;
9)
4)
ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689;
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 340, 368, 620, 680, 1022, 1180, 1301, 1302, 1366, 1795, 1804, 1817, 1822, 1823, 1838 i 1858 oraz z 2026 r. poz. 203.
–4–
10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689;
11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689;
12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689;
13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689;
14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689;
15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689.
Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją
Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689.
2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689.
3. Komisja posiada prawo używania pieczęci z godłem państwowym.
Art. 6. Do zadań Komisji należy: 1)
sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z zastrzeżeniem art. 2 ust. 2;
2)
podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689;
3)
podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji;
4)
podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji;
–5– 5)
udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji;
6)
wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy;
7)
wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;
8)
opracowywanie
i
popularyzujących
wydawanie wiedzę
o
publikacji, sztucznej
realizacja
inteligencji
programów oraz
edukacyjnych
prowadzenie
działań
informacyjnych; 9)
wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi;
10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją;
11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi;
12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b;
13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689
i
ustawy
w
indywidualnej
sprawie,
zwanych
dalej
„opiniami
indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8;
14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji;
15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2;
16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689;
17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a)
przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych,
b)
udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: –
informacji, o której mowa w art. 98 ust. 2,
–6– –
w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846).
Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów.
Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji.
2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.
Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1)
podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub
2)
podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów.
2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub
zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy.
3. Wniosek o wydanie opinii indywidualnej zawiera: 1)
wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna;
2)
stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego;
3)
oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę oraz adres do korespondencji, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany.
4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za
złożenie wniosku.
–7–
Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami.
2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej.
3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych.
Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł.
2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji.
3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego.
4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania.
5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1)
wycofania wniosku – w całości;
2)
uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części;
3)
niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości.
6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie
opinii indywidualnej następuje: 1)
w terminie 30 dni od dnia wycofania wniosku – dla pkt 1;
2)
w terminie 30 dni od dnia złożenia wniosku – dla pkt 2;
3)
w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3.
–8–
Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany.
2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych.
3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii.
4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym.
Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego.
2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki.
Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta.
Art. 15. 1. Komisja może: 1)
zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689;
2)
uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14;
–9– 3)
stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym.
2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o
wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia.
3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie.
4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu.
5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna.
Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów.
2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji.
Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności.
2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień.
Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny.
Art. 19. 1. W skład Komisji wchodzą:
– 10 – 1)
Przewodniczący Komisji;
2)
dwóch Zastępców Przewodniczącego Komisji;
3)
czterech pozostałych członków Komisji będących przedstawicielami: a)
Prezesa Urzędu Ochrony Konkurencji i Konsumentów,
b)
Komisji Nadzoru Finansowego,
c)
Krajowej Rady Radiofonii i Telewizji,
d)
Prezesa Urzędu Komunikacji Elektronicznej.
2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1)
upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu;
2)
osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia.
3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele
ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689.
4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni.
5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie.
6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25).
Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1)
Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie;
2)
Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o
– 11 – systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i w ustawie; 3)
Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie;
4)
organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych;
5)
ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie;
6)
Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy;
7)
Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223);
8)
Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw;
9)
koordynatorem do spraw usług cyfrowych – w zakresie jego zadań określonych w ustawie;
10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222);
11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej;
– 12 –
12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw.
2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689.
Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym.
2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał.
3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji.
Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1)
Przewodniczący Komisji lub
2)
Zastępca Przewodniczącego Komisji, lub
3)
członek Komisji
– stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691).
2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1)
Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji;
2)
członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji.
Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu
środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1)
udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3;
2)
osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę
– 13 – poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3)
osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad.
Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej
obradom.
2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji.
3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję.
4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji.
Art. 25. Do zadań Przewodniczącego Komisji należy: 1)
kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz;
2)
wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej;
3)
określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2;
4)
podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689;
5)
przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26;
6)
podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3;
7)
powoływanie Zastępców Przewodniczącego Komisji;
8)
wyznaczanie Sekretarza Komisji;
– 14 – 9)
podpisywanie uchwał Komisji;
10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji;
11) wykonywanie innych zadań powierzonych przez Komisję.
Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni.
2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1)
realizacji zadań Komisji i ich efektach;
2)
zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie;
3)
liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji;
4)
analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych;
5)
realizacji zadań przez Przewodniczącego Komisji;
6)
realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia
sprawozdania
zawierającego
również
informację
o
wynagrodzeniu
Przewodniczącego i Zastępców Przewodniczącego.
3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy.
4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni.
– 15 –
Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji.
2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów.
3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia.
Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję.
2. Przewodniczącym Komisji może zostać osoba, która: 1)
posiada obywatelstwo polskie;
2)
korzysta z pełni praw publicznych;
3)
posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny;
4)
wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji;
5)
posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji;
6)
nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe;
7)
cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań;
8)
nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa.
3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje.
4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.
– 16 –
Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania.
2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji.
Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1)
prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe;
2)
orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa;
3)
naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36;
4)
pozbawienia praw publicznych;
5)
rezygnacji ze stanowiska;
6)
utraty obywatelstwa polskiego;
7)
utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące.
2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z
naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały.
Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru.
2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2.
3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji.
4. Ogłoszenie o naborze zawiera co najmniej: 1)
nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji;
2)
wskazanie stanowiska, na które jest prowadzony nabór;
– 17 – 3)
wymagania związane ze stanowiskiem;
4)
zakres zadań wykonywanych na stanowisku;
5)
wymagane dokumenty;
6)
termin i miejsce składania dokumentów;
7)
informacje o metodach i technikach naboru.
5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia
ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji.
Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”.
2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów.
3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze.
4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów.
5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór.
6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji.
7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1)
wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów;
2)
imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze;
3)
informacje o zastosowanych metodach i technikach naboru;
– 18 – 4)
uzasadnienie
dokonanego
wyboru
albo
przyczyny
niewyłonienia
kandydata
uzasadniające konieczność wznowienia naboru; 5)
skład zespołu.
Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie
Informacji Publicznej na stronie podmiotowej Komisji.
2. Ogłoszenie o wyniku naboru zawiera: 1)
wskazanie stanowiska, na które był prowadzony nabór;
2)
imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata.
3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji
ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne.
Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177).
2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej.
3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne.
Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji.
2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się
– 19 – pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów.
3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów.
Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1)
być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji;
2)
być członkami organów podmiotów, o których mowa w pkt 1;
3)
podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze;
4)
wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów.
Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego
ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689.
2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2.
Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw
– 20 – informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy.
2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2.
3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze.
4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia.
Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25.
Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1)
dotyczące
użytkowników
systemów
informacyjnych
i
użytkowników
telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r.
– Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2)
dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej;
– 21 – 3)
gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej;
4)
gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej;
5)
gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach.
Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia
postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej.
2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione.
Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie.
2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2.
3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami
– 22 – międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań.
Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji.
2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6.
Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji.
3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu.
Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji.
4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi.
5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji.
Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa.
2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1)
8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji;
2)
7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji.
– 23 –
3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji.
Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji.
2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję.
3. Kandydatów na członków Rady mogą zgłosić: 1)
współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego;
2)
Rzecznik Praw Obywatelskich;
3)
Rzecznik Praw Dziecka;
4)
Rzecznik Praw Pacjenta;
5)
Rzecznik Małych i Średnich Przedsiębiorców;
6)
Główny Inspektor Pracy;
7)
izby
gospodarcze
reprezentujące
przedsiębiorców
wykonujących
działalność
gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8)
reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm.5));
9)
podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce;
10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów:
a) sztuczna inteligencja,
5)
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723 oraz z 2025 r. poz. 39 i 1661.
– 24 –
b) nowe technologie,
c) sprawiedliwość technologiczna,
d) ochrona praw człowieka,
e) edukacja lub kultura cyfrowa,
f) bezpieczeństwo informacji.
4. Członkiem Rady może być osoba, która: 1)
posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka;
2)
nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe;
3)
korzysta z pełni praw publicznych;
4)
wyraziła zgodę na kandydowanie na piśmie.
5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty,
o których mowa w ust. 3.
6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1)
rezygnacji złożonej na piśmie Przewodniczącemu Rady;
2)
śmierci członka Rady;
3)
niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące;
4)
skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe;
5)
pozbawienia praw publicznych.
7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia
członka Rady o wygaśnięciu członkostwa.
8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady.
9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów.
10. Do członków Rady stosuje się art. 38 ust. 1.
Art. 46. 1. Do zadań Rady należy: 1)
wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję;
– 25 – 2)
wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji;
3)
przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4;
4)
podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36.
2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi
właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów.
3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji.
4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady.
5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji.
Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę.
2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków.
3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady.
4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia.
5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu.
6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych.
7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1)
prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie;
2)
wykonywać działań, które mogłyby skutkować konfliktem interesów.
– 26 –
8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie.
9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r.
– Kodeks pracy.
10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję.
11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji.
Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji
Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2.
2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689.
3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1)
będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r.
– Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy;
2)
niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158).
4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej,
przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio.
5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego.
Art. 49. 1. Komisja wszczyna kontrolę: 1)
z urzędu;
2)
na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji;
3)
na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689.
2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia
kontrolowanemu zawiadomienia o wszczęciu kontroli.
– 27 –
3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513).
4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1)
przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli;
2)
przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2.
Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej
komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej „kontrolującym”.
2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3.
Osoba
wykonująca
czynności
kontrolne
składa
na
piśmie
oświadczenie
o niewykonywaniu przez osobę najbliższą: 1)
działalności gospodarczej lub
2)
czynności na podstawie stosunku pracy lub na innej podstawie prawnej
– które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję.
4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872).
5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli.
– 28 –
6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego.
7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia.
8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie.
Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości.
2. Upoważnienie do przeprowadzenia kontroli zawiera: 1)
wskazanie podstawy prawnej kontroli;
2)
nazwę i adres organu kontroli;
3)
datę i miejsce wystawienia upoważnienia;
4)
imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2
– imię (imiona) i nazwisko oraz numer dokumentu tożsamości;
5)
datę ważności upoważnienia;
6)
nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany;
7)
określenie zakresu przedmiotowego kontroli;
8)
wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli;
9)
imię, nazwisko i podpis Przewodniczącego Komisji;
10) pouczenie o prawach i obowiązkach kontrolowanego.
Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1)
żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących
– 29 – własnością
innego
podmiotu
zawierających
dane
kontrolowanego
związane
z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2)
dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli;
3)
sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1;
4)
zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1;
5)
sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych;
6)
żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli;
7)
przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli;
8)
utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego.
2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz
zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnia mu: 1)
w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach;
2)
dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie;
3)
dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną.
Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku
kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych,
– 30 – lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli.
2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem.
Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1)
zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub
2)
zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1
– kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli.
2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.
3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści.
4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie.
5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od
– 31 – dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli.
6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.
Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia.
2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.
3. Pomoc udzielana przez: 1)
Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania;
2)
jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689.
4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o
udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli.
5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród
– 32 – z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy.
Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli.
2. Protokół kontroli zawiera co najmniej: 1)
wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego;
2)
w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię i nazwisko tej osoby;
3)
imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2
– imię (imiona) i nazwisko oraz numer dokumentu tożsamości;
4)
datę rozpoczęcia i zakończenia kontroli;
5)
określenie zakresu przedmiotowego kontroli;
6)
opis przebiegu kontroli;
7)
opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli;
8)
ustalenia z przeprowadzonej kontroli;
9)
pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania;
10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego;
11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych.
3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem.
4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu.
5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści.
6. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości
– 33 – albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem.
7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli.
8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole.
Art. 57.
1. Jeżeli
w ustaleniach z przeprowadzonej
kontroli
stwierdzono
nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne.
2. W zaleceniach pokontrolnych Komisja: 1)
wzywa podmiot kontrolowany do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia;
2)
wskazuje termin na usunięcie nieprawidłowości;
3)
wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych;
4)
zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie.
3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia
doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu.
4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości.
5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu.
Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”.
– 34 –
Rozdział 4 Postępowanie przed organem nadzoru rynku
Art. 59. Komisja wszczyna postępowanie: 1)
z urzędu, w tym w przypadku: a)
o którym mowa w art. 58,
b)
stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy;
2)
na wniosek: a)
Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji,
b)
organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689,
c)
Rady.
Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę.
2. Skarga zawiera: 1)
nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga;
2)
opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy;
3)
inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy.
3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej
złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej.
4. Rozpatrując skargę, Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości.
5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie.
Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie.
2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania.
3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania.
– 35 –
Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie.
2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1)
zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia;
2)
działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy;
3)
spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać.
3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia przedstawia Komisji
informację z jego wykonania.
4. W przypadku gdy strona nie wykona ostrzeżenia, Komisja może: 1)
nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części, lub wycofanie elementu, którego dotyczy ostrzeżenie;
2)
nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać;
3)
poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy, a także właściwe organy państw członkowskich Unii Europejskiej;
4)
umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia.
Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków
wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia.
– 36 –
2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie do 14 dni od dnia jej doręczenia.
3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej.
Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, lub ust. 2.
2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności.
3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689.
4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania.
5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego.
Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego.
Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.
2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.
3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz.
– 37 – U. z 2024 r. poz. 1568, z późn. zm.6)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy.
4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio.
5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio.
Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna.
2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy.
3. Wykaz zawiera: 1)
nazwę systemu oraz operatora, którego dotyczy decyzja;
2)
charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji;
3)
informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689;
4)
informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy;
5)
oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2.
4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz:
1)
6)
zapewnia ochronę przed nieuprawnionym dostępem do wykazu;
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26.
– 38 – 2)
zapewnia integralność danych w wykazie;
3)
zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony;
4)
przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony;
5)
określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych;
6)
zapewnia rozliczalność działań dokonywanych na danych wykazu.
5. Komisja jest administratorem danych przetwarzanych w wykazie.
Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji
w zakresie administracyjnej kary pieniężnej.
Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm.7), Komisja dołącza akta postępowania.
Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji.
Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji
Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689.
2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu.
3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1)
możliwości zawarcia układu albo
2)
braku możliwości zawarcia układu.
4. Układ może zostać zawarty, jeżeli strona:
7)
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 304, 1178, 1420, 1872 oraz z 2026 r. poz. 187.
– 39 – 1)
zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz
2)
ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności.
5. Strona może zobowiązać się w układzie do:
1)
usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem;
2)
naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości.
6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary
pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85
– niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji.
7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia.
8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1)
okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1;
2)
zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności;
3)
zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę.
9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia
wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji.
– 40 –
10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji.
Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu niedłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące.
2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu.
3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu.
Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia.
2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych.
3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania.
Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia.
4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń.
Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu.
2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania.
– 41 –
3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym.
4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie.
Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. …).”.
2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne.
3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę.
4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1.
Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu.
2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1)
gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2;
2)
gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2;
3)
uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu.
Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję
zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie.
2. Decyzja, o której mowa w ust. 1, jest ostateczna.
– 42 –
Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy.
2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2.
Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego.
Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się z zobowiązań podjętych w ramach układu.
2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę ze zobowiązań podjętych w ramach układu.
Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1.
2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat.
Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia.
2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy.
3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1.
Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania.
– 43 –
2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1.
Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego.
Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1)
postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a
2)
w informacjach lub dokumentach, o których mowa w pkt 1: a)
ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz
b) 3)
przedstawiono dowody na poparcie tych okoliczności;
przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie.
2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o
których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2.
3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2.
4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania.
Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna
Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689.
– 44 –
2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku.
3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji.
4. Polskie Centrum Akredytacji: 1)
wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689;
2)
we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji;
3)
przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a)
wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689,
b)
udzielonych akredytacjach w tym obszarze,
c)
zmianach zakresu akredytacji,
d)
zawieszonych akredytacjach,
e)
cofniętych akredytacjach
– w terminie 14 dni od dnia podjęcia odpowiedniej decyzji.
5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku.
Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji.
2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1)
wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany;
– 45 – 2)
określenie zakresu przedmiotowego wniosku;
3)
datę wydania, okres ważności i numer akredytacji;
4)
oznaczenie certyfikatu akredytacji, o ile został wydany.
Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące
tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie.
Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku.
Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji.
2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów.
3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia.
Rozdział 7 Środki wspierające innowacyjność
Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia.
2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej.
3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje:
– 46 – 1)
wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689;
2)
prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689;
3)
przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689;
4)
limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji;
5)
warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji;
6)
inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689.
4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów
ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne.
5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773).
6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 5, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej.
Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej.
2. Ogłoszenie o konkursie zawiera co najmniej: 1)
przedmiot konkursu;
2)
termin, miejsce i sposób składania ofert;
3)
wymagane dokumenty;
4)
kryteria oceny ofert;
5)
termin ogłoszenia o wynikach konkursu.
– 47 –
3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji.
Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert.
2. Zespół konkursowy: 1)
ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie;
2)
sporządza protokół oceny ofert;
3)
sporządza projekt listy rankingowej.
3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3.
4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą
liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników.
5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników.
6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji.
Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy.
3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia.
4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1.
5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny.
6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4.
7. Komisja zatwierdza dokumenty, o których mowa w ust. 6. Przepis art. 93 ust. 6 stosuje się.
– 48 –
8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2.
Art. 95. 1. Komisja ustala: 1)
limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej;
2)
zakres piaskownicy regulacyjnej dla projektu.
2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds.
Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostępnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1.
3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie.
Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1)
informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa;
2)
składa Komisji roczny raport z przebiegu realizacji projektu;
3)
zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej;
4)
niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej.
Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w
piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej.
2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. 48 ust. 1 i 2, art. 57 i art. 58.
3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania.
– 49 –
4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia.
Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji.
2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.
Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1)
udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących z: a)
budżetu państwa w formie dotacji celowej,
b)
budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności,
c)
środków pochodzących z bezzwrotnej pomocy zagranicznej,
d)
środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień;
2)
inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień.
2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe
lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań.
3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2.
Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne
Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689.
– 50 –
2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689.
3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689.
4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego.
5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej.
Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej.
2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu.
Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa.
Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu.
2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy.
– 51 –
3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm.8)), od dnia następującego po dniu złożenia wniosku.
4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty.
5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat.
6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie.
7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia.
8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie
– sądu ochrony konkurencji i konsumentów.
9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1)
nie stanowi pomocy publicznej;
2)
stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis;
3)
stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej.
Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności.
2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod
uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie.
8)
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 497, 621, 622, 769, 820, 1203, 1235, 1414, 1417, 1669, 1804 i 1863 oraz z 2026 r. poz. 252 i 347.
– 52 –
Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji.
2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego.
3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie.
4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio.
Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k.
Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji.
Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny.
2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej.
3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689.
Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny.
2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej.
– 53 –
Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm.9)).
Rozdział 9 Zmiany w przepisach obowiązujących
Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz.
U. z 2024 r. poz. 1568, z późn. zm.10)) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu:
„DZIAŁ IVfa. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW
ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA … O SYSTEMACH
SZTUCZNEJ INTELIGENCJI
Art. 47988a. Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. …).
Art. 47988b. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji.
Art. 47988c. § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu.
§ 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie.
Art. 47988d. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. 9) 10)
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872.
Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26.
– 54 –
Art. 47988e. § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
§ 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji.
Art. 47988f. § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia.
§ 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania.
§ 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa.
Art. 47988g. § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów.
§ 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją
Rozwoju
i
Bezpieczeństwa
Sztucznej
Inteligencji
jako
tajemnica
przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1)
zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy;
2)
strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę.
– 55 –
§ 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów.
§ 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
§ 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie.
Art. 47988h. § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia.
§ 2. Przepisy art. 47988c, 47988d , art. 47988f, art. 47988g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Art. 47988i. Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”.
Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie:
„§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”.
Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu:
„10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”.
Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu:
„3d) Przewodniczącego
oraz
Zastępców
i Bezpieczeństwa Sztucznej Inteligencji;”.
Przewodniczącego
Komisji
Rozwoju
– 56 –
Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu:
„W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”.
Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1)
w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie:
„9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji
Elektronicznej,
Prezesa
Urzędu
Transportu
Kolejowego,
Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2)
art. 32 otrzymuje brzmienie:
„Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie.
2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”.
Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U.
z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu:
„Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji
– 57 – chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”.
Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu:
„Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”.
Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu:
„17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”.
Rozdział 10 Przepisy dostosowujące i przepis końcowy
Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy.
3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy.
4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy.
Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1)
w 2026 r. – 9,30 mln zł;
2)
w 2027 r. – 23,74 mln zł;
3)
w 2028 r. – 24,17 mln zł;
4)
w 2029 r. – 24,89 mln zł;
5)
w 2030 r. – 25,63 mln zł;
6)
w 2031 r. – 26,39 mln zł;
7)
w 2032 r. – 27,18 mln zł;
– 58 – 8)
w 2033 r. – 27,99 mln zł;
9)
w 2034 r. – 28,82 mln zł;
10) w 2035 r. – 29,68 mln zł.
2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji.
3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy.
4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji.
Art. 122. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia.
UZASADNIENIE
1. Cel i potrzeba ustawy Celem projektowanej ustawy jest powołanie w Polsce systemu sprawowania nadzoru nad systemami
sztucznej
inteligencji
zgodnego
z
ramami
prawnymi
ustanowionymi
rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689” albo „aktem o AI”.
Rozporządzenie („Akt o AI”) jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych. Nadrzędnym celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji, zwanych dalej „systemami AI”, w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI, a także wspierania innowacji w tym zakresie.
Dla osiągnięcia założonego celu konieczne jest przyjęcie przez państwa członkowskie aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 w sposób spójny i skoordynowany z nadzorem realizowanym na poziomie Komisji Europejskiej i Rady Europejskiej. Projektowane przepisy powinny nadać niezbędne kompetencje krajowym organom nadzoru rynku lub takie organy utworzyć, by umożliwić im skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Z uwagi na charakter wymaganych zmian (m.in. przyznanie nowych uprawnień nadzorczych, stworzenie mechanizmu skargowego, trybu wydawania decyzji w zakresie określenie kar i innych środków administracyjnych), w przypadku Polski nie jest możliwe
zastosowanie wyłącznie rozwiązań pozalegislacyjnych. Dla zapewnienia zgodnych z polskim prawem, skutecznych narzędzi interwencji w zakresie regulowanym przez rozporządzenie konieczne jest przyjęcie przez Rzeczpospolitą Polską aktu prawnego w randze ustawy.
Zgodnie z prawem europejskim rozporządzenie obowiązuje w Unii od dnia 1 sierpnia 2024 r. W dniu 2 lutego 2025 r. w życie weszły przepisy dotyczące systemów zakazanych. W dniu 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące organów notyfikujących i jednostek notyfikowanych oraz kar za naruszenia przepisów o zakazanych praktykach w zakresie AI. Zgodnie z terminami określonymi w rozporządzeniu 2024/1689 proces ten zakończy się 2 sierpnia 2027 r.
W związku z powyższymi na obecnym etapie prac nad ustanowieniem europejskiego systemu nadzoru nad sztuczną inteligencją konieczne jest podjęcie działań legislacyjnych, które pozwolą Polsce wywiązać się ze wszystkich zobowiązań określonych w rozporządzeniu 2024/1689, które weszły w życie do dnia 2 sierpnia 2025 r. Przyjęcie przepisów, które stanowią treść projektu ustawy do polskiego porządku prawnego pozwoli również stworzyć prawne i organizacyjne podstawy umożliwiające w przyszłości realizację pozostałych, określonych w przepisach rozporządzenia 2024/1689 obowiązków, których wejście w życie nastąpi stopniowo do dnia 2 sierpnia 2027 r.
Zgodnie z zasadami prawa Unii Europejskiej, podejmowane działania legislacyjne opierają się na założeniu, że ustawa ma zawierać przepisy wprost przekazane przez europejskiego prawodawcę do uregulowania w prawie krajowym oraz takich, co do których rozporządzenie 2024/1689 pozostawiło państwom członkowskim pewną swobodę regulacyjną. W związku z powyższym w polskim prawie należy zrealizować działania prawodawcze służące realizacji przepisów rozporządzenia 2024/1689 w wymiarze ustrojowym, jak i proceduralnym. Dotyczą one m.in.:
1) wskazania właściwych organów krajowych, tj.:
– organu nadzoru rynku,
– organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie;
2) określenia procedur postępowania przed organem nadzoru, w tym umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk AI, czy umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie rozporządzenia 2024/1689; 2
3) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689.
Ponadto projekt ustawy umożliwi rozpoczęcie realizacji celów określonych w art. 1 ust. 2 lit. g rozporządzenia 2024/1689, które mówią o wspieraniu rozwoju zastosowań AI w krajach członkowskich. Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną AI.
Analiza omawianego zagadnienia wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, podczas gdy alternatywne sposoby rozwiązania problemu należy ocenić jako niewystarczające do osiągnięcia oczekiwanego celu. Szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest szerokie stosowanie technologii sztucznej inteligencji, dodatkowo przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie.
Projekt ustawy pozwoli wprowadzić do polskiego prawa mechanizmy umożliwiające realizację obowiązków określonych w rozdziałach I, II, III sekcja 4, V, VII, IX, XI rozporządzenia 2024/1689. W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące określenia krajowego organu nadzoru, postępowania przed tym organem, postępowania kontrolnego, organu notyfikującego, certyfikacji, sądowej ochrony praw przysługujących obywatelom, jak również wszczynanie postępowań i nakładanie administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689.
Należy również zaznaczyć, że omawiany projekt ustawy o systemach sztucznej inteligencji nie realizuje wszystkich obowiązków wynikających z rozporządzenia 2024/1689. Treść projektu, który wychodzi naprzeciw wymaganiom wynikającym z przepisów polskiego oraz europejskiego prawa, jest wynikiem prowadzonych przez Ministerstwo Cyfryzacji prac i analiz merytorycznych, komunikacji z przedstawicielami Europejskiego Urzędu ds. Sztucznej Inteligencji oraz konsultacji z innymi instytucjami publicznymi w Polsce i interesariuszami społecznymi. Należy zaznaczyć, że rozporządzenie pozostawia państwom członkowskim pewną elastyczność m.in. w wyznaczaniu lub stworzeniu odpowiednich organów, procedur 3
administracyjnych i sądowych. W przypadku Polski powoduje to konieczność priorytetyzacji działań w zakresie utworzenia systemu nadzoru rynku nad systemami AI w celu umożliwienia stosowania tych przepisów, które weszły w życie do dnia 2 sierpnia 2025 r., przy jednoczesnym prowadzeniu działań komunikacyjnych i administracyjnych. W pozostałym, określonym w rozporządzeniu 2024/1689, zakresie przedmiotowym Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).
2. Omówienie projektowanych przepisów Projektowana ustawa określa organizację i sposób sprawowania krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia, a także zapewnienia rozwoju w tym obszarze. Zakres przedmiotowy projektu wynika wprost z przepisów rozporządzenia 2024/1689, w którym znajduje się znaczna część przepisów merytorycznych stosowanych bezpośrednio. Projektowana ustawa koncentruje się na ustanowieniu roli organów państwa w tym obszarze oraz ustanowieniu środków rozwoju i nadzoru.
Przygotowując się do wyżej opisanych prac legislacyjnych na rzecz zapewnienia skutecznego stosowania rozporządzenia 2024/1689, Ministerstwo Cyfryzacji przeprowadziło szereg działań obejmujących: analizy prawne, instytucjonalne i techniczne oraz dwukrotne konsultacje z interesariuszami zarówno sektora publicznego, jak i prywatnego i pozarządowego.
Analizy polskiego prawa oraz otoczenia instytucjonalnego prowadzone przez Ministerstwo Cyfryzacji wykazały brak istnienia w naszym kraju organu lub instytucji publicznej spełniających wymogi określone w rozporządzeniu 2024/1689 zarówno w zakresie statusu prawnego i roli ustrojowej, jak i wymaganych kwalifikacji pracowników. Rosnąca rola systemów sztucznej inteligencji oraz skala zagrożeń, jakie może powodować ich niewłaściwe stosowanie, powodują, że konieczne jest wyznaczenie organu, który tym wyzwaniom sprosta.
W związku z potrzebami zapewnienia właściwego poziomu ochrony podstawowych praw człowieka, praw obywateli i konsumentów, rosnąć powinny również kompetencje organów nadzoru. W Polsce od kilku lat obserwujemy zwiększanie wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielanie ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych. Biorąc pod uwagę to, że w ostatnim czasie każdy z tych 4
organów przyjął na siebie realizacje nowych, poważnych obowiązków, zasadne jest, aby właściwy organ mógł realizować je w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli.
W wyniku powyżej opisanych działań analitycznych, jak również ciągłego procesu zapoznawania się z aktualnym stanem wiedzy eksperckiej1, prowadzeniem dyskusji roboczych z przedstawicielami innych instytucji publicznych oraz uwzględnianiem wniosków wypracowanych na wcześniejszych etapach w ramach prac Grupy Roboczej ds. AI2, Ministerstwo Cyfryzacji ustaliło, że najbardziej efektywnym sposobem osiągnięcia celu nałożonego na Polskę przez rozporządzenie 2024/1689 jest ustanowienie nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucji tej, mającej pełnić funkcję nie tylko organu nadzoru nad rynkiem, ale również przyczyniającej się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnienia funkcji podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, w projekcie nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”.
W celu uzyskania dodatkowych informacji i opinii ekspertów oraz przedstawicieli opinii publicznej, Ministerstwo Cyfryzacji przeprowadziło otwarte dla wszystkich zainteresowanych prekonsultacje założeń prac nad projektem ustawy (realizacja w terminie od 2 kwietnia 2024 r. do 23 kwietnia 2024 r). Respondenci tego procesu w zdecydowanej większości opowiedzieli się za koniecznością powołania nowego organu nadzoru jako najlepszym rozwiązaniem systemowym odpowiadającym potrzebom rozwoju polskiego ekosystemu sztucznej inteligencji3.
Należy podkreślić także, że rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte i uchwalone w formie ustawy w Hiszpanii 4.
Dodatkową okolicznością przemawiającą za (systemową i ekonomiczną) optymalnością wskazanego modelu jest mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia tych wymagań oraz prowadziłoby do szkodliwej
1
A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities | European Journal of Risk Regulation | Cambridge Core 2024. 2 RAPORT: Analiza związku Aktu w sprawie sztucznej inteligencji z wybranymi obowiązującymi i projektowanymi regulacjami prawnymi – Portal sztucznej inteligencji – Portal G ov.pl (www.gov.pl). 3 Wdrożenie Aktu o AI – Ministerstwo Cyfryzacji – Portal Gov.pl (www.gov.pl). 4 Estrategia de Inteligencia Artificial 2024.
5
konkurencji między organami i rywalizacji o wąskie grono wysoko wyspecjalizowanych ekspertów.
Powołanie nowego organu jawi się również jako racjonalne z punktu widzenia interesu sektora finansów publicznych. Jak wspominano, w aktualnym stanie prawnym brakuje podmiotu spełniającego wymagania, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a więc łącznego i równoczesnego zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych.
Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne z punktu widzenia polskiego podatnika.
Rozdział 1 – Przepisy ogólne (art. 1 – art. 4)
Rozdział 1 określa zakres podmiotowy ustawy, stanowiąc, że przepisy ustawy będą miały zastosowanie do osób fizycznych, osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej, jak również zakres przedmiotowy ustawy, w ramach którego planuje się określenie sposobu sprawowania nadzoru nad rynkiem, postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, działania wspierające rozwój systemów sztucznej inteligencji oraz zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689.
Projektodawca określił zarówno zakres podmiotowy, jak i przedmiotowy w ten sposób, by był kompatybilny z przepisami oraz celami określonymi w rozporządzeniu 2024/1689.
Z zakresu stosowania rozporządzenia 2024/1689 (art. 2 ust. 3) i ustawy w art. 2 zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2026 r. poz. 1158). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów wyłączone mają być również sprawy będące w zakresie bezpieczeństwa narodowego, obejmujące działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji
6
Wywiadu (Dz. U. z 2025 r. poz. 902, z późn. zm.), a także w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2024 r. poz. 1405, z późn. zm.). Intencją projektu jest całkowite wyłączenie działalności służb specjalnych spod właściwości Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Wyłączenie spraw związanych z obroną narodową oraz bezpieczeństwem narodowym jest uzasadnione kilkoma istotnymi powodami. Przede wszystkim kwestie te są kluczowe dla stabilności i ochrony państwa, dlatego wymagają specjalnych procedur i środków, które są niezbędne do skutecznego zarządzania zagrożeniami. Przepisy dotyczące obrony narodowej i bezpieczeństwa narodowego często wymagają specyficznych regulacji, które mogą nie być kompatybilne z ogólnymi przepisami dotyczącymi sztucznej inteligencji. Wyłączenie tych obszarów pozwala na dostosowanie regulacji do unikalnych potrzeb i wymagań tych sektorów.
Jednocześnie w celu zapewnienia stosowania i przestrzegania przepisów rozporządzenia 2024/1689 w odniesieniu do specyfiki działania służb specjalnych, w projekcie proponuje się wskazanie Prezesa Rady Ministrów albo Ministra – Koordynatora Służb Specjalnych, w przypadku jego powołania, jako organu właściwego do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie przestrzegania przepisów rozporządzenia 2024/1689 i projektowanej ustawy. Zaproponowane powyżej rozwiązania prawne umożliwią stosowanie przepisów rozporządzenia 2024/1689 wobec służb specjalnych, przy jednoczesnym zachowaniu przez każdą z nich należytego poziomu ochrony środków, form i metod realizacji zadań, zgromadzonych informacji oraz własnych obiektów i danych identyfikujących funkcjonariuszy służby, do której to ochrony służby specjalne są zobowiązane przepisami ustawowymi. W zakresie kontroli odpowiednie zastosowanie będą mieć przepisy ustawy o kontroli w administracji rządowej, tak więc nie ma potrzeby dodatkowego normowania tej kwestii w przedmiotowym projekcie.
Przepisów nie stosuje się także do badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689. Wyłączenia dotyczące badań podstawowych, aplikacyjnych oraz prac rozwojowych wynikają z ich specyficznego charakteru i celu. Badania te mają na celu zdobywanie nowej wiedzy oraz rozwijanie innowacyjnych technologii, które mogą przyczynić 7
się do postępu naukowego i technologicznego. Wyłączenie tych badań z przepisów pozwala na swobodniejszy rozwój nauki i innowacji, bez konieczności spełniania dodatkowych wymagań, które mogłyby ograniczać ich potencjał rozwojowy, a także jest spójne z przepisami rozporządzenia 2024/1689.
Zgodnie z treścią rozporządzenia, z zakresu stosowania przepisów ustawy wyłączone zostały także systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 rozporządzenia 2024/1689. Jest to wyłączenie spójne z art. 2 ust. 12 rozporządzenia 2024/1689.
Przepisów nie stosuje się także do systemów wprowadzonych do użytku wyłącznie dla celów w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych przed wejściem w życie rozporządzenia 2024/1689.
Zgodnie z zakresem określonym przez unijnego prawodawcę (art. 2 ust. 10 rozporządzenia 2024/1689), projekt w art. 3 wyłącza z zakresu ustawy osoby fizyczne, które stosują systemy sztucznej inteligencji wyłącznie dla celów osobistych i niezwiązanych z działalnością gospodarczą, rolniczą lub inną działalnością regulowaną przez prawo. Ponadto projekt wyłącza z zakresu ustawy organy publiczne, które są objęte innymi przepisami prawnymi. Projekt ten odnosi się do różnych rodzajów działalności gospodarczej, takich jak działalność zarobkowa prowadzona we własnym imieniu, działalność gospodarcza jako formalnie zarejestrowana działalność zarobkowa wykonywana we własnym imieniu, działalność nierejestrowa, a także działalność zawodowa wymagająca uprawnień państwowych.
W art. 4 projektu określa się również stosowane w tekście definicje prawne, które wprowadzają wyjaśnienia terminów w oparciu o przepisy rozporządzenia 2024/1689. Zdaniem projektodawcy zachowanie spójności terminologicznej jest kluczowe dla właściwego stosowania rozporządzenia 2024/1689. Projektowana ustawa nie będzie zawierała rozdziału określającego obowiązki operatorów uczestniczących w łańcuchu wartości AI, ponieważ obowiązki te są uregulowane w przepisach rozporządzenia 2024/1689 stosowanych bezpośrednio.
Rozdział 2 – Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 47)
Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie ustanawiają lub wyznaczają co najmniej jeden organ nadzoru rynku jako właściwy organ krajowy zobowiązany do wykonywania swoich uprawnień w sposób niezależny, bezstronny i 8
wolny od uprzedzeń. Sprawowanie nadzoru nad systemami AI przez ministra właściwego do spraw informatyzacji nie jest możliwe ze względu na wymaganą przez rozporządzenie niezależność organu nadzoru od administracji rządowej.
W celu zapewniania wymogów rozporządzenia 2024/1689, jako organ nadzoru rynku systemów AI została ustanowiona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Jej podstawowym zadaniem jest sprawowanie nadzoru nad wdrażaniem i stosowaniem sztucznej inteligencji w Polsce. Komisja została również wskazana jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. Przyznanie prawa do używania pieczęci z godłem państwowym podkreśla rangę i oficjalny charakter działań Komisji.
Komisja odpowiada za komunikację z instytucjami unijnymi, w tym z Komisją Europejską i Europejską Radą ds. Sztucznej Inteligencji, co zapewnia spójność działań na poziomie europejskim. Zobowiązanie do współpracy z licznymi organami krajowymi, takimi jak Komisja Nadzoru Finansowego, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Urząd Patentowy RP, Urząd Rejestracji Produktów Leczniczych czy Krajowa Radą Radiofonii i Telewizji uwzględnia specyfikę różnych obszarów zastosowań sztucznej inteligencji, jak również odzwierciedla interdyscyplinarny charakter wyzwań związanych z AI i pozwala na kompleksowe podejście do regulacji. Istotna jest także współpraca z podmiotami odpowiedzialnymi za cyberbezpieczeństwo, co wynika z wrażliwości systemów AI na cyberzagrożenia oraz dużą (i rosnącą) rolą AI zarówno w technikach ataków, jak i ochrony przed incydentami.
Należy również podkreślić, że rozwiązania proponowane w ustawie nie wyczerpują docelowego, kompletnego zakresu nadzoru nad systemami sztucznej inteligencji w Polsce.
Wynika to z faktu, że projekt nie obejmuje obszaru określonego jako wysokiego ryzyka.
Docelowo w nadzorze uczestniczyć będą również organy przewidziane w treści przepisów rozporządzenia 2024/1689 jako właściwe do nadzoru nad pozostającymi w ich zakresie kompetencji systemami wysokiego ryzyka. Opracowanie i przyjęcie przepisów w tym zakresie wstępnie uwarunkowane było opublikowaniem wytycznych Komisji Europejskiej dotyczących systemów wysokiego ryzyka. Obecnie procedowany jest natomiast projekt uproszczeń do rozporządzenia 2024/1689 (Omnibus AI) wprowadzający znaczne zmiany w zakresie przepisów dotyczących tych systemów w tym terminu ich wejścia w życie. Omawiane działania na szczeblu unijnym mają bezpośredni wpływ na przyjęcie przepisów włączających w system nadzoru organy odpowiedzialne sektorowo za nadzór nad stosowaniem systemów AI w 9
obszarach takich jak m.in. medycyna i produkty lecznicze, transport i motoryzacja czy bezpieczeństwo publiczne, ochrona granic i polityka migracyjna (art. 6, Załączniki II–III).
W projekcie określono zadania Komisji, łącząc funkcje kontrolne z aktywnością wspierającą rozwój rynku AI. Kluczowe znaczenie ma nadzór nad przestrzeganiem przepisów unijnych i krajowych, co stanowi podstawową funkcję tego organu. Jednocześnie Komisja pełni ważną rolę w promowaniu innowacji poprzez działania edukacyjne i informacyjne. Zadania związane z opiniowaniem aktów prawnych i współpracą międzynarodową podkreślają strategiczne znaczenie Komisji w kształtowaniu polityki AI. Prowadzenie rejestru skarg tworzy system wczesnego ostrzegania przed zagrożeniami (rejestr ten nie stanowi rejestru publicznego).
Szczególnie istotne jest zadanie tworzenia piaskownic regulacyjnych, które pozwalają na testowanie innowacyjnych rozwiązań w kontrolowanych warunkach. Kompetencje w zakresie wydawania decyzji i postanowień zapewniają Komisji niezbędne narzędzia do skutecznego wykonywania funkcji nadzorczych.
Projekt umacnia także rolę Komisji jako ciała opiniotwórczego i doradczego w procesie legislacyjnym dotyczącym obszaru sztucznej inteligencji. Możliwość przedstawiania propozycji działań legislacyjnych ministrowi właściwemu do spraw informatyzacji pozwala na aktywne kształtowanie polityki regulacyjnej. Obowiązek publikowania przykładów dobrych praktyk służy upowszechnianiu standardów i promocji najlepszych rozwiązań wśród przedsiębiorców i jednostek publicznych. Przepisy te tworzą mechanizm oddziaływania Komisji nie tylko poprzez kontrolę, ale także poprzez inspirowanie i edukowanie uczestników rynku AI.
Komisja może ponadto wydawać opinie indywidualne i wyjaśnienia. Przepisy art. 8–art. 17 stanowią kompleksową regulację w tym zakresie w odniesieniu do stosowania przepisów rozporządzenia 2024/1689 i ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym.
Art. 8 wprowadza ogólną kompetencję Komisji do wydawania opinii indywidualnych oraz wyjaśnień. Komisja, jako organ nadzoru rynku nad systemami sztucznej inteligencji, posiada szczególne kompetencje merytoryczne, pozwalające na dokonywanie wiążących ocen prawnych w konkretnych przypadkach, a także formułowanie ogólnych wskazówek 10
interpretacyjnych. W art. 8 ust. 2 wprost wskazane zostało, że przy formułowaniu takich stanowisk Komisja powinna brać pod uwagę opinie i zalecenia Europejskiej Rady ds. Sztucznej Inteligencji, co służy zapewnieniu zgodności krajowej wykładni z kierunkiem wykładni prawa Unii Europejskiej w tym obszarze.
Art. 9 szczegółowo reguluje procedurę uzyskiwania opinii indywidualnej, czyli wiążącego stanowiska Komisji w indywidualnej sprawie. Konstrukcja ta ma na celu stworzenie bezpiecznej przestrzeni dla przedsiębiorców i innych podmiotów do uzyskania pewności co do legalności planowanych działań. Możliwość wystąpienia z wnioskiem zarówno w odniesieniu do stanów faktycznych już zaistniałych, jak i zdarzeń przyszłych, czyni z opinii indywidualnej skuteczne narzędzie zapobiegania naruszeniom prawa, a także umożliwia zgodne z przepisami planowanie działalności gospodarczej. Obowiązek uiszczenia opłaty, o której mowa w art. 11, ma charakter dyscyplinujący oraz ogranicza możliwość nadużywania instytucji opinii do prób uzyskiwania bezpłatnych porad prawnych.
Zachowano przy tym gwarancje proceduralne – m.in. możliwość wezwania do uzupełnienia braków formalnych, określenie maksymalnych terminów na wydanie opinii oraz przyjęcie fikcji prawnej pozytywnego rozpatrzenia w przypadku ich przekroczenia. Wprowadzenie fikcji pozytywnego rozpatrzenia (tzw. milcząca zgoda) wzmacnia pozycję prawną wnioskodawców i mobilizuje Komisję do sprawnego działania. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. Wiążący charakter opinii dla Komisji i innych organów państwowych oraz jednostek organizacyjnych określonych w ustawie, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego wzmacnia bezpieczeństwo prawne wnioskodawców i ogranicza ryzyko rozbieżnych interpretacji tego samego stanu faktycznego przez różne instytucje. Ochrona tej decyzji przed zmianą, gdy wywołała ona nieodwracalne skutki prawne, chroni stabilność stosunków prawnych i respektuje zasadę zaufania obywateli do państwa.
Wprowadzono także mechanizmy weryfikacji i korekty opinii. W drodze zmiany, uchylenia lub stwierdzenia jej wygaśnięcia – w przypadku zmiany stanu prawnego, ujawnienia fałszywego oświadczenia lub wystąpienia innej przesłanki. Daje to Komisji elastyczne narzędzia dostosowywania się do zmieniających się uwarunkowań prawnych i faktycznych.
Art. 16 uzupełnia regulację przez umożliwienie Komisji wydawania wyjaśnień o charakterze ogólnym
dotyczących
stosowania
przepisów.
Wyjaśnienia
odmiennie
od
opinii
indywidualnych nie mają charakteru wiążącego. Pełnią natomiast rolę instrukcyjną i edukacyjną, która jest istotna z punktu widzenia podmiotów objętych przepisami rozparzenia 11
2024/1689. Ułatwią one jednolite rozumienie i stosowanie prawa przez szeroki krąg podmiotów, zarówno urzędników, przedsiębiorców, jak i obywateli. Uwzględnienie dorobku orzeczniczego oraz dokumentów interpretacyjnych Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji stanowi wyraz dążenia do harmonizacji wykładni krajowej z unijną.
Art. 17 ustanawia zasadę przejrzystości poprzez nakaz publikowania wydanych opinii i wyjaśnień (po ich anonimizacji) w Biuletynie Informacji Publicznej. Służy to upowszechnianiu wiedzy prawnej, ułatwia dostęp do informacji, a także może zapobiegać składaniu wielokrotnie podobnych wniosków w analogicznych sprawach. Dodatkowo pełni funkcję kontrolną i legitymizującą działania Komisji w oczach opinii publicznej.
Przepisy art. 8–art. 17 stanowią spójny system umożliwiający prawidłowe, jednolite i przewidywalne stosowanie przepisów dotyczących sztucznej inteligencji, zarówno w wymiarze indywidualnym, jak i ogólnym. Chronią interesy podmiotów regulowanych, wzmacniają zaufanie do instytucji publicznych, wspierają harmonizację krajowego i unijnego porządku prawnego oraz zwiększają bezpieczeństwo obrotu prawnego. Ich znaczenie praktyczne będzie rosło wraz z rozwojem zastosowań sztucznej inteligencji i dynamiką zmian regulacyjnych w tym obszarze.
Innym z zadań i uprawnień Komisji będzie możliwość przedstawiania sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Komisja będzie mogła wykonywać to zadanie z własnej inicjatywy, jak i na wniosek.
Skład Komisji został zaprojektowany tak, aby zapewnić reprezentację kluczowych podmiotów zaangażowanych w nadzór nad technologiami cyfrowymi, przy zachowaniu efektywności procesu decyzyjnego. Członkami Komisji będą Przewodniczący oraz dwóch Zastępców, a także czterej przedstawiciele wskazani przez organy publiczne: Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisję Nadzoru Finansowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej. Obecność przedstawicieli instytucji o wysokim poziomie niezależności gwarantuje uwzględnienie różnych perspektyw w procesie decyzyjnym, a mechanizm zapraszania ekspertów z głosem doradczym pozwala na wykorzystanie specjalistycznej wiedzy w złożonych kwestiach technicznych, co jest szczególnie ważne w dynamicznie rozwijającej się dziedzinie AI. Ustawa dodatkowo zapewnia Przewodniczącemu Komisji, jego Zastępcom oraz członkom Komisji pełną niezależność w zakresie zadań realizowanych przez Komisję.
12
W projekcie przewidziano ponadto możliwość stałego udziału w posiedzeniach Komisji również przedstawicieli dodatkowych organów. Przepisy gwarantują udział bez prawa głosu na zasadach stałego obserwatora przedstawicieli organów i podmiotów wskazanych na zasadach określonych w art. 77 rozporządzenia 2024/1689 oraz przedstawicieli ministrów. Zapewni to koordynację działań z administracją rządową, pozwoli na sprawną współpracę organów, a także na szybsze reagowanie w przypadku zdarzeń o potencjalnie negatywnym wpływie na bezpieczeństwo obywateli i Państwa. Zasady dotyczące wynagrodzeń i zwrotu kosztów podróży zostały określone tak, aby zapewnić profesjonalizm prac Komisji przy zachowaniu zasad racjonalności wydatków publicznych.
Procedury pracy Komisji zostały określone z zachowaniem zasad przejrzystości i efektywności, co jest kluczowe dla sprawnego funkcjonowania tego organu. Możliwość podejmowania uchwał zarówno na posiedzeniach, jak i w trybie obiegowym, a także zdalnego uczestnictwa w obradach, odpowiada współczesnym standardom funkcjonowania organów administracji i zapewnia elastyczność działania przy mniejszym obciążeniu kosztami i czasochłonnością wykonywanych zadań.
Mechanizmy dotyczące wyłączenia członków Komisji z posiedzeń w przypadku konfliktu interesów zapewniają bezstronność i obiektywizm postępowania. Szczegółowe zasady funkcjonowania Komisji, mające zostać określone w regulaminie, pozwolą na dostosowanie procedur do specyfiki rozpatrywanych spraw, przy jednoczesnym zachowaniu podstawowych standardów dobrego zarządzania. Sposób podejmowania uchwał, w tym zasady rozstrzygania remisów, został zaprojektowany tak, aby zapewnić skuteczność działania Komisji przy zachowaniu zasad demokratycznego podejmowania decyzji.
Przepisy określają zadania Przewodniczącego Komisji i składają się na konsekwentny system kierowania i reprezentacji tego organu. Przewodniczący pełni kluczową rolę w koordynacji prac Komisji, będąc odpowiedzialnym za jej reprezentację zewnętrzną i sprawozdawczość.
Szczególnie istotne jest prawo do wyznaczania Sekretarza Komisji i Zastępców Przewodniczącego, co zapewnia płynność funkcjonowania organu. Obowiązek publikowania wykazu organów w BIP i przekazywania informacji do instytucji unijnych gwarantuje przejrzystość działań i spójność z wymogami europejskimi. Kompetencja do określania wymogów dotyczących funkcjonowania Komisji w drodze zarządzenia pozwala na elastyczne dostosowywanie się do zmieniających się potrzeb rynku AI. Zadania związane z podpisywaniem zaleceń pokontrolnych i podpisywaniem uchwał wzmacniają pozycję Przewodniczącego jako lidera merytorycznego Komisji. Dodatkowo współdziałanie 13
Przewodniczącego Komisji z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji wpłynie na zapewnienie obsługi organizacyjnej, administracyjnej oraz merytorycznej Komisji, a także na zapewnienie środków finansowych na działania określone rozporządzeniem 2024/1689 i ustawą.
Co roku Przewodniczący Komisji będzie ponadto obowiązany do przedstawiania szczegółowego sprawozdania Sejmowi, co wzmacnia jej odpowiedzialność przed władzą ustawodawczą i społeczeństwem. Zakres sprawozdania obejmuje zarówno aspekty merytoryczne (wyniki kontroli, analiza trendów), jak i finansowe (realizacja budżetu), co zapewnia kompleksową ocenę działalności organu. Część finansowa sprawozdania Komisji odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. Publikacja sprawozdania w BIP gwarantuje dostępność informacji dla wszystkich zainteresowanych podmiotów. Szczególnie istotne jest uwzględnienie w sprawozdaniu analizy ryzyk związanych z rozwojem AI, co pozwala na bieżące monitorowanie zagrożeń i dostosowywanie polityki w tym obszarze.
W projekcie przewidziano także regulacje nakładające na Przewodniczącego Komisji obowiązek dotyczący ustanawiania w formie zarządzenia, w zakresie zadań Komisji, wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Przewodniczący odpowiedzialny będzie także za ich coroczną ocenę oraz ewentualną aktualizację. Przepis zapewnia bieżącą aktualizację zasobów niezbędnych do realizacji zadań nadzorczych, organizacyjnych i administracyjnych. Dzięki temu zapewnione zostanie, że organ nadzorczy nie tylko formalnie istnieje, ale realnie może wykonywać swoje funkcje z odpowiednią skutecznością i niezależnością.
Dodatkowo Przewodniczący Komisji zobowiązany został do sporządzenia i przekazania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w formie elektronicznej. Sprawozdanie to ma na celu ocenę efektywności działania krajowego organu nadzorczego oraz przedstawienie informacji o dostępnych zasobach. Przepis ten zapewnia realizację obowiązków sprawozdawczych wobec instytucji unijnych.
W projekcie ustawy przewidziano, że Przewodniczącego Komisji powołuje Sejm za zgodą Senatu. Rozwiązanie to zostało przyjęte z uwagi na szczególny charakter funkcji przewodniczącego oraz strategiczne znaczenie Komisji w systemie instytucjonalnym państwa.
Oznacza to, że osoba stojąca na jej czele musi nie tylko posiadać wysokie kompetencje merytoryczne, ale także cieszyć się silną legitymacją demokratyczną i zaufaniem szerokiego spektrum politycznego. 14
Powoływanie Przewodniczącego Komisji przez Sejm za zgodą Senatu wprowadza mechanizm równowagi i wzajemnej kontroli między obiema izbami parlamentu. Taki model procedury wyboru służy ograniczeniu ryzyka upolitycznienia stanowiska oraz zwiększa transparentność procesu, co ma szczególne znaczenie w przypadku urzędu odpowiedzialnego za nadzór nad dziedziną dynamicznie rozwijającą się, jaką jest sztuczna inteligencja.
Ponadto, przyjęta formuła jest spójna z rozwiązaniami ustrojowymi przewidzianymi w Konstytucji RP oraz w ustawach regulujących wybór innych kluczowych funkcjonariuszy publicznych. Analogiczne mechanizmy powołania – przez Sejm za zgodą Senatu – funkcjonują w przypadku Rzecznika Praw Obywatelskich czy Prezesa Najwyższej Izby Kontroli.
Wprowadzenie podobnego trybu w odniesieniu do przewodniczącego Komisji gwarantuje ciągłość i konsekwencję w zakresie standardów wyboru osób na wysokie stanowiska państwowe, co sprzyja umacnianiu zasad państwa prawa, przejrzystości i odpowiedzialności instytucji publicznych.
Projekt wprowadza limit dwóch kadencji, który zapobiega nadmiernej koncentracji władzy.
Przepisy te tworzą równowagę między potrzebą stabilności kierownictwa Komisji a koniecznością
okresowej
weryfikacji
jego
działań.
Określono
także
okoliczności
przedterminowego zakończenia kadencji Przewodniczącego Komisji, co stanowi ważny mechanizm kontrolny. Katalog przyczyn odwołania obejmuje zarówno sytuacje obiektywne (utrata zdolności do pełnienia funkcji), jak i przypadki naruszenia zasad etycznych (skazanie za przestępstwo).
Szczegółowa procedura naboru na stanowisko Zastępcy Przewodniczącego została zaprojektowana tak, aby zapewnić przejrzystość i merytokratyczny charakter procesu selekcji.
Wymóg otwartego konkursu i publikacji ogłoszeń w BIP gwarantuje równy dostęp do stanowiska.
Powołanie
specjalistycznego
zespołu
rekrutacyjnego
oraz
możliwość
zaangażowania zewnętrznych ekspertów zapewniają natomiast obiektywną ocenę kandydatów.
Szczegółowe
wymagania
dotyczące
protokołu
i
publikacji
wyników
zwiększają
odpowiedzialność za podejmowane decyzje. Projektowane przepisy tworzą zatem system, który z jednej strony zapewnia wysokie kwalifikacje osób powoływanych na stanowiska, z drugiej zaś – przejrzystość procesu selekcji.
Wprowadzono ograniczenia działalności dla członków Przewodniczącego i zastępców Przewodniczącego Komisji, co ma na celu wyeliminowanie potencjalnych konfliktów interesów. Zakaz przynależności do partii politycznych i związków zawodowych wzmacnia ponadto apolityczny charakter organu. Możliwość łączenia funkcji tylko z działalnością 15
naukową odpowiada specyfice obszaru AI, gdzie współpraca z środowiskiem akademickim jest szczególnie pożądana. Instytucja oświadczenia o braku konfliktu interesów stanowi natomiast dodatkowe zabezpieczenie od strony etycznej. Przepisy te zostały zaprojektowane tak, aby tworzyć system gwarancji niezależności i bezstronności Przewodniczącego i Zastępców Przewodniczącego Komisji, co jest szczególnie ważne w kontekście wrażliwych kwestii regulacyjnych dotyczących sztucznej inteligencji.
Projekt ustawy kładzie również duży nacisk na zapewnienie ochrony tajemnic prawnie chronionych oraz danych osobowych. W celu ochrony zarówno tajemnicy prawnie chronionych, jak i wrażliwych informacji uzyskanych podczas wykonywania obowiązków wynikających z rozporządzenia 2024/1689 i ustawy, ustanowiono szeroki obowiązek zachowania tajemnicy przez osoby związane z Komisją. Obowiązek utrzymuje się nawet po zakończeniu współpracy, co zabezpiecza przed nieuprawnionym ujawnieniem informacji. Jest to szczególnie istotne w kontekście ochrony danych osobowych, tajemnic handlowych oraz innych poufnych informacji. Wyjątek dotyczący zawiadomień o przestępstwie, co tworzy równowagę między ochroną informacji a koniecznością zgłaszania nieprawidłowości.
Wprowadzenie tego wyjątku pozwala na ujawnienie informacji w sytuacjach, gdy jest to konieczne dla zapobieżenia lub ścigania przestępstw. Zgłaszanie przestępstw jest niezbędne dla zapewnienia praworządności, a także dla ochrony interesów publicznych.
Określono także zasady przetwarzania danych osobowych przez Komisję w związku z realizacją jej zadań. Przetwarzanie będzie dotyczyło również danych, o których mowa w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych).
Przepisy uwzględniają specyfikę danych przetwarzanych w systemach AI, jednocześnie wprowadzając mechanizmy okresowego przeglądu i usuwania zbędnych informacji. Przepis ten pozwala Komisji na dostęp do szczególnych danych w zakresie niezbędnym do realizacji jej zadań, jednocześnie określając warunki ich przekazywania innym uprawnionym podmiotom. Rozwiązanie to tworzy równowagę między efektywnością nadzoru a ochroną danych i tajemnicy przedsiębiorcy.
Art. 43 projektu ustawy ma na celu stworzenie kompleksowych i trwałych ram organizacyjnych, które zapewnią skuteczne i profesjonalne wsparcie dla działalności Komisji i
16
Przewodniczącego Komisji. Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji.
Zgodnie z przepisami ustawy urząd obsługujący ministra właściwego do spraw informatyzacji zapewni obsługę administracyjno-kancelaryjną Komisji i Przewodniczącego Komisji. Komisja oraz Przewodniczący Komisji będą mogli upoważnić pracowników właściwej komórki ww. urzędu do realizacji swoich zadań wynikających z rozporządzenia 2024/1689 i ustawy.
Upoważnienie to nie może jednak obejmować wydawania postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 oraz ustawy. W tym celu planuje się utworzenie nowej komórki organizacyjnej urzędu, której organizacja i zasady funkcjonowania zostaną określone w regulaminie. Do spraw wynikających z zatrudnienia w ww. komórce organizacyjnej urzędu będą miały zastosowanie przepisy obowiązujące w tym zakresie w Ministerstwie Cyfryzacji. Warto jednak zaznaczyć, że z uwagi na przedmiot regulacji osoby wykonujące na podstawie upoważnienia zadania na rzecz Komisji będą zatrudniane na postawie przepisów ustawy o służbie cywilnej, kodeksu pracy, ale też nie wyklucza się umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. W celu wzmocnienia niezależności organu i pracowników realizujących jego zadania przyjęto rozwiązanie, zgodnie z którym Przewodniczący Komisji będzie współdziałał z Dyrektorem Generalnym urzędu w zakresie spraw pracowniczych wynikających z art. 25 ust. 4 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej, a także w zakresie spraw związanych z audytem i ochroną
informacji.
Pracownicy
ww.
komórki
organizacyjnej
będą
podlegali
Przewodniczącemu Komisji.
Przepisy ustawy także określają status prawny Przewodniczącego Komisji, jego Zastępców i członków Komisji. Projekt ustawy wskazuje wysokość wynagrodzenia Przewodniczącego Komisji i jego zastępców. Mając na uwadze zachowanie transparentności finansowej oraz niezależności osób powołanych na ww. stanowiska, wysokość wynagrodzenia została wskazana wprost przez odniesienie do kwoty bazowej ustalanej z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa.
Rozwiązanie to będzie odpowiadało rzeczywistym potrzebom organizacyjnym wynikającym ze specyfiki i zakresu zadań Komisji i posłuży zachowaniu równowagi w zakresie niezależności Komisji.
Zgodnie z art. 45, jako organ opiniodawczo-doradczy Komisji, zostanie ustanowiona Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”. Ma ona zapewnić wsparcie 17
eksperckie w zakresie sztucznej inteligencji. Rada ma na celu włączenie szerokiego grona interesariuszy, co zwiększa transparentność i demokratyczność działań Komisji. Dzięki temu możliwe jest uwzględnienie różnorodnych perspektyw i interesów społecznych oraz gospodarczych, co jest kluczowe w dynamicznie rozwijającej się dziedzinie AI.
Skład Rady obejmuje od dziewięciu do piętnastu członków wybieranych na dwuletnią kadencję. Taki zakres liczbowy zapewnia różnorodność opinii i kompetencji, jednocześnie umożliwiając efektywne funkcjonowanie Rady. Dwuletnia kadencja pozwala na regularne odświeżanie składu Rady, co sprzyja dynamicznemu rozwojowi i adaptacji do zmieniających się warunków technologicznych. Regularna rotacja członków Rady zapewnia również, że nowe idee i podejścia są wprowadzane do dyskusji, co jest niezbędne w kontekście szybko ewoluującej technologii.
Kandydaci na członków Rady mogą być zgłaszani przez różne podmioty, w tym przedstawicieli samorządów, rzeczników praw, izby gospodarcze, organizacje związkowe, uczelnie wyższe oraz fundacje i stowarzyszenia. Chociaż przepis określa bardzo szeroki krąg podmiotów to wzięto jednak pod uwagę zakres spraw mających podlegać obradom Rady, bezpieczeństwo przetwarzanych informacji oraz efektywne działanie organu opiniodawczo-doradczego. Stąd też w przypadku fundacji i stowarzyszeń wymagane jest posiadanie wpisu do Krajowego Rejestru Sądowego. KRS daje również pewność prawną ciągłości działania podmiotu, a to przekłada się również na stabilność składu Społecznej Rady.
Taki szeroki zakres podmiotów zgłaszających kandydatów zapewnia reprezentatywność i uwzględnienie różnych perspektyw oraz interesów społecznych i gospodarczych. Dzięki temu Rada może działać w sposób bardziej zrównoważony i uwzględniać potrzeby różnych grup społecznych, co jest kluczowe dla skutecznego wdrażania i regulowania technologii AI.
Wymogi dla członków Rady obejmują posiadanie wiedzy i doświadczenia w obszarze AI, niekaralność, pełnię praw publicznych oraz wyrażenie zgody na kandydowanie. Te kryteria mają na celu zapewnienie, że członkowie Rady będą kompetentni, wiarygodni i zaangażowani w pełnienie swoich obowiązków. Wymóg posiadania wiedzy i doświadczenia w obszarze AI gwarantuje, że członkowie Rady będą w stanie podejmować świadome i merytoryczne decyzje, które będą miały realny wpływ na rozwój i regulację tej technologii.
Powoływanie członków Rady przez Komisję spośród zgłoszonych kandydatów zapewnia, że wybór członków jest przejrzysty i oparty na merytorycznych przesłankach. Proces ten ma na celu wyłonienie najbardziej kompetentnych i zaangażowanych osób, które będą w stanie skutecznie wspierać Komisję w jej działaniach. 18
Wygaśnięcie członkostwa w Radzie przed upływem kadencji może nastąpić z powodu rezygnacji, śmierci, niewykonywania obowiązków, skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe lub pozbawienia praw publicznych. Te przepisy mają na celu utrzymanie wysokiego standardu etycznego i zaangażowania członków Rady. W przypadku, gdy członek Rady nie jest w stanie wypełniać swoich obowiązków, konieczne jest zapewnienie, że jego miejsce zajmie osoba, która będzie w stanie aktywnie uczestniczyć w pracach Rady.
Powiadomienie o wygaśnięciu członkostwa przez Komisję zapewnia formalność i jasność procedur związanych z zakończeniem członkostwa. Dzięki temu proces ten jest przejrzysty i zrozumiały dla wszystkich zainteresowanych stron.
Odwołanie członka Rady przez Komisję w przypadku naruszenia przepisów lub niezachowania tajemnicy służbowej zapewnia, że członkowie Rady działają zgodnie z obowiązującymi normami prawnymi i etycznymi. Jest to kluczowe dla utrzymania zaufania do Rady i jej decyzji.
Wygaśnięcie członkostwa w Radzie w przypadku rezygnacji jest formalnym potwierdzeniem zakończenia członkostwa na wniosek członka. Jest to ważne, aby zapewnić, że członkowie Rady mają możliwość dobrowolnego zakończenia swojej kadencji, jeśli uznają to za konieczne.
Wybór nowego członka Rady w przypadku wygaśnięcia członkostwa lub odwołania zapewnia ciągłość działania Rady i możliwość szybkiego uzupełnienia jej składu. Dzięki temu Rada może nadal efektywnie funkcjonować i wspierać Komisję w jej działaniach, nawet w przypadku zmian personalnych.
Zgodnie z art. 46 do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Rada ma możliwość podejmowania oraz przekazywania Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4. Dzięki temu może aktywnie uczestniczyć w monitorowaniu przestrzegania przepisów i inicjować działania mające na celu ich egzekwowanie.
Rada ma również prawo wyrażania opinii i stanowisk przekazywanych do wiadomości Komisji z inicjatywy własnej. Taka możliwość pozwala Radzie na proaktywne działanie i podejmowanie inicjatyw, które mogą przyczynić się do lepszego zarządzania i regulacji technologii AI. Ponadto Rada podejmuje uchwały i przekazuje wnioski w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. Dzięki temu Rada może skutecznie reagować na przypadki naruszeń i wspierać Komisję w egzekwowaniu przepisów. 19
Rada wyraża opinię lub stanowisko, o którym mowa w art. 46 ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, co oznacza, że Komisja ma swobodę w podejmowaniu decyzji na podstawie własnych analiz i ocen.
Niemniej jednak, opinie i stanowiska Rady stanowią cenne źródło informacji i mogą znacząco wpłynąć na decyzje Komisji.
Opinie i stanowiska Rady są wydawane w drodze uchwały podjętej większością głosów wszystkich członków Rady. Przy czym obecność pełnego składu Rady podczas głosowania nie jest wymagana. Oznacza to, że w przypadku 9 osobowego składu Rady niezbędne będzie uzyskanie 5 głosów „Za”, nawet gdy nie wszyscy członkowie będą obecni na głosowaniu. Taki sposób podejmowania decyzji zapewnia demokratyczność i transparentność działań Rady.
Uchwały Rady są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, co zapewnia dostępność informacji dla wszystkich zainteresowanych stron i zwiększa transparentność działań Rady.
Zgodnie z art. 47 Komisja powołuje i odwołuje Przewodniczącego Rady oraz Zastępcę Przewodniczącego Rady spośród jej członków. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady, co zapewnia demokratyczność i transparentność procesu wyboru liderów Rady. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz, co jest kluczowe dla efektywnego funkcjonowania Rady oraz jej komunikacji zewnętrznej. W przypadku nieobecności Przewodniczącego Rady jego obowiązki przejmuje Zastępca Przewodniczącego Rady, co zapewnia ciągłość działania Rady.
Do udziału w posiedzeniu Rady mogą być wskazane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Taki przepis umożliwia włączenie dodatkowych ekspertów i interesariuszy w dyskusje oraz może wzbogacić proces decyzyjny i zapewnić bardziej kompleksowe podejście do omawianych kwestii.
Członek Rady oraz osoby zapraszane do udziału w pracach Rady są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji w Radzie. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady. Te przepisy mają na celu ochronę poufnych informacji oraz zapewnienie, że członkowie Rady działają zgodnie z najwyższymi standardami etycznymi.
20
Członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów. Te przepisy mają na celu zapewnienie, że członkowie Rady działają w sposób niezależny i bezstronny, co jest kluczowe dla utrzymania zaufania do Rady i jej decyzji.
Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie, co podkreśla społeczny charakter jej działalności i zaangażowanie w sprawy publiczne. Niemniej za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77(5) § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Dzięki temu członkowie Rady nie ponoszą dodatkowych kosztów związanych z wykonywaniem swoich obowiązków. Powyższe zasady dotyczą również osób zapraszanych do udziału w pracach Rady.
Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję zwykłą większością głosów. Taki sposób uchwalania regulaminu zapewnia, że zasady działania Rady są ustalane w sposób demokratyczny i transparentny. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji, aby Rada miała dostęp do niezbędnych zasobów administracyjnych, umożliwiających jej efektywne funkcjonowanie.
Rada może współpracować, w zakresie spraw określonych w ustawie i rozporządzeniu 2024/1689 oraz przy zachowaniu zasady zakazu konfliktu interesów, z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw będących przedmiotem posiedzenia. Taka współpraca pozwala na wymianę doświadczeń i najlepszych praktyk, co może przyczynić się do lepszego zarządzania i regulacji technologii SI na poziomie krajowym i międzynarodowym.
Rozdział 3 – Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 48– art. 58)
Przepisy projektowanej ustawy ustanawiają podstawę prawną dla prowadzenia przez Komisję kontroli operatorów uczestniczących w łańcuchu wartości AI.
Kontrola jako kluczowy mechanizm nadzorczy, może być prowadzona zarówno na podstawie zatwierdzonego planu, informacji uzyskanych przez Komisję, jak i w ramach bieżącego monitorowania. Proponowane przepisy uwzględniają różnorodność statusów kontrolowanych podmiotów – przedsiębiorców oraz innych jednostek, jednocześnie wyłączając zastosowanie art. 6 pkt 1 oraz art. 51 ust. 3a ustawy – Prawo przedsiębiorców w celu dopasowania procedur do specyfiki nadzoru nad systemami sztucznej inteligencji. Wprowadzenie regulacji opartych
21
na Kodeksie postępowania administracyjnego ma na celu zapewnienie spójności oraz przejrzystości działań kontrolnych.
Projekt określa tryb wszczynania kontroli, umożliwiając jej rozpoczęcie z urzędu lub na wniosek uprawnionych organów, takich jak Przewodniczący Komisji, jego zastępca czy członkowie Komisji oraz organy lub podmioty, o którym mowa w art. 77 rozporządzenia 2024/1689.
W trosce o poszanowanie praw podmiotów objętych nadzorem wprowadza się zasadę zawiadamiania kontrolowanego z wyprzedzeniem, przewidując jednak możliwość odstąpienia od tego obowiązku w sytuacjach wyjątkowych, np. w przypadku zagrożenia życia, zdrowia lub praw podstawowych. Wprowadza się również zasadę przeprowadzania kontroli w sposób zdalny, co stanowi odpowiedź na wymogi nowoczesnych technologii.
Istotnym elementem projektu jest uregulowanie zasad upoważniania osób do przeprowadzania kontroli – pracowników właściwej komórki urzędu obsługującego ministra właściwego do spraw informatyzacji. W celu zapewnienia bezstronności kontrolujących, wprowadzono wymóg składania oświadczeń o braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych w toku kontroli.
Projekt precyzuje procedury organizacyjne kontroli, w tym wymóg okazania imiennego upoważnienia oraz dokumentu tożsamości przez kontrolujących. Dokumenty te powinny zawierać szczegółowe informacje zapewniające przejrzystość oraz legalność działań Komisji.
Proponowane przepisy umożliwiają elastyczne dostosowanie procedur kontrolnych do konkretnych przypadków dzięki powiązaniu regulacji ustawowych z wewnętrznymi regulaminami Komisji.
Zgodnie z treścią projektowanych przepisów kontrolujący będzie ustalał stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń,
w
tym
urządzeń
informatycznych,
lub
systemów
informatycznych
i
teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. W ramach wyjaśnień kontrolujący będzie mógł np. żądać omówienia przyczyny, znaczenia lub sposobu działania danego systemu czy zjawiska, także np. sporządzenia analiz, zestawień czy obliczeń. Celem jest usunięcie zaistniałych w trakcie kontroli wątpliwości, ułatwianie zrozumienia skomplikowanych czy niejasnych informacji, ich uporządkowanie lub doprecyzowanie.
22
Jeżeli jest to technicznie możliwe, kontrolujący będzie mógł zabezpieczyć dowody przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem.
Art. 54 ustawy ma na celu zapewnienie poszanowania prawa kontrolowanego do zachowania poufności komunikacji z profesjonalnym pełnomocnikiem prawnym oraz zagwarantowanie możliwości skutecznego korzystania z ochrony prawnej w toku postępowania prowadzonego przez Komisję. Zapewnia się objęcie ochroną prawną wszystkich pism i dokumentów, dotyczących realizacji prawa kontrolowanego do uzyskania ochrony prawnej, które zostały ujawnione w toku kontroli. Przepis ten stanowi realizację konstytucyjnej zasady prawa do obrony oraz prawa do rzetelnego procesu, znajdujących swoje źródło m.in. w art. 42 ust. 2 Konstytucji RP oraz w standardach międzynarodowych, takich jak art. 6 Europejskiej Konwencji Praw Człowieka.
Art. 54 ma na celu ochronę tajemnicy zawodowej adwokata, radcy prawnego oraz innych osób uprawnionych do świadczenia pomocy prawnej. Dotyczy to zarówno komunikacji z tymi osobami, jak i dokumentów wytworzonych wyłącznie w celu uzyskania ochrony prawnej w kontekście konkretnego postępowania prowadzonego przez Komisję.
Przepis reguluje ponadto procedurę postępowania kontrolującego w przypadku, gdy kontrolowany lub osoba przez niego upoważniona złoży oświadczenie, że określone dokumenty lub pisma objęte są ochroną wynikającą z tajemnicy zawodowej, o której mowa w ust. 1. W celu zapewnienia równowagi pomiędzy potrzebą skutecznego prowadzenia kontroli a koniecznością poszanowania konstytucyjnie chronionych praw, w tym prawa do obrony i tajemnicy komunikacji z pełnomocnikiem, kontrolujący uzyskuje ograniczony dostęp do dokumentu – wyłącznie w zakresie umożliwiającym identyfikację jego podstawowych cech formalnych, takich jak autor, adresat, tytuł, przedmiot oraz data sporządzenia.
Dodatkowo kontrolujący może żądać od kontrolowanego lub osoby przez niego upoważnionej ustnych wyjaśnień dotyczących złożonego oświadczenia, a także przygotowania wersji dokumentu pozbawionej informacji objętych ochroną, o ile jest to technicznie możliwe.
Wprowadzenie tej procedury ma na celu umożliwienie weryfikacji zasadności oświadczenia bez naruszania chronionej treści dokumentu.
Projektodawca przewidział jednak konieczność zapewnienia równowagi pomiędzy ochroną tajemnicy zawodowej a efektywnością działań kontrolnych. W tym celu w przepisie wskazano, że to na kontrolowanym ciąży obowiązek wykazania, iż sporne dokumenty rzeczywiście spełniają kryteria określone w ust. 1. Takie rozwiązanie zapobiega nadużyciom i uniemożliwia
23
arbitralne powoływanie się na poufność dokumentów w celu utrudnienia kontroli.
Kontrolowany będzie musiał w sposób wiarygodny i uzasadniony przedstawić dowody potwierdzające, że dokumenty objęte są ochroną, o której mowa w przepisie.
W przypadku powstania wątpliwości co do zasadności oświadczenia, kontrolujący zobowiązany jest do niezwłocznego przekazania dokumentu do Sądu Ochrony Konkurencji i Konsumentów, przy zachowaniu środków zabezpieczających przed ujawnieniem jego treści.
Ciężar dowodu w zakresie wykazania, że dokument spełnia przesłanki ochrony, także w tym przypadku będzie spoczywał na kontrolowanym.
Sąd, po zapoznaniu się z dokumentem, wyda postanowienie o jego zwrocie kontrolowanemu (w całości lub części), jeżeli uzna, że dokument podlega ochronie, albo o jego przekazaniu właściwemu organowi, jeżeli dokument nie spełnia przesłanek określonych w ust. 1. Na postanowienie sądu projektodawca przewidział możliwość złożenia zażalenia, a jego wykonanie następuje z chwilą uprawomocnienia.
Projektowany przepis jest zgodny z zasadami państwa prawa oraz proporcjonalności.
Uwzględnia konieczność ochrony fundamentalnych praw podmiotów objętych kontrolą, jednocześnie nie pozbawiając organu kontrolnego możliwości skutecznego przeprowadzenia postępowania w granicach prawa. Rozwiązanie to harmonizuje również z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej dotyczącym ochrony tajemnicy komunikacji z prawnikiem w ramach postępowań administracyjnych prowadzonych przez organy nadzoru lub ochrony konkurencji.
Art. 55 przewiduje możliwość zwrócenia się przez Komisję do Policji oraz do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy
w
przeprowadzeniu
kontroli
w
szczególnie
uzasadnionych
przypadkach.
Wprowadzenie tego rozwiązania wynika z potrzeby zapewnienia Komisji instrumentów umożliwiających przeprowadzenie kontroli w sposób bezpieczny, rzetelny i skuteczny – zwłaszcza w sytuacjach, gdy czynności kontrolne mogą napotkać na opór lub wymaga specjalistycznego wsparcia informatycznego czy wiadomości specjalnych. Warto podkreślić, że jednostki podległe ministrowi właściwemu do spraw informatyzacji skupiają grono ekspertów z szeroko pojętej informatyzacji i dzięki temu mogą stanowić niezbędną pomoc ekspercką z zakresu bezpieczeństwa i zgodności z przepisami systemów sztucznej inteligencji od strony technologicznej w przypadku braku ekspertów z danej dziedziny w ramach pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji.
24
Przepis doprecyzowuje również zakres udzielanej pomocy. Pomoc Policji ma na celu zapewnienie porządku publicznego, ochrony osób uczestniczących w kontroli oraz poszanowania godności osób obecnych podczas czynności kontrolnych. Z kolei pomoc jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji skupia się na sprawach informatycznych i aspektach technicznych, w tym na weryfikacji zgodności systemów sztucznej inteligencji z obowiązującymi przepisami oraz na analizie poziomu ich bezpieczeństwa. Takie rozróżnienie kompetencji i obowiązków odpowiada specyfice zadań obu rodzajów podmiotów wspierających. Intencją projektodawcy jest, aby możliwe było udzielenie wszelkiego niezbędnego wsparcia informatycznego oraz w zakresie wiadomości specjalnych w celu ustalenia stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.
Ponadto uregulowane zostały formalne wymogi związane z występowaniem o pomoc oraz terminy – standardowo minimum 7 dni przed planowaną kontrolą, natomiast w sytuacjach niecierpiących zwłoki – minimum 3 dni. Ma to na celu zapewnienie odpowiedniego czasu na organizację wsparcia i koordynację działań, przy jednoczesnym uwzględnieniu wyjątkowych przypadków wymagających szybszego działania.
Art. 55 wprowadza jasne zasady rozliczania kosztów związanych z pomocą udzieloną przez Policję i jednostki informatyczne. Koszty te pokrywa Komisja według stawki zryczałtowanej, ustalonej w sposób transparentny i powiązany z przeciętnym wynagrodzeniem w gospodarce, co sprzyja przewidywalności wydatków i ogranicza ryzyko sporów finansowych.
Przepis art. 56 stanowi kluczowy element procedury kontrolnej, który reguluje sposób dokumentowania czynności podejmowanych przez organ kontrolujący oraz relacji z kontrolowanym podmiotem. Stanowi on wyraz zasady partycypacji i transparentności. Pozwala na uruchomienie mechanizmu konsultacyjnego, w ramach którego kontrolowany ma realną możliwość odniesienia się do ustaleń kontroli. Przepis wprowadza obowiązek sporządzania protokołu kontroli. Wskazanie w przepisie szczegółowych elementów, które muszą znaleźć się w projekcie protokołu, ma charakter gwarancyjny – zapewnia, że niezależnie od rodzaju i zakresu kontroli, podstawowe informacje i ustalenia zostaną przedstawione w sposób przejrzysty i wyczerpujący. Zawarcie danych dotyczących stron, zakresu i przebiegu kontroli, ustaleń faktycznych oraz pouczeń prawnych gwarantuje pełną informacyjność dokumentu i zapobiega sytuacjom niejasności lub nieporozumień.
Istotnym aspektem jest również elektronizacja procesu kontrolnego. Obowiązek sporządzania dokumentów
w
postaci
elektronicznej, 25
opatrzonych
kwalifikowanym
podpisem
elektronicznym, podpisem zaufanym lub osobistym, wpisuje się w politykę cyfryzacji administracji publicznej i ma na celu zwiększenie efektywności, szybkości i bezpieczeństwa obiegu dokumentów. Ponadto rozwiązanie to zmniejsza ryzyko fałszowania dokumentów i umożliwia łatwiejsze archiwizowanie oraz kontrolę wewnętrzną.
Przewidziane w przepisie prawo do zgłaszania zastrzeżeń w terminie 7 dni od doręczenia protokołu jest istotnym instrumentem procesowym, umożliwiającym kontrolowanemu rzeczywiste zakwestionowanie ustaleń, z którymi się nie zgadza. Dalsze przepisy zapewniają, że zgłoszone zastrzeżenia są przedmiotem merytorycznej analizy, a nie jedynie formalności, co wzmacnia legitymację organu kontrolnego. Jednocześnie obowiązek przedstawienia uzasadnienia w przypadku nieuwzględnienia zastrzeżeń ma istotne znaczenie dowodowe i gwarancyjne.
Projekt przewiduje także mechanizm domknięcia procedury kontroli w sytuacji braku współpracy ze strony kontrolowanego. Przyjęcie fikcji prawnej odmowy podpisania protokołu w przypadku jego nieodesłania albo niezgłoszenia zastrzeżeń w terminie oraz obowiązek odnotowania tej odmowy w protokole zabezpiecza interes organu kontrolującego i pozwala zakończyć postępowanie bez konieczności podejmowania dodatkowych czynności.
Całościowo przepis ustanawia przejrzystą, szczegółową i zrównoważoną procedurę dokumentowania kontroli, która uwzględnia zarówno interes publiczny, jak i prawa kontrolowanych podmiotów. Dąży on do podniesienia jakości, wiarygodności i efektywności działań kontrolnych oraz minimalizacji ryzyka sporów proceduralnych.
Projekt przewiduje również przepisy dotyczące postępowania z wynikami kontroli. W przypadku gdy wynik kontroli wykaże nieprawidłowości stanowiące naruszenia mniejszej wagi w zakresie wykonywania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji Komisji lub przepisów ustawy, Komisja może wydawać zalecenia pokontrolne, zawierające wskazówki dotyczące usunięcia nieprawidłowości oraz terminy ich realizacji. Projekt zaleceń pokontrolnych sporządza kontrolujący. Natomiast w przypadku stwierdzenia poważnych naruszeń przepisów rozporządzenia lub ustawy Komisja jest zobligowana do wszczęcia postępowania administracyjnego.
Proponowany projekt ustawy podkreśla wagę nadzoru nad systemami sztucznej inteligencji, wzmacniając
ochronę
interesów
publicznych
oraz
bezpieczeństwo
nowoczesnych technologii.
Rozdział 4 – Postępowanie przed organem nadzoru (art. 59 – art. 70) 26
użytkowników
Projektowana regulacja ma na celu stworzenie kompletnego i skutecznego trybu postępowania prowadzonego przez Komisję w sprawach naruszeń przepisów rozporządzenia 2024/1689 oraz przepisów ustawy. Zaproponowane rozwiązania zapewniają zarówno ochronę interesu publicznego, jak i poszanowanie praw uczestników postępowania.
W przepisach tych określono zasady wszczynania i prowadzenia postępowania, w tym wskazano podstawy wszczęcia, zdefiniowano stronę postępowania jako osobę, wobec której wszczęto postępowanie, instytucje ostrzeżenia, sposób rozstrzygania oraz środki odwoławcze.
Dodatkowo określono maksymalny sześciomiesięczny termin prowadzenia postępowania.
Ograniczenie to zapobiega przewlekłości procedur, przy jednoczesnym zapewnieniu sprawnego i efektywnego rozstrzygnięcia spraw.
Projekt przewiduje, że Komisja będzie mogła wszcząć postępowanie w kilku przypadkach: •
z urzędu,
•
na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji,
•
na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689,
•
na wniosek Rady.
Wszczęcie przez Komisję postępowania z urzędu może nastąpić m.in. w wyniku przeprowadzania kontroli albo w wyniku rozpatrzenia skargi.
Projekt ustawy reguluje procedury składania przez osoby fizyczne, prawne oraz jednostki organizacyjne nieposiadające osobowości prawnej skargi na naruszenia przepisów dotyczących sztucznej inteligencji. Proponowane przepisy zobowiązują skarżących do przedstawienia szczegółowych informacji, takich jak nazwa systemu lub opis, opis naruszenia, istotne fakty oraz dane kontaktowe, co umożliwia skuteczne rozpatrzenie sprawy. Skarga może być składana elektronicznie, co zwiększa dostępność procedury, a w wyjątkowych przypadkach dopuszcza się jej złożenie w innej formie. Komisja, w ramach rozpatrywania skargi, może współpracować z innymi organami, zapewniając właściwe rozstrzygnięcie spraw wykraczających poza jej wyłączny zakres działania. Należy zaznaczyć, że wprowadzana przez rozporządzenie 2024/1689 kategoria skargi nie jest tożsama z instytucją skargi w rozumieniu polskiego prawa administracyjnego. Właściwym terminem określającym tę instytucję jest „skarga w rozumieniu [projektu] ustawy o systemach sztucznej inteligencji”, a określenie „skarga” stosowane jest przez projektodawcę w celu uniknięcia niespójności między nazewnictwem stosowanym w rozporządzeniu unijnym oraz projekcie ustawy.
Z wszczęciem postępowania wiąże się obowiązek jego doręczania wszystkim stronom. 27
Do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji w zakresie nieuregulowanym projektem ustawy zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Dotyczy to również sytuacji wymagających
uzupełnienia
dowodów
Komisja
i
przeprowadzenia
postępowania
dowodowego. Zapewnia to spójność z ogólnymi zasadami polskiej procedury administracyjnej.
W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy Komisja w toku postępowania może wydać stronie ostrzeżenie. Ostrzeżenie wydawane jest w formie postanowienia, ma charakter prewencyjny i naprawczy, umożliwiając stronie dobrowolne usunięcie nieprawidłowości. Zawiera ono zalecenia działań naprawczych, takich jak zablokowanie dostępu do systemu, wprowadzenie poprawek czy poinformowanie użytkowników. Strona zobowiązana jest do przedstawienia informacji o wykonaniu zaleceń w terminie 14 dni. W przypadku niewykonania ostrzeżenia Komisja może zastosować środki o charakterze nakazowym, a także przekazać informację o naruszeniu właściwym organom krajowym lub unijnym oraz opublikować ją w Biuletynie Informacji Publicznej. Stanowi to mechanizm stopniowanego reagowania, proporcjonalny do wagi naruszenia. W takiej sytuacji Komisja prowadzi dalej postępowanie w celu ustalenia stanu faktycznego.
Projektowane przepisy wprowadzają także możliwość wydania decyzji w sprawie naruszenia przepisów rozporządzenia lub ustawy oraz określenie w niej środków nałożenia sankcji. W przypadku dobrowolnego wykonania tych środków Komisja uwzględnia tę okoliczność przy wymiarze ewentualnej kary administracyjnej, co wzmacnia motywację do współpracy z organem.
Szczególną regulację przewidziano na wypadek bezpośredniego lub znacznego ryzyka, jakie system sztucznej inteligencji może stwarzać dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W takich sytuacjach Komisja jest uprawniona do wszczęcia postępowania z urzędu i wydania, w trybie przyspieszonym, decyzji nakazującej zaprzestanie stosowania systemu lub jego wycofanie z rynku. Postępowanie w tym trybie może trwać nie dłużej niż 7 dni. Przewidziano także obowiązki informacyjne wobec właściwych organów krajowych, jednostek notyfikowanych oraz instytucji unijnych, co służy zapewnieniu skutecznego nadzoru w skali UE.
Wprowadzono również szczegółowe zasady zaskarżania postanowień i decyzji Komisji do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Strona może skorzystać z zażalenia lub odwołania, a samo wniesienie odwołania wstrzymuje wykonanie 28
decyzji w zakresie administracyjnej kary pieniężnej, co chroni stronę przed nadmierną dolegliwością przed rozstrzygnięciem sądu. Dodatkowo wprowadza się mechanizmy wstrzymania wykonania decyzji w zakresie administracyjnych kar pieniężnych w przypadku wniesienia przez stronę odwołania.
Projekt ustawy reguluje również obowiązek współpracy Komisji z organami ścigania i wymiaru sprawiedliwości. Nakłada on obowiązek złożenia zawiadomienia o podejrzeniu popełnienia przestępstwa, jeżeli w toku postępowania ujawnione zostaną odpowiednie informacje.
Określono również zasady przechowywania akt przez okres dziesięciu lat, co odpowiada potrzebie
zapewnienia
możliwości
kontroli
działań
organu
oraz
dochodzenia
odpowiedzialności w przyszłości.
Całość regulacji ma służyć stworzeniu przejrzystego, proporcjonalnego i efektywnego systemu nadzoru nad stosowaniem systemów sztucznej inteligencji w Polsce, zgodnego z wymogami prawa unijnego, a jednocześnie gwarantującego ochronę praw uczestników postępowania oraz bezpieczeństwa obywateli.
Projekt ustanawia obowiązek publikacji decyzji wydawanych przez Komisję w sposób dostępny publicznie, przy jednoczesnym zagwarantowaniu ochrony informacji objętych tajemnicą prawnie chronioną, w tym tajemnicą przedsiębiorstwa. Wprowadzenie tego obowiązku ma służyć zarówno celom informacyjnym, jak i prewencyjnym, umożliwiając podmiotom działającym na rynku zapoznanie się z praktyką orzeczniczą Komisji i uniknięcie podobnych naruszeń.
Art. 67 projektu ustawy wprowadza wymóg prowadzenia szczegółowego wykazu systemów sztucznej inteligencji, wobec których podjęto decyzje o nałożeniu kary za naruszenie przepisów rozporządzenia lub ustawy. Wykaz ten zawiera kluczowe informacje, takie jak:
1) nazwę systemu oraz operatora, którego dotyczy decyzja;
2) charakterystykę i opis działania systemu, wraz z wskazaniem przepisów rozporządzenia 2024/1689 oraz ustawy będących przedmiotem decyzji;
3) informację o decyzjach dotyczących tego samego operatora, lub też podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689;
4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenia 2024/1689 oraz ustawy;
29
5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2 tego przepisu.
Celem tego rozwiązania jest stworzenie publicznie dostępnego i transparentnego rejestru, który umożliwi obywatelom monitorowanie przestrzegania prawa przez operatorów systemów AI.
Określono także techniczne i organizacyjne wymagania dotyczące prowadzenia wykazu z wykorzystaniem systemu teleinformatycznego. Zawarte w nim wymogi w zakresie bezpieczeństwa i integralności danych mają zapewnić zgodność z przepisami o ochronie danych osobowych oraz bezpieczeństwa informacji. Szczególny nacisk położono na zapobieganie nieautoryzowanemu dostępowi do danych, ich uszkodzeniu lub utracie, a także na zapewnienie rozliczalności działań dokonywanych w systemie.
Ponadto projekt wskazuje Komisję jako administratora danych przetwarzanych w wykazie, co jednoznacznie określa odpowiedzialność za zgodność przetwarzania z przepisami prawa.
Rozdział 5 – Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji (art. 71 – art. 85)
Projekt ustawy wprowadza alternatywną metodę rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Projektowane przepisy ustanawiają procedurę zawierania układu w sprawie nadzwyczajnego złagodzenia sankcji w postępowaniach prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie tej instytucji ma na celu zwiększenie efektywności nadzoru nad zgodnością systemów sztucznej inteligencji z rozporządzeniem 2024/1689 oraz ustawą krajową, a także stworzenie mechanizmów zachęcających podmioty do współpracy z organem nadzoru i szybkiego usuwania naruszeń.
Procedura układowa została ukształtowana jako narzędzie służące zarówno interesowi publicznemu, jak i interesowi podmiotów, wobec których prowadzone jest postępowanie.
Komisja może zainicjować możliwość zawarcia układu, jeżeli oceni, że doprowadzi to do lepszej realizacji celów regulacji i jeżeli naruszenie nie doprowadziło do poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Jednocześnie ustawa przewiduje możliwość wszczęcia procedury układowej na wniosek strony, co zwiększa jej dostępność i pozwala podmiotom szybko podjąć działania zmierzające do wyjaśnienia sprawy oraz naprawienia nieprawidłowości.
30
Kluczowym elementem proponowanej regulacji jest rzetelne ujawnienie przez stronę wszelkich istotnych okoliczności naruszenia, w tym informacji o osobach lub podmiotach współdziałających oraz przedstawienia dowodów na ich poparcie. Warunkiem przystąpienia do układu jest również wcześniejsze zaprzestanie naruszenia albo usunięcie stanu niezgodności z prawem. Takie rozwiązanie zapewnia, że układ nie będzie wykorzystywany do uniknięcia odpowiedzialności, lecz będzie stanowił instrument umożliwiający organowi szybkie ustalenie pełnego obrazu naruszenia oraz skuteczne przywrócenie zgodności.
Regulacja przewiduje jednocześnie możliwość dobrowolnego podjęcia przez stronę zobowiązań dotyczących usunięcia skutków naruszeń lub naprawienia szkody wyrządzonej przez niezgodne działanie. Dzięki temu skutki naruszeń mogą zostać ograniczone lub usunięte w sposób szybszy i bardziej efektywny niż w ramach zwykłego postępowania administracyjnego, co leży zarówno w interesie organu, jak i podmiotów poszkodowanych.
Istotnym elementem procedury jest określenie zasad oraz granic nadzwyczajnego złagodzenia sankcji. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Obniżenie kary pieniężnej może wynosić od 20% do 70%, a w przypadku naruszeń ujawnionych z własnej inicjatywy – od 30% do 90%. W sytuacjach nadzwyczajnych, zwłaszcza gdy podmiot usunie wszystkie skutki naruszenia, układ może przewidywać nawet odstąpienie od sankcji. Ustawodawca wskazuje także kryteria, które Komisja powinna brać pod uwagę przy ustalaniu wysokości obniżki, co zapewnia przejrzystość i przewidywalność decyzji.
Dla ochrony interesów strony przewidziano gwarancję, że informacje ujawnione w toku procedury układowej nie mogą zostać wykorzystane przeciwko niej w przypadku niezawarcia układu. Rozwiązanie to zabezpiecza podmioty przed poniesieniem negatywnych konsekwencji wynikających z podjęcia próby współpracy z organem.
Projekt szczegółowo określa również ramy czasowe na zawarcie układu wyznaczając jednolub trzymiesięczny okres na ich zawarcie. W tym czasie strona ma możliwość wyrażenia woli przystąpienia do układu oraz dostarczenia Komisji wymaganych informacji dotyczących okoliczności naruszenia i odpowiednich dowodów.
31
W projekcie wyszczególniono także kolejne czynności procesowe, w tym sposób przygotowania projektu układu przez Komisję oraz formę jego przyjęcia przez stronę oraz konieczność złożenia oświadczenia przez stronę, którego naruszenie skutkowałoby bezskutecznością układu. Złożenie oświadczenia o przyjęciu układu ma charakter sformalizowany, aby uniknąć jakichkolwiek wątpliwości co do zamiaru strony i skutków prawnych. Przyjęcie układu powoduje zrzeczenie się prawa do odwołania od decyzji kończącej postępowanie, co zamyka postępowanie i zapewnia stabilność ostatecznego rozstrzygnięcia.
Przepisy te zapewniają pewność prawną, eliminując ryzyko niejasności interpretacyjnych.
Projekt wprowadza również mechanizmy nadzoru nad wykonaniem układu oraz określa przypadki niewykonania zobowiązań przez stronę. Komisja otrzymuje prawo do żądania informacji oraz do monitorowania realizacji zobowiązania. Niewykonanie istotnych elementów układu prowadzi do wznowienia postępowania, przy czym dopuszczalne jest ono jedynie w okresie dziesięciu lat od doręczenia decyzji wydanej na podstawie układu. W takich sytuacjach Komisja uwzględnia wcześniejsze działania strony przy podejmowaniu decyzji o sankcjach.
Proponowane
przepisy
wykluczają
stosowanie
art.
162
Kodeksu
postępowania
administracyjnego w odniesieniu do decyzji zawierającej układ, wzmacniając finalność i nieodwołalność rozstrzygnięć osiągniętych na drodze konsensualnej. Ma to zapewnić równowagę między interesem publicznym a zasadą pewności prawa.
Wprowadzenie instytucji układu jako narzędzia alternatywnego rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów o sztucznej inteligencji wspiera realizację celów regulacyjnych, wzmacniając ochronę interesu publicznego i skuteczność nadzoru.
Rozdział 6 – Jednostki notyfikowane i procedura notyfikacyjna (art. 86 – art. 90)
Projekt ustawy w rozdziale 6 ma na celu określenie krajowego systemu autoryzacji, akredytacji i notyfikacji, jednostek oceniających zgodność w związku ze stosowaniem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689. Z uwagi na to, że rozporządzenie to nakłada na państwa członkowskie obowiązek wyznaczenia organu notyfikującego oraz ustanowienia jednolitych procedur w zakresie oceny i notyfikacji jednostek, konieczne jest wskazanie właściwych organów krajowych i określenie ich kompetencji.
W projekcie ustawy wskazuję się ministra właściwego do spraw informatyzacji jako organ notyfikujący w zakresie, o którym mowa w art. 28 rozporządzenia 2024/1689. Proces notyfikacji jednostek oceniających zgodność odbywać się będzie zgodnie z zasadami wynikającymi bezpośrednio z rozporządzenia 2024/1689, a także z ustawą z dnia 13 kwietnia 32
2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), która reguluje ogólne zasady funkcjonowania jednostek notyfikowanych w Polsce. Takie odesłanie gwarantuje stosowanie jednolitych wymogów dla wszystkich obszarów regulowanych prawem Unii, a jednocześnie eliminuje konieczność powielania istniejących już regulacji.
Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Wynika to z celowości powierzenia całego procesu – od akredytacji po autoryzację i notyfikację – jednemu organowi, co podnosi efektywność i przejrzystość procedur. Do akredytacji, autoryzacji i notyfikacji jednostek biorących udział w procesie oceny zgodności systemów określonych w rozporządzeniu 2024/1689 odpowiednio będą stosowane przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zachować jednolity standard krajowych procedur, jednocześnie unikając niepotrzebnego dublowania regulacji.
Dla zachowania spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689, powierzone zostaną Polskiemu Centrum Akredytacji (zwanemu dalej: „PCA”) w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, które wspierać ma w tym zadaniu ministra właściwego do spraw informatyzacji. Włączenie instytucji posiadającej duży dorobek i bogate doświadczenie, jaką jest PCA, daje największą gwarancję wysokiego poziomu nadzoru nad standardami i zasadami nadzoru nad systemem instytucji oceniających zgodność produktów przy jednoczesnym zapewnieniu możliwości podejmowania przez ministra właściwego do spraw informatyzacji (jako organowi notyfikującemu) działań spójnych z kierunkiem ustalanym na poziomie unijnym (Urząd ds. AI w Komisji Europejskiej, Europejska Rada ds. AI). Z uwagi na to, że PCA jest krajową instytucją akredytującą, jej udział w przygotowaniu i aktualizacji programów akredytacji jest niezbędny dla zapewnienia wysokiej jakości procesu oceny i monitorowania jednostek oceniających zgodność. Ponadto przekazywanie ministrowi aktualnych informacji o akredytacjach umożliwia właściwe wykonywanie zadań nadzorczych i notyfikacyjnych.
Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. „Zagrożenia związane z systemami AI objętymi wymogami niniejszego rozporządzenia dotyczą innych aspektów niż obowiązujące unijne prawodawstwo harmonizacyjne, w związku z czym wymogi niniejszego rozporządzenia uzupełnią obowiązujące unijne prawodawstwo harmonizacyjne. Na przykład maszyny lub wyroby 33
medyczne zawierające system AI mogą stwarzać ryzyko, które nie zostało uwzględnione w zasadniczych wymogach w zakresie zdrowia i bezpieczeństwa ustanowionych w odpowiednim unijnym prawodawstwie harmonizacyjnym, ponieważ to prawo sektorowe nie reguluje ryzyka specyficznego dla systemów AI. Wymaga to jednoczesnego i komplementarnego stosowania różnych aktów ustawodawczych. Aby zapewnić spójność i uniknąć niepotrzebnych obciążeń administracyjnych i niepotrzebnych kosztów, dostawcy produktu, który zawiera co najmniej jeden system AI wysokiego ryzyka, do którego stosuje się wymogi niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, wymienionego w załączniku do niniejszego rozporządzenia, powinni mieć swobodę w zakresie decyzji operacyjnych dotyczących sposobu zapewnienia w optymalny sposób zgodności produktu zawierającego co najmniej jeden system AI ze wszystkimi mającymi zastosowanie wymogami unijnego prawodawstwa harmonizacyjnego. Swoboda ta może oznaczać na przykład decyzję dostawcy o włączeniu części niezbędnych procesów testowania i sprawozdawczości,
informacji
i
dokumentacji
wymaganych
na
mocy
niniejszego
rozporządzenia do już istniejącej dokumentacji i procedur wymaganych na mocy obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych i wymienionego w załączniku do niniejszego rozporządzenia. Nie powinno to w żaden sposób podważać spoczywającego na dostawcy obowiązku zapewnienia zgodności z wszystkimi mającymi zastosowanie wymogami”.
W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych.
W przypadku kiedy unijne prawodawstwo harmonizacyjne wymienione w załączniku I do rozporządzenia 2024/1689 albo przepisy krajowe służące jego stosowaniu wskazują inny organ właściwy w tym zakresie, to ocena, wyznaczanie i notyfikowanie jednostek oceniających zgodność będzie dokonywane przez organ w ramach jednego procesu i nie dojdzie do konieczności dokonywania przez podmioty podwójnej notyfikacji – jednej w zakresie samego systemu sztucznej inteligencji przez ministra właściwego ds. informatyzacji, a drugiej w zakresie całego produktu, którego częścią jest ten system, dokonywanej przez organ właściwy w przypadku danych produktów. Przykładowo, w przypadku wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia 34
(WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takimi systemami będzie to Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych.
Dodatkowo zgodnie z motywem 124 w celu zminimalizowania obciążenia dla operatorów i aby uniknąć ewentualne powielanie działań, zgodność z wymogami niniejszego rozporządzenia w przypadku systemów AI wysokiego ryzyka powiązanych z produktami, które są objęte zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, należy oceniać w ramach oceny zgodności przewidzianej już w tym prawodawstwie. Stosowanie wymogów niniejszego rozporządzenia nie powinno zatem wpływać na szczególną logikę, metodykę lub ogólną strukturę oceny zgodności określone w unijnym prawodawstwie harmonizacyjnym.
W projekcie ustawy określono także procedurę składania wniosków o notyfikację przez jednostki oceniające zgodność. Z uwagi na cyfryzację procesów administracyjnych wniosek składany ma być wyłącznie w postaci elektronicznej, co zwiększa efektywność postępowania, ogranicza koszty administracyjne oraz zapewnia jego pełną przejrzystość.
W projektowanych przepisach zawarto minimalny zakres informacji, jakie wniosek musi zawierać. Są to dane podstawowe pozwalające na identyfikację wnioskodawcy oraz dane niezbędne do weryfikacji jej statusu akredytacyjnego. Wymóg podania informacji o akredytacji (w tym numeru certyfikatu) wynika z faktu, że akredytacja jest warunkiem koniecznym do notyfikacji w większości obszarów oceny zgodności określonych w przepisach unijnych.
Przepis zatem zapewnia kompletność i poprawność danych niezbędnych do przeprowadzenia procedury notyfikacyjnej.
Art. 88 projektu umożliwia ministrowi właściwemu do spraw informatyzacji przetwarzanie informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/1689 oraz ustawy.
Jest to niezbędne, ponieważ materia ocen zgodności, akredytacji i autoryzacji jednostek często obejmuje informacje techniczne, technologiczne oraz organizacyjne przedsiębiorców, które podlegają ochronie. Jednocześnie minister musi mieć możliwość ich przetwarzania w celu rzetelnej realizacji zadań wynikających z rozporządzenia 2024/1689 i przepisów krajowych. 35
Przepis ten zapewnia więc zgodność z zasadami legalizmu oraz ochrony danych poufnych. a także zapewnia skuteczne realizowanie funkcji organu notyfikującego.
Art. 89 ma charakter uzupełniający i porządkujący. odnosi się do pozostałych spraw, które są regulowane w rozdziale 6 projektu. W przypadkach, które nie są uregulowane przepisami rozporządzenia 2024/1689 ani niniejszą ustawą, przepis wskazuje na subsydiarne zastosowanie przepisów ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku.
Pozwala to zapewnić spójność całego systemu prawa dotyczącego oceny zgodności w Polsce, unika kolizji regulacyjnych oraz umożliwia korzystanie z procedur i mechanizmów już funkcjonujących w systemie prawnym.
Projektowany art. 90 doprecyzowuje zadania ministra właściwego do spraw informatyzacji wynikające z rozporządzenia 2024/1689 w zakresie funkcjonowania organu notyfikującego.
Przepis ust. 1 zapewnia możliwość krajowego określania oraz corocznej weryfikacji wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689.
Dodatkowo przepis nakłada na ministra obowiązek podejmowania działań naprawczych w przypadku stwierdzenia braku zgodności z określonymi wymogami, co gwarantuje utrzymanie właściwego poziomu kompetencji organu notyfikującego oraz zapewnia realizację zobowiązań wynikających z prawa Unii. Ponadto przepis wprowadza obowiązek przekazywania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, co umożliwia właściwe monitorowanie funkcjonowania organu notyfikującego na poziomie unijnym oraz zapewnia przejrzystość i zgodność z procedurami określonymi w przepisach europejskich.
Rozdział 7 – Środki wspierające innowacyjność (art. 91 – art. 99)
Projekt ustawy określa nie tylko kwestie związane z nadzorem na systemami sztucznej inteligencji, ale również określa podstawy prawne do wdrażania środków wspierających innowacyjność.
W projekcie zawarto regulacje ustanawiające krajowe podstawy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem 2024/1689. Rozporządzenie unijne przewiduje możliwość tworzenia piaskownic regulacyjnych w celu wspierania innowacji oraz testowania systemów AI w warunkach kontrolowanych, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony użytkowników. Tym samym projekt wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i 36
proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Zgodnie z art. 57 rozporządzenia 2024/1689 każde państwo członkowskie Unii Europejskiej musi uruchomić przynajmniej jedną piaskownicę regulacyjną w zakresie AI do 2 sierpnia 2026 roku.
Mechanizm ten ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja uzyskuje uprawnienie do udzielania zgody, w formie decyzji, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ponadto projekt przewiduje preferencyjne warunki dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej.
Projekt ustawy ustanawia przejrzyste procedury konkursowe dla podmiotów ubiegających się o udział w piaskownicy regulacyjnej. Komisja organizuje konkurs, którego celem jest wyłonienie najbardziej obiecujących projektów, wnoszących istotny wkład w rozwój technologii AI, przy zachowaniu bezpieczeństwa i zgodności z ogólnymi zasadami prawa. Proces oceny ofert podlega nadzorowi zespołu konkursowego, który dokonuje merytorycznej analizy zgłoszeń, tworzy listę rankingową oraz protokół z oceny. Szczególną preferencją objęte są podmioty pochodzące z Unii Europejskiej, co wspiera współpracę na szczeblu regionalnym i harmonizację działań z unijną polityką technologiczną. Przepisy wprowadzają również obowiązek publikacji wyników konkursu
oraz mechanizmy odwoławcze, umożliwiające
stronom
zakwestionowanie
rozstrzygnięcia komisji konkursowej, co gwarantuje równe szanse uczestnikom.
Uczestnicy mają prawo do zgłoszenia odwołania w terminie 7 dni. W przypadku uwzględnienia zarzutów Komisja powołuje zespół odwoławczy do ponownej oceny odwołania. W skład zespołu nie będą wchodziły osoby, które brały udział w pracach zespołu konkursowego co zapewnia sprawiedliwość rozstrzygnięć oraz transparentność działań.
Projekt ustawy nakłada obowiązki na Komisję w zakresie określania limitów użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej oraz zakresu odstępstw dla poszczególnych projektów funkcjonujących w piaskownicy regulacyjnej.
Dodatkowo wymaga, aby Komisja informowała instytucje unijne o utworzeniu piaskownicy, co 37
umożliwia monitorowanie efektów testów przez organy unijne oraz zapewnienie spójności działań z polityką UE w zakresie sztucznej inteligencji.
Uczestnicy piaskownicy regulacyjnej zobowiązani są do informowania użytkowników o udziale w programie, publikowania rocznych raportów, zamieszczania na swojej stronie internetowej informacji o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej a także zgłaszania wszelkich zmian mających wpływ na projekt. Takie wymogi gwarantują transparentność procesów testowych oraz skuteczny nadzór nad prowadzonymi eksperymentami. Komisja uzyskuje uprawnienie do kontrolowania uczestników piaskownicy oraz podejmowania działań dyscyplinujących w przypadku stwierdzenia naruszeń, takich jak wezwanie do usunięcia nieprawidłowości czy wykluczenie z programu.
Projekt wykonuje obowiązki państwa członkowskiego wynikające z art. 95 rozporządzenia 2024/1689. W art. 98 projektu ustawy wskazano, że minister właściwy do spraw informatyzacji wykonuje zadania dotyczące wspierania tworzenia kodeksów dobrego postępowania w zakresie stosowania systemów AI. W celu ułatwienia opracowywania tych kodeksów, minister będzie wydawać rekomendacje najlepszych praktyk. Taki mechanizm ma charakter niewiążący, jednak pełni istotną rolę w tworzeniu spójnych i wysokiej jakości standardów funkcjonowania systemów sztucznej inteligencji w Polsce. Rekomendacje te będą służyły jako punkt odniesienia zarówno dla podmiotów sektora publicznego, jak i prywatnego, wspierając harmonizację podejścia do AI na poziomie krajowym i unijnym.
Ponadto projekt ustanawia obowiązek corocznego przekazywania przez ministra właściwego do spraw informatyzacji, do dnia 31 marca każdego roku, informacji dotyczącej wymaganych zasobów obliczeniowych do rozwoju systemów AI oraz prognozowanego zużycia energii związanego z ich działaniem. Informacja ta ma być przedstawiana zarówno Radzie Ministrów, jak i Komisji Europejskiej. Jest to wyraz uznania rosnącego znaczenia infrastruktury obliczeniowej dla rozwoju nowoczesnych technologii oraz potrzeby monitorowania ich wpływu na zużycie zasobów energetycznych, co ma znaczenie zarówno z perspektywy polityki cyfrowej, jak i klimatyczno-energetycznej. Przepis ten pozwoli lepiej planować inwestycje w infrastrukturę cyfrową, a także wspierać działania na rzecz zrównoważonego rozwoju. Minister właściwy ds. informatyzacji, jako odpowiedzialny za koordynację wdrażania krajowej Polityki AI, dysponuje najszerszym zbiorem danych, dzięki którym mógł przygotować raporty i prognozy, o których mowa powyżej.
Zgodnie z art. 99 projektu przyznaje się ministrowi właściwemu do spraw informatyzacji uprawnienia w zakresie wspierania badań naukowych i prac rozwojowych, co jest kluczowe 38
dla rozwoju technologii przełomowej, jaką jest sztuczna inteligencja. Przepisy te umożliwiają ministrowi udzielanie wsparcia finansowego na badania naukowe i prace rozwojowe, a także finansowanie lub współfinansowanie programów i projektów z budżetu państwa oraz środków unijnych. Dzięki temu możliwe jest zapewnienie odpowiednich środków na realizację innowacyjnych projektów, które mogą przyczynić się do rozwoju sztucznej inteligencji w Polsce.
Minister może również inicjować, wspierać i realizować programy finansujące badania naukowe i prace rozwojowe oraz działania przygotowujące do wdrożenia ich wyników.
Programy te są realizowane przez Instytut Badawczy IDEAS – nad którym nadzór ministrowi właściwemu do spraw informatyzacji został przekazany rozporządzeniem Rady Ministrów z dnia 25 lutego 2025 r. w sprawie utworzenia Instytutu Badawczego IDEAS – oraz pozostałe jednostki podległe i nadzorowane przez ministra, co zapewnia spójność i efektywność działań.
Wprowadzenie tych przepisów ma na celu stworzenie odpowiednich warunków do prowadzenia badań naukowych i prac rozwojowych, co jest kluczowe dla wdrożenia sztucznej inteligencji. Wykaz jednostek, o których mowa w art. 99, jest zawierany w obwieszczeniu Ministra Cyfryzacji wydanym na podstawie art. 33 ust. 1d ustawy z dnia 8 sierpnia 1996 r. o Radzie Ministrów.
Obecnie jednostkami podległymi Ministrowi Cyfryzacji i nadzorowanymi przez Ministra Cyfryzacji są:
Jednostki podległe: • Centrum Projektów Polska Cyfrowa.
Jednostki nadzorowane: • Centralny Ośrodek Informatyki; • Instytut Badawczy IDEAS; • Instytut Łączności – Państwowy Instytut Badawczy; • Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy.
Celem przepisu jest zapewnienie możliwości elastycznego i dostosowanego do specyfiki branży i działań udzielania pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz programów i projektów w tym zakresie realizowanych przez ww. pomocy w ramach ich zadań. Stąd też w projekcie znalazł się przepis wskazujący na szerokie źródła środków przeznaczonych na finansowanie w ramach dotacji celowych.
39
Szczegółowe określenie czy skonkretyzowanie zadań, o których mowa w uwadze z uwzględnieniem podziału na podmioty nie jest możliwe do określenia, a także nie wydaje się zasadne z uwagi na nieprzewidywalny kierunek rozwoju sztucznej inteligencji, a także wynikające z tego zapotrzebowania.
Dzięki temu możliwe jest osiągnięcie celów określonych w rozporządzeniu 2024/1689, takich jak promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji. Wsparcie finansowe i organizacyjne dla badań naukowych i prac rozwojowych jest niezbędne, aby możliwy był rozwój sztucznej inteligencji zgodnie z wartościami Unii Europejskiej.
Proponowane regulacje mają na celu wspieranie innowacyjnych technologii w obszarze AI, zachowanie zgodności działań z polityką UE oraz zapewnienie odpowiednich zabezpieczeń i transparentności procesów testowych.
Rozdział 8 – Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 100
– art. 110)
Uregulowania w przepisach polskiego prawa wymagają także określone w treści rozporządzenia kwestie nakładania przez organ nadzoru administracyjnych kar pieniężnych.
Mechanizm w postaci możliwości nałożenia sankcji za naruszenie przepisów rozporządzenia 2024/1689 jest kluczowy pod kątem jego praktycznego egzekwowania, a więc faktycznej możliwości osiągnięcia celów prawodawcy w zakresie wspierania rozwoju AI w ramach jednolitego rynku w zgodzie z europejskim prawem i wartościami.
Projektowany art. 100 stanowi kluczowy element krajowego mechanizmu egzekwowania przepisów rozporządzenia 2024/1689. Celem tego przepisu jest przyznanie Komisji kompetencji do nakładania administracyjnych kar pieniężnych na podmioty, które naruszą przepisy rozporządzenia. Przepis wskazuje, że nałożenie kary odbywa się w drodze decyzji administracyjnej, co oznacza, że zastosowanie będą miały ogólne zasady postępowania administracyjnego, w tym gwarancje proceduralne dla stron postępowania. Kary są nakładane w przypadkach, wysokości i na warunkach przewidzianych w rozdziale XII rozporządzenia 2024/1689, co zapewnia pełną zgodność z przepisami prawa Unii Europejskiej. Taki mechanizm gwarantuje spójność systemu sankcyjnego i eliminuje ryzyko rozbieżności interpretacyjnych między przepisami unijnymi a krajowymi.
Ust. 2 i 3 wprowadzają obowiązek uwzględnienia przy podejmowaniu decyzji, oraz wskazania w jej uzasadnieniu, przesłanek określonych w art. 99 ust. 7 rozporządzenia 2024/1689.
Przesłanki te obejmują m.in. charakter, wagę i czas trwania naruszenia, stopień winy, 40
wcześniejsze naruszenia, środki zastosowane w celu zapobieżenia lub naprawienia skutków naruszenia. Uwzględnienie tych kryteriów zapewnia, że kara będzie proporcjonalna do naruszenia oraz że każde postępowanie będzie prowadzone w sposób indywidualny i sprawiedliwy.
Ust. 4 reguluje sposób przeliczania wartości pieniężnych wyrażonych w euro na walutę krajową
– złoty polski. Ustalenie stałego dnia odniesienia (28 stycznia każdego roku) oraz wskazanie wprost średniego kursu ogłaszanego przez Narodowy Bank Polski, a także rozwiązanie sytuacji, gdy kurs nie zostanie ogłoszony w tym dniu, zapewnia jednolitość, przewidywalność oraz techniczną wykonalność przepisu.
Jednocześnie ustawa przewiduje mechanizm umożliwiający Komisji na wymierzenie kary.
Podmiot jest obowiązany do dostarczenia Komisji w terminie 14 dni od dnia otrzymania żądania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. W przypadku niedostarczenia danych przez podmiot lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ma prawo do samodzielnego ustalenia podstawy wymiaru administracyjnej kary pieniężnej w sposób szacunkowy. Uwzględnia przy tym wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu.
Postępowanie dotyczące kar ma być prowadzone na podstawie przepisów ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Aby zapewnić prawidłową ochronę strony w postępowaniu wskazano, że w przypadku nałożenia kary osoba (fizyczna, prawna oraz nieposiadająca osobowości prawnej), na którą zostanie ona nałożona, będzie miała uprawnienie do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.
Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów, jest właściwym organem do rozpatrywania odwołań od decyzji Komisji (w tym decyzji o karach pieniężnych) z kilku kluczowych powodów. Po pierwsze, sąd ochrony konkurencji i konsumentów posiada już ugruntowaną pozycję i doświadczenie w rozpatrywaniu spraw związanych z regulacjami rynkowymi oraz ochroną konsumentów. Jego kompetencje obejmują rozpatrywanie odwołań od decyzji takich organów jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, co czyni go naturalnym wyborem do rozpatrywania spraw związanych z nowymi technologiami, w tym sztuczną inteligencją
41
Sztuczna inteligencja jest technologią przełomową, która ma potencjał do znaczącej transformacji wielu sektorów gospodarki oraz życia społecznego. W związku z tym konieczne jest, aby sprawy dotyczące AI były rozpatrywane przez sąd posiadający odpowiednie zaplecze merytoryczne i organizacyjne. Skoncentrowanie tych spraw w jednym sądzie, takim jak Sąd Okręgowy w Warszawie, pozwala na zbudowanie specjalistycznej wiedzy i doświadczenia w zakresie regulacji i nadzoru nad AI, co jest kluczowe dla zapewnienia sprawiedliwości i efektywności postępowań sądowych Ponadto centralizacja rozpatrywania spraw związanych z AI w jednym sądzie zapobiega rozproszeniu kompetencji i umożliwia lepszą koordynację działań. Dzięki temu możliwe jest wypracowanie jednolitej linii orzeczniczej, co jest szczególnie istotne w kontekście dynamicznie rozwijającej się technologii, jaką jest sztuczna inteligencja. Taki model organizacyjny pozwala również na bardziej efektywne wykorzystanie zasobów sądowych oraz zapewnia lepszą dostępność specjalistycznych ekspertyz i opinii biegłych Kary pieniężne podlegać będą egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Zapewni to spójność rozwiązań w zakresie egzekucji z innymi przepisami w tym zakresie.
Należy wskazać, że przesłanki nakładania kar i maksymalne ich wysokości wynikają wprost z przepisów rozporządzenia 2024/1689. Zgodnie z przepisami rozporządzenia 2024/1689 oraz ze względu na znaczenie przepisów dla ochrony praw osób, praworządności oraz demokracji w Europie, omawiany projekt zakłada możliwość nałożenia z tego tytułu kary na podmioty sektora prywatnego, jak i publicznego. Analogiczne uprawnienie dla państw członkowskich funkcjonuje na gruncie przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) oraz ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych.
Projekt przewiduje również możliwość zmniejszenia wysokości administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 62 ustawy, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. Komisja może też, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze
42
względu na ważny interes wnioskodawcy. Działania te stanowią ulgę w wykonaniu administracyjnej kary pieniężnej, która:
1) nie stanowi pomocy publicznej;
2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis;
3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej.
Przepisy stanowi ważny instrument o charakterze motywacyjnym i prewencyjnym. Mechanizm ten premiuje współpracę z organem i szybką reakcję na naruszenie, co może skutecznie przeciwdziałać dalszym nieprawidłowościom. Jednocześnie przepis wyznacza granice takiej łagodności – nie może ona mieć zastosowania, jeśli skutki naruszenia były poważne, co zapewnia ochronę interesu publicznego i osób narażonych na skutki naruszeń.
Konstruując przepisy umożliwiające nałożenie kar na podstawie naruszenia rozporządzenia 2024/1689, projektodawca umożliwia stosowanie ich w oparciu o wszystkie przypadki naruszenia przepisów rozporządzenia 2024/1689. Nie przekreśla to możliwości uregulowania w przyszłości szczegółowych kwestii dotyczących naruszeń innych przepisów, w szczególności art. 6 omawianego rozporządzenia. Takie działanie legislacyjne będzie wskazane ze względu na fakt wejścia w życie, w 2026 oraz 2027 r., pozostałych przepisów rozporządzenia 2024/1689 oraz prac Komisji Europejskiej związanych z opracowaniem i publikacją aktów wykonawczych, delegowanych oraz dokumentów merytorycznych odnoszących się do obszarów ujętych zakresowo przepisami o systemach AI wysokiego ryzyka (art. 6), w których właściwymi organami nadzoru mają być spełniające kryteria określone w rozporządzeniu krajowe organy nadzoru (m.in. nad sektorem finansowym czy zastosowaniem systemów wysokiego ryzyka przez instytucje publiczne w obszarach, takich jak ściganie przestępstw, migracja czy wymiar sprawiedliwości). Określony w projekcie szeroki zakres uprawnień Komisji do nakładania kar wynika z harmonogramu wchodzenia w życie przepisów rozporządzenia, jak również z powodu konieczności oczekiwania na podjęcie przez Komisję Europejską, Radę ds. AI oraz inne powołane do życia na mocy przepisów regulacji instytucje europejskiego systemu nadzoru nad modelami i systemami sztucznej inteligencji działań o charakterze
technicznym,
merytorycznym
i prawnym,
które
to
według
przepisów
rozporządzenia, jak również komunikatów przedstawicieli Komisji na spotkaniach Rady ds. AI planów nastąpić ma do końca 2025 r. 43
Przepisy art. 108 i art. 109 mają na celu wzmocnienie skuteczności prowadzonych postępowań, mechanizmów kontrolnych oraz egzekwowania obowiązków podmiotów objętych kontrolą lub postępowaniem administracyjnym. Wprowadzenie sankcji karnych w postaci kary ograniczenia wolności lub grzywny służy zapewnieniu należytej współpracy ze strony kontrolowanych, stron postępowania oraz przeciwdziałaniu działaniom obstrukcyjnym.
Wprowadzenie przepisu art. 108 ma na celu zapewnienie skuteczności czynności kontrolnych oraz postępowań administracyjnych prowadzonych przez Komisję zgodnie z ustawą.
Czynności te stanowią kluczowy instrument nadzorczy, umożliwiający wykrywanie nieprawidłowości, reagowanie na naruszenia i weryfikację zgodności działania podmiotów z obowiązkami wynikającymi z rozporządzenia 2024/1689 oraz ustawy.
Penalizacja działań zmierzających do utrudnienia lub udaremnienia czynności kontrolnych jest konieczna, ponieważ bez możliwości wymierzenia sankcji działania Komisji mogłyby być w praktyce nieskuteczne, a podmioty objęte kontrolą mogłyby nie wykonywać obowiązków lub celowo uniemożliwiać realizację ustawowych zadań organu nadzorczego.
Wprowadzone sankcje – grzywna albo kara ograniczenia wolności – są proporcjonalne do wagi naruszenia i zgodne z zasadą subsydiarności prawa karnego. Penalizacji podlega wyłącznie zachowanie o charakterze świadomego sprzeciwu wobec czynności organu, mające wysoce negatywny wpływ na możliwość wykonywania jego zadań. Przepis dotyczy każdego zarówno osób fizycznych, osób prowadzących działalność gospodarczą, jak i przedsiębiorców.
Ujęcie w ust. 2 odpowiedzialności osób działających w imieniu lub w interesie osób prawnych i jednostek organizacyjnych wynika z konieczności zapobieżenia sytuacjom, w których szkodliwe działania podejmowane są przez przedstawicieli podmiotów zbiorowych, często faktycznie odpowiedzialnych za naruszenia. Rozwiązanie to jest zgodne z zasadą, że odpowiedzialność karna obejmuje także osoby uprawnione do działania w strukturach organizacyjnych podmiotów gospodarczych.
Stosowanie przepisów ust. 1 i 2 zostało wyłączone w odniesieniu do czynów polegających na dostarczaniu nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji właściwym organom krajowym w odpowiedzi na ich wniosek. Te czyny zostały wskazane w przepisach rozporządzenia 2024/1689 enumeratywnie i kara za nie została wprost określona w art. 99 ust. 5 rozporządzenia 2024/1689. Mają one bowiem szczególne istotne znaczenie dla ustalania poprawnie stanu faktycznego a tym sam na uznanie systemu za zgodny z
44
przepisanymi rozporządzenia 2024/1689, bezpieczny i godny zaufania. Wyłączenie to ma na celu uniknięcie ryzyka podwójnej karalności.
Celem tego przepisu jest ochrona integralności procesu kontrolnego oraz postępowań i zapewnienie, że zarówno kontrolujący, jak i osoby prowadzące postępowanie administracyjne będą mogli wykonywać swoje obowiązki w sposób niezakłócony.
Celem wprowadzenia art. 109 jest zapewnienie realnej wykonalności decyzji Komisji, o której mowa w art. 64 ust. 2 ustawy, podejmowanych w przypadku stwierdzenia naruszeń dotyczących funkcjonowania lub stosowania systemów sztucznej inteligencji. Decyzje te mają charakter środków naprawczych i służą usunięciu naruszeń wynikających ze stworzonego przez system sztucznej inteligencji ryzyka, o którym mowa w art. 79 rozporządzenia 2024/1689, lub bezpośredniego ryzyka zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych.
W sytuacji braku sankcji za niewykonanie decyzji organu, podmiot obowiązany mógłby pozostawać bierny, co prowadziłoby do utrzymywania niezgodności z prawem, a niekiedy do dalszego zagrożenia dla użytkowników systemów sztucznej inteligencji. Wprowadzenie penalizacji jest zatem konieczne dla zapewnienia skuteczności nadzoru publicznego i respektowania decyzji naprawczych.
Niewykonanie decyzji organu administracji publicznej w zakresie obowiązków nakazanych dla usunięcia naruszeń jest czynem o wysokim stopniu społecznej szkodliwości, ponieważ: •
prowadzi do utrzymywania stanu niezgodnego z prawem,
•
naraża użytkowników systemów AI na ryzyko,
•
może uniemożliwiać skuteczne naprawienie naruszenia,
•
godzi w interes publiczny rozumiany jako bezpieczeństwo i przejrzystość stosowania technologii AI.
Zachowanie to ma charakter umyślny lub co najmniej wynikający z rażącego niedbalstwa i odnosi się do obowiązków nałożonych w decyzji, która stanowi akt władczy skierowany do konkretnego podmiotu. Projekt przewiduje karę grzywny albo ograniczenia wolności. Sankcje są adekwatne do charakteru czynu, nie mają charakteru nadmiernie represyjnego, wpisują się w standard kar stosowanych za niewykonywanie decyzji organów nadzorczych w innych sektorach regulowanych (np. ochrona danych osobowych, nadzór rynku finansowego), odpowiadają standardowi sankcji za podobne delikty administracyjno-karne. Prawo karne
45
zachowuje w tym przypadku charakter środka ultima ratio, stosowanego wyłącznie wówczas, gdy podmiot świadomie ignoruje wiążącą decyzję administracyjną.
Ust. 2 przewiduje odpowiedzialność osób działających w imieniu lub w interesie osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej. Rozwiązanie to odzwierciedla faktyczny sposób funkcjonowania podmiotów gospodarczych, zapobiega przerzucaniu odpowiedzialności na podmiot zbiorowy i ukrywaniu sprawców działań faktycznych, ponadto jest zgodne z powszechnie stosowaną w polskim prawie konstrukcją odpowiedzialności osób odpowiedzialnych za działanie podmiotu (np. w prawie wykroczeń gospodarczych i nadzorczych), zapewnia skuteczność sankcji i zapobiega ich faktycznemu obchodzeniu.
Przepis art. 110 odsyła do stosowania w ww. sprawach przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia. Ma to na celu ujednolicenie procedury orzekania w sprawach o czyny określone w art. 108 i art. 109 oraz zapewnienie jednolitego stosowania zasad procesu wykroczeniowego.
Wybór trybu wykroczeniowego jest uzasadniony charakterem sankcji przewidzianych w ustawie (grzywna albo kara ograniczenia wolności) oraz stopniem społecznej szkodliwości czynów. Wprowadzenie tej regulacji zapewnia: przejrzystość procedury. skrócenie czasu rozpoznania spraw, zminimalizowanie obciążenia organów wymiaru sprawiedliwości, wykorzystanie istniejącej, ugruntowanej procedury właściwej dla podobnych deliktów administracyjnych. Regulacja jest niezbędna dla prawidłowego stosowania przepisów karnych zawartych w ustawie.
Rozdział 9 – Zmiany w przepisach obowiązujących (art. 111 – art. 119)
Projekt zakłada nowelizację następujących ustaw:
1) ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm.);
2) ustawy z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. po. 268);
3) ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722, z późn. zm.);
4) ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499, z późn. zm.);
46
5) ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 poz. 902, z późn. zm.);
6) ustawy z dnia 28 lipca 2025 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228, z późn. zm.);
7) ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640, z późn. zm.);
8) ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 z późn. zm.);
9) ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 z późn. zm.).
Zmiany mają na celu dostosowanie aktualnego systemu prawnego do regulacji wprowadzanych tą ustawą.
Najbardziej istotna zmiana dotyczy przepisów Kodeksu postępowania cywilnego.
Projektowana zmiana polega na dodaniu nowego działu IVfa w tytule VII księgi pierwszej części pierwszej kodeksu. Nowelizacja ta wynika z potrzeby zapewnienia skutecznych i zgodnych z konstytucyjnymi standardami mechanizmów sądowej kontroli decyzji organu nadzorczego, jakim będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Wprowadzenie odrębnych przepisów proceduralnych w tym zakresie stanowi odpowiedź projektodawcy na nowe wyzwania prawne i technologiczne związane z dynamicznym rozwojem i wdrażaniem systemów sztucznej inteligencji w życiu publicznym i gospodarczym.
Z uwagi na złożoność spraw związanych z oceną zgodności systemów sztucznej inteligencji z regulacjami prawa unijnego i krajowego, projekt przewiduje, że rozpoznawaniem odwołań od decyzji oraz zażaleń na postanowienia Komisji zajmować się będzie Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów. Wybór tego sądu uzasadniony jest jego wyspecjalizowaną kompetencją w sprawach gospodarczych, regulacyjnych i administracyjnoprawnych o charakterze publicznoprawnym. Takie rozwiązanie zapewnia także jednolitość orzecznictwa i koncentrację spraw, co sprzyja efektywności i spójności postępowania sądowego.
Uregulowanie trybu wniesienia odwołania (art. 47988b–c) opiera się na modelu pośrednictwa Komisji, która przekazuje odwołanie wraz z aktami sprawy do właściwego sądu. Jednocześnie projekt przewiduje możliwość autokontroli decyzji przez Komisję, jeśli uzna ona zarzuty odwołania za zasadne w całości. Umożliwia to szybkie zakończenie sporu bez angażowania sądu, przy jednoczesnym zachowaniu prawa strony do ponownego wniesienia odwołania od 47
nowej decyzji. Rozwiązanie to odciąża sądy i promuje efektywne rozwiązywanie spraw na poziomie organu administracyjnego.
W art. 47988d określono, jakie elementy powinno zawierać odwołanie. Przepis ten ma na celu zapewnienie jasności zarzutów i przejrzystości argumentacji procesowej.
W art. 47988e jednoznacznie określono krąg stron postępowania przed sądem – są nimi zarówno Komisja, jak i podmiot, wobec którego wydano decyzję. Dodatkowo przyznano Komisji prawo reprezentacji przez pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji, co zwiększa sprawność postępowania i odciąża Prokuratorię Generalną RP.
Uregulowanie to jest zgodne z tendencją legislacyjną przyznającą wyspecjalizowanym organom administracyjnym kompetencje do samodzielnego występowania przed sądem.
Art. 47988f normuje sposób rozpoznania odwołań, sąd może je oddalić, odrzucić lub uwzględnić, uchylając lub zmieniając zaskarżoną decyzję. Jednocześnie sąd ma obowiązek stwierdzić, czy decyzja została wydana bez podstawy prawnej lub z rażącym naruszeniem prawa, co stanowi dodatkowy mechanizm kontroli legalności działania organu nadzorczego.
W art. 47988g zawarto szczegółowe regulacje dotyczące ochrony tajemnic prawnie chronionych w toku postępowania sądowego. Z uwagi na charakter spraw z zakresu systemów sztucznej inteligencji, które często dotyczą danych technicznych, handlowych, algorytmicznych oraz know-how konieczne było wprowadzenie mechanizmu ochrony tajemnicy przedsiębiorstwa i innych informacji niejawnych. Jednocześnie projekt przyznaje sądowi możliwość udostępnienia tych informacji stronie tylko w wyjątkowych, ściśle określonych przypadkach, przy jednoczesnym wykluczeniu zażalenia na takie postanowienia, co zabezpiecza sprawność postępowania. Wyraźnie wskazano także, że ograniczenia te nie dotyczą samej Komisji, która zachowuje pełny dostęp do materiałów dowodowych.
Art. 47988h przyznaje stronie prawo wniesienia zażalenia na postanowienie Komisji w terminie tygodnia, zapewniając tym samym skuteczną ochronę praw procesowych również w odniesieniu do rozstrzygnięć incydentalnych. Odwołanie do stosowania przepisów dotyczących odwołań zapewnia spójność i jednolitość proceduralną.
Wreszcie art. 47988i stanowi, że od orzeczenia sądu drugiej instancji będzie przysługiwała skarga kasacyjna niezależnie od wartości przedmiotu zaskarżenia.
Wprowadzenie działu IVfa w Kodeksie postępowania cywilnego ma kluczowe znaczenie dla zapewnienia realnego środka zaskarżenia decyzji administracyjnych w dziedzinie regulacji sztucznej inteligencji. Przepisy te nie tylko zapewniają wykonanie obowiązków wynikających 48
z prawa unijnego, ale także służą ochronie praw jednostek i podmiotów gospodarczych przed ewentualnymi nadużyciami administracyjnymi. System ten został zaprojektowany z uwzględnieniem zasady proporcjonalności, efektywności postępowania i ochrony informacji wrażliwych, a także z poszanowaniem konstytucyjnych zasad państwa prawa.
Rozdział 10 – Przepisy przejściowe i przepis końcowy (art. 120 – art. 122)
Projekt ustawy przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organu odpowiedzialnego za monitorowanie i wspieranie rozwoju sztucznej inteligencji w sposób bezpieczny i zgodny z interesem publicznym. Sztuczna inteligencja stanowi kluczowy element nowoczesnych technologii i ma istotny wpływ na gospodarkę oraz społeczeństwo, dlatego konieczne jest stworzenie dedykowanego organu, który będzie dbał o jej rozwój zgodnie z zasadami etyki i bezpieczeństwa. Komisja ma pełnić funkcję wspomagającą i kontrolną, dbając o zgodność wdrażanych rozwiązań z regulacjami prawnymi oraz standardami międzynarodowymi.
W celu zapewnienia sprawnej działalności Komisji w projekcie wskazano termin powołania jej Przewodniczącego przez Sejm RP za zgodą Senatu RP. Procedura ta gwarantuje demokratyczną legitymizację działania organu i zapewnia, że na jego czele stanie osoba posiadająca odpowiednie kompetencje. Jednocześnie określono termin pierwszego posiedzenia Komisji, które ma się odbyć w ciągu trzech miesięcy od wejścia w życie ustawy. Jest to istotne dla zapewnienia płynnego wdrożenia nowych rozwiązań i niezwłocznego podjęcia prac przez Komisję.
Mając na uwadze, że Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji, minister został zobowiązanych do podjęcia niezbędnych działań w celu utworzenia w urzędzie komórki organizacyjnej zapewniającej obsługę Komisji i Przewodniczącego Komisji w zakresie ich zadań wynikających z rozporządzenia 2024/ 1689 oraz z ustawy. Rozpoczęcie działalności przez tę komórkę, powinno nastąpić w terminie 2 miesięcy od dnia wejścia w życie ustawy.
Projekt ustawy przewiduje również maksymalne limity wydatków budżetowych na kolejne lata oraz wprowadzenie mechanizmu korygującego w przypadku zagrożenia ich przekroczeniem.
Mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy umożliwia elastyczne i skuteczne ograniczenie kosztów, zapewniając racjonalne gospodarowanie środkami publicznymi. Mechanizm opiera się na obniżeniu limitu wydatków – co automatycznie wymusza redukcję kosztów tych zadań.
49
W przypadku konieczności zastosowania mechanizmu korygującego niezbędna będzie weryfikacja, priorytetyzacja lub przesuniecie zakresu realizacji niektórych zadań. Mechanizm korygujący nie będzie uchylał obowiązku wynikającego z ustawy, ale będzie modyfikował sposób finansowania tego obowiązku, np. przesuwając fazy jego realizacji.
Będzie on dostosowany do priorytetów realizowanych przez Komisję.
Nadzór nad finansami sprawuje minister właściwy do spraw informatyzacji, co gwarantuje odpowiednią kontrolę wydatkowania środków publicznych, natomiast Przewodniczący Komisji odpowiada za wdrażanie mechanizmów kontrolnych w celu uniknięcia przekroczenia założonych limitów.
Termin wejścia w życie przepisów ustawy Zachowane zostało wejście w życie przepisów ustawy zgodne z terminem wejścia w życie przepisów rozporządzenia 2024/1689.
Ustawa wejdzie w życie po upływie 14 dni od dnia ogłoszenia, przy czym przepisy dotyczące powołania organu nadzoru zaczną obowiązywać od dnia następującego po jej ogłoszeniu. Takie rozwiązanie umożliwia sprawne rozpoczęcie organizacji Komisji oraz szybkie wdrożenie działań niezbędnych do uruchomienia pracy nowego organu.
Jednocześnie wyjaśnić należy, że w zakresie spraw uregulowanych: 1)
w rozdziale III sekcje 1–3 i sekcja 5, rozdziale IV, rozdziale VI, rozdziałach VIII–XI, z wyłączeniem art. 78, oraz w zakresie spraw uregulowanych w art. 101 rozporządzenia z 2024/1689, przepisy ustawy będą obowiązywały od 2 sierpnia 2026 r.;
2)
w art. 6 ust. 1 rozporządzenia 2024/1689 i odpowiadających mu obowiązków ustanowionych w tym rozporządzeniu, przepisy ustawy będą obowiązywały od 2 sierpnia 2027 r.
Wskazane terminy wynikają wprost z art. 113 rozporządzenia 2024/1689.
Projekt zapewnia sprawną organizację i finansowanie Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji, umożliwiając efektywne zarządzanie rozwojem sztucznej inteligencji w Polsce. Tworzy on stabilne ramy prawne, organizacyjne i finansowe dla działalności Komisji, co pozwoli na skuteczne monitorowanie rozwoju sztucznej inteligencji i minimalizowanie związanych z nią zagrożeń. Wdrożenie ustawy stanowi istotny krok w kierunku nowoczesnej i odpowiedzialnej polityki państwa wobec dynamicznie rozwijających się technologii cyfrowych.
50
Projekt ustawy nie zawiera przepisów technicznych w rozumieniu przepisów rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i w związku z tym nie podlega procedurze notyfikacji.
W związku z art. 68–70 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców należy zaznaczyć, że projektowana ustawa, nakładając nowe obowiązki na przedsiębiorców będzie miała wpływ na działalność mikro- oraz małych i średnich przedsiębiorców. Projektowana ustawa ogranicza się jednak do nałożenia obowiązków niezbędnych do osiągnięcia celów rozporządzenia 2024/1689.
Projekt ustawy jest zgodny z przepisami prawa Unii Europejskiej i służy ich stosowaniu.
Projekt ustawy nie podlega przedstawieniu właściwym organom i instytucjom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia.
Projekt ustawy stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677, z późn. zm.) oraz zgodnie z § 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) został zamieszczony w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie „Rządowy Proces Legislacyjny”.
51
Nazwa projektu Ustawa o systemach sztucznej inteligencji Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji, pamela.krzypkowska@cyfra.gov.pl; sekretariat.dbi@cyfra.gov.pl
Data sporządzenia 20.03.2026 r.
Źródło:
Prawo UE Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji)
Nr w wykazie prac UC71
OCENA SKUTKÓW REGULACJI
1. Jaki problem jest rozwiązywany?
Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”.
Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności, ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji.
Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą opierały się na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim.
Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do:
1) wskazania właściwych organów krajowych, tj.:
- organu lub organów nadzoru rynku,
- organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie;
2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689;
3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie przepisów rozporządzenia 2024/1689.
W projekcie ustawy wprowadzono również podstawowe przepisy dotyczące piaskownic regulacyjnych. Zgodnie z art. 57 rozporządzenia 2024/1869 każde państwo członkowskie ma obowiązek ustanowienia przynajmniej jednej krajowej piaskownicy regulacyjnej do 2 sierpnia 2026 roku. Może ona być uruchomiona samodzielnie lub we współpracy z innymi państwami, a wypełnienie obowiązku dopuszcza także uczestnictwo w już istniejącej piaskownicy, o ile zapewnia ona równoważny zasięg krajowy. Komisja Europejska zyskuje tu rolę wspierającą, oferując doradztwo, narzędzia i pomoc techniczną w tworzeniu oraz funkcjonowaniu piaskownic. Oprócz rozwiązań na szczeblu krajowym dopuszcza się również tworzenie piaskownic regionalnych, lokalnych czy nawet wspólnych dla kilku państw, a Europejski Inspektor Ochrony Danych może powołać własną piaskownicę dla instytucji i organów unijnych.
Organy krajowe zobowiązane są do zapewnienia wystarczających zasobów finansowych, kadrowych i organizacyjnych, aby piaskownice działały efektywnie, terminowo i zgodnie z prawem. Mogą współpracować z innymi podmiotami z
ekosystemu AI, w tym organizacjami prywatnymi, a także muszą utrzymywać koordynację z organami nadzorującymi inne piaskownice powstałe na gruncie prawa unijnego czy krajowego. Komisja Europejska jest zobowiązana do przyjęcia jednolitych procedur i kryteriów funkcjonowania piaskownic, których celem będzie harmonizacja praktyk w całej UE i ograniczenie barier administracyjnych.
Piaskownica regulacyjna w projekcie ustawy o systemach sztucznej inteligencji rozwiązuje problem braku bezpiecznego i przejrzystego środowiska do testowania systemów sztucznej inteligencji zanim trafią one na rynek. Piaskownica regulacyjna tworzy kontrolowane warunki, w których można eksperymentować, trenować i walidować systemy AI pod stosownym nadzorem, co pozwala na identyfikację potencjalnych zagrożeń i dostosowanie technologii do wymogów prawa jeszcze przed ich komercjalizacją. Zawarte w projekcie przepisy umożliwią wypełnienie obowiązku wynikającego z art. 57 rozporządzenia 2024/1689. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów.
2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji i oczekiwany efekt Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie.
Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689; możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji oraz środków wspierania innowacyjności.
Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa.
Projektu ustawy nie stosuje się do:
1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z:
a) działalnością, o której mowa w art. 2 ust. 1 i 2 z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych,
b) działalnością gospodarczą, o której mowa w art. 3 w zw. z art. 4 ust. 1–2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców,
c) działalnością nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców,
d) działalnością, o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców,
e) działalnością rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego;
2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689;
3) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26);
4) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5–6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego, działaniach podejmowanych w celu zidentyfikowania i ścigania sprawcy przestępstwa;
5) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w tym punkcie;
6) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 5, przed wejściem w życie rozporządzenia 2024/1689;
7) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689.
Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania.
2
1. Właściwe organy krajowe Organ nadzoru rynku oraz punkt kontaktowy Przepisy rozporządzenia 2024/1689 zobowiązują państwa członkowskie do powołania lub wskazania organu nadzoru rynku.
W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne.
Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania).
Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna.
Pracami Komisji będzie kierował Przewodniczący powoływany przez Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej, spośród osób, które posiadają obywatelstwo polskie, korzystają z pełni praw publicznych, cieszą się nieposzlakowaną opinią i które nie były skazane prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, które jednocześnie posiadają wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub równorzędny oraz co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji, doświadczenie zawodowe uzyskane w trakcie pracy w takich podmiotach lub pracy naukowej, a także wyróżniają się wiedzą i posiadają znaczący dorobek w zakresie sztucznej inteligencji. Wybór Przewodniczącego Komisji przez Sejm za zgodą Senatu zapewni niezależność i demokratyczną legitymację. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji.
W skład Komisji będą także wchodzili dwaj Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym:
1) Prezesa Urzędu Ochrony Konkurencji i Konsumentów;
2) Komisji Nadzoru Finansowego;
3) Krajowej Rady Radiofonii i Telewizji;
4) Prezesa Urzędu Komunikacji Elektronicznej.
Komisja będzie działać w modelu kolegialnym, co zapewni większą rzetelność decyzji, a skargi będą rozpatrywane przez Przewodniczącego dla większej efektywności. Projekt ustawy przewiduje niezależność wszystkich osób wchodzących w skład Komisji w zakresie zadań przez nią realizowanych.
Dodatkowo Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, wyłącznie z głosem doradczym:
1) upoważnionego przedstawiciela podmiotu publicznego, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu;
2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia.
3
Przepisy uregulują również obowiązki i uprawnienia członków komisji, a także sposób wykonywania zadań.
Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji.
W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest wskazanie podmiotu pozwalającego na wykonywanie zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz Przewodniczącego. Przepisy rozporządzenia 2024/1689 nie wskazują na obowiązek utworzenia urzędu, a tym samym nie odnoszą się do kwestii pracowniczych w tym zakresie, jednak przesądzenie tych kwestii w ustawie jest niezbędne w celu zapewnienia właściwego funkcjonowania niezależnego organu nadzoru. Stąd też w przepisach projektu znalazły się uregulowania związane ze wskazaniem urzędu obsługującego ministra do spraw informatyzacji jako urzędu zapewniającego obsługę administracyjną, organizacyjną, kancelaryjną oraz wykonywania zadań przez Komisję oraz przewodniczącego Komisji.
Dla kompletności rozwiązań ustawowych uregulowane zostaną także kwestie wykraczające poza przepisy rozporządzenia 2024/1689, a dotyczące organizacji pracy pracowników.
Zadania nowego organu będą obejmowały w szczególności: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o których mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawia ministrowi właściwemu do spraw informatyzacji propozycje działań legislacyjnych, b) udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacje, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r.
– Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846).
Do istotnych zadań komisji chociaż wykraczających poza ramy rozporządzenia 2024/1689 należy także:
4
1) wydawanie przez opinii indywidualnych oraz wyjaśnień w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. W związku z zapewnieniem Komisji kompetencji do wydawania opinii indywidualnych i wyjaśnień niezbędne jest uregulowanie w projekcie ustawy również procedur z tym związanych, a także odziaływania tych dokumentów na inne organy;
2) wyrażanie opinii w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, a także udział w ich opracowywaniu.
Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji. Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art. 7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji.
Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji a Komisją, w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków). Jako organ opiniodawczo-doradczy Komisji zostanie powołana również Społeczna Rada do spraw Sztucznej Inteligencji, której członkowie będą wybierani przez Komisję spośród kandydatów zgłaszanych przez m.in.
Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, izby gospodarcze, związki zawodowe oraz fundacje i stowarzyszenia. Do zadań Rady będzie należeć wydawanie opinii i stanowisk w zakresie przekazanym przez Komisję oraz z własnej inicjatywy, a także przekazywanie wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków.
Powołanie organu opiniodawczo-doradczego organu nadzoru nie zostało objęte przepisami rozporządzenia 2024/1689.
Przepisy projektu ustawy zakładają także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. tworzenie piaskownic regulacyjnych, prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe.
W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, z zastrzeżeniem art. 2 ust 2, której celem będzie ustalenie zgodności działalności podmiotów z przepisami rozporządzenia oraz ustawy. Komisja będzie przeprowadzała kontrolę zgodnie z zatwierdzonymi planami kontroli, na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Kontrola będzie prowadzona, z wyjątkiem określonych w ustawie przypadków, w trybie zdalnym, z wykorzystaniem środków porozumiewania się na odległość.
Kontrola może zostać przeprowadzona przez upoważnionego pracownika właściwej komórki urzędu obsługującego ministra do spraw informatyzacji, co do zasady po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli oraz jej zakończenia, a także uprawnień i obowiązków kontrolujących i podmiotów kontrolowanych. Jeżeli w wyniku kontroli Komisja stwierdzi nieprawidłowości wypełniania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji wydanej przez Komisję lub ustawy, w projekcie ustawy przewidziano możliwość wydawania przez Komisję zaleceń pokontrolnych. Jest to regulacja wykraczająca poza przepisy rozporządzenia 2024/1689 jednak stanowi odpowiedź na potrzeby regulowanej materii.
Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy.
Postępowanie będzie wszczynane z urzędu, na wniosek Przewodniczącego, zastępcy, członka Komisji lub Społecznej Rady ds. Sztucznej Inteligencji, lub na podstawie skargi. W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe. Procedury prowadzenia postępowań zostały pozostawione do uregulowania Państwom członkowskim w ramach przepisów krajowych i w takim zakresie nie wynikają bezpośrednio z przepisów rozporządzenia 2024/1689.
W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W przypadku uzasadnionego podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy,
5
Komisja może wydać w drodze postanowienia ostrzeżenie, w którym wskazuje działania, które strona powinna podjąć w celu przywrócenia stanu zgodnego z prawem. W toku postępowania Komisja może także, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji.
Zarówno instytucja ostrzeżenia, jak i instytucja układu nie wynikają wprost z rozporządzenia 2024/1689 chociaż wchodzą one regulacje dotyczące zasad postępowania przed organem nadzoru rynku.
Stwierdzenie przez Komisję naruszenia przepisów rozporządzenia 2024/1689 następuje w formie decyzji zawierającej środki nakazujące usunięcie skutków naruszenia.
Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych. W takim wypadku Komisja obowiązana będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689.
W związku z przetwarzaniem przez Komisję danych osobowych w celu realizacji zadań wynikających z rozporządzenia 2024/1689 w projekcie wskazano procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. Przepisy te nie stanowią z wykonania rozporządzenia 2024/1689.
Organ notyfikujący Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność o raz jako organ notyfikujący. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. Notyfikacja jednostek oceniających zgodność następować będzie na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku.
Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Dla spójności z przepisami oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 powierzone zostaną Polskiemu Centrum Akredytacji, do którego zadań należeć będzie:
1) uczestniczenie, we współpracy z ministrem właściwym do spraw informatyzacji, w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność;
2) opracowanie szczegółowego programu akredytacji jednostek oceniających zgodność oraz dokonywanie aktualizacji tego programu;
3) przekazywanie ministrowi właściwemu do spraw informatyzacji informacji o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach.
Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych.
2. Skargi W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów.
Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości
6
odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów.
Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ.
3. Środki wspierające innowacyjność W projekcie ustawy określono ramy tworzenia tzw. piaskownic regulacyjnych w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689. Komisja ma kompetencje do udzielenia w drodze decyzji dostępu do piaskownicy regulacyjnej podmiotom wybranym w drodze konkursu. Mikro, mali i średni przedsiębiorcy w rozumieniu przepisów ustawy z dnia 6 marca 2018 r.
– Prawo przedsiębiorców będą mogli uczestniczyć w piaskownicy regulacyjnej nieodpłatnie.
Celem tych regulacji będzie:
– ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania.
– zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce.
– stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki.
Komisja będzie mogła prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki.
W ramach innych środków wspierania innowacyjności, zgodnie z projektem ustawy, minister właściwy do spraw informatyzacji może podejmować działania takie jak:
1) udzielanie pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansowanie lub współfinansowanie programów i projektów w tym zakresie ze środków pochodzących z budżetu państwa w formie dotacji, jak również budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, środków pochodzących z bezzwrotnej pomocy zagranicznej oraz środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień;
2) inicjowanie, wspieranie i realizowanie programów obejmujących finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyniki badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień.
Udzielenie finansowania będzie możliwe także dla Instytutu Badawczego IDEAS.
Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki.
4. Administracyjne kary pieniężne Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby Komisja nakładała kary pieniężne w drodze decyzji, w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. Zgodnie z art. 99 rozporządzenia 2024/1689 kara za nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Z kolei nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5 (art. 99 ust. 4 lit. a-g rozporządzenia 2024/1689) podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest
7
przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów.
Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. Jeśli Komisja uzna odwołanie za słuszne, może – nie przekazując akt sądowi – uchylić albo zmienić swoją decyzję w całości lub w części.
Dodatkowo, projekt zakłada możliwość uzyskania przez stronę zmniejszenia wysokości nałożonej kary administracyjnej.
Oprócz wcześniej wspomnianego środka zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, w przepisach przewidziano kompetencję Komisji do zmniejszenia, w drodze decyzji, administracyjnej, wysokości kary pieniężnej, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu wydanym przez Komisję, a naruszenie nie doprowadziło do śmierci lub uszczerbku na zdrowiu człowieka.
Ustanowienie procedur nakładania administracyjnych kar pieniężnych oraz określenie przeznaczenia tych kar rozporządzenie 2024/1689 pozostawiło w gestii państw członkowskich.
W projekcie zawarto także przepisy dotyczące sankcji karnych za określone czyny związane z udaremnianiem lub utrudnianiem prowadzenia kontroli, czynności w postępowaniu w przypadku stwierdzenia naruszenia związanego ze stwarzaniem przez system AI ryzyka oraz niedostarczeniem lub dostarczeniem niedostatecznych danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Regulacja ta nie wynika bezpośrednio z przepisów rozporządzenia 2024/1689.
Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw, a także przepisy przejściowe, dostosowujące i końcowe.
3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE?
Rozporządzenie 2024/1689 jest aktem prawnym bezpośrednio obowiązującym, będzie więc miało bezpośrednie zastosowanie we wszystkich państwach członkowskich Unii Europejskiej. Najważniejszym celem unijnych przepisów jest to, aby systemy sztucznej inteligencji stosowane w UE były bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. W konsekwencji wszystkie państwa członkowskie UE będą stosowały przepisy ww. rozporządzenia, a prace nad wdrożeniem obecnie toczą się we wszystkich krajach.
Z przeprowadzonej analizy porównawczej wynika, że w państwach członkowskich UE nie ukształtował się jeden dominujący model organizacji nadzoru rynku nad systemami sztucznej inteligencji. Rozwiązania są dostosowywane do krajowej struktury administracji, przy jednoczesnym zachowaniu wymogów art. 70 rozporządzenia 2024/1689, w szczególności w zakresie niezależności organu oraz zapewnienia odpowiednich zasobów i kompetencji.
W analizowanych państwach przyjmowane są w szczególności: (1) model nowego wiodącego organu nadzoru rynku przy jednoczesnym zachowaniu sektorowego podziału kompetencji dla części systemów wysokiego ryzyka (np. Hiszpania), (2) model oparty na istniejących instytucjach z wyznaczeniem wiodącego organu i punktu kontaktowego oraz uzupełniającą rolą organów sektorowych (np. Malta), a także (3) model wieloorganowy oparty w całości na istniejących organach administracji publicznej, z przypisaniem zadań zgodnie z właściwością rzeczową.
Do tej pory dwa państwa członkowskie UE, Finlandia i Luksemburg, opublikowały projekty aktów prawnych wdrażających do krajowych przepisów rozwiązania w zakresie nadzoru z rozporządzenia 2024/1689. W fińskiej propozycji przepisów (Hallituksen esitys laiksi eräiden tekoälyjärjestelmien valvonnasta ja siihen liittyvien lakien muuttamisesta, nr projektu TEM050:00/2024) rolę organów nadzoru rynku rozdzielono pomiędzy już istniejące organy, które sprawują nadzór nad poszczególnymi sektorami gospodarki i życia publicznego. Analogicznie, kilku organom przyznano funkcję organów notyfikujących. Jako pojedynczy punkt kontaktowy wyznaczona została Agencja Transportu i Komunikacji (Traficom).
W zakresie środków nadzoru rynku projekt ustawy odsyła do rozdziału 3 ustawy o nadzorze rynku (Laki eräiden tuotteiden markkinavalvonnasta, 16.12.2016/1137). W projekcie przewidziano również powstanie nowego organu działającego przy Traficom, który nakłada sankcję za naruszenia określonych przepisów ustawy, jeżeli przekracza ona 300 000 EUR.
W luksemburskim projekcie ustawy zadania w zakresie nadzoru rynku oraz notyfikacji na gruncie rozporządzenia 2024/1689 również zostały rozdzielone między kilka organów. Jako pojedynczy punkt kontaktowy wyznaczono organ ochrony danych osobowych.
8
Ponadto, w kilku państwach członkowskich wprowadzono w ostatnim czasie różnorodne rozwiązania prawne i organizacyjne w zakresie zapewnienia nadzoru nad systemami sztucznej inteligencji.
Hiszpania W Hiszpanii przyjęto rozwiązanie oparte na powołaniu nowego organu nadzoru rynku nad systemami sztucznej inteligencji.
W 2023 r. powołano tam Agencję Nadzoru nad Sztuczną Inteligencją (Agencia Española de Supervisión de la Inteligencia Artificial). Działania Agencji mają służyć m.in. następującym celom: nadzór nad wdrażaniem, użytkowaniem lub wprowadzaniem do obrotu systemów sztucznej inteligencji, a w szczególności takich, które mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa oraz praw podstawowych; współpracy i koordynacji między innymi organami krajowymi; promocji środowisk testowych systemów sztucznej inteligencji; podnoszeniu świadomości, rozpowszechnianiu szkoleń związanych z odpowiedzialnym wykorzystaniem sztucznej inteligencji. Agencja Nadzoru nad Sztuczną Inteligencją podlega Ministerstwu Gospodarki i Transformacji Cyfrowej. Nowy organ z siedzibą w La Corunii został wyposażony w budżet na rozpoczęcie działalności w wysokości ok. 21 mln. Euro (2023).
W przyjętej 15 maja 2024 r. strategii AI (2024 Artificial Intelligence Strategy) Agencja Nadzoru nad Sztuczną Inteligencją została wskazana jako główny organ odpowiedzialny za wdrożenie i nadzór nad egzekwowaniem rozporządzenia 2024/1689.
Ponadto 8 listopada 2023 r. na mocy królewskiego dekretu nr 817/2023 w Hiszpanii powołano piaskownicę regulacyjną, której celem jest stworzenie środowiska testowego dla systemów wysokiego ryzyka. Według aktualnych informacji, w styczniu 2025 r. trwał pierwszy nabór wniosków.
Austria W Austrii w styczniu 2024 r. weszło życie prawo (zmiany w Telekommunikationsgesetz), na mocy którego ustanowiono Biuro Obsługi ds. sztucznej inteligencji (KI-Servicestelle) przy austriackim urzędzie ds. telekomunikacji (RTR). Biuro ma służyć jako punkt kontaktowy i centrum informacji dla ogółu społeczeństwa na temat sztucznej inteligencji oraz wspierać wdrażanie rozporządzenia 2024/1689. Na swojej stronie internetowej Biuro publikuje informacje na temat rozporządzenia oraz inicjatyw w zakresie sztucznej inteligencji podejmowanych w Austrii.
W lutym 2024 r. powołano Radę Doradczą ds. sztucznej inteligencji (KI-Beirat), której rolą ma być doradzanie rządowi federalnemu i Biuru Obsługi ds. sztucznej inteligencji we wdrażaniu rozporządzenia 2024/1689.
W listopadzie 2024 r. w Austrii przedstawiono także Plan wdrożenia na 2024 r. dla strategii rządu federalnego dla AI (Strategie der Bundesregierung für Künstliche Intelligenz - Umsetzungsplan 2024). Federalny Urząd Kanclerski Austrii, Wydział VII – Cyfryzacja i E-administracja (Bundeskanzleramt, Sektion VII – Digitalisierung und E-Government) został w nim wyznaczony jako odpowiedzialny za przygotowanie wdrożenia rozporządzenia 2024/1689 do porządku krajowego.
Węgry Węgierskie rozwiązanie oparto na wskazaniu istniejącej instytucji rządowej – Ministerstwa Gospodarki Narodowej – jako organu nadzoru rynku AI. Jednocześnie przewidziano mechanizm umożliwiający wyznaczenie organu nadzoru rynku sztucznej inteligencji w drodze rozporządzenia, co świadczy o elastycznym modelu organizacyjnym.
Dania Dania przyjęła model wieloorganowy oparty w całości na istniejących instytucjach administracji publicznej. Mechanizmy współpracy opierają się na wyznaczeniu Duńskiej Agencji Cyfryzacji (Digitaliseringsstyrelsen) jako centralnego punktu kontaktowego (Single Point of Contact) w rozumieniu art. 70 ust. 2 AI Act oraz na obowiązku współdziałania pomiędzy organami i zapewnienia zasobów niezbędnych do wykonywania zadań.
Malta Na Malcie głównym organem nadzoru rynku oraz jednolitym punktem kontaktowym jest Malta Digital Innovation Authority (MDIA). Model ten przewiduje centralną rolę MDIA w ogólnym nadzorze rynku AI, w tym prowadzeniu krajowej piaskownicy regulacyjnej, pełnieniu funkcji organu notyfikującego oraz nakładaniu administracyjnych kar pieniężnych; dodatkowo, w przypadku braku wyznaczenia innego organu, MDIA przejmuje funkcję organu nadzoru rynku, co nadaje jej pozycję „domyślną” w systemie.
Włochy We Włoszech wyznaczono dwie istniejące agencje jako krajowe organy właściwe – AgID (Agenzia per l’Italia digitale) oraz ACN (Agenzia per la cybersicurezza nazionale). W analizie wskazano także mechanizm koordynacji z udziałem organów sektorowych poprzez komitet koordynacyjny przy Prezesie Rady Ministrów, z udziałem kierownictwa AgID i ACN oraz przedstawicieli organów sektorowych.
Słowenia
9
W Słowenii kompetencje nadzorcze przekazano istniejącym instytucjom sektorowym, a współpracę oraz rozstrzyganie sporów kompetencyjnych pomiędzy organami zapewnia Rada Koordynacyjna Organów Nadzoru Rynku.
Prace nad przyjęciem rozwiązań regulacyjnych dotyczących sztucznej inteligencji trwają również w krajach OECD. Poniżej opisano przykłady dwóch z nich, w których już przyjęto akty prawne w tym zakresie lub trwają nad nimi prace.
Korea Południowa 26 grudnia 2024 r. w Korei Południowej przyjęto Podstawowy Akt o AI (AI Basic Act, South Korean AI Act). Wejdzie on w życie w styczniu 2025 r.
Celem aktu jest ochrona praw i godności człowieka oraz poprawa jakości życia i wzmocnienie konkurencyjności Korei Południowej poprzez stworzenie ram niezbędnych do prawidłowego rozwoju sztucznej inteligencji. Stanowi on usankcjonowanie prawne dla powołania Narodowego Komitetu ds. AI (National AI Committee), które miało miejsce we wrześniu 2024 r. Zadaniem Komitetu jest m. in. rozpatrywanie i podejmowanie decyzji w sprawie głównych polityk promowania sztucznej inteligencji oraz tworzenie podstaw zaufania do AI. Akt uprawnia także Ministra ds. Nauki i ICT do utworzenia Ośrodka ds. Polityki AI, którego zadaniem będzie opracowywanie polityk w zakresie sztucznej inteligencji oraz ustalanie i upowszechnianie norm międzynarodowych.
Na gruncie aktu, operatorzy systemów AI, które zostały w nim zdefiniowane jako wysokiego wpływu (high-impact) i generatywne, podlegają obowiązkom w zakresie transparentności i bezpieczeństwa. Rząd może także wspierać dobrowolną weryfikację bezpieczeństwa i niezawodności systemów AI wykorzystywanych przez sektor prywatny oraz oceny ich wpływu. Ponadto, ministrowi ds. Nauki i ICT została przyznana kompetencja do uchwalania i ogłaszania zasad etycznych dla AI w zakresie bezpieczeństwa, niezawodności, dostępności oraz wpływu na życie i dobrobyt ludzi. Minister ds. Nauki i ICT może także, w przypadku, gdy poweźmie informację, że naruszone zostały przepisy aktu, prowadzić postępowania wyjaśniające oraz zarządzić podjęcie środków w celu zaprzestania naruszenia lub usunięcia jego skutków.
Kanada Kanada jako jeden z pierwszych krajów OECD, w 2016 r. przyjęła regulacje adresujące część problematyki objętej zakresem Rozporządzenia 2024/1689. Dyrektywa w zakresie automatycznego podejmowania decyzji (Directive on automated decision making) to akt prawny w randze ustawy, w którym wprowadzone zostały mechanizmy oparte na ryzyku mające zapewnić przejrzystość, rozliczalność, legalność i uczciwość zautomatyzowanych decyzji mających wpływ na Kanadyjczyków.
Dyrektywie towarzyszy załącznik – Algorytymiczna ocena wpływu (Algorithmic Impact Assessment) – wzór formularza, który obowiązkowo należy wypełnić w przypadku wdrożenia systemu sztucznej inteligencji w instytucjach federalnej służby publicznej. Dla zapewnienia spójności między systemem nadzoru oraz wspierania badań i innowacji, w 2019 r. utworzono instytucję - Radę Doradczą ds. Sztucznej Inteligencji (Advisory Council on AI), której zadaniem jest doradzanie rządowi Kanady w budowaniu przewag konkurencyjnych w nauce, technologii, a także światowym przywództwie w dziedzinie sztucznej inteligencji, identyfikowaniu możliwości stworzenia wzrostu gospodarczego oraz zapewnianiu, że postępy w zakresie sztucznej inteligencji odzwierciedlają wartości określone w kanadyjskim prawie.
Kontynuując ten kierunek, Kanada w 2022 r. ogłosiła dokument pn. Karta Praw Cyfrowych (Karta Praw Cyfrowych), która zawiera propozycje działań prawnych i administracyjnych kompleksowo odnoszących się do zagrożeń dla praw obywateli i konsumentów związanych z rozwojem technologii cyfrowych. W 2022 r. rząd Kanady zaprezentował wpisujące się w ten program projekty trzech aktów prawnych pod wspólną nazwą Bill C-27. Jednym z nich jest Akt o sztucznej inteligencji i danych (Artificial Intelligence and Data Act), projekt ustawy, który zawiera m.in. propozycję powołania nowego organu ds. sztucznej inteligencji i ochrony danych (AI and Data Commissioner), przepisy karne za stosowanie systemów sztucznej inteligencji uznanych za szczególnie groźne, a także (oparty na metodologii Algorithmic Impact Assessment) zestaw przepisów proceduralnych określających obowiązki podmiotów wprowadzających na rynek oraz stosujących systemy sztucznej inteligencji. Projekt dotychczas nie został uchwalony i pozostaje w fazie prac legislacyjnych.
4. Podmioty, na które oddziałuje projekt Grupa Obywatele
Wielkość W końcu 1 kwartału 2025 r. ludność Polski liczyła 37437 tys. osób
Urząd Ochrony Danych Osobowych
1
Źródło danych Dane statystyczne Głównego Urzędu Statystycznego, 2025 r. https://ssgk.stat.gov.pl/Ludnosc. html Informacja powszechnie dostępna
10
Oddziaływanie Umożliwienie złożenia skargi do właściwych organów na naruszenia przepisów rozporządzenia 2024/1689.
Prezes Urzędu Ochrony Danych Osobowych będzie współpracował z Komisją w zakresie nadzoru nad systemami sztucznej inteligencji w zakresie określonym
Krajowa jednostka akredytująca Polskie Centrum Akredytacji
(PCA)
Przedsiębiorcy, w tym w szczególności przedsiębiorcy stosujący w działalności narzędzia sztucznej inteligencji
1
Informacja powszechnie dostępna
ok. 5 202 000 (ogólna liczba przedsiębiorstw); wg szacunków (PIE,
2024) 6,6% polskich przedsiębiorstw (ogólna liczba przedsiębiorstw w gospodarce narodowej: 5,2 mln) deklaruje korzystanie z narzędzi sztucznej inteligencji, co przekłada się na szacunkową liczbę 330 tys. firm korzystających z tej technologii. ok 1/3 firm ICT deklaruje, że w ich głównych produktach rozwiązania sztucznej inteligencji odgrywają kluczową rolę; zważywszy, że w 2022 wg GUS r. było zarejestrowanych 2712 firm prowadzących działalność w zakresie IT w 2022 r. (wg klasyfikacji PKD), daje to szacunkową liczbę ok. 900 firm sektora sztucznej inteligencji w Polsce.
Główny Urząd Statystyczny, 2024 r.
Polski Instytut Ekonomiczny, 2024 r.
Sąd okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów
1
Informacja powszechnie dostępna
Sąd apelacyjny w Warszawie, sądy okręgowe i rejonowe
Stan na 30.06.2024 r.: 11 sądów apelacyjnych, 47 sądów okręgowych i 319 sądów rejonowych
Informacja ogólnodostępna
Sądy powszechne – pion karny oraz jednostki prokuratury
318 sądów powszechnych w pionie karnym oraz 357 jednostek prokuratury w pionie karnym 12
Informacja ogólnodostępna
Przedsiębiorcy sektora sztucznej inteligencji
Sądownictwo wojskowe
Główny Urząd Statystyczny, 2023 r.
Fundacja Start Up Poland, 2024 r.
Raport „Polskie Startupy, 2023 r.”
Informacja ogólnodostępna
11
przepisami rozporządzenia 2024/1689.
Realizacja zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689.
Obowiązek spełnienia wymogów w postaci przestrzegania zakazów określonych w rozporządzeniu 2024/1689 dla poszczególnych typów podmiotów wykorzystujących narzędzia sztucznej inteligencji.
Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689.
Realizacja obowiązków wynikających z wprowadzenia listy zakazanych praktyk sztucznej inteligencji (zakaz wprowadzania do obrotu lub na rynek) oraz ograniczeń, które będą wynikać ze stosowania niektórych takich systemów w ramach dozwolonego użytku (obszary obronności, bezpieczeństwa narodowego oraz badań i nauki).
Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 Rozporządzenia 2024/1689.
Rozpatrywanie spraw w ramach drogi odwoławczej od decyzji Komisji.
Szkolenia merytoryczne kadry sądu.
Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji.
Wzrost liczby spraw trafiających do sądów, wynikający z wdrożenia ustawy.
Sąd Apelacyjny w Warszawie – rozpoznawanie apelacji i zażaleń z zakresu systemów sztucznej inteligencji Wzrost liczby spraw, w których prowadzone lub nadzorowane będą postępowania karne w zakresie czynów karalnych określonych w ustawie.
Odziaływanie z zakresu prac Komisji.
Organy administracji publicznej:
1) Prezes Urzędu Ochrony Konkurencji i Konsumentów;
2) Komisja Nadzoru Finansowego;
3) Krajowa Rada Radiofonii i Telewizji;
4) Prezes Urzędu Komunikacji Elektronicznej Jednostki samorządu terytorialnego
Urząd obsługujący ministra właściwego do spraw informatyzacji Minister właściwy do spraw informatyzacji
4
Dane własne
16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). 1
Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski
Obowiązek spełnienia wymogów rozporządzenia 2024/1689 związanych z przestrzeganiem zakazu wprowadzania do użytku i używania systemów zakazanych.
Informacje powszechnie dostępne
1
Informacje powszechnie dostępne
Zapewnienie obsługi organizacyjnej, kancelaryjnej i administracyjnej.
Utworzenie właściwej komórki organizacyjnej.
Pełnienie funkcji organu notyfikującego, w tym:
- współpraca z Polskim Centrum Akredytacji;
- kontakty z organami notyfikującymi z innych państw oraz Komisją Europejską Określenie w drodze rozporządzenia wysokość opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej Wykonywanie zadań z art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji w zakresie najlepszych praktyk Udzielanie pomocy finansowej jednostkom podległym i nadzorowanym lub finansowanie w zakresie nadań naukowych i prac rozwojowych na podstawie art. 84.
Udzielanie pomocy Komisji w przeprowadzaniu kontroli Działanie z charakterze organu egzekucyjnego.
Działanie w charakterze organu nadzoru w związku z egzekucją
Policja Naczelnicy Urzędów Skarbowych Dyrektorzy izb administracji skarbowej
Szkolenia merytoryczne kadry sądu.
Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji.
Udział w pracach Komisji jako jej członek.
366 16
Informacja powszechnie dostępna Informacja Ministerstwa Finansów i Gospodarki Informacja Ministerstwa Finansów i Gospodarki
12
administracyjnych kar pieniężnych.
5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Ministerstwo Cyfryzacji zmierzając do zapewnienia skutecznego stosowania rozporządzenia 2024/1689 podjęło szeroko zakrojone i transparentne prekonsultacje (od 2 kwietnia 2024 r. do 23 kwietnia 2024 r.) ze wszystkimi zainteresowanymi tą tematyką.
Projekt ustawy został udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce „Rządowy Proces Legislacyjny” zgodnie z § 52 ust. 1 uchwały nr 190 uchwały Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677).
Projekt ustawy w ramach konsultacji publicznych został przesłany w szczególności do następujących podmiotów:
1) Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji,
2) Polska Izba Informatyki i Telekomunikacji,
3) Polska Izba Komunikacji Elektronicznej,
4) Krajowa Izba Gospodarczej,
5) Krajowa Izba Komunikacji Ethernetowej,
6) Polska Izba Radiodyfuzji Cyfrowej,
7) Polska Izba Handlu,
8) Izba Gospodarki Elektronicznej,
9) Krajowa Izba Gospodarki Cyfrowej,
10) Fundacja Bezpieczna Cyberprzestrzeń,
11) Polskie Towarzystwo Informatyczne,
12) Fundacja Nowoczesna Polska,
13) Fundacja Panoptykon,
14) Internet Society Poland,
15) Stowarzyszenie Inżynierów Telekomunikacji,
16) Fundacja Stefana Batorego,
17) Związek Pracodawców Mediów Publicznych,
18) Związek Pracodawców Mediów Elektronicznych Mediakom,
19) Związek Pracodawców Branży Internetowej IAB Polska,
20) Związek Telewizji Kablowych w Polsce Izba Gospodarcza,
21) Związek Rzemiosła Polskiego,
22) Polska Organizacja Handlu i Dystrybucji,
23) Naczelna Rada Zrzeszeń Handlu i Usług,
24) Polskie Stowarzyszenie Marketingu SMB,
25) Fundacja Moje Państwo,
26) Amerykańska Izba Handlowa w Polsce,
27) Federacja Konsumentów,
28) Związek Cyfrowa Polska,
29) Stowarzyszenie Praktyków Ochrony Danych Osobowych,
30) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo,
31) Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego,
32) Federacja Przedsiębiorców Polskich,
33) Fundacja Open Allies,
34) Fundacja Instrat,
35) Fundacja Startup Poland,
36) Wikimedia Europe,
37) Fundacja Forum Konsumentów,
38) Stowarzyszenie Dziennikarzy i Wydawców Repropol,
39) Stowarzyszenie Sygnał,
40) Izba Wydawców Prasy,
41) Stowarzyszenie Autorów ZAiKS (ZAiKS),
42) Związek Autorów i Producentów Audiowizualnych (ZAPA),
43) Związek Polskich Autorów i Kompozytorów ZAKR,
44) Stowarzyszenie Kreatywna Polska (SKP),
45) Sieć Badawcza Łukasiewicz – PORT,
46) Stowarzyszenie Nowoczesnej Edukacji Prawnej,
47) CEE Digital Democracy Watch,
48) Fundacja AILAWTECH,
13
49) 50) 51) 52) 53) 54) 55) 56) 57) 58) 59) 60) 61) 62) 63) 64) 65) 66) 67) 68) 69) 70)
Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa, Centrum Cyfrowe, Francusko-Polska Izba Przemysłowo Handlowa, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A., Bank Gospodarstwa Krajowego S.A., Związek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze.
Projekt ustawy został skierowany do opiniowania do następujących podmiotów:
1) Prezes Urzędu Komunikacji Elektronicznej,
2) Prezes Urzędu Ochrony Danych Osobowych,
3) Prezes Urzędu Ochrony Konkurencji i Konsumentów,
4) Krajowa Rada Radiofonii i Telewizji,
5) Komisja Nadzoru Finansowego,
6) Rzecznik Małych i Średnich Przedsiębiorców,
7) Rzecznik Praw Obywatelskich,
8) Rzecznik Praw Dziecka,
9) Polskie Centrum Akredytacji,
10) Polski Komitet Normalizacyjny,
11) Rzecznik Praw Pacjenta,
12) Rzecznik Finansowy,
13) Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych,
14) Główny Inspektor Pracy,
15) Prezes Urzędu Patentowego Rzeczpospolitej Polskiej,
16) Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych,
17) Prezes Prokuratorii Generalnej RP,
18) Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego,
19) Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie,
20) Krajowa Rady Sądownictwa,
21) Dyrektor Narodowego Centrum Badań i Rozwoju,
22) Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości,
23) Dyrektor Polskiej Agencji Inwestycji i Handlu,
24) Prezes Polskiego Funduszu Rozwoju,
25) Dyrektor Narodowego Centrum Nauki,
26) Przewodniczący Zarządu Głównego Forum Związków Zawodowych,
27) Przewodniczący Komisji Krajowej NSZZ „Solidarność”,
28) Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych,
29) Prezydent Konfederacji Lewiatan,
30) Prezydent Pracodawców RP,
31) Prezes Związku Pracodawców Business Centre Club,
32) Prezes Związku Przedsiębiorców i Pracodawców,
33) Prezes Związku Rzemiosła Polskiego,
34) Przewodniczący Federacji Przedsiębiorców Polskich,
35) Prezes Polskiego Towarzystwa Gospodarczego,
36) Federacja Związków Zawodowych Pracowników Telekomunikacji,
37) Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji,
14
38) 39) 40) 41) 42) 43) 44) 45) 46)
Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego.
W ramach I etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 16 października 2024 r.
Termin na zgłaszanie uwag wynosił 30 dni. W ramach II etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 10 lutego 2025 r. Termin na zgłaszanie uwag wynosił 14 dni.
W ramach opiniowania projekt ustawy został także przekazany Komisji Wspólnej Rządu i Samorządu Terytorialnego.
6. Wpływ na sektor finansów publicznych (ceny stałe z …… r.)
Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 (2026) 1,86
1
2
3
4
5
6
7
8
9
10
7,21
7,38
7,57
7,75
7,94
8,16
8,35
8,57
8,77
9,00
0,05
0,18
0,18
0,19
0,19
0,19
0,20
0,20
0,21
0,21
0,21
0,26
1,00
1,02
1,05
1,07
1,10
1,13
1,16
1,19
1,22
1,25
FUS
NFZ
FP FS
pozostałe jednostki (oddzielnie)
1,17
4,56
4,67
4,79
4,91
5,03
5,16
5,28
5,42
5,55
5,70
82,56* Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia 2,01 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia 11,45 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia 52,24
0,29
1,12
1,15
1,17
1,20
1,23
1,27
1,30
1,33
1,36
1,40
12,82
0,04
0,14
0,15
0,15
0,16
0,16
0,16
0,17
0,17
0,18
0,18
1,46
0,05
0,21
0,21
0,22
0,22
0,23
0,24
0,24
0,25
0,25
0,26
2,18
0
0
0
0
0
0
0
0
0
0
0
0
Wydatki ogółem budżet państwa
9,95
24,54
24,97
25,69
26,43
27,19
27,98
28,79
29,62
30,48
31,374
287,01
9,30
23,74
24,17
24,89
25,63
26,39
27,18
27,99
28,82
29,68
30,57
278,36
0,2
0,2
0,2
0,2
0,2
0,2
0,2
0,2
0,2
0,2
0,2
0,45
0,6
0,6
0,6
0,6
0,6
0,6
0,6
0,6
0,6
0,6
2,2 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia 6,45
-8,09
-17,33 -17,59 -18,12 -18,68 -19,25 -19,82 -20,44 -21,05 -21,71 -22,37
-204,45
-9,25 0,06
-23,56 -23,99 -24,70 -25,44 -26,20 -26,98 -27,79 -28,61 -29,47 -30,36 0,80 0,82 0,85 0,87 0,90 0,93 0,96 0,99 1,02 1,05
-276,35 9,25
-0,45
-0,6
-6,45
Dochody ogółem
budżet państwa
JST
JST
pozostałe jednostki (oddzielnie)
Saldo ogółem budżet państwa
JST
pozostałe jednostki (oddzielnie)
Źródła finansowania
-0,6
-0,6
-0,6
-0,6
-0,6
-0,6
-0,6
-0,6
-0,6
Łącznie (0–10)
Źródłem finansowania dla wydatków związanych z powołaniem nowego organu (Komisji) będzie budżet państwa. Wydatki związane utworzeniem i funkcjonowaniem Komisji w 2026 r. będą pokryte z rezerwy celowej, która za pismem Ministerstwa Finansów z 6 października 2025 r., sygn.
PR2.021.403.2024, „zgodnie z wystąpieniem Ministra Cyfryzacji w sprawie dodatkowych potrzeb wynosi 20 250 000 złotych” i znajduje się w części 83 budżetu państwa. Koszty związane z jej funkcjonowaniem w latach kolejnych (2027–2035) pokrywane będą z części 27 – Informatyzacja.
Oszacowane skutki finansowe związane z wejściem w życie projektowanej ustawy muszą zostać zabezpieczone w ustawie budżetowej na rok 2027 i lata następne. Mając na uwadze zatrudnienie
15
pracowników urzędu obsługującego ministra właściwego do spaw informatyzacji na zasadach określonych w ustawie o służbie cywilnej, niezbędne jest też dodatkowe coroczne uwzględnienie zmiany kwoty bazowej w ramach skutków finansowych wejścia w życie projektu ustawy.
Źródłem finansowania dla wydatków związanych oddziaływaniem ustawy na Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów będzie budżet części 15 – Sądy powszechne.
Skutki proponowanych rozwiązań w części 15 – Sądy powszechne będą możliwe do poniesienia w ramach dotychczas posiadanych środków budżetowych w roku wejścia w życie ustawy i nie będą podstawą do planowania i ubiegania się o dodatkowe środki z budżetu państwa w roku wejścia w życie ustawy. Po pierwszych latach funkcjonowania przepisów ustawy Ministerstwo Sprawiedliwości dokona rewizji skutków finansowych w ramach prac nad ustawą budżetową w oparciu o rzeczywiste obciążenie etatowe dla sądów i SOKIK Pomoc finansowa udzielana przez ministra właściwego do spraw informatyzacji w oparciu o art. 99 ustawy będzie każdorazowo finansowana w ramach limitu wydatków części 27 – Informatyzacja i nie będzie stanowić podstawy do ubiegania się o dodatkowe środki z budżetu państwa na ten cel w okresie obowiązywania ustawy.
Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych. Przyjęcie projektu nie będzie podstawą do planowania i ubiegania się o dodatkowe środki finansowe dla części 10 – Urząd Ochrony Danych Osobowych (w tym na nowe etaty).
Kwoty dochodów budżetu państwa oszacowano proporcjonalnie do kwot dochodów JST wykazanych w tabeli powyżej, zgodnie z zasadą podziału wpływów z PIT pomiędzy JST i budżet państwa w proporcjach 85% : 15%. Zastosowano wzór:
Dochody budżetu państwa = (15/85) × Dochody JST
Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń
* Ustalenie szacunkowej wysokości nałożonych kar z tytułu naruszenia przepisów rozporządzenia 2024/1968, które będą stanowić przychód budżetu państwa w ujęciu rocznym nie jest możliwe w oparciu o obecny stan wiedzy.
Utworzenie i funkcjonowanie nowego organu nadzoru rynku Skutki finansowe niniejszej ustawy związane z utworzeniem organu nadzoru rynku AI i zapewnieniem realizacji jego zadań zostały wyliczone przy założeniu, że powstanie nowy krajowy organ nadzoru pełniący jednocześnie funkcję punktu kontaktowego. Organ będzie miał charakter kolegialny.
Obsługę administracjo-kancelaryjną organu będzie zapewniał urząd obsługujący ministra właściwego do spraw informatyzacji w zakresie posiadanych zasobów kadrowych.
W celu zapewnienia realizacji zadań Komisji i Przewodniczego Komisji będą oni mogli upoważnić pracowników ww. urzędu do załatwiania niektórych spraw w ich imieniu. W tym celu planowane jest utworzenie właściwej komórki organizacyjnej w urzędzie i zasilenie jej docelowo 70 nowymi etatami merytorycznymi. Szacowana liczba etatów wynika z potrzeby zabezpieczenia realizacji zadań tego podmiotu określonych w ustawie i rozporządzeniu 2024/1689.
Szacunkowo przyjęto założenie, że w roku 2026 zatrudnienie nowych pracowników merytorycznych wyniesie 30 osób, a w następnych latach do 70 etatów merytorycznych nie wliczając w to Przewodniczącego Komisji oraz dwóch zastępców Przewodniczego Komisji. Do nowych pracowników zastosowanie znajdą przepisy ustawy o służbie cywilnej oraz ustawy –Kodeks pracy.
Środki na wynagrodzenia i funkcjonowanie Komisji będą uruchamiane adekwatnie do upływu czasu i faktycznego zatrudnienia w roku wejścia w życie ustawy i w każdym następnym roku do daty uzyskania pełnej funkcjonalności Koszty w roku 2026 wynoszą 9 301 554,00 zł i obejmują:
a) wydatki jednorazowe:
– zakup 50 laptopów z dodatkowymi monitorami oraz stacjami dokującymi, akcesoriami i systemami informatycznymi, telefony dla nowo zatrudnionych pracowników – 460 000,00 zł,
– zakup mebli i wyposażenia – 400 000,00 zł,
b) wydatki związane z wynajęciem powierzchni biurowej (czerwiec-grudzień) – 787 500,00 zł,
c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego dwóch zastępców (kwiecieńgrudzień) –562 868,46 zł
d) wydatki na wynagrodzenia dla 30 etatów (czerwiec-grudzień) – 3 150 000,00 zł,
e) pochodne planistyczne od wynagrodzeń (18,69%, czerwiec-grudzień) – 693 935,12 zł,
f) Pracownicze Plany Kapitałowe (czerwiec-grudzień) – 47 250,00 zł,
16
g) wydatki bieżące – 3 200 000,00 zł, Koszty w roku 2027 wynoszą 23 743 043,10 zł i obejmują:
a) wydatki jednorazowe
– zakup 40 laptopów z dodatkowymi monitorami oraz stacjami dokującymi i akcesoriami, telefony dla nowo zatrudnionych pracowników – 360 000,00 zł,
– zakup mebli i wyposażenia – 250 000,00 zł,
b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł,
c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 750 491,28 zł,
d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 650 000,00 zł,
e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 691 451,82 zł,
f) Pracownicze Plany Kapitałowe – 191 100,00 zł,
g) wydatki bieżące – 4 500 000,00 zł.
Koszty roczne w latach 2028 i kolejnych wynoszą 24 165 119,18 zł i obejmują: (waloryzacja kwoty na lata kolejne została ujęta w tabeli przy założeni CPI: 102,5%)
a) wydatki na odnowienie zasobów majątkowych – 100 000,00 zł,
b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł,
c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 769 253,56 zł,
d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 991 250,00 zł,
e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 758 738,12 zł,
f) Pracownicze Plany Kapitałowe – 195 877,50 zł,
g) wydatki bieżące – 5 000 000,00 zł.
Całkowity koszt funkcjonowania Komisji w roku 2026, stanowiącym rok zerowy, oraz w kolejnych dziesięciu latach został oszacowany na 278,36 mln zł. Konstrukcja budżetu obejmuje zarówno koszty bieżące, inwestycyjne, jak i osobowe, przy czym w kosztach bieżących ujęto również wydatki związane z wykonywaniem zadań Komisji, w tym czynności o charakterze kontrolnym, analitycznym oraz regulacyjnym, wynikających z przepisów rozporządzenia 2024/1689 oraz projektowanej ustawy.
Wynagrodzenia dla Przewodniczącego oraz Zastępców Przewodniczącego Komisji zostały określone w przepisach ustawy poprzez odniesienie do mnożnika kwoty bazowej właściwej dla członków korpusu służby cywilnej. Mnożnik ten wynosi 8 w przypadku Przewodniczącego oraz 7 w przypadku Zastępców Przewodniczącego, natomiast wynagrodzenia te nie stanowią dodatkowego obciążenia dla budżetu Komisji, gdyż są ponoszone w ramach budżetów organów delegujących swoich przedstawicieli.
Z uwagi na pionierski charakter regulacji oraz brak danych historycznych w obszarze nadzoru nad systemami sztucznej inteligencji, przedstawione oszacowania mają charakter najlepszego dostępnego przybliżenia, opartego na analizie specjalistycznej próby podmiotów oraz międzynarodowych trendów regulacyjnych.
Dochody sektora finansów publicznych zostały oszacowane na podstawie obowiązujących stawek składek na ubezpieczenia społeczne i zdrowotne oraz udziałów w podatku PIT. Kalkulacja uwzględnia wynagrodzenia pracowników Komisji przy założeniu przeciętnego wynagrodzenia brutto na poziomie 15 000 zł miesięcznie oraz etapowego zatrudnienia (30 etatów w 2026 r., 70 etatów od 2027 r.). Dochody obejmują wpływy do Funduszu Ubezpieczeń Społecznych, Narodowego Funduszu Zdrowia, Funduszu Pracy oraz Funduszu Solidarnościowego wynikające z obowiązkowych składek od wynagrodzeń.
Zadania Komisji charakteryzują się zmiennym poziomem złożoności i nieprzewidywalnością wolumenu wpływu, wynikającymi z narastającego w czasie wykorzystania systemów sztucznej inteligencji oraz procesów wdrażania AI Act. Komisja musi być przygotowana na obsługę zarówno niewielkiej liczby wniosków w pierwszych miesiącach funkcjonowania ustawy, jak i stopniowego, wykładniczego wzrostu zapotrzebowania na opinie, kontrole i postępowania administracyjne. Z tego względu szacunki pracochłonności mają charakter wariantowy i uwzględniają zarówno scenariusz bazowy, jak i scenariusz wzrostu rynku.
W odniesieniu do pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji przyjęto średnie miesięczne wynagrodzenie na poziomie 15 000 zł brutto. Wartość ta została ustalona na podstawie danych zawartych w sprawozdaniu Szefa Służby Cywilnej za 2024 r., z uwzględnieniem
17
kategorii stanowisk odpowiadających wysokiemu stopniowi specjalizacji technicznej, analitycznej oraz regulacyjnej, niezbędnej do wykonywania zadań Komisji. Kwotę skorygowano zgodnie ze średnioroczną dynamiką cen towarów i usług konsumpcyjnych według wytycznych Ministra Finansów dla roku 2026. Koszty wynagrodzeń w kolejnych latach zostały zwaloryzowane zgodnie z tymi wskaźnikami, przy uwzględnieniu wynagrodzenia dodatkowego przysługującego pracownikom służby cywilnej.
Z uwagi na silną konkurencję na rynku pracy w obszarze AI, cyberbezpieczeństwa oraz analityki danych, poziom wynagrodzeń musi umożliwiać rekrutację ekspertów zdolnych do realizacji zadań o wysokim stopniu specjalizacji. Dane rynkowe oraz doświadczenia administracji publicznej wskazują na rosnącą trudność pozyskania specjalistów w tych obszarach, co wymaga ukształtowania wynagrodzeń na poziomie odpowiadającym stawkom rynkowym i zapewniającym stabilność zatrudnienia.
W kalkulacji ujęto również zakup 90 zestawów komputerowych, obejmujących laptopy, monitory oraz akcesoria, zapewniających odpowiednie wyposażenie zarówno dla pracowników merytorycznych (70 etatów docelowych), jak i pracowników wsparcia administracyjno-technicznego, funkcjonujących w ramach urzędu obsługującego ministra. Wyposażenie to stanowi także zapas sprzętowy wykorzystywany podczas działań wspierających, w tym w szczególności w piaskownicach regulacyjnych i innych działaniach wymagających bezpiecznego przetwarzania danych.
Uwzględniono również koszty związane z Pracowniczymi Planami Kapitałowymi, przy założeniu, że uczestnictwo w programie obejmie około 70% pracowników wykonujących zadania Komisji, a składka pracodawcy wyniesie 2%. Jednocześnie oszacowany dochód Funduszu Pracy wynika z obowiązkowej składki w wysokości 1%, zgodnie z art. 25 ustawy budżetowej na rok 2026.
Założenia budżetowe dla nowej instytucji oparte zostały na analizie kosztów działalności istniejących organów nadzorczych i regulacyjnych w obszarze cyfrowym, w szczególności w zakresie ochrony danych osobowych, cyberbezpieczeństwa oraz nadzoru nad algorytmami. Przyjęto, że koszty te stanowią adekwatny punkt odniesienia ze względu na podobny poziom specjalizacji, charakter zadań oraz wymagania techniczno-organizacyjne.
Liczba etatów niezbędnych do zapewnienia realizacji zadań Komisji została określona w oparciu o analizę katalogu obowiązków nałożonych zarówno rozporządzeniem 2024/1689, jak i przepisami krajowymi. Zadania te obejmują w szczególności: nadzór nad systemami sztucznej inteligencji – zwłaszcza systemami wysokiego ryzyka; pełnienie funkcji pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia; współpracę z organami i instytucjami Unii Europejskiej; prowadzenie działań monitorujących, edukacyjnych oraz komunikacyjnych; a także obsługę piaskownic regulacyjnych. Zadania te mają charakter wielodyscyplinarny, często wymagający jednoczesnego zaangażowania ekspertów z różnych obszarów, w tym prawa, inżynierii oprogramowania, analityki danych, zarządzania ryzykiem i cyberbezpieczeństwa.
W celu oszacowania pracochłonności poszczególnych zadań zastosowano podejście wariantowe, właściwe dla pomiaru kosztów regulacyjnych. Polega ono na identyfikacji strumieni pracy, określeniu typowych czynności oraz przyjęciu założeń co do wolumenu i złożoności spraw w pierwszych latach funkcjonowania organu. W ramach analizy wyróżniono następujące główne strumienie pracy: sprawy interpretacyjne i informacyjne (w tym przygotowywanie opinii indywidualnych, wyjaśnień, materiałów informacyjnych oraz czynności związane z anonimizacją); nadzór rynku i kontrole; postępowania administracyjne, w tym środki naprawcze oraz nakładanie administracyjnych kar pieniężnych; monitoring rynku oraz analitykę ryzyka; inicjowanie i prowadzenie piaskownic regulacyjnych; współpracę krajową i międzynarodową; oraz zadania sprawozdawcze, obejmujące w szczególności obowiązki wobec Komisji Europejskiej i grup ekspertów unijnych.
Prognozuje się, że roczny wolumen spraw kierowanych do Komisji będzie obejmował łącznie około 630–865 spraw, w zależności od dynamiki rozwoju rynku oraz zakresu wykorzystywania systemów sztucznej inteligencji. Wstępna analiza wskazuje, że obsługa spraw interpretacyjnych wymaga przeciętnie od kilku do kilkunastu godzin pracy, natomiast zadania kontrolne, ocena zgodności systemów wysokiego ryzyka oraz postępowania administracyjne wymagają znacznie większego nakładu pracy, często przekraczającego kilkadziesiąt roboczogodzin per sprawa, przy konieczności jednoczesnego zaangażowania kilku specjalistów. Ponadto zadania związane ze współpracą z
18
organami unijnymi oraz sprawozdawczością mają charakter stały i wymagają rocznie kilkuset godzin pracy.
Na podstawie powyższych założeń roczny nakład pracy niezbędny do realizacji wszystkich zadań został oszacowany na około 34 000–42 000 roboczogodzin. Przy efektywnym rocznym wymiarze czasu pracy jednego etatu wynoszącym około 1 600 roboczogodzin, minimalne zapotrzebowanie kadrowe wynosi około 21–26 etatów. Jednakże, z uwagi na złożoność zadań, konieczność pracy zespołowej, zastępowalności pracowników, obowiązków stałych wynikających z unijnych mechanizmów nadzorczych oraz wysokie wymagania kompetencyjne, zasadne jest przyjęcie wyższej liczby etatów.
W związku z powyższym przyjęto etapowanie zatrudnienia, zakładające 30 etatów w roku 2026, który obejmuje uruchomienie organu, przygotowanie procedur, wdrożenie narzędzi informatycznych oraz rozpoczęcie działań merytorycznych. Od dnia 1 stycznia 2027 r. przewidziano osiągnięcie docelowego poziomu 70 etatów merytorycznych. Poziom ten umożliwi wykonywanie wszystkich zadań nałożonych przepisami prawa, w tym realizację kontroli, prowadzenie postępowań administracyjnych, analiz ryzyka oraz funkcjonowanie piaskownic regulacyjnych.
Zasadność zwiększenia zatrudnienia z 30 etatów w roku 2026 do 70 etatów od 2027 r. wynika przede wszystkim z prognozowanego, wykładniczego przyrostu liczby podmiotów korzystających z systemów sztucznej inteligencji oraz szybko rosnącej grupy firm deklarujących zamiar wdrożenia rozwiązań AI. Dane z przeprowadzonego wewnętrznie badania ilościowego (N=229, badanie dot. zapotrzebowania na piaskownice regulacyjne przeprowadzone w dn. 2.02.2026 – 16.02.2026) wskazują, że już obecnie 214 firm (93,4%) korzysta z AI, natomiast 132 podmioty (57,6%) samodzielnie wytwarzają rozwiązania AI, przy czym kolejne przedsiębiorstwa deklarują wejście na rynek w perspektywie najbliższych lat. Jednocześnie wysoki odsetek firm na wczesnych etapach rozwoju technologicznego — obejmujący prace koncepcyjne, pilotaże i prototypowanie — świadczy o tym, że w nadchodzących latach znaczna część z nich wkroczy w fazę wdrożeniową, co nieuchronnie zwiększy liczbę spraw wymagających wsparcia interpretacyjnego, nadzorczego oraz kontrolnego ze strony Komisji.
W warunkach dynamicznego rozwoju rynku sztucznej inteligencji należy przyjąć, że przyrost firm generujących zapotrzebowanie na działania organu nie będzie miał charakteru liniowego. Z uwagi na charakter technologii, efekty sieciowe, szybko rosnący popyt na rozwiązania generatywne oraz skalę komercjalizacji systemów uczenia maszynowego, liczba podmiotów wytwarzających lub wdrażających AI rośnie wykładniczo, czego potwierdzeniem są m.in. dane o wysokim tempie adopcji nowych modeli AI oraz systematyczne zwiększanie się liczby sektorów wykorzystujących te technologie. Wyniki badania, obejmujące firmy o najbardziej zaawansowanych profilach technologicznych na rynku, stanowią w tym kontekście próbę wyprzedzającą, wskazującą kierunek rozwoju całej populacji przedsiębiorstw. Oznacza to, że liczba podmiotów, które w 2026 r. wystąpią do Komisji z wnioskami o opinie, zgłoszeniami naruszeń, sprawami dotyczącymi kwalifikacji systemów lub wnioskami o udział w piaskownicach regulacyjnych, będzie w 2027 r. i latach kolejnych istotnie wyższa, a skala tego wzrostu będzie narastała w miarę dojrzewania rynku. W tych warunkach poziom zatrudnienia ograniczony do 30 etatów pozwoli jedynie na uruchomienie organu oraz obsługę wstępnego wolumenu spraw, natomiast nie zapewni zdolności operacyjnej do obsługi rosnącego strumienia zadań wynikających z rozporządzenia 2024/1689.
Dopiero zwiększenie zatrudnienia do 70 etatów od 2027 r. gwarantuje możliwość realizacji pełnego katalogu obowiązków nadzorczych, w tym pracy zespołowej wymaganej w czynnościach kontrolnych i postępowaniach administracyjnych oraz odpowiedniej obsługi rosnącej liczby podmiotów na rynku sztucznej inteligencji, którego rozwój ma charakter wykładniczy, a nie liniowy.
Zadanie Opinie indywidualne, wyjaśnienia i sprawy interpretacyjne Zgłoszenia naruszeń i sygnały dot. niezgodności Analiza ryzyka i monitoring rynku AI
Prognozowana liczba spraw / rok 350–450
Szacunkowy czas realizacji jednej sprawy 6–10 h
2 100 – 4 500
120–180
10–15 h
1 200 – 2 700
80–120
10–15 h
800 – 1 800
19
Łączna pracochłonność roczna (roboczogodziny)
Czynności kontrolne Postępowania administracyjne Obsługa piaskownic regulacyjnych Współpraca unijna i sprawozdawczość Pozostałe zadania przekrojowe
50–70 20–30
25–40 h 60–90 h
1 250 – 2 800 1 200 – 2 700
10–15
30–50 h
300 – 750
zadania stałe
500–700 h (w ramach etatów) 900–1 200 h
500 – 700
Zmienne
900 – 1 200
Tabela 1. Zestawienie głównych strumieni pracy Komisji, prognozowanej liczby spraw oraz szacunkowego czasu ich realizacji W modelu organizacyjnym uwzględniono stosowanie rozwiązań cyfrowych i automatyzacji procesów, zgodnie z zasadą celowości i oszczędności wydatków publicznych (art. 44 ust. 3 ustawy o finansach publicznych). W szczególności zakłada się wykorzystanie systemów zarządzania sprawami, standaryzacji dokumentów i obiegu informacji, narzędzi do wstępnej selekcji i priorytetyzacji wpływów, wsparcia monitoringu rynku i analityki ryzyka oraz narzędzi wspomagających anonimizację i publikację materiałów. Rozwiązania te umożliwią racjonalizację nakładu pracy przy zachowaniu wysokich standardów ochrony danych i niezależności procesu decyzyjnego.
Należy jednocześnie podkreślić, że skuteczne wykonywanie zadań Komisji wymaga zatrudnienia wysoko wykwalifikowanych ekspertów posiadających nie tylko wiedzę techniczną w zakresie systemów sztucznej inteligencji, lecz także kompetencje analityczne, komunikacyjne, projektowe oraz biegłą znajomość języka angielskiego. Ze względu na intensywną konkurencję na rynku pracy w obszarze nowych technologii i cyberbezpieczeństwa, jak również trudności w rekrutacji i utrzymaniu specjalistów, uzasadnione jest umożliwienie zatrudnienia na podstawie przepisów Kodeksu pracy, zapewniając odpowiedni poziom elastyczności organizacyjnej.
Wreszcie, wprowadzenie opłaty za wniosek o wydanie opinii indywidualnej w wysokości 150 zł stanowi źródło dochodu sektora finansów publicznych oraz instrument racjonalizujący zapotrzebowanie na opinie. Z uwagi na brak danych historycznych przyjęto wariantowe oszacowanie liczby wniosków — w wariancie bazowym około 800 rocznie — przy czym wartości te zostaną zweryfikowane po pierwszym pełnym roku funkcjonowania systemu.
Pracochłonność zadań Komisji będzie zależna od szeregu zmiennych, w szczególności: stopnia dojrzałości technologicznej rynku, liczby systemów zaklasyfikowanych jako wysokiego ryzyka, poziomu świadomości regulacyjnej wśród przedsiębiorców, dynamiki przyrostu nowych modeli generatywnych i ich wersji, a także decyzji organów unijnych dotyczących interpretacji przepisów AI Act. Prognozuje się, że w pierwszych latach funkcjonowania ustawy poziom zapotrzebowania na działania interpretacyjne i doradcze będzie rosnąć szybciej niż liczba postępowań egzekucyjnych; po osiągnięciu dojrzałości regulacji trend ten może ulec odwróceniu.
Brak zapewnienia odpowiednich zasobów kadrowych i technicznych mógłby skutkować opóźnieniami w rozpatrywaniu wniosków, ograniczeniem zdolności do prowadzenia kontroli systemów wysokiego ryzyka, niewywiązywaniem się z obowiązków sprawozdawczych wobec Komisji Europejskiej oraz ryzykiem naruszenia art. 70 ust. 3 rozporządzenia 2024/1689, który nakłada na państwa członkowskie obowiązek zapewnienia organom odpowiednich zasobów, w tym technicznych i ludzkich. Niewystarczające zasoby w pierwszych latach obowiązywania ustawy mogłyby również negatywnie wpłynąć na tempo rozwoju sektora AI w Polsce i ograniczyć konkurencyjność przedsiębiorstw wdrażających AI.
PCA
Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2026 r.
Projekt ustawy o systemach sztucznej inteligencji zakłada, że Polskie Centrum Akredytacji jest zobowiązane do akredytacji jednostek oceniających zgodność na potrzeby ustawy oraz rozporządzenia 2024/1689.
Dodatkowo Polskie Centrum Akredytacji jest zobowiązane we współpracy z ministrem właściwym do spraw informatyzacji, do opracowania szczegółowego programu akredytacji jednostek oceniających zgodność oraz do dokonywania aktualizacji tego programu, co 24 miesiące,
20
uwzględniając wnioski z jego bieżącej realizacji. Projekt zakłada również wprowadzenie obowiązków sprawozdawczych zgodnie, z którymi PCA przekazuje ministrowi właściwemu do spraw do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji.
Zgodnie z projektem do akredytacji stosuje się odpowiednio przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Ustawa ta odwołuje się do przepisów rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i nadzoru rynku odnoszącym się do warunków wprowadzania produktów do obrotu i uchylającym rozporządzenie (EWG) nr 339/93, zgodnie z którymi Polskie Centrum Akredytacji zostało wskazane jako jedyna krajowa jednostka akredytująca.
Przyjęte dyspozycje zobowiązują zatem PCA do opracowania i utrzymywania dedykowanego przedmiotowym przepisom prawa programu akredytacji, uruchomienie akredytacji wg opracowanego programu, w tym przeprowadzanie procesów akredytacji oraz nadzoru nad udzielonymi akredytacjami zgodnie z przepisami rozporządzenia 765/2008 oraz przepisami o systemach oceny zgodności i nadzoru rynku. Zastosowanie mają w tym przypadku tu wszystkie horyzontalne dokumenty PCA (np. DA-01 „Opis systemu akredytacji”, DA-08 „Prawa i obowiązki akredytowanego podmiotu”, DA-09 Zakres działalności akredytacyjnej PCA, DA-10 „Akredytacja w zakresach elastycznych” itp.) oraz dokumenty odnoszące się do danego typu jednostek oceniających zgodność, związane z rozszerzeniem działalności akredytacyjnej PCA o nowy obszar oceny zgodności przewidziany w przedmiotowym przepisie prawa.
W przypadku ustawy o systemach sztucznej inteligencji UC71 przyjęte rozwiązanie zakłada również notyfikację akredytowanej jednostki oceniającej zgodność przez ministra właściwego ds. informatyki. W konsekwencji w procesie akredytacji i w procesach nadzoru nad udzieloną akredytacją zastosowanie mają zasady określone w dokumencie DA-11 „Akredytacja jednostek oceniających zgodność do celów notyfikacji”, co dodatkowo rozszerza zakres realizowanych przez PCA ocen i skomplikowanie nadzoru nad udzielonymi akredytacjami. Ponadto akredytacja do celów notyfikacji zobowiązuje PCA do udziału w pracach właściwych grup dla „notifying authorities” łącznie z reprezentantami organów notyfikujących i zainteresowanych stron.
W konsekwencji powyższego, dla realizacji zadań określonych w przedmiotowym przepisie prawa PCA musi dysponować odpowiednimi – poszerzonymi kompetencjami i poszerzonymi zasobami personelu. Kompetencje te będą obejmować znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją w specyficznym obszarze regulowanym przepisami oraz wiedzę z zakresu projektowanej regulacji prawnej. Kompetencje te muszą być pozyskane przez PCA w ramach poszerzenia zasobów osobowych do realizacji procesów akredytacji i nadzoru, o ekspertów z wysokim poziomem kompetencji, z unikalnego nowego obszaru technicznego rozwijającego się obecnie w sposób niezwykle dynamiczny, a tym samym wymagającego znacznych inwestycji finansowych dla pozyskania ekspertów.
Powierzenie nowych obowiązków obecnym pracownikom PCA nie jest możliwe z punktu widzenia merytorycznego i ograniczonych możliwości produkcyjnych posiadanych zasobów. Aktualnie PCA nie zatrudnia ekspertów z zakresu AI i rozporządzenia 2024/1689 nie dysponuje wystarczającą wiedzą w tym zakresie. Ponadto, aktualny stan zatrudnienia PCA uniemożliwia nałożenie na obecnych pracowników wszystkich dodatkowych zadań wynikających z rozszerzenia działalności akredytacyjnej PCA w zakresie obszaru oceny zgodności określonej w przepisie.
Osoby te musza dysponować wiedzą zarówno w odniesieniu do przepisów AI jak i w odniesieniu do rozwiązań odnoszących się do akredytacji i realizować nowe zadania w poniższych głównych kierunkach wymagających rozdzielności stanowiskowej: a) w zakresie programu akredytacji będą zobowiązane do opracowania treści postanowień programu w korelacji z międzynarodowymi normami zharmonizowanymi i procedurami operacyjnymi PCA, uzgodnienia treści programu z regulatorem i zainteresowanymi stronami i przeprowadzenia procedury zatwierdzenia programu do stosowania, wdrożenie programu do działalności PCA (operacyjnie i merytorycznie) w celu rozszerzenia działalności akredytacyjne. Po rozszerzeniu działalności akredytacyjnej będą zobowiązane monitorować aktualność programu i zapewnić (w trybie jak powyżej) ciągłą przydatność programu do zamierzonego zastosowania; b) w zakresie procesu akredytacji będą zobowiązane do weryfikacji wniosku o akredytacje, wstępnego przygotowania oceny akredytacyjnej, uzgodnienie zakresu oceny, komunikacji z
21
jednostką oceniającą zgodność oraz zespołem oceniającym, podjęciem odpowiednich działań w systemie e-Akredytacja, brania udziału w ocenie jako audytorzy wiodący i bezpośrednio nadzorować ocenę (tu dodatkowo wymagana jest znajomość norm akredytacyjnych np. PN/ EN ISO 17065), po ocenie biorą udział w przygotowywaniu i zatwierdzaniu raportu oraz w działaniach związanych z obsługą kart niezgodności, przygotowują dokumenty w procesie decyzyjnym oraz biorą udział w procesie decyzyjnym. Jednocześnie wszystkie te czynności wykonywane są zgodnie z przepisami rozporządzenia nr 765/2008, ustawy o systemach oceny zgodności i nadzoru rynku oraz normy ISO/IEC 17011 co prowadzi np. do konieczności rozdzielenia osobowego w procesie realizacji oceny od podejmowania decyzji na bazie wyników tej oceny. c) w zakresie procesu nadzoru nad udzieloną akredytacją będą zobowiązane do opracowania programu nadzoru a następnie organizacji ocen w nadzorze oraz obserwacji działania jednostek oceniających zgodność. w rzeczywistości. Proces organizacji ocen w nadzorze jest analogiczny do ocen akredytacyjnych.
Reasumując, wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci zobligowania PCA do realizacji zadań związanych z akredytacją w nowym obszarze oceny zgodności, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przyjęcie przez PCA powyższych zadań związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań: opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze.
Planowane zwiększenie funduszu osobnego PCA nie oznacza automatycznego wykorzystania funduszu w tej wysokości. Zgodnie z ustawą z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową, a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa i zgodnie z ww. ustawą prowadzi samodzielną gospodarkę finansową, która jest działalnością nienastawioną na zysk. W konsekwencji poziom wykorzystania limitu 0,6 mln zł uzależniony jest od zapotrzebowania na wykonanie określonych, ww. zadań. Przy czym, poziom realizację nowych zadań na poziomie PCA, a tym samym zapotrzebowanie na wykorzystanie zaplanowanego przez PCA funduszu na poziomie jak wyżej, będzie zależał zarówno od złożoności działań, które należy wykonać w procesie akredytacji i nadzoru nad udzieloną akredytacją jak i liczby jednostek oceniających zgodność ubiegających i posiadających taką akredytację. Liczba akredytowanych jednostek oceniających zgodność zależy od zainteresowania certyfikacją w danym obszarze. W przedmiotowym przypadku mamy do czynienia z rozwijającym się dynamicznie rynkiem sztucznej inteligencji i obowiązkową oceną zgodności systemów AI wysokiego ryzyka. Mając na uwadze powyższe, należy oczekiwać szybko rosnącego poziomu zainteresowania tym tematem i przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację i posiadających akredytację.
Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do nowego, innowacyjnego i bardzo szybko rozwijającego się sektora gospodarki. W obszarze tym nie ma „utartych” rozwiązań, ugruntowanego orzecznictwa i pojawiające się sprawy zawsze będą sprawami „nowymi”. W takich sektorach rozwiązania prawne są zazwyczaj przygotowywane w pewnym opóźnieniu do faktycznego rozwoju rynku. Można zatem oczekiwać zarówno dużej liczby spraw spornych, wątpliwych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością uwzględnienia ocenianej specyfiki.
Niezbędne będzie zwiększenie wydatków na fundusz osobowy PCA o w 2026 r. o 0,45 mln, a od 2027 r. 0,6 mln zł. rocznie i utrzymanie tego stanu na lata kolejne.
PCA jest jednostką samofinansującą się, której głównym celem jest pokrycie wszystkich kosztów, łącznie z wynagrodzeniami, z uzyskanych przychodów. PCA nie otrzymuje środków z budżetu państwa.
22
Reasumując wykonanie wnioskowanej zmiany funduszu osobowego nie jest automatyczne i będzie możliwe wyłącznie w przypadku, gdy PCA będzie dysponować przychodami pozwalającymi na wprowadzenie przedmiotowego zwiększenia.
W ramach ww. zwiększenia planowane jest zatrudnienie dwóch osób oraz dodatki zadaniowe dla osób wykonujących zadania w przedmiotowym zakresie. Ostateczny podział dostępnych środków pomiędzy wynagrodzenie a dodatki zadaniowe zależy od kwalifikacji zatrudnionej osoby i liczby oraz poziomu skomplikowania występujących prac.
Wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci przekazania PCA realizacji zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań w tym obszarze: − opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji − szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, − komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, − organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, − monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze.
Z uwagi na rozwijający się dynamicznie rynek sztucznej inteligencji i obowiązek oceny zgodności systemów AI wysokiego ryzyka, przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację.
Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo dynamicznie rozwijającego się sektora gospodarki. Można zatem oczekiwać zarówno dużej liczby spraw spornych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością zapewnienia obiektywności, niezależności i braku powiązań ocenianych podmiotów.
Dodatkowo systemy sztucznej inteligencji wymagają specjalistycznej wiedzy technicznej.
Osoby, które będą wykonywały zadania związane z projektowaną ustawą, muszą mieć bardzo wysokie kompetencje ‒ znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej.
Oczekiwane kompetencje, z racji udziału w procesie akredytacji, muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku.
Powierzenie nowych obowiązków obecnym pracownikom PCA nie gwarantuje jakości ani poprawności wykonywanej pracy, gdyż nie są oni ekspertami w zakresie AI ani rozporządzenia 2024/1689 ani też nie posiadają wiedzy w tym zakresie. PCA jest małą jednostką, zatrudniającą ok. 80 osób i nie ma możliwości wygospodarowania dwóch etatów na nowe zadania w ramach istniejących limitów, dlatego konieczne jest utrzymanie w pkt 6 OSR zwiększonych wydatków na wynagrodzenia PCA co daje możliwość zatrudnienia nowych osób.
Jednocześnie podejmowanie się procesów akredytacji bez dysponowania odpowiednimi zasobami osobowymi i wiedzą w tym zakresie jest niezgodne z wymaganiami rozporządzenia (WE) 765/2008 oraz normą ISO/IEC 170111 i generuje ryzyko dla skutecznego funkcjonowania procesów akredytacji w obszarze oceny zgodności przewidzianej w projektowanym przepisie.
SOKIK
Wejście w życie projektowanej ustawy związane jest także z rozszerzeniem działalności Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów o obszar wskazany w ustawie, co wiąże się koniecznością zapewnienia szkoleń.
Koszty szkoleniowe zostały oszacowane na 800 000,00 zł rocznie w roku pierwszym i kolejnych latach po wejściu w życie przepisów ustawy.
Niezbędne specjalizacyjne szkolenia z zakresu nowych technologii oraz AI Act dla sędziów i asystentów SOKiK – 800 000,00 zł.
Szkolenia prowadzone będą przez prawników i specjalistów IT;
Zakres szkoleń: zagadnienia z zakresu prawa i technologii;
23
przepisy oraz orzecznictwo, w szczególności unijne z zakresu nowych technologii oraz wykorzystania AI Wydatek ten zostanie pokryty w ramach limitu wydatków Ministra Sprawiedliwości.
7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian W ujęciu duże przedsiębiorstwa pieniężnym sektor mikro-, małych (w mln zł, i średnich ceny stałe z przedsiębiorstw …… r.) rodzina, obywatele oraz gospodarstwa domowe * Ze względu na wzrost dochodów rozporządzalnych (netto) osób zatrudnionych przy realizacji nowo powstałej Komisji (por. p. 6)
W ujęciu niepieniężny m
duże przedsiębiorstwa
sektor mikro-, małych i średnich przedsiębiorstw
0
1,86
1
2
7,20
7,38
3
7,56
5
7,95
10
8,77
Łącznie (0–10)
80,98
Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów.
Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych.
Projektowane przepisy dają możliwość na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii.
Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych.
Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji.
Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów rozporządzenia 2024/1689 w przypadku nałożenia kary przez Komisję może pozytywnie wpłynąć na stosowanie standardów narzucanych systemom sztucznej inteligencji.
Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej
24
inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych.
Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez mikro-, małe i średnie przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji.
Projektowane przepisy dają możliwość MŚP na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii.
Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, zwłaszcza dla MŚP, które mają korzystać z piaskownicy regulacyjnej nieodpłatnie, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. rodzina, obywatele oraz gospodarstwa domowe Niemierzalne Przedsiębiorstwa w tym mikro-, małe i średnie rodzina, obywatele oraz gospodarstwa domowe
Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń
Przewiduje się, że wejście w życie ustawy nie wpłynie bezpośrednio na sytuację społeczną rodziny, a także osób niepełnosprawnych oraz osób starszych w tym sytuację ekonomiczną. Jednak spodziewane jest pozytywne długoterminowe odziaływanie pośrednie, poprzez zwiększenie bezpieczeństwa.
Skutkiem może być podniesienie jakości usług oraz wydajności i konkurencyjności przedsiębiorców.
W długoterminowej perspektywie regulacje mogą przyczynić się do wzrostu świadomości społecznej w zakresie wykorzystania systemów sztucznej inteligencji, przez rozwój i upowszechnienie bezpiecznych systemów sztucznej inteligencji dostępnych w różnych sferach życia, w tym między innymi w edukacji dzieci i dorosłych, finansach osobistych czy służbie zdrowia. Długookresowa perspektywa zakłada wzrost zaufania do narzędzi – systemów sztucznej inteligencji – która może przełożyć się na zwiększenie innowacyjności w codziennym korzystaniu z narzędzi.
Wejście w życie ustawy nie spowoduje natychmiastowych skutków dla gospodarki, ale w dłuższej perspektywie powinna się poprawić wydajność przedsiębiorstw objętych regulacją spowodowane ograniczeniem szkodliwych skutków działania niektórych systemów sztucznej inteligencji.
Projekt ustawy wprowadza nakładanie administracyjnych kar pieniężnych oraz instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy.
Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań.
Dzięki temu instytucja układu pełni funkcję motywującą dla podmiotów objętych AI Aktem co powinno w przyszłości przynieść korzyści w postaci postępowania zgodnego z prawem. Oczekuje się, że układ umożliwi także dalsze funkcjonowanie na rynku podmiotów zagrożonych karą a jednocześnie pozytywnie wpłynie na rozwój godnej zaufania i bezpiecznej sztucznej inteligencji.
Z uwagi na regulację nieznanej dotychczas dziedziny nauki określenie skutków finansowych wynikających z nakładania kar oraz zastosowania nadzwyczajnego sposobu ich złagodzenia nie jest możliwe do oszacowania.
25
Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Celem ustanowienia piaskownic jest zwiększenie pewności prawa, wspieranie wymiany najlepszych praktyk, wzmacnianie konkurencyjności i innowacyjności w Europie oraz ułatwienie MŚP i startupom wejścia na rynek unijny. Udział w piaskownicy będzie konkurencyjny, z preferencją dla podmiotów z UE, a procedura naboru będzie jawna i umożliwi odwołanie. Opłata za udział wyniesie czterokrotność minimalnego wynagrodzenia, przy czym MŚP będą z niej zwolnione. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Z uwagi na brak analogicznych funkcjonujących rozwiązań określenie skutków finansowych wynikających tworzenia piaskownic regulacyjnych nie jest możliwe do oszacowania.
Jednocześnie należy wyjaśnić, że koszty dostosowawcze po stronie przedsiębiorców z sektora AI wynikają z konieczności stosowania rozporządzenia 2024/1689, a nie bezpośrednio projektu ustawy o systemach sztucznej inteligencji.
8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu nie dotyczy Wprowadzane są obciążenia poza bezwzględnie tak wymaganymi przez UE (szczegóły w odwróconej nie tabeli zgodności). nie dotyczy zmniejszenie liczby dokumentów zmniejszenie liczby procedur skrócenie czasu na załatwienie sprawy inne:
Wprowadzane obciążenia są przystosowane do ich elektronizacji.
zwiększenie liczby dokumentów zwiększenie liczby procedur wydłużenie czasu na załatwienie sprawy inne: tak nie nie dotyczy
Komentarz:
Systemy sztucznej inteligencji, ze względu na wczesny etap rozwoju tej technologii, do tej pory nie były obszarem nadzorowanym w sposób kompleksowy. W związku z tym, uregulowania w tym zakresie, spowodują objęcie nadzorem podmiotów, które do tej nie były pod tym kątem nadzorowane, co w naturalny sposób doprowadzi do zwiększenia liczby procedur lub zwiększenia liczby dokumentów. Konsekwencją objęcia nadzorem systemów sztucznej inteligencji będzie nałożenie na podmioty działające na tym rynku określonych obowiązków (które są określone w rozporządzeniu 2024/1689) sprawozdawczych, informacyjnych i technicznych. Podmioty te będą musiały zadbać o zgodność wykorzystywanych lub dostarczanych systemów sztucznej inteligencji z przepisami rozporządzenia 2024/1689 i ustawy, w tym wyeliminować aktualnie istniejące niezgodności. Konieczna będzie także ich współpraca z Komisją i innymi organami w celu umożliwienia im sprawowania nadzoru nad rynkiem i stosowania odpowiednich środków, takich jak kontrole.
Komisja jako wyznaczony organ właściwy w zakresie sprawowania nadzoru nad sztuczną inteligencją w Polsce, będzie wykonywała swoje zadania w oparciu o działania na poziomie krajowym oraz wynikające ze współpracy z organami unijnymi.
Dodatkowo, stworzenie nowego organu do spraw nadzoru nad sztuczną inteligencją będzie wiązało się z obciążeniami administracyjnymi, wynikającymi z realizacji zadań, jakie nakłada na ten organ rozporządzenie 2024/1689, m.in. przekazywanie sprawozdań z działalności organu Komisji Europejskiej, współpraca międzyinstytucjonalna, wydawanie decyzji w sprawach dotyczących naruszeń, udzielanie wskazówek i porad przedsiębiorcom.
Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Udział w piaskownicy będzie odpłatny, konkurencyjny, a procedura naboru będzie jawna i umożliwi odwołanie. Przewiduje się zwolnienie MŚP z opłaty.
Uczestnicy będą zobowiązani do informowania użytkowników, corocznego raportowania, publikowania wyników oraz zgłaszania zmian. Komisja będzie uprawniona do kontroli, a w przypadku naruszeń – do wezwania do ich usunięcia lub wykluczenia z udziału. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r.
Projekt ustawy poza regulacjami wynikającymi bezpośrednio z rozporządzenia 2024/1689 wprowadza również rozwiązania o charakterze uzupełniającym.
26
Regulacje w tym zakresie będą nakładały na Komisję dodatkowe obowiązki w zakresie rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, przetwarzania danych osobowych, wydawania opinii indywidualnych sposobu prowadzenia kontroli, przechowywania akt postępowania.
Dodatkowo niezbędne będzie także zapewnienie właściwej realizacji zadań organu nadzoru przez pracowników urzędu obsługującego ministra do spraw informatyzacji Dodatkowo ustawa przewiduje powołanie Społecznej Rady Sztucznej Inteligencji jako ciała opiniodawczo-doradczego Komisji. Udział w pracach Rad będzie nieodpłatny.
Projekt wskazuje także na możliwość uzyskania przez podmioty objęte AI Akt opinii indywidualnej. W tym celu podmiot będzie obowiązany do złożenia wniosku oraz uiszczenia opłaty w wysokości 150 zł.
W ramach prowadzonego postępowania przed Komisją projekt przewiduje także możliwość zawarcia przez stronę postępowania układu. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji.
9. Wpływ na rynek pracy Przyjęcie projektu będzie miało bezpośredni, pozytywny wpływ na rynek pracy poprzez powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz zorganizowanie zaplecza osobowego i technicznego, przy pomocy którego Komisja będzie wykonywała swoje zadania. Obsługę administracyjno-kancelaryjną zapewniać będzie urząd obsługujący ministra właściwego do spraw informatyzacji.
Można przewidywać, że w związku z powyższym na rynku pracy pojawią się nowe miejsca pracy, ale ich liczba jest niemożliwa do określenia na tym etapie prac legislacyjnych. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie przyczyniać się do szybszego rozwoju wdrożeń systemów sztucznej inteligencji, w tym przez polskie małe i średnie przedsiębiorstwa.
10. Wpływ na pozostałe obszary środowisko naturalne demografia informatyzacja sytuacja i rozwój regionalny mienie państwowe zdrowie sądy powszechne, inne: administracyjne lub wojskowe Umożliwienie złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 będzie miało wpływ na zapobieganie szkodom i wykrywanie zagrożeń, które w przeciwnym wypadku pozostałyby niewykryte, podniesie bezpieczeństwo oraz zaufanie do stosowania systemów sztucznej inteligencji.
Omówienie wpływu
Przewidywane w przyszłości odwołania od decyzji Komisji mogą zwiększyć obciążenie pracą Sądu Ochrony Konkurencji i Konsumentów, a także Sądu Apelacyjnego w Warszawie, sądów okręgowych i rejonowych. Profesjonalizm nowego urzędu powinien jednak zapewnić sprawne obsługiwane skarg.
Przewiduje się potrzebę szkolenia merytorycznego kadry sądu, jak i zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji.
11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby ustawa weszła w życie po upływie 14 dni od dnia ogłoszenia, z zastrzeżeniem wyjątków w niej określonych.
12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane?
Ewaluacja efektów projektu będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim, jak i krajowym.
Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Sejmowi sprawozdania Komisji ze swojej działalności za rok poprzedni.
27
13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.)
Brak.
28
RAPORT Z OPINIOWANIA I KONSULTACJI PUBLICZNYCH
projektu ustawy o systemach sztucznej inteligencji (UC71) 1.
Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania.
Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do konsultacji publicznych i opiniowania 16 października 2024 r. Na zgłoszenie uwag został wyznaczony termin 30 dni.
Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji.
W ramach konsultacji publicznych projekt skierowano do następujących podmiotów:
Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa,Centrum Cyfrowe Francusko-Polska Izba Przemysłowo Handlowa,INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A.Bank Gospodarstwa Krajowego S.AZwiązek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze.
Stanowiska przedstawiły następujące podmioty:
ISSA Polska, Polskie Towarzystwo Informatyczne,Tauron Dystrybucja, Instrat Centrum Cyfrowe, Europen Fem Institute, Polska Izba Ubezpieczeń, Open AI Devs Community, Geberationis.ai S.A., Fundacja Open Allies, Polskie Stowarzyszenie Sztucznej Inteligencji (PSSI), GRAI, Polska Izba Komunikacji Elektronicznej,Stowarzyszenie Inspektorów Ochrony Danych Osobowych, Krajowy Instytut Mediów, Koalicja AI i Innowacji w Zdrowiu, NASK, RELX (ang.), Naczelna Rada Adwokacka, Związek Przedsiębiorstw Finansowych w Polsce, Krajowa Izba Gospodarcza, Związek Cyfrowa Polsk, Logicise Sp. z o. o, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji, Polski Związek Pracodawców Przemysłu Farmaceutycznego – Krajowi Producenci Leków, Stowarzyszenie Autorów i Wydawców Copyright Polska, Fundacja Moje Państwo,Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Sano Centrum Zindywidualizowanej Medycyny Obliczeniowej Międzynarodowa Fundacja Badawcza, Fundacja Sztuka Media Film, Obywatelski Akcelerator Innowacji, Instytut Spraw Obywatelskich, Stowarzyszenie ITCORNER, Związku Pracodawców Technologii Cyfrowych Lewiatan, Software Development Association Poland (SoDA), Fundacja Panoptykon, Brytyjsko-Polska Izba Handlowa BPCC, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Związek Producentów Audio Video (ZPAV),
Polska Izba Rzeczników Patentowych, Stowarzyszenia Autorów ZAiKS, Polska Izba Książki, Polski Związek Zarządzania Wierzytelnościami, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, HAIQ sp. z o.o., Stowarzyszenie Księgowych Polskich, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Polska Akademia Nauk Centrum Badań Kosmicznych (PAN), Porozmawiajmy o AI i Poznański Horyzont Danych (EGO), Polskiej Izby Informatyki i Telekomunikacji (PIIT0, Federacja Przedsiębiorców Polskich (FPP), HAEGRI SP. Z O.O., Polska Wytwórnia Papierów Wartościowych (PWPW), Związek Zawodowy Scenarzystów Polskich (Gildia Scenarzystów), KRS – Krajowa Rada Sądownictwa, Polskie Centrum Akredytacji, Porozumienie Zielonogórskie Federacja Związków Pracodawców Ochrony Zdrowia oraz 5 osób fizycznych.
Tabela zgłoszonych uwag stanowi załącznik do raportu.
W ramach opiniowania projekt otrzymali:
Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność”, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego.
Stanowiska przedstawiły następujące podmioty:
Bank Gospodarstwa Krajowego, Polski Komitet Normalizacyjny, Biblioteka Narodowa, Główny Inspektor Pracy, Urząd Komunikacji Elektronicznej, Konfederacja Lewiatan, Urzędu Ochrony Konkurencji i Konsumentów, Ogólnopolskie Porozumienie Związków Zawodowych, Narodowe Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Polski Fundusz Rozwoju S.A. (PFR), Pracodawcy RP, Rzecznik Praw Obywatelskich, Prokuratoria Generalna RP, Główny Urząd Statystyczny, Urząd Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Rada Legislacyjna, Urząd Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Urząd Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ZUS Tabela zgłoszonych uwag stanowi załącznik do raportu.
Projektodawca informuje, że trwają analizy w zakresie uwag zgłoszonych w ramach konsultacji publicznych, ostateczne wyniki tych analiz zostaną przedstawione po zakończeniu II tury uzgodnień, opiniowania i konsultacji publicznych.
Jednocześnie projektodawca podkreśla, że w nowym tekście projektu ustawy, skierowanym do ponownych uzgodnień, opiniowania i konsultacji publicznych Pozytywnie rozpatrzono uwagi dotyczące m.in:
- zwrotu kosztów udziału w posiedzeniach Komisji oraz Społecznej Rady;
- rozszerzenia katalogu obszarów działalności organizacji społecznych uprawnionych do zgłaszania kandydatur na członków Społecznej Rady ds. Sztucznej Inteligencji, która ma zostać powołana przy Komisji;
- precyzyjnego określenia rynku, nad którego nadzór sprawować ma Komisja; a także przeformułowania przepisów dotyczących wyłączenia stosowania przepisów w oparciu o odpowiednie przepisy rozporządzenia, w tym osobistego i niezarobkowego wykorzystania systemów AI;
- rozszerzenia środków wspierających rozwój innowacyjności systemów sztucznej inteligencji, w tym rozszerzenia zakresu projektu o przepisy (nowego) rozdziału 8 poświęconego piaskownicom regulacyjnym w zakresie AI, a także możliwości zawarcia układu (nowy tryb postępowania);
- podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie opinii (w poprzedniej wersji projektu: interpretacji) indywidualnej oraz doprecyzowania trybu jej wydawania oraz skutków prawnych;
- uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia zbędnych czynności kontrolnych;
- usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji;
- zwiększenia zakresu danych i informacji, do których usunięcia zobligowana jest Komisja po rozpatrzeniu sprawy w ramach postępowania;
- zmiany przepisów regulujących pracę Biura Komisji (rozszerzenie zakresu spraw możliwych do uregulowania na poziomie regulaminu Biura Komisji);
- rozszerzenia katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji (na mocy decyzji Komisji);
- uwzględnienia roli ministra właściwego do spraw informatyzacji w zakresie prac nad „Fabrykami Sztucznej Inteligencji”, w tym możliwości bezpośredniego przekazywania środków finansowych na ten cel. 2.
Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym.
Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3.
Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa.
Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa.
Lp.
1.
Jednostka redakcyjna, do której są wnoszone uwagi Uwaga ogólna
Podmiot wnoszący uwagi European Institut
Fem
Zgłoszone uwagi
Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci.
Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami.
Zapisanymi w traktatach oraz, zgodnie z art. 6 TUE - w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8).
Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58).
Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, ,,mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji" oraz "mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet". Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne
1
podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci.
Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci.
Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jak systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych.
Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii". To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania.
Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym Wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań.
Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie.
2
Uwaga ogólna
ICC Polska
Projekt, jak wynika z jego uzasadnienia, ma ograniczać się do wprowadzenia do polskiego prawa mechanizmów umożliwiających realizację jedynie tych przepisów rozporządzenia 2024/16891, które zaczną być stosowane od dnia 2 sierpnia 2025 r. W pozostałym zaś zakresie Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych (s. 3-4 uzasadnienia Projektu).
Oznacza to, że w założeniu projektodawcy przyjęcie przez Polskę aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 będzie rozłożone w czasie i zsynchronizowane z harmonogramem rozpoczęcia stosowania przepisów samego rozporządzenia (por. art. 113 rozporządzenia 2024/1689). Jakkolwiek uzasadnienie Projektu wprost tego nie przesądza, to z jego całościowej lektury oraz ogólnego tytułu samej ustawy można wnioskować, że wspomniane kolejne działania legislacyjne mają opierać się na uzupełnieniu lub zmianie tej właśnie ustawy.
Zaproponowane podejście legislacyjne może budzić jednak pewne wątpliwości z perspektywy zarówno pewności, jak i samej przejrzystości prawa.
Po pierwsze, z treści samej ustawy nie wynika jednoznacznie, czy przewidziane w niej mechanizmy ogólne – np. postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub przepisy o administracyjnych karach pieniężnych – będą znajdować zastosowanie w tym właśnie kształcie w odniesieniu do oceny naruszenia wszelkich przepisów rozporządzenia 2024/1689 (w tym przepisów, których termin rozpoczęcia stosowania przypada w 2026 i 2027 r.), czy też podlegać one będą dostosowaniu lub zróżnicowaniu po 2 sierpnia 2025 r. Rodzi to niepotrzebną niepewność po stronie podmiotów, do których stosuje się rozporządzenie 2024/1689, które mając już świadomość obowiązków, jakie będą miały do nich zastosowanie, nie wiedzą jednak, w jaki sposób obowiązki te będą egzekwowane przez organ nadzoru w Polsce.
Tytułem przykładu, w art. 1 pkt 5 Projektu wskazano, że ustawa określa „zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 rozporządzenia 2024/1689” [podkreślenie własne], podczas gdy sam rozdział 7 Projektu dotyczący administracyjnych kar pieniężnych już takiego ograniczenia nie przewiduje, odwołując się ogólnie do kar określonych w art. 99 rozporządzenia 2024/1689.
Po drugie, jeżeli wdrożenie pozostałych przepisów rozporządzenia 2024/1689 miałoby polegać na prostym uzupełnieniu projektowanej ustawy o systemach sztucznej inteligencji o nowe regulacje (nowelizacja), to może to negatywnie wpłynąć na przejrzystość i czytelność samej ustawy z perspektywy podmiotów jej podlegających. Zależnie bowiem od zakresu zmian i uzupełnień wymagać to będzie albo dodania do ustawy artykułów oznaczonych poza numerami dodatkowo małymi literami lub nawet wieloliterowo – w celu zachowania dotychczasowej numeracji (§ 89 Zasad techniki prawodawczej2), albo opracowania projektu całkowicie nowej ustawy (§ 84 Zasad techniki prawodawczej). Tego rodzaju zabiegi legislacyjne mogą niepotrzebnie ograniczyć, odpowiednio, przejrzystość ustawy albo pewność prawa.
Z tego względu należałoby rozważyć też alternatywne podejścia legislacyjne do wdrożenia w Polsce rozporządzenia 2024/1689. Mogą one polegać chociażby na rozbiciu planowanych regulacji na ustawę ustrojową, regulującą jedynie organizację systemu nadzoru nad systemami
3
Uwaga ogólna
KIGEiT
sztucznej inteligencji, która miałaby wejść w życie w pierwszej kolejności (co jest uzasadnione koniecznością utworzenia nowego organu i czasem potrzebnym na jego zorganizowanie), oraz ustawę lub ustawy odnoszące się do pozostałych zagadnień, w tym postępowań kontrolnych i postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689 ujętych od razu w sposób możliwie jednolity, niezależnie od terminu rozpoczęcia stosowania odpowiednich przepisów rozporządzenia 2024/1689 Zgodnie z traktatami AI Act (Rozporządzenie PE i Rady UE 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 – popieramy idee implementacji aktu w sprawie sztucznej inteligencji, który powinien wejść do porządku prawnego wszystkich krajów członkowskich w taki sam sposób.
Ogólna uwaga jaka nasuwa się po analizie projektu ustawy łącznie z Rozporządzeniem 1689/2024 („AI Act”) to obawa jak przedsiębiorca, zwłaszcza typu start-up ma ustalić zakres norm proceduralnych dotyczących systemów i praktyk w zakresie sztucznej inteligencji. Nie jest łatwe ustalenie, jakie są wzajemne relacje (abstrahując od hierarchii źródeł prawa) pomiędzy przepisami: ustawy o systemach sztucznej inteligencji (zwłaszcza Rozdziału 3, 4), ustawy Prawo przedsiębiorców (odwołanie z Art. 42 projektu ustawy o systemach wysokiego ryzyka) a Art. 74 ust. 12-14 AI Act i Rozporządzenia 2019/2020 (zwłaszcza Rozdziału V), do którego odwołuje Art. 74 ust. 1 AI Act.
Problemów tych nie rozwiązują propozycje zapisów Ustawy. Należy zauważyć, że choć prawdopodobnie stały za tym dobre intencje, projekt Ustawy zawiera w sobie propozycje przepisów, które pochodzą z co najmniej kilku aktów prawnych dotyczących rynków regulowanych i nadzoru nad rynkiem. To zaczerpnięcie poszczególnych fragmentów projektu Ustawy z różnych źródeł i jednocześnie odwołanie do stosowania jeszcze kolejnych ustaw (KPA, Prawo przedsiębiorców) sprawia, że zaproponowana regulacja jest bardzo zawiła i niejasna. Trudno jest w sposób prosty, bez konieczności sięgania do innych aktów prawnych (i często zwrotnych odwołań) ustalić pełny zakres normy, w tym praw przysługujących stronie postępowania i uprawnień władczych przysługujących organowi. Taki sposób regulacji budzi wątpliwości co do realizacji zasad demokratycznego państwa prawnego (w tym zasad przyzwoitej legislacji, pewności prawa i zaufania obywatela do państwa i stanowionego przez nie prawa), które mają gwarantować, że obywatel może decydować o swoim postępowaniu w oparciu o pełną znajomość przesłanek działania organów państwowych oraz konsekwencji prawnych, jakie te działania mogą za sobą pociągać.
Projekt ustawy przewiduje także szereg form działania Komisji bądź Przewodniczącego Komisji, jak zalecenia pokontrolne, ostrzeżenia, interpretacje indywidualne, co do których nie wskazano jaką formę prawna przyjmują (decyzji, postanowień czy też nowych- odrębnych form) co wprowadza kolejne zawiłości w procedurze. Dla wymienionych aktów nie przewidziano także środków zaskarżenia i ochrony praw podmiotów stosujących rozwiązania sztucznej inteligencji,
4
co stanowi istotna lukę w regulacji. Środki te mogą bowiem kreować obowiązki bądź zakazy dla tych podmiotów, powodując tym samym daleko idące skutki operacyjne jak i finansowe związane z ich działalnością. Dlatego na zastosowanie taki środków, które powinny przyjąć formę decyzji administracyjnej, jako prawnie doniosłych, powinno podmiotowi dotkniętemu ich działaniem przysługiwać prawo wniesienia odwołania do właściwego Sądu w terminie odpowiednim do zawiłości materii (sugerowanym 2 miesięcy) a do czasu uprawomocnienia się takiego środka nie powinien być on egzekwowany.
Ponad to cały proces kontroli powinien skupiać się nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzystywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzyko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologii i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania sztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na operatora takich systemów.
Uwagi ogólne
Federacja Przedsiębiorców Polskich
Projekt przewiduje możliwość równoczesnego stosowania przepisów przez różne organy nadzorcze w państwach członkowskich wobec tych samych przedsiębiorstw. Zawarty w artykule 2 przepis o zakresie podmiotowym może prowadzić do niejasności interpretacyjnych co do kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji względem zagranicznych podmiotów. Aby uniknąć takich niejasności, sugerujemy precyzyjne określenie, w stosunku do których jednostek międzynarodowych grup kapitałowych Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie miała możliwość prowadzenia działań czy jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw, szczególnie w odniesieniu do firm zagranicznych posiadających oddziały lub spółki zależne w Polsce. Ponadto, projekt zakłada możliwość wydawania interpretacji i rekomendacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co wykracza poza jej kompetencje określone w Akcie w sprawie sztucznej inteligencji, który rezerwuje te uprawnienia wyłącznie dla unijnej Rady ds. AI. Aby uniknąć potencjalnych rozbieżności w interpretacji przepisów unijnych oraz niejasności dla przedsiębiorstw operujących na rynku międzynarodowym, proponujemy usunięcie tych zapisów. Projekt ustawy nie przewiduje również odpowiednich zabezpieczeń dla danych poufnych pozyskiwanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co może prowadzić do naruszenia
5
2.
Uwaga ogólna
Mikołaj "Tesla"
Matysiak #WhiteWater
interesów przedsiębiorstw. Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają szerokie uprawnienia w zakresie przetwarzania i udostępniania informacji chronionych prawnie, co może stanowić zagrożenie dla prywatności firm. Postulujemy wprowadzenie ograniczeń dotyczących przetwarzania i udostępniania informacji objętych tajemnicą przedsiębiorstwa, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów biznesowych. Projekt przyznaje Komisji Rozwoju t Bezpieczeństwa Sztucznej Inteligencji szerokie uprawnienia do pozyskiwania dokumentów i przeprowadzania oględzin urządzeń, co może wykraczać poza wymagania Aktu o sztucznej inteligencji, który ogranicza gromadzenie danych przez organy nadzorcze do tych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Proponujemy, aby uprawnienia te były ograniczone do niezbędnych danych oraz aby wyłączyć wymóg poświadczania zgodności dokumentów z oryginałem, co może stanowić dodatkowe obciążenie administracyjne dla przedsiębiorstw. Projekt przewiduje 14-dniowy termin na wycofanie systemu AI z rynku, co może stanowić wyzwanie dla firm korzystających z zaawansowanych technologii i prowadzić do zakłóceń operacyjnych oraz strat finansowych. Proponujemy wydłużenie tego terminu oraz zniesienie natychmiastowej wykonalności decyzji o wycofaniu systemu, aby firmy miały możliwość dostosowania się do nowych wymagań. Wycofanie systemu AI powinno być ostatecznością, a Komisja powinna skupić się na działaniach prewencyjnych i rekomendacjach. Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji.
Jednak sprawy związane ze sztuczną inteligencją są na tyle skomplikowane, że wymagają odpowiedniego poziomu ekspertyzy. Dlatego proponujemy rozważenie przekazania takich spraw do sądów ds. własności intelektualnej, co mogłoby zapewnić wyższy poziom przewidywalności i rzetelności rozstrzygnięć. Na koniec, chcielibyśmy zwrócić uwagę na wysokie kary pieniężne przewidziane w projekcie oraz krótki, 14-dniowy termin na ich opłacenie. Taka presja finansowa może negatywnie wpłynąć na przedsiębiorców, zwłaszcza przy braku możliwości zawieszenia wykonania decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W celu zachowania proporcjonalności sugerujemy wydłużenie terminu na uiszczenie kar oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu zakończenia procesu odwoławczego. Mamy nadzieję, że nasze uwagi i rekomendacje zostaną wzięte pod uwagę podczas dalszych prac nad projektem. Federacja Przedsiębiorców Polskich jest gotowa do współpracy i wsparcia w dalszych konsultacjach, aby stworzyć stabilne i przewidywalne ramy prawne dla działalności przedsiębiorstw korzystających z systemów sztucznej inteligencji w Polsce.
Propozycje te z jednej strony chronią obywateli, ale jednocześnie zabezpieczają model biznesowy firm w branży i zwiększają poziom bezpieczeństwa i zaufania użytkowników do firm tworzących AI.
Także klasyczne win-win w tej sytuacji. I myślę, że mimo pewnej dodatkowej pracy, której będzie to wymagało od firm w tym obszarze - zakładam, że raczej będą dobrze przyjęte w branży, jako racjonalne i zasadne.
6
Uwagi ogólne
Generationis.ai S.A.
1. Prawo do prywatności: Opcja opt out z wykorzystywania i przechowywania treści w ich systemie (darmowe dla użytkowników indywidualnych i edukacji, może być płatne opt out w planach enterprise dla firm i instytucji).
2. Prawo do dysponowania danymi: Wymóg posiadania opcji lokalnego przechowywania danych na własnym sprzęcie lub chmurze.
3. Prawo do ciągłości danych: Wymóg posiadania możliwości zgrania całości historii wygenerowanej treści przez użytkownika (np. do celów migracji danych do innego AI).
4. Prawo do zachowania ciągłości danych: Zakaz blokowania i usuwania kont oraz wprowadzonych danych bez możliwości zgrania historii danych.
5. Prawo do szybkiej migracji: Po wypracowaniu standardów dla określonego typu treści, wymóg posiadania przynajmniej jednego uniwersalnego typu plików do importu i eksportu dla danego typu treści.
6. Prawo do weryfikacji: Wymóg posiadania opcji ujawnienia, które treści były oglądane przez pracowników firmy. Wymóg posiadania przez firmę imiennych logów kto i co przeglądał i jakie czynności wykonał z tymi danymi (np. do udostępnienia organom ścigania), gdyby ktoś próbował manipulować outputem lub wykradał prywatne dane użytkowników z serwerów firmy
1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami.
2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, co zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI.
3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym.
Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności.
4. Brak przygotowania firm do wdrożenia przepisów
7
Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych.
Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas.
5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań.
Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami.
6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej.
Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach.
7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych.
8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki
8
sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów.
9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych.
Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność.
10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI.
Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji.
11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI.
Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej.
12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw.
Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika.
9
• Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r.
Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI.
Uwagi ogólne
Porozmawiajmy o AI i Poznańskiego Horyzontu Danych
Dodatkowe spostrzeżenia inspirowane podejściem USA
1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju.
Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce.
2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym.
Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży.
Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach.
Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji.
Czy interpretacja wydana przez Komisję w Polsce obowiązuje na terenie całej UE? Jak zsynchronizować rynek?
10
Uwaga ogólna
Open AI Community
Devs
Jakie wyprzedzenie czasowe potrzebujemy, żeby dany system ściągnąć z rynku (zaprzestać używać, np. w przypadku, gdy nasza usługa jest oparta na tym systemie)?
Kary kwotowa i procentowa – dla MŚP wybieramy mniejszą Art. 99, ust. 6 (AI Act).
Rekomendujemy doprecyzowanie czym są małe firmy - firmy które spełniają definicję MŚP np. odwołanie się do polskich przepisów i zawartych tam definicji MŚP.
Podanie konkretnych liczb ekspertów do Rady Społecznej: domenowych na styku AI i społecznego wpływu AI na styku praw człowieka i AI sugerujemy płace dla pracowników (specjalistów) Biura Komisji na poziomie 90 percentyla stawek rynkowych uwzględniających także JDG (Jednoosobową Działalność Gospodarczą). Oczekujemy że w ten sposób zapewniona zostanie wysoka jakość kompetencji osób zatrudnionych w Biurze szczególnie w tak wysoce konkurencyjnym obszarze jakim jest SI.
WSPARCIE DLA MŚP I INDYWIDUALNYCH DEWELOPERÓW
1. Uproszczone procedury dla mniejszych podmiotów.
Postulujemy wprowadzenie do ustawy rozdziału dedykowanego uproszczonym procedurom dla MŚP, jednoosobowych działalności gospodarczych (JDG) oraz indywidualnych deweloperów.
Proponujemy: • Wprowadzenie progów dostosowanych do wielkości przedsiębiorstwa i skali działalności; • Uproszczone wymogi dokumentacyjne dla systemów niskiego ryzyka; • Wydłużone terminy dostosowawcze dla mniejszych podmiotów.
2. System wsparcia finansowego i merytorycznego. Wnioskujemy o uzupełnienie ustawy o przepisy dotyczące: • Utworzenia dedykowanego funduszu wspierającego rozwój i wdrażanie rozwiązań AI; • Programu dotacji na certyfikację i ocenę zgodności systemów AI; • Mechanizmu refundacji kosztów dostosowania się do nowych regulacji.
ROZWÓJ EKOSYSTEMU AI W POLSCE
1. Strategia rozwoju AI. Proponujemy uzupełnienie ustawy o rozdział określający: • Narodową strategię rozwoju AI; • Konkretne cele i wskaźniki rozwoju sektora AI; • Mechanizmy wsparcia dla badań i rozwoju w obszarze AI.
2. Współpraca nauki z biznesem. Postulujemy wprowadzenie przepisów dotyczących: • Utworzenia krajowego repozytorium danych i modeli AI; • Programów współpracy między uczelniami a przedsiębiorstwami; • Wsparcia dla komercjalizacji badań w obszarze AI Brak odpowiednich mechanizmów wsparcia może prowadzić do:
11
• Ograniczenia innowacyjności w sektorze AI; • Wykluczenia mniejszych podmiotów z rynku; • Osłabienia pozycji Polski w globalnym wyścigu technologicznym.
Uwaga ogólna
Instrat – Fundacja Centrum Cyfrowe
Po opublikowaniu projektu ustawy w mediach społecznościowych rozgorzała dyskusja na temat planowanej ingerencji państwa w działalność firm oraz mechanizmów kontroli, jakie ustawa wprowadzi. Oprócz znanych już głosów krytyki dotyczących przeregulowania rynku i zahamowania innowacji, pojawiły się także nowe obawy – dotyczące tworzenia tzw. „milicji SI” (współpracy KRiBSI z Policją lub innymi organami nadzoru państwowego i ochrony prawa) i realizowania daleko idącej kontroli producentów technologii. Pojawiły się także argumenty mówiące o braku jakiejkolwiek ochrony dostawców.
Pojawiające się wątpliwości wskazują na konieczność prowadzenia przejrzystej komunikacji odnoszącej się do konkretnych, budzących obawy zapisów ustawy, jej rzeczywistego zakresu oraz tego, w jaki sposób będzie stosowana. Ważne jest także, aby wyjaśnić, jak regulacja koreluje z założeniami i zobowiązaniami wynikającymi z unijnego rozporządzenia AI Act, co pozwoli rozwiać niepokoje środowiska biznesowego. Bez szeroko zakrojonej komunikacji i działań mających na celu uspokojenie obaw przedsiębiorców może dojść do dezinformacji i narastającej niechęci wobec nowego prawa, co z kolei utrudni jego wdrażanie oraz współpracę z sektorem prywatnym.
Uwaga ogólna
SKwP
Zagadnienie Biura i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Problem AI jest trudny, perspektywiczny i dynamicznie rozwijający się. Zespół pracujący nad kontrolą bezpieczeństwa AI powinien być powołany za zgodą społeczną, zatem z akceptacją Sejmu RP.
Oddanie pełnej personalnej władzy w ręce Prezesa RM budzi obawę o naciski lobbystów i ekspertów zagranicznych (UE).
Uwaga ogólna
Repropol
Jak wynika z uzasadnienia projektu ustawy o systemach sztucznej inteligencji (dalej jako „Projekt”, a ustawa jako „UoSSI”), wdrożone mają zostać te przepisy AIA, których data nabrania mocy obowiązującej przypada na 2 sierpnia 2025 roku. Mowa tutaj zatem o rozdziałach I, II, III sekcja 4, V, VII, IX, XI. Choć zasadniczym trzonem wdrożenia są przepisy o charakterze technicznoadministracyjnym, związane z ustanowieniem krajowych urzędów certyfikujących oraz nadzorujących, zakres wdrożenia obejmuje także rozdział V, który odnosi się do modeli AI ogólnego przeznaczenia (dalej jako: „GPAI”). Ten rodzaj modeli, zwłaszcza modele z ryzykiem systemowym, mają fundamentalne znaczenie dla rozwoju fenomenu sztucznej inteligencji. W tym kontekście należy zwrócić uwagę na fakt, iż zagadnieniu GPAI projektodawca nie poświęcił żadnej uwagi, prócz wzmianki w art. 1 ust. 2 UoSSI.
Już w tym miejscu sygnalizujemy ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku, wypada atrakcyjnie w kontekście istotnie mniejszych środków finansowych
12
Uwaga ogólna
Naczelna Rada Adwokacka (NRA)
Uwaga ogólna
Związku Pracodawców Technologii Cyfrowych Lewiatan
przeznaczonych na wdrożenie Aktu o Usługach Cyfrowych. Jeśli jednak obecne w przestrzeni publicznej zapowiedzi dotyczące aktywnego uczestnictwa Polski w tworzeniu najnowszych technologii mają mieć szansę na realizację, niezbędne wydają się kwoty dużo wyższe. Jak wyraźnie stanowi art. 70 ust. 3 AIA, dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”. Zapewnienie tego rodzaju kompetencji musi kosztować. Zapisana w projekcie ustawy kwota oznacza średniomiesięczne wydatki na poziomie około 2,5 miliona złotych. Jeśli już wziąć pod uwagę koszt tworzenia nawet niewielkich modeli i systemów AI (co może stanowić pośredni benchmark dla obliczania budżetów tego rodzaju przedsięwzięć), wskazane kwoty wydają się zbyt niskie.
Choć przepisy Projektu mają zapewnić ochronę interesu publicznego, prawa i wolności obywateli oraz bezpieczeństwo technologiczne, to w wielu przypadkach ich struktura i zakres budzą wątpliwości i zastrzeżenia. Przepisy Projektu w art. 5 i 6 przewidują powołanie KRiBSI, której nadrzędną misją ma być sprawowanie pieczy nad przestrzeganiem postanowień tej ustawy.
Zakres działań KRiBSI ma obejmować monitorowanie rynku systemów SI, a także egzekwowanie obowiązków nałożonych na dostawców oraz użytkowników tych systemów. Zgodnie z treścią Projektu KRiBSI będzie organem państwowym dysponującym rozległymi kompetencjami nadzorczymi, a przyznane jej uprawnienia wydają się w dużej mierze sankcyjne i dyscyplinujące.
Nie można jednak przeoczyć, iż sposób powoływania członków KRiBSI, określony w art. 20–26 Projektu, rodzi pewne zastrzeżenia odnośnie do niezależności tej instytucji. Projekt wskazuje bowiem, iż przewodniczący Komisji powoływany będzie przez Szefa Kancelarii Prezesa Rady Ministrów (art. 26 Projektu), co stwarza przestrzeń dla potencjalnych wpływów politycznych.
Uzasadnionym byłoby zatem rozważenie takich modyfikacji w przepisach, które wzmacniałyby gwarancje niezależności KRiBSI oraz zapewniałyby przejrzysty i publiczny tryb powoływania jej członków. Transparentność procesu nominacji i zabezpieczenie KRiBSI przed wpływami politycznymi mogłyby przyczynić się do zwiększenia zaufania społecznego wobec tego organu, w szczególności w kontekście jego roli w nadzorze nad systemami SI.
Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia
– jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”.
Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej.
13
Uwaga ogólna
HAiQ
Nie za lekka? O ile należy docenić niechęć Ministerstwa Cyfryzacji do tworzenia kolejnej zasobochłonnej instytucji administracji centralnej, to wydaje się, że takie rozwiązanie nie rozwiązuje innego problemu: deficytu ekspertów od SI. W uzasadnieniu do ustawy czytamy, że powodem, dla którego zdecydowano się na ustanowienie jednej centralnej instytucji zajmującej się SI, był fakt deficytu ekspertów od tej technologii. Trudno nie zgodzić się z taką diagnozą.
Jednocześnie jednak konstrukcyjna lekkość Komisji de facto wymaga tego, aby eksperci od SI znaleźli się we wszystkich dziewięciu instytucjach wymienionych w Art. 7., których przedstawiciele są członkami Komisji. Czyli formalnie mamy koncentrację kompetencji w jednym ciele, lecz ze względu na jego sieciowy charakter, potrzebę znaczącej dekoncentracji wiedzy na temat SI. Jeżeli nie nastąpi proces owej dekoncentracji, to jedynie Przewodniczący Komisji dzięki wymogom formalnym (Art. 18.), będzie jedynym ekspertem z zakresu przedmiotowego ustawy. Należy zaś pamiętać, że każdy członek Komisji (Art. 8.) ma taką samą siłę głosu (oprócz sytuacji patowych).
Obyśmy zatem nie tworzyli instytucji, która będzie pozwalała laikom z zakresu SI podejmować “lekką ręką” decyzje mające bardzo poważne konsekwencje w sprawach tak wrażliwej i dynamicznie rozwijającej się technologii jak SI. Niedawno doświadczaliśmy niestety tego rodzaju zachowań ze strony funkcjonariuszy państwa.
A gdzie rozwój? Jak już wspomnieliśmy wcześniej pełna nazwa ciała mającego zajmować się sztuczną inteligencją w Polsce to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Niestety w projekcie ustawy mamy bardzo niewiele informacji o tym, w jaki sposób nowy organ miałby zajmować się rozwojem SI w naszym kraju. W uzasadnieniu do ustawy pojawia się wiele deklaracji w tej kwestii, lecz na poziomie tzw. action points nie ma wiele. Co więcej, zakres przedmiotowy ustawy (Art. 4.) wyklucza obszar badań naukowych, zaś wśród członków Komisji nie jest wymieniony przedstawiciel ministra nauki i szkolnictwa wyższego.
A gdzie bezpieczeństwo? Ten sam problem jest związany z kwestiami bezpieczeństwa. Na poziomie deklaracji mamy wiele haseł związanych z potrzebą wspierania implementacji systemów SI w sferach związanych z bezpieczeństwem, lecz na poziomie procesów faktycznie opisywanych w ustawie niewiele znajdujemy. Ponownie, przedstawiciele ministra obrony oraz ministra administracji i bezpieczeństwa wewnętrznego nie są wymienieni jako członkowie Komisji (chociaż jest koordynator ds. służb specjalnych), zaś obszary obronności i bezpieczeństwa są wykluczone z przedmiotowego zakresu działań nowego ciała. Te wszystkie wykluczenia można poniekąd zrozumieć, ponieważ są one również obecne w AI Act obowiązującym w Unii Europejskiej. Można się jednak zastanowić, czy Polska nie powinna jednak inaczej sprofilować swojej najważniejszej instytucji zajmującej się SI. O ile można zrozumieć wykluczenie kwestii bezpieczeństwa wewnętrznego i zewnętrznego z kompetencji Komisji, to trudno zrozumieć odcięcie od kwestii badawczych. Sztuczna inteligencja nie jest nawet w części rozwiniętą technologią. Nieustannie rozwija się, a Polska powinna uczestniczyć w tym procesie. Dlatego koniecznym wydaje się, żeby
14
kluczowymi elementami ‘lekkiej organizacji’ jaką jest Komisja, byli przedstawiciele instytucji zajmujących się nauką. “Komisja Nadzoru i Kontroli Sztucznej Inteligencji”. W obecnym kształcie nowo powołane ciało na poziomie w miarę dokładnie opisanych działań i kompetencji ma przede wszystkim zajmować się nadzorem nad podmiotami wykorzystującymi systemy SI oraz reagować na skargi zgłaszane wobec ich działań. Proponowana zaś przez Ministerstwo Cyfryzacji nazwa nowej instytucji centralnej kompletnie nie oddaje jej kluczowych kompetencji. Co więcej, kompetencje związane z notyfikacją systemów SI mają być przypisane ministrowi ds. informatyzacji (Rozdział 6). Naszym jednak zdaniem dobrze byłoby, aby w swojej końcowej formie Komisja posiadała kompetencje, które rzeczywiście odpowiadają jej proponowanej nazwie. Zapewne strona rzędowa będzie argumentować, że wiele elementów działań Komisji będzie realizowane przez Biuro Komisji (Art. 31), które ma powołać premier. Jednakże na podstawie udostępnionych dokumentów nie wiele wiadomo o planowanych działaniach tego ciała.
Brzydkie słowo na ‘b’. Koncentrowanie się na kompetencjach związanych z nadzorem i kontrolą powoduje, że uwadze autorów projektu ustawy ucieka biznes. W uzasadnieniu ustawy czytamy, że Komisja ma wspierać małe i średnie przedsiębiorstwa. Trudno jednak dociec, jak to ma robić.
Jedynie nadzorując i kontrolując wiele w tym obszarze nie osiągnie. Można się też obawiać, że aby wykazać swoją prężność, to właśnie te podmioty staną się głównym celem działań tej instytucji. Samo Ministerstwo przyznaje, że ekspetów od SI jest w Polsce bardzo mało, kogo więc będzie stać na ich wynajęcie, aby odwoływać się od decyzji Komisji. Zapewne tzw. Big Techy, a co z mniej zamożnymi przedsiębiorstwami?
Trochę kultury! Na koniec uwaga dotycząca nie tylko projektu polskiej ustawy, lecz także unijnego podejścia do SI. Ustanowiona przez AI Act polityka publiczna wobec SI, jest polityką publiczną nakierowaną na “algorytmiczną sztuczną inteligencję”. Głównym problemem, który ma ona zaadresować, jest przede wszystkim automatyzacja procesów decyzyjnych. Systemy SI będące elementami instytucji finansowych, czy też publicznych, mogą uzyskać zbyt dużą autonomię w podejmowaniu szybkich i nietransparentnych decyzji. Decyzje te mogą zagrażać wielu gwarantowanym przez Unię Europejską prawom obywatelskim. Uważamy, że to zagrożenie jest realne, poważne i należy na nie reagować. Dobrą odpowiedzią na nie jest zarówno AI Act, jak i komentowany przez nas projekt ustawy; nawet w swojej nadzorczo-kontrolnej formie. Problem w tym, że obecnie jesteśmy świadkami rozwoju przede wszystkim “generatywnej sztucznej inteligencji”. Ta nie tyle wiąże się z automatyzacją procesów podejmowania decyzji, co z wysoką autonomią przekształcania i tworzenia nowych przekazów symbolicznych. Tutaj problemem nie jest kwestia nieprzejrzystych decyzji kredytowych, co odróżniania prawdziwych przekazów audiowizualnych od tych generowanych przez SI. Gwałtowny rozwój generatywnej sztucznej inteligencji mniej też jest związany z naruszaniem naszych indywidualnych praw, lecz bardziej
15
Uwaga ogólna
Fundacja Państwo
Moje
praw związanych ze wspólnotami - w tym kulturowymi i społecznymi - których jesteśmy członkami.
Sztuczna inteligencja karmi się bowiem wytwarzanymi przez nas wspólnie treściami kulturowymi oraz bardzo dynamicznie zaczyna na nie wpływać. Warto zatem zastanowić się, czy nasz krajowa regulacja nie powinna wziąć pod uwagę tego zmieniającego się charakteru sztucznej inteligencji.
Fundacja popiera rozwiązanie zawarte w projekcie ustawy polegające na utworzeniu w Polsce zupełnie nowego organu nadzoru rynku w zakresie sztucznej inteligencji, tj. Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji “Komisja” (co było rekomendowane przez Fundację w ramach prekonsultacji dotyczących projektu ustawy w kwietniu 2024 r.). Organ poza nadzorowaniem rynku ma także wzmacniać branżę sztucznej inteligencji w Polsce oraz pełnić funkcję podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, zatem ustanowienie nowej instytucji, zamiast rozdzielania nowych obowiązków wynikających z Aktu w sprawie sztucznej inteligencji 4 pomiędzy istniejące już organy, wydaje się rozwiązaniem najwłaściwszym.
Na uwagę zasługują zadania Komisji polegające na opracowywaniu i wydawaniu publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych (art. 11 ust. 1 pkt 8 projektu ustawy). Zapewnienie ram dla rozwoju zrównoważonej technologii sztucznej inteligencji, wspieranie innowacyjności wśród przedsiębiorców oraz promowanie zorientowanego na człowieka podejścia do sztucznej inteligencji będzie wiązało się z koniecznością ciągłej edukacji obywateli, w tym przedstawicieli administracji publicznej oraz przedsiębiorców.
Istotnym zadaniem Komisji – w kontekście budowania wiedzy wśród społeczeństwa o systemach sztucznej inteligencji – będzie również gromadzenie i upowszechnienie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją (art. 11 ust. 1 pkt 10 projektu ustawy). W przypadku tego przepisu należałoby rozważyć doprecyzowanie miejsca publikacji ww. orzecznictwa np. poprzez wskazanie, że publikacja nastąpi w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.
Projekt ustawy zakłada w art. 14 ust. 1, że “Przewodniczący Komisji, na wniosek zainteresowanego, wydaje w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy”. Na podstawie projektowanego przepisu do złożenia wniosku o wydanie interpretacji jest uprawniony każdy, kto ma wątpliwości jak interpretować, w odniesieniu do dotyczącej go sprawy, przepisy Aktu w sprawie sztucznej inteligencji lub przepisy projektowanej ustawy – zatem mógłby to być zarówno obywatel, na którego wpływ ma system sztucznej inteligencji, jak i spółka lub podmiot publiczny, na których spoczywają obowiązki wynikające z Aktu w sprawie sztucznej inteligencji. Zdaniem Fundacji zasadnie przyjęto szeroki zakres podmiotów uprawnionych do wystąpienia z wnioskiem o interpretację przepisów regulujących systemy
16
sztucznej inteligencji. W projektowanym przepisie należałoby wskazać jednak termin w jakim Przewodniczący Komisji jest zobowiązany do rozpoznania wniosku o wydanie interpretacji.
Uwaga ogólna
SIODO
W uzasadnieniu projektu ustawy (str. 12) wskazano, że: w celu zapewnienia koordynacji i wymiany informacji na temat sektora sztucznej inteligencji, przy Komisji ma zostać powołana Społeczna Rada do Spraw Sztucznej Inteligencji (“Rada”). Celem jej działania ma być zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. Uprawnienie do zgłaszania kandydatur do Rady zostało ograniczone poprzez przepis art. 28 ust. 3 projektowanej ustawy, zawierający wskazanie podmiotów oraz kategorii podmiotów, które mogą z tego prawa skorzystać.
Zdaniem Fundacji należy rozważyć rozszerzenie katalogu zawartego w ww. przepisie w zakresie organizacji pozarządowych tj. w zakresie art. 28 ust. 3 pkt 7. Komentowany przepis wskazuje, że kandydatów na członków Rady mogą zgłosić fundacje lub stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Naszym zdaniem cennym źródłem wskazywania kandydatów do Rady byłyby również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które są w stanie wykazać się działalnością na rzecz rozwoju sztucznej inteligencji lub, których działalność statutowa jest związana z wspieraniem rozwoju sztucznej inteligencji. Proponowane rozwiązanie mogłoby wpłynąć na większą różnorodność kandydatur zgłaszanych na członków Rady
1. art. 3 pkt 4) rozporządzenia 2024/1689;- „użytkownik” oznacza osobą fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które korzystają z systemu sztucznej inteligencji pod swoją kontrolą, z wyjątkiem sytuacji, gdy system sztucznej inteligencji jest wykorzystywany w ramach osobistej działalności pozazawodowej:
1) z uwagi na potrzebę jednoznacznego zdefiniowania podmiotu operującego narzędziami sztucznej inteligencji,
2) w tym komunikowanie publiczne (BIP)o wykorzystaniu narzędzi sztucznej inteligencji w działaniach podmiotu;
3) możliwość rezygnacji z usług podmiotu wykorzystującego narzędzia sztucznej inteligencji oraz alternatywne rozwiązania jako poszanowanie podstawowych praw osób o decydowaniu o sobie (lub stosowne uzasadnione ustawowe ograniczenie praw)
2. stosownie do zapisów Artykuł 29 rozporządzenia 2024/1689 – określenie osoby funkcyjnej (np. pełnomocnik wójta, burmistrza d/s cyberbezpieczeństwa i sztucznej inteligencji) u użytkownika (podmiotu lub organu publicznego) monitorującego działanie systemu sztucznej inteligencji. W tym: pozycję osoby w strukturze jednostki organizacyjnej, minimalny zakres uprawnień i obowiązków w stosunku do personelu i narządzi, którymi personel się posługuje, a także kwalifikacje zawodowe jakie powinien wykazywać przed kierownictwem jednostki organizacyjnej jako gwarancji sprawowania właściwego nadzoru
17
Uwaga ogólna
Stowarzyszenie Autorów Wydawców Copyright Polska
i
W imieniu Stowarzyszenia Autorów i Wydawców Copyright Polska, organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi działającej w imieniu i w interesie autorów i wydawców utworów słownych, przekazuję uwagi w ramach konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71), dalej: projekt, udostępnionej publicznie do zgłaszania uwag w dniu 16 października 2024 r. w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny.
Z aprobatą przyjmujemy szybkie opracowanie przez Ministerstwo Cyfryzacji konsultowanego projektu wobec obowiązywania rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – Aktu o sztucznej inteligencji, wymagającego zapewnienia uczestnikom obrotu pewności prawa.
Zgłaszamy w ramach konsultacji publicznych uwagi służące przede wszystkim uzupełnieniu istotnej luki projektu – to jest zapewnienia udziału uprawnionych lub podmiotów ich reprezentujących w gremiach decyzyjnych i doradczych powoływanych w projekcie do życia .
Uwagi te wynikają z zupełnego pominięcia przez projekt kwestii ochrony praw autorskich i praw pokrewnych, podczas gdy Akt o sztucznej inteligencji odnosi się do tych zagadnień w motywach od 104 do 109 oraz w art. 53 ust. 1 lit. c), zgodnie z którym dostawcy modeli AI ogólnego przeznaczenia wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności [to znaczy nie wyłącznie – dopisek SAiW CP] z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790.
Skoro konsultowany projekt ma służyć stworzeniu rzeczywistego i skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, to nie powinien pomijać realnej możliwości reprezentowania w tym systemie interesów licznych podmiotów, którym służą prawa autorskie i prawa pokrewne do treści użytych i używanych do trenowania (uczenia) sztucznej inteligencji. Bez treści autorskich narzędzia AI nie nabyłyby funkcjonalności, które posiadają i które rozwijają w procesie ciągłego uczenia się. Projektowana ustawa winna z tego powodu zapewniać realny udział i decyzyjność organów reprezentujących podmioty autorskouprawnione oraz konsultacyjną rolę ich organizacji w pracach ciał powoływanych przez nią do życia.
Póki co nie znajdziemy w projekcie żadnego odniesienia wprost do praw autorskich, ani mocniejszego niż fakultatywne uprawnienia jakiegokolwiek podmiotu, który mógłby strzec ich poszanowania w operacyjnym działaniu organów tworzonych przez nową ustawę o sztucznej inteligencji.
18
Podstawowy wedle projektu organ – Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej: Komisja – ma posiadać ustawą kompetencję wydawania interpretacji, generalnych i indywidualnych, w sprawach stosowania Aktu o sztucznej inteligencji. Póki co, właściwie od dobrej woli Komisji zależy zaproszenie do takich spraw w roli uczestników prac podmiotów reprezentujących interes uprawnionych. Proponujemy więc, by przedstawiciel Ministra Kultury był nie tylko fakultatywnym członkiem Komisji, ale by rozważyć jego bardziej sformalizowany, stały udział w jej pracach lub by konsultacja z nim przez Komisję była obligatoryjna we wszelkich sprawach rozpatrywanych przed Komisją, które wprost dotyczą lub odnoszą się do kwestii ochrony praw autorskich i praw pokrewnych.
Uwaga ogólna
Polskie Towarzystwo Informatyczne
Jedną z metod regulacji może być uznanie tego Ministra za wchodzącego w skład Komisji, co dawałoby mu wpływ na powoływanie składu Rady Społecznej, a inną metodą regulacji może być ujęcie Ministra Kultury w art. 6 ust. 3) projektu, jako podmiotu współpracującego z Komisją w zakresie spraw, o których mowa w art. 53 ust. 1 lit. c) rozporządzenia 2024/1689.
Po pierwsze, zasadnicze znaczenie ma osadzenie AI Act w szerszym - i nadrzędnym - kontekście normatywnym, czyli unijnej koncepcji ‘trustworthy A’I, która obejmuje etykę, prawo i solidność techniczną.
Koncepcja ta jest wywiedziona z praw podstawowych (poszanowanie godności ludzkiej; wolność jednostki; poszanowanie demokracji, sprawiedliwości i praworządności; równość, brak dyskryminacji i solidarność; prawa obywatelskie), a jej 7 wymogów (przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy; odpowiedzialność) wraz z dokumentem, z którego pochodzą (Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji) jest explicite przywołanych w 27 motywie Preambule AI Act (co prawda w rozporządzeniu są one określone mianem zasad, co jest nieco mylące, bo zasady ‘trustworthy AI’ to coś innego niż wymogi, niemniej ich przytoczenie rozwiewa wątpliwości).
Na koniec motywu stwierdza się: "Stosowanie tych zasad powinno w miarę możliwości znaleźć odzwierciedlenie w projektowaniu i wykorzystywaniu systemów i modeli AI. Zasady te powinny w każdym przypadku stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Wszystkie zainteresowane strony, w tym przedstawicieli przemysłu (w tym ich wewnętrznych działów badań i innowacji), środowisko akademickie, społeczeństwo obywatelskie i organizacje normalizacyjne, zachęca się, by przy opracowywaniu dobrowolnych najlepszych praktyk i norm uwzględniali odpowiednio przedmiotowe zasady etyczne."
Nie ulega zatem wątpliwości, że nadrzędnymi wartościami przyświecającymi prawu dot. AI są prawa podstawowe oraz dobrostan ludzki i środowiskowy, zaś podstawowym kryterium oceny
19
Uwaga ogólna
AI Chamber
technologii winno być to, czy w danym przypadku możliwe jest zapewnienie zgodności z tymi wartościami, prawami, zasadami i wymogami.
W tym świetle interesariuszami ‘AI governance’ są więc nie tylko władza ustawodawcza i wykonawcza oraz przedsiębiorcy, ale - przede wszystkim - społeczeństwo oraz środowisko (co jest szczególnie istotne w kontekście tzw. negatywnych kosztów zewnętrznych AI, szczególnie deep learningu i genAI).
Z kolei warunkiem zapewnienia zgodności z wymogami prawa jest zarówno rzetelne przeprowadzenie procedur oceny zgodności i oceny ryzyka, jak i dostępność odpowiednich standardów i metod umożliwiających operacjonalizację wartości, zasad i wymogów w konkretnej praktyce projektowej, które są wypracowywane na gruncie interdyscyplinarnych prac obejmujących nie tylko badania nad AI, ale również szeroko pojętą etykę AI.
W przeciwnym razie zgodność z AI Act będzie bardzo powierzchowna i sprowadzi się do zapewnienia formalnego compliance w postaci procedur, których nikt nie będzie urzeczywistniał w praktyce rozwijania i wdrażania systemów AI.
Sztuczna inteligencja ma potencjał przeobrażenia prawie każdej sfery naszego życia i gospodarki, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, tworząc te technologie lub przynajmniej adaptując je do swoich potrzeb i wdrażając odpowiednio szybko i skutecznie.
Tego myślenia, zdaniem Izby, brakuje w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje SI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny i skomplikowany system kontroli przestrzegania przepisów Aktu o SI. Brakuje praktycznie całkowicie wśród przedstawionych przepisów tych, które realizują wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”.
W szczególności wskazujemy tu brak rozwiązań tworzących piaskownice regulacyjne. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE nie znajduje uzasadnienia. Jeżeli chcemy, aby Polska była na czele rozwoju SI to tego typu rozwiązania muszą powstać jak najszybciej.
Tempo rozwoju SI jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie.
Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej rewolucji - mamy utalentowanych twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie.
Projekt czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływana Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI lub Komisja) wzorowana jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost
20
przeniesione z ustawy o nadzorze rynku finansowego. Takie podejście ma swoje zalety i adaptacja sprawdzonych rozwiązań ma wiele zalet. Wskazujemy jednak na to, że sztuczna inteligencja jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, zasadniczo odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej - usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami. Nie można tego samego powiedzieć o SI, z pewnością nie w większości przypadków. Tworzenie wobec tego instytucji nadzoru wedle tych samych wzorców budzi poważne wątpliwości.
Ustawa w innych miejscach też adoptuje rozwiązania z innych ustaw, wprowadzając jednak do nich nie zawsze zrozumiałe i celowe zmiany, zamiast odesłać w danym zakresie w całości do obowiązujących już ustaw. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych (jak np. interpretacja indywidualna, uregulowana w ustawie Prawo przedsiębiorców).
Uwaga ogólna
Związek Polskich
Banków Postulat doprecyzowania pojęcia tajemnic prawnie chronionych.
Należy zgłosić postulat dokonania zmian w odpowiednich przepisach sektorowych, jeżeli ma to obejmować tajemnice typu bankowa, ubezpieczeniowa i in.
Jeżeli Komisja miałaby mieć dostęp do tajemnicy typu tajemnica bankowa, ubezpieczeniowa, niezbędne są zmiany w sektorowych aktach prawnych poprzez dodanie tego podmiotu jako uprawnionego do żądania informacji objętych tego typu tajemnicą.
Niedoprecyzowany pozostaje tryb rejestrowania Systemów SI wysokiego ryzyka w europejskiej bazie danych.
Uwaga ogólna
PIKE
Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie.
Ustawa niewystarczająco odpowiednio reguluje kwestie zależności (w szczególności zgodności) rozporządzenia 2024/1689 z innymi przepisani lokalnymi, które obecnie obowiązują w obszarach mniej lub bardziej bezpośrednio związanych z obszarem, którego dotyczy rozporządzenie. W szczególności chodzi o wymogi wydanej przez KNF Rekomendacji W zakresie zarządzania ryzykiem modeli w Bankach i odpowiedzi na podstawowe pytanie, czy modele zdefiniowane przez instytucję finansową jako modele AI podlegają definicji pod wymogi rekomendacji W czy też nie podlegają. Dodatkowo ustawa powinna obligować organy wydające przepisy, o których mowa do ich aktualizacji z uwzględnieniem przepisów rozporządzenia.
1. Centralizacja wdrożenia AI
21
Najistotniejszym zarzutem wobec projektu ustawy AI jest brak faktycznej centralizacji regulacji w zakresie AI oraz wyznaczenia jednoznacznie odpowiedzialnych osób za jej wdrożenie. Na czele organu nadzoru rynku w zakresie systemów sztucznej inteligencji powinna stać wyłącznie jedna, konkretnie wskazana osoba, podobnie jak w przypadku Urzędu Komunikacji Elektronicznej czy Urzędu Ochrony Danych Osobowych. W żadnym wypadku nie powinien być to organ kolegialny (Komisja) składający się z aż 12 członków o różnych podejściach do gospodarki – jak w UOKiK, RPO czy RPDz. Taka struktura organu kolegialnego skutkowałaby wewnętrznymi sporami, brakiem spójnej polityki regulacyjnej oraz niejednolitym orzecznictwem. Zjawiska te znacząco ograniczą wdrażanie sztucznej inteligencji w Polsce, a ponadto utrudnią realizację postanowień unijnego rozporządzenia 2024/1689.
Należy zwrócić uwagę, że projekt ustawy AI, ze względu na kolegialny skład proponowanego organu, już wykazuje sprzeczności w zakresie decyzyjnym. Dotyczy to przede wszystkim interpretacji wydawanych przez dwa różne podmioty (Komisję i jej Przewodniczącego), co docelowo prowadzi do niezgodności tych stanowisk. Izba stanowczo podkreśla, że utworzenie jednoosobowego organu regulacyjnego jest kluczowe dla skuteczności jego działań. Inne instytucje powinny pełnić wyłącznie rolę doradczą, przy czym ich skład powinien mieć charakter ekspercki - naukowy i gospodarczy – nie zaś „społeczny”.
2. Charakter organu nadzorującego Opracowanie i wdrożenie sztucznej inteligencji w Polsce powinno być domeną naukowców informatyków oraz przedstawicieli przemysłu. Tymczasem obecny kształt projektu ustawy AI całkowicie ich pomija przy podziale stanowisk i zadań. Jest to sytuacja, na którą nie można się zgodzić, gdyż spowoduje istotne opóźnienia Polski w dziedzinie rozwoju oraz stosowania sztucznej inteligencji. W opinii Izby, projektowana ustawa AI wymaga odrzucenia i opracowania w całkowicie nowej formie. PIKE z niepokojem zauważa, że skład Komisji ma charakter silnie społeczny, a nie naukowy czy gospodarczy. To wskazuje, że działania Komisji będą się koncentrować na priorytetach bezpośrednio niepowiązanych z innowacyjnością czy gospodarką.
Taka struktura (nawet bardziej niż kolegialność) będzie miała negatywny wpływ na wdrożenie AI w Polsce.
W przypadku nieuwzględnienia naszego postulatu o ustanowienie jednoosobowego organu nadzorującego, rekomendujemy całkowitą zmianę składu Komisji. Powinni w niej zasiadać przede wszystkim osoby ze środowisk naukowych, związanych z informatyką oraz przedstawiciele przemysłu, zwłaszcza branży ICT. Zaskakującym pozostaje, że projekt ustawy AI nie przewiduje żadnej roli dla Państwowego Instytutu Badawczego NASK, który powinien odgrywać kluczową rolę w rozwoju sztucznej inteligencji. Podkreślamy, że tylko proponowany przez Izbę skład organu zapewni, iż jego priorytetem pozostanie rozwój gospodarczy i realizacja założeń Strategii Cyfryzacji Państwa.
W przypadku odrzucenia naszych postulatów dotyczących zmiany składu Komisji oraz Rady, wyrażamy obawę, że ucierpi na tym konkurencyjność polskiej gospodarki względem państw
22
bardziej przychylnych naukowcom i przedsiębiorcom, takich jak kraje Europy Zachodniej, USA czy Korea Południowa. W przypadku tak innowacyjnego produktu, jakim jest AI, stanowi to poważne zagrożenie, gdyż polscy naukowcy mogą zechcieć ją rozwijać w bardziej przyjaznych im środowiskach regulacyjnych. Z kolei polski przemysł będzie skłonny wdrażać rozwiązania AI opracowane w gospodarkach o bardziej prorozwojowej polityce, korzystając z zasad otwartego rynku UE. W konsekwencji sztuczna inteligencja (jako oprogramowanie stosowane m.in. w sieci Internet) może stać się w Polsce produktem zewnętrznym, co jeszcze bardziej pogłębi nasze cyfrowe zacofanie.
3. Procedury działania Projektowany kolegialny charakter głównego organu regulacyjnego AI oraz liczba instytucji „współpracujących” powoduje, że projekt ustawy przewiduje skomplikowane i mało efektywne procedury. W opinii Izby, działania organów ds. AI powinny zostać oparte na przepisach kodeksu postępowania administracyjnego, z całym jego orzecznictwem i doktryną. Ponadto, zasady współpracy między poszczególnymi organami powinny być precyzyjniej określone, zarówno w zakresie rozgraniczenia ich kompetencji, jak i wzajemnego wpływu wydawanych decyzji, rekomendacji oraz zaleceń. W obecnym kształcie projekt ustawy AI wydaje się być zbiorem sugestii różnych instytucji aspirujących do udziału w procesie regulacyjnym, lecz bez jasno określonych relacji, zarówno w zakresie przyjętej linii decyzyjnej, jak też uzgodnień. Większość tych zastrzeżeń byłoby nieaktualnych, gdyby uwzględniono postulat Izby dotyczący centralizacji organu nadzorującego i jego jednoosobowego charakteru.
Uwaga ogólna
Fundacja Poland
FinTech
Podsumowując, Izba kładzie nacisk na konieczność całkowitego przekształcenia projektu ustawy AI w odniesieniu do celów, którym powinna służyć sztuczna inteligencja oraz określenia podmiotów już zaangażowanych w jej rozwój i wdrożenie. W związku z powyższym, proponujemy zorganizowanie konferencji uzgodnieniowej z udziałem przedstawicieli nauki, środowiska informatycznego oraz biznesu, na której możliwe byłoby wspólne wypracowanie celów, którym ma służyć wdrożenie unijnego rozporządzenia 2024/1698 w Polsce, a także przekształcenie projektu ustawy AI z uwzględnieniem tych priorytetów.
W ramach rekomendacji o charakterze ogólnym zwracamy uwagą na potrzebę rozważenia rewizji projektu pod kątem zapewnienia konkurencyjności polskiego systemu prawnego w stosunku do regulacji dotyczących AI w innych państwach. W sytuacji braku polskich podmiotów odgrywających czołową rolę w kształtowaniu rozwiązań AI na poziomie globalnym (zarówno w środowisku akademickim, jak i wśród dostawców rozwiązań biznesowych), a także wyraźnych ambicji Polski w tym zakresie (np. Polityka Rozwoju AI w Polsce, plany funduszy na rzecz AI, dynamiczny rozwój ośrodków takich jak IDEAS NCBiR), kluczowe jest stworzenie przyjaznego otoczenia prawnego dla rozwoju tej technologii. Istotne w tym zakresie jest budowanie zachęt i sprzyjających warunków rozwoju dla AI (oczywiście w granicach wyznaczonych przez AI Act) oraz eliminacja nadmiernych barier dla inwestycji i indywidualnej kreatywności. Wykorzystanie
23
Uwagi ogólne (piaskownice)
HAERGI SP.ZOO
nadmiarowych narzędzi kontroli, takich jak np. wysokie kary finansowe czy długotrwała konfiskata sprzętu, może prowadzić do znacznego zahamowania rozwoju AI w Polsce, a tym samym obniżenia konkurencyjności polskiej gospodarki.
Chciałbym zwrócić uwagę na kwestię piaskownic regulacyjnych w kontekście rozwoju startupów z sektora sztucznej inteligencji (AI). Mimo iż teoretycznie mają one stanowić bezpieczne środowisko testowe dla firm, w praktyce mogą one napotkać poważne ograniczenia, które utrudnią ich efektywne działanie.
Piaskownice regulacyjne – szansa czy ograniczenie?
Zgodnie z założeniami, piaskownice regulacyjne miałyby zapewnić firmom możliwość testowania innowacyjnych rozwiązań AI w bezpiecznych, kontrolowanych warunkach, bez ryzyka naruszenia przepisów. Jednak w praktyce startupy AI potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych – takich jak karty GPU czy usługi chmurowe – aby rozwijać swoje technologie. Obecnie na rynku obserwujemy niedobór tych zasobów, co stanowi poważne ograniczenie dla firm działających w tej branży.
Problem infrastrukturalny Budowa i utrzymanie infrastruktury obliczeniowej na potrzeby piaskownic regulacyjnych wiąże się z ogromnymi kosztami. Państwo musiałoby ponieść znaczące wydatki, aby stworzyć zasoby, które choćby w części dorównują ofertom komercyjnych dostawców, takich jak Microsoft (Azure) czy Amazon (AWS). W związku z tym pojawia się pytanie, czy tego typu inwestycja jest opłacalna z punktu widzenia budżetu państwa i czy piaskownice rzeczywiście będą stanowiły wystarczającą zachętę dla startupów.
Rządowa Chmura Obliczeniowa (RCO)
Zgodnie z przepisami Rządowa Chmura Obliczeniowa (RCO) jest dostępna jedynie dla podmiotów administracji publicznej, co ogranicza możliwość korzystania z jej zasobów przez startupy z sektora prywatnego. To dodatkowo komplikuje sytuację firm AI, które potrzebują skalowalnych zasobów chmurowych.
Alternatywne rozwiązania Zamiast koncentrować się na budowie piaskownic regulacyjnych, warto rozważyć inne formy wsparcia dla startupów AI, które mogą okazać się bardziej efektywne i mniej kosztowne:
1. Subwencje i granty – Państwo mogłoby udzielać firmom dotacji na korzystanie z zasobów komercyjnych platform obliczeniowych, takich jak AWS, Azure czy Google Cloud. Takie wsparcie umożliwiłoby startupom trenowanie modeli AI na najlepszych dostępnych narzędziach, jednocześnie minimalizując obciążenia budżetowe.
2. Partnerstwa z globalnymi dostawcami – Rząd mógłby nawiązać współpracę z technologicznymi gigantami, takimi jak Microsoft czy Amazon, aby oferować firmom zniżki na korzystanie z ich usług.
Takie partnerstwa mogłyby zapewnić startupom dostępdo skalowalnych i zaawansowanych zasobów, bez konieczności budowy własnej
24
infrastruktury.
3. Akceleratory i wsparcie naukowe – Państwo mogłoby zainwestować w programy akceleracyjne, które łączyłyby wsparcie finansowe z mentoringiem w zakresie AI, jednocześnie pomagając firmom dostosować się do wymogów regulacyjnych.
Współpraca z uczelniami oraz innymi podmiotami technologicznymi mogłaby znacząco przyspieszyć proces wdrażania innowacyjnych rozwiązań na rynek.
Uwaga ogólna
Związek Polska
Cyfrowa
Uwaga ogólna
generationis.ai S.A.
Czy piaskownice są wystarczającym rozwiązaniem?
W obecnym kształcie piaskownice regulacyjne mogą nie spełniać oczekiwań firm z sektora AI, które potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych i wsparcia merytorycznego. Startupy prawdopodobnie będą preferować korzystanie z usług globalnych dostawców chmurowych, które oferują niezawodność, skalowalność i dostęp do najnowszych technologii.
Zamiast koncentrować się na kosztownej budowie piaskownic, lepszym rozwiązaniem byłoby wsparcie startupów w postaci subwencji, partnerstw z globalnymi firmami oraz programów akceleracyjnych. W ten sposób państwo mogłoby efektywnie wspierać innowacje, minimalizując jednocześnie obciążenia budżetowe.
Niewystarczającą ochronę informacji i wrażliwych danych. Zarówno na etapie prowadzonych przez organ kontroli, jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa (w tym wrażliwych informacji oraz danych).
1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami.
2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, c zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI.
3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym.
25
Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności.
4. Brak przygotowania firm do wdrożenia przepisów Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji.
Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych.
Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas.
5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań.
Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami.
6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku.
Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej.
Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach.
7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby
26
Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych.
8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów.
9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych.
Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność.
10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI.
Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji.
11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI.
Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej.
12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej
27
dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw.
Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r.
Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI.
Dodatkowe spostrzeżenia inspirowane podejściem USA
1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce.
2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym.
Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży.
Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach.
28
Uwaga ogólna
Związek Polska
Uwaga ogólna
RELX
Cyfrowa
Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji.
Z przyjemnością oferujemy nasze wsparcie i liczymy na dalszą współpracę z Ministerstwem Cyfryzacji.
Procedury odwoławcze – kompetencje SOKiK. Od decyzji KRiBSI przysługuje przedsiębiorcy odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów („SOKiK”). Ustawodawca w związku z tym zrezygnował z zasady dwuinstancyjności i uregulował mechanizm odwoławczy przed SOKiK, na wzór procedur przed innymi organami regulacyjnymi, w szczególności UOKiK (art. 80 Projektu). Rozwiązanie to oceniamy pozytywnie, biorąc pod uwagę wcześniejsze nie najlepsze doświadczenie takich procedur dwuinstancyjnych, np. w zakresie przepisów o ochronie danych osobowych (gdy organ rozpatrując odwołania niezmiernie rzadko zmieniał bądź uchylał swoje wcześniejsze decyzje). Nie negując zatem samej zasadności jednoinstancyjnej procedury odwoławczej, zwracamy jedynie uwagę na kompetencję SOKiKu dla spraw o tak wysokim poziomie skomplikowania, złożoności i trudności materii nowych technologii i systemów AI. Uważamy, że należałoby poddać dalszej dyskusji przygotowanie i kompetencje sędziów orzekających w SOKiK do orzekania w sprawach na gruncie AI Act oraz krajowej ustawy.
Poddajemy pod rozwagę wariant zmiany właściwości sądu dla spraw z zakresu AI z SOKiK na sądy właściwe ws. własności intelektualnej („Sąd IP”), w ramach których orzekający już sędziowie przeszli niezbędne szkolenia z zakresu IP, która to dziedzina jest częściowo związana z zagadnieniem AI, a tym samym Sądy IP mogą potencjalnie oferować wyższy poziom ekspertyzy na potrzeby rozpatrywania spraw z zakresu AI (alternatywnie, należałoby rozważyć zorganizowanie podobnego na wzór sędziów Sądów IP szkolenia przygotowującego do zagadnień AI dla sędziów SOKiK).
1. Preliminary Remarks In view of the business activities described above, RELX has a strong interest in the further development of the European Union's digital single market. We support the AI Regulation (EU 2024/1689) and would like to take the opportunity to participate in the exchange on the draft ‘Act on Artificial Intelligence Systems’ (projekt ustawy o systemach sztucznej inteligencji). In view of the creation of a ‘Commission for the Supervision of Artificial Intelligence Systems’ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji) in Poland, we would like to take this opportunity to highlight in our statement the points that are important to us regarding the way the Commission applies the law.
2. Uniform Legal Framework One of the major achievements of the AI Act is the creation of a uniform legal framework in the EU. The Regulation contributes to the proper functioning of the internal market and, by establishing uniform rules, creates a wide range of incentives that promote positive market development. This way, companies benefit from a stable environment, while consumers receive safer and more diverse products.
29
We therefore support a faithful application of the European AI Act to ensure consistency and avoid fragmented implementation that could hinder rather than support the European Digital Single Market Consistent Regulation and Market Supervision Consistent rules and practices ensure that transparency requirements are consistently enforced across the EU. This prevents regulatory gaps or inconsistencies that companies could exploit and ensures a level playing field in all member states.
We support the important work of the AI market surveillance authorities, as they play a central role in the uniform enforcement of the AI Regulation. In this context, it is crucial that the authorities ensure that companies in all Member States follow the same high standards, thus creating a level playing field throughout the single market. This can only be achieved if the prerequisite of an EUwide uniform interpretation of the AI Regulation is met. Therefore, a lot depends on how the future Polish market supervisory authority will issue general and individual interpretations pursuant to
Art. 11 Sec. 1 No. 13 of the draft of the Artificial Intelligence Systems Act. Through their consistent actions, the supervisory authorities should create a stable and trustworthy environment for the development and use of AI throughout the EU.
Therefore, we also support the work on uniform interpretations at the EU level. To this end, we are participating in the drafting of the EU Commission's General-Purpose AI (GPAI) Code of practice in order to promote a uniform EU-wide interpretation of the obligations set forth in Articles 53 and 55 of the AI Act for providers of general-purpose AI models. These obligations require GPAI model providers to make publicly available a summary about the training content (Article 53(1d)) and put in place policies to comply with Union law on copyright (Article 53(1c)). As the GPAI code of practice will outline these provisions in greater detail, it is essential to actively monitor developments to ensure consistent and uniform interpretation of these obligations by the supervisory authorities.
Transparency RELX takes its responsibility as a downstream AI provider seriously. We are convinced that every link in the AI supply chain must contribute to the responsible development of AI. In doing so, it is important to us that our AI solutions are always in line with our Responsible AI Principles.
Transparency plays a key role here: it ensures compliance with legal requirements and promotes ethical AI development. This is because LLMs can generate content that is illegal, harmful, misleading, offensive, or discriminatory and may affect the reputation, rights, or interests of individuals or groups.
For example, researchers are concerned that their work will be misinterpreted and misused, or that it will not be properly attributed or contextualised. This risk is exacerbated by the lack of citation/quotation and links to the underlying sources that would prove the origin of the research findings. Transparency strengthens trust in AI products. It facilitates collaboration within the AI supply chain by creating a clear information base that drives innovation and enables responsible
30
further development. Furthermore, transparency helps to reduce liability risks and to avoid misuse or discriminatory results, paving the way for more sustainable and socially responsible AI use.
Transparency and Copyright Transparency promotes the legitimacy of AI products by making the origin and nature of training data traceable. Compliance with copyright law is a particularly important aspect here, because trainingGPAI models involves copying content through text and data mining (TDM), which may be protected by EU copyright.
Not only does the EU copyright law raise crucial questions of transparency, legality and accountability, but the AI Regulation also provides for transparency obligations. Accordingly, providers of general- purpose AI models (GPAI) must make publicly available a sufficiently detailed summary of the training content (Article 53(1d) of the AI Act) and take measures to comply with European copyright law (Article 53(1c) of the AI Act).
The AI Act applies without prejudice to the DSM Directive 2019 and the Information Society Directive (InfoSoc) 2001, which together establish legal protection for copyright-protected works and exceptions to those rights.
While the InfoSoc Directive establishes that owners have the exclusive right to non-temporary acts of reproduction, the DSM creates two exceptions for TDM. The first is for non-commercial research institutions with lawful access to reproduce works for the purposes of TDM. The second is an exception for commercial reproduction for TDM where there is lawful access, unless the rights holder explicitly reserves authorisation.
These exceptions can only work effectively if rightsholders have a complete overview of the protected works reproduced for the purpose of training generative AI models. Such transparency facilitates tracking of the use of works and ensures that reproduction is lawful – whether through the valid use of an exception, under a licence or another commercial agreement. This, in turn, ensures that rightholders are adequately remunerated and that online copyright infringement is effectively combated.
To make the transparency obligation meaningful and feasible, recital 107 of the AI Act further clarifies that the information in the sufficiently detailed summary should be ‘generally comprehensive’ to enable rightholders to ‘exercise and enforce their rights under Union law’ and thus implement the reservation of rights provided for in Article 4 of the DSM Directive. This would enable users of the generated results to have confidence in the accuracy and origin of the materials used to train the model.
Transparency will thus facilitate tracking the use of copyrighted works and ensure that reproduction – for the purpose of training GPAI models, for example – is lawful. The responsible use of copyrighted content is crucial to protecting the rights of rights holders and minimising the risk of legal disputes.
Transparency and Market Surveillance Authorities The enforcement of transparency obligations by market surveillance authorities plays a central role in this. These authorities ensure that companies fulfil their obligations and disclose the
31
Tytuł ustawy
Osoba fizyczna
Tytuł ustawy
SKwP
required information. This not only builds trust in the market, but also prevents systematic violations that could distort competition. However, for the authorities to effectively enforce the AI Regulation, it will depend on the uniform application of the law within the EU to ensure consistent legal certainty across the Union.
Tytuł ustawy - O systemach sztucznej inteligencji Treść ustawy skupia się na wykonywaniu nadzoru administracyjnego w obszarze wykorzystania systemów sztucznej inteligencji. Wskazanie ogólnego tytułu obejmującego szeroki zakres może prowadzić do nieporozumień i niejasności. Tytuł powinien być precyzyjniejszy i oddawać treść aktu prawnego. Dlatego należy w tytule określić główny przedmiot regulacji – nadzór. Proponowany tytuł: Ustawa o nadzorze nad systemami sztucznej inteligencji.
Jest:
USTAWA
z dnia … 2024 r. o systemach sztucznej inteligencji Propozycja:
Ustawa z dnia…2024 r. o Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uzasadnienie:
Cała treść projektu dotyczy zasad funkcjonowania i zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Tytuł ustawy
ISSA Polska
Tytuł ustawy
Polskie Towarzystwo Informatyczne
Tytuł ustawy
Repropol
Z tytułu powinno wynikać, że ustawa stanowi doprecyzowanie oraz wdrożenie przepisów i zasad AI Act. Tymczasem tytuł projektu może powodować wrażenie, że ustawa stanowi regulację niezwiązaną z od AI Act.
To nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM). Propozycja „o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz o innych mechanizmach nadzoru nad systemami sztucznej inteligencji”
W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI” jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689 dostosowując ustawodawstwo Polski do wymogów jw. „Rozporządzenia”
Tytuł projektowanej ustawy, przy czym nie stanowi to najważniejszej kwestii, jest – w naszej ocenie
– niewłaściwy. Jeśli stanowi on pierwszy z kilku zaplanowanych aktów wdrożeniowych, obecna propozycja stworzy w późniejszym okresie problemy z zatytułowaniem kolejnych ustaw wdrażających AIA. Ponadto, nie można stwierdzić, żeby sednem komentowanego Projektu były systemy sztucznej inteligencji. Jest nim raczej stworzenie administracyjno-technicznego aparatu służącego nadzorowaniu funkcjonowania systemów sztucznej inteligencji. Nie jest także jasne,
32
dlaczego tytuł wskazuje na „systemy”, a pomija „modele” sztucznej inteligencji, które na osi rozwoju systemów AI stanowią – w uproszczeniu – etap poprzedzający oddany do użytku system AI.
Niezależnie od powyższego, Projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w AIA mowa o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, która na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie z akronimu „AI”, jako oznaczenie sztucznej inteligencji.
Tytuł ustawy
GRAI
Zaproponowany tytuł projektowanej ustawy to ustawa o systemach sztucznej inteligencji. Zakres objęty tą ustawą skupia się jednak nie na systemach sztucznej inteligencji, ale ma na celu uregulowanie kwestii instytucjonalnych, proceduralnych i nadzorczych.
Zgodnie z Zasadami Techniki Prawodawczej „przedmiot ustawy określa się możliwie najzwięźlej, jednakże w sposób adekwatnie informujący o jej treści”. Mając to na uwadze oraz faktyczny zakres przepisów projektu ustawy wątpliwości budzi zaproponowany tytuł.
Zmiana tytułu ustawy na: „ustawa o nadzorze nad systemami sztucznej inteligencji” lub „ustawa o organizacji i sposobie sprawowania nadzoru nad rynkiem sztucznej inteligencji”.
Tytuł ustawy
Związek Polskich
Banków
Ustawa o systemach sztucznej inteligencji Ustawa o organizacji i sprawowaniu nadzoru nad systemami sztucznej inteligencji [lub] Ustawa o nadzorze nad systemami sztucznej inteligencji
Tytuł ustawy powinien odzwierciedlać jej przedmiotowy zakres, którym jest określenie organizacji i sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji. Obecny tytuł może wprowadzać w błąd i sugerować, że jest to ustawa o znaczeniu materialnoprawnym, definiującym systemy sztucznej inteligencji, a tak nie jest.
Tytuł ustawy
Fundacja Poland
FinTech
Tytuł ustawy powinien być adekwatny do jej treści, ponieważ pełni funkcję informacyjną oraz umożliwia jasne rozumienie zakresu regulacji. Tytuł powinien odzwierciedlać istotę i cel regulacji, aby ułatwić identyfikację treści przez osoby zainteresowane oraz zapewnić przejrzystość procesu legislacyjnego. W przypadku projektu ustawy, która reguluje jedynie zasady prowadzenia nadzoru nad systemami AI, tytuł „ustawa o systemach sztucznej inteligencji” może wprowadzać w błąd, sugerując szerszy zakres regulacji obejmujący wszystkie aspekty funkcjonowania i wykorzystania AI, a nie tylko nadzór nad nimi. Dlatego tytuł powinien precyzyjnie odzwierciedlać tematykę
33
Rozdział 1
GRAI
Rozdział 1
GRAI
Rozdział 1
GRAI
Art. 1
Polskie Towarzystwo Informatyczne
nadzoru, aby uniknąć nieporozumień i zapewnić zgodność między treścią a nazwą aktu prawnego. Zgodnie z powyższym proponujemy przyjęcie nowego tytułu ustawy: “ustawa o nadzorze nad systemami sztucznej inteligencji”.
Wprowadzenie prawa do ochrony wizerunku przed tzw. deepfake w sposób szerszy niż na do tej pory na podstawie KC i dóbr osobistych. Rozszerzenie uwzględniałoby np. głos (co charakteru głosu są spory) w różnych okresach życia.
Odrzucenie blankietowych wyłączeń dla państw ze względu na bezpieczeństwo narodowe i obronność. Rekomendujemy odrzucenie blankietowych wyłączeń dotyczących stosowania systemów AI ze względu na bezpieczeństwo narodowe i obronność. Systemy AI muszą być regulowane jednakowo w sektorze publicznym i prywatnym, bez wyjątków dla organów państwowych. Przepis ten zapewni, że wszystkie zastosowania systemów AI podlegają przejrzystym i odpowiedzialnym regulacjom, nawet w przypadku działań związanych z bezpieczeństwem narodowym.
Zakaz stosowania systemów oceny ryzyka opartego na profilowaniu automatycznym Należy wprowadzić przepisy zakazujące używania systemów oceny ryzyka, które wykorzystują AI do profilowania osób na podstawie cech osobistych. Takie systemy są nieproporcjonalnie dyskryminacyjne, naruszają prawo do równości oraz zasadę domniemania niewinności. Zakaz używania systemów rozpoznawania emocji i biometrycznego kategoryzowania osób Technologie takie jak AI oparte na rozpoznawaniu emocji (np. tzw. "detektory kłamstw") oraz analizy behawioralne są niewiarygodne naukowo i mogą wzmacniać uprzedzenia raso we oraz automatyzować procesy podejrzewania określonych grup społecznych. Należy zabronić ich stosowania przez służby, również w kontekście migracyjnym, aby zapobiec wzmacnianiu dyskryminacyjnych praktyk.
Wprowadzenie zasad reklamowania systemów sztucznej inteligencji w tym przeciwdziałania wprowadzaniu konsumenta w błąd (np. co do pewności wyników, złożoności, zaawansowania technologicznego). • Definicja systemów AI jest dość pojemna. Oznaczenie AI samo w sobie ma coraz większą wartość marketingową. Sprzyja to wprowadzaniu konsumentów w błąd co do rzeczywistych właściwości technologii (sugeruje jej zaawansowanie technologiczne i nieomylność). 1.Powinno być podkreślone zagadnienie z Rozporządzenia które wyczerpuje odpowiedzialność za „LLM” oraz pozwoli na określenie brzegowych zagadnień dopuszczenia do użytkowania samo przytoczenie aktu 2024/1689 i pozostałych nie wnosi nic do „Ustawy” „o systemach sztucznej inteligencji”
Propozycja „określenie ramowych wytycznych dotyczących wprowadzania i użytkowania systemów „sztucznej inteligencji” i tu poniżej w podpunktach (79); (61); Art. 12 Należy zapewnić, aby odpowiedzialność za wprowadzenie do obrotu lub oddanie do użytku systemu AI wysokiego ryzyka ponosiła konkretna osoba fizyczna lub prawna określona jako
34
dostawca, niezależnie od tego, czy ta osoba fizyczna lub prawna jest osobą, która zaprojektowała lub rozwinęła system. (61) … W szczególności, aby wyeliminować potencjalne ryzyko stronniczości, błędów i efektu czarnej skrzynki, jako systemy wysokiego ryzyka należy zakwalifikować systemy AI .. Artykuł 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej „rejestrami zdarzeń”) w całym cyklu życia danego systemu.
Na podstawie określenia ram i zasad można dopiero określać sprawowanie nadzoru oraz wymogów dotyczących naruszeń brak takowych w „Ustawie” (nie przytoczono ). ww. zapisy dotyczyć powinny nie tylko tzw. ”AI wysokiego ryzyka” ale każdego modelu.
2. Projekt zakłada określenie”rodzajów działań wspierających rozwój systemów sztucznej inteligencji”, jednak w samym projekcie mowa wyłącznie o interpretacjach generalnych oraz indywidualnych. Należy rozważyć rozszerzenie tych środków i wyraźne ich wyodrębnienie w stosownym rozdziale.
Art. 1
GRAI
Prosimy o dopisanie odpowiednich przepisów doprecyzowujących ten główny punkt zakresu przedmiotowego.
Brak uregulowania w projekcie ustawy tematu piaskownic regulacyjnych, co budzi poważne wątpliwości, co do realizacji przez Polskę art. 57 ust. 1 rozporządzenia 2024/1689.
Uzupełnienie przepisów projektu ustawy. Jeśli ta kwestia ma być uregulowana w przepisach innego aktu prawnego (np. Niemcy pracują nad ustawą dotyczącą piaskownic regulacyjnych) należy zawrzeć odpowiednie odwołanie lub uzupełnić uzasadnienie o kwestię odstąpienia od uregulowania piaskownic regulacyjnych na tym etapie prac legislacyjnych.
art. 1 pkt 1
GRAI
W przepisie tym wskazano systemy sztucznej inteligencji i modele sztucznej inteligencji, przy czym w dalszej części ustawy posługujemy się sformułowaniem systemy sztucznej inteligencji. W art. 3 brak również definicji modeli sztucznej inteligencji. Wskazane jest ujednolicenie.
Proponowane rozwiązanie: usunięcie z art. 1 pkt. 1 sformułowania: „modelami sztucznej inteligencji ogólnego przeznaczenia”.
art.1 pkt 6
GRAI
W art. 1 projektu ustawy wskazano jej zakres- i tak ustawa określa: kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar a dopiero na końcu, w art. 1 pkt 6 projektu ustawy wskazuje się, że ustawa określa „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”.
Jednak, poza tym lakonicznym sformułowaniem, w przepisach brak jest uregulowań w tym
35
zakresie. Ustawa w pierwszej kolejności powinna określać „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”, a w drugim kroku kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar.
Uzupełnienie przepisów projektu ustawy o wskazanie rzeczywistych działań wspierających rozwój systemów sztucznej inteligencji w Polsce. art.1 pkt 6
SFP-ZAPA
Zgodnie z art. 1 pkt 6) Projektu, ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. Jednym z takich działań jest niewątpliwie ochrona praw autorskich. Ludzka kreatywność oraz utwory z różnych dziedzin działalności artystycznej są bowiem materiałem, dzięki któremu możliwe było powstanie, a następnie możliwy jest dalszy intensywny rozwój sztucznej inteligencji.
Jak wynika z Projektu (art. 7 ust. 3 pkt 5 Projektu) zagadnienia leżące w gestii ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego są postrzegane jako zagadnienia wchodzące w zakres i cel przedmiotowej regulacji. Przedstawiciel ministra właściwego do spraw kultury i dziedzictwa narodowego może bowiem uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”), która jest nowo tworzonym organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Niestety, przedstawiciel Ministra Kultury i Dziedzictwa Narodowego nie został wyposażony w prawo głosu podczas obrad Komisji, co naszym zdaniem powinno ulec zmianie.
Art. 1 pkt 6
Fundacja Poland
FinTech
Pomimo włączenia ministra właściwego do spraw kultury i dziedzictwa narodowego w prace Komisji, Projekt nie reguluje w żaden sposób kwestii związanych z korzystaniem z praw autorskich na potrzeby sztucznej inteligencji. W szczególności brak jest jakichkolwiek rozwiązań odnoszących się do ochrony tych praw zgodnie ze standardami europejskimi oraz krajowymi. Na konieczność zapewnienia takiego poziomu ochrony zwraca zaś uwagę rozporządzenie 2024/1689.
Jak wiadomo, szybki rozwój sztucznej inteligencji wpływa na prawa twórców, producentów i wydawców. Wpływ ten jest w niektórych aspektach negatywny, na co wskazuje unijny ustawodawca w motywie 105 aktu o AI. Chodzi w szczególności o nieuregulowane wykorzystywanie utworów chronionych prawem autorskim na potrzeby tworzenia, rozwijania, w tym trenowania i zasilania systemów sztucznej inteligencji, w trakcie których dochodzi do masowego naruszania tych praw. Stosowna regulacja jest zatem niezbędna.
Choć w art. 1 ustawa deklaruje, że jej celem jest określenie rodzajów działań wspierających rozwój systemów sztucznej inteligencji, to poza tym wstępnym postanowieniem, treść ustawy nie zawiera szczegółowych regulacji ani przepisów dotyczących takich działań. Brak konkretnych rozwiązań i postanowień odnoszących się do wsparcia rozwoju AI powoduje, że zapowiedź ta staje się jedynie deklaratywna, a nie merytoryczna. Taki stan rzeczy może prowadzić do nieporozumień
36
Art. 2 pkt 6
Związek Pracodawców Technologii Cyfrowych Lewiatan
art. 2 ust. 1
CHAMBER
art. 2 ust. 1
SFP-ZAPA
interpretacyjnych oraz osłabienia zaufania do legislacji, gdyż ustawa zdaje się obiecywać więcej niż faktycznie dostarcza. Aby zapewnić spójność i przejrzystość, konieczne byłoby albo uzupełnienie treści o konkretne przepisy dotyczące wsparcia rozwoju systemów AI, albo odpowiednia modyfikacja zakresu art. 1, by odzwierciedlał rzeczywisty zakres regulacji zawartych w ustawie.
Usunięcie w projekcie ustawy zadań związanych z rozwojem sztucznej inteligencji Wydaje się, że zapis określający zakres przedmiotowy ustawy (art. 1 punkt 6), a także dalsze wspieranie konkurencyjności (nie wymienione w w/w art., ale pojawiające się w art. 12 ust. 2 przy opisaniu zadań Komisji) to niepotrzebne wymieszanie dwóch zupełnie różnych od siebie zadań.
Co więcej, jeśli to Komisja będzie decydowała o rozwoju sztucznej inteligencji w Polsce to może być znaczącym ograniczeniem dla działań innych organów administracji. Ponieważ można wnioskować, że to Komisja, a nie inne organy administracji będzie miała ostatnie słowo w jaki sposób kierować rozwojem systemów sztucznej inteligencji. Będąc jednocześnie regulatorem bardzo skutecznie stłumi wszelką inicjatywę. Umieszczenie zatem takiego zadania wydaje się być niewłaściwe.
Warto także zaznaczyć, że kwestie rozwoju są poruszane w ustawie w sposób zdawkowy, w odróżnieniu od kwestii regulacyjnych.
Propozycja: wykreślić wszelkie zapisy dotyczące rozwoju sztucznej inteligencji z treści ustawy. brakuje słowa “do” (uwaga redakcyjna)
Zgodnie z projektem, ustawa ma zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu).
Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem, choć rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, które w naszym przekonaniu wymagają rozwinięcia i doprecyzowania w prawie krajowym, Projekt nie przewiduje żadnych rozwiązań w tym zakresie. Dzieje się to ze szkodą dla wskazanych wyżej podmiotów, których przedmiotowa regulacja ma dotyczyć. Nic nie stoi natomiast na przeszkodzie, aby kwestie te uregulować. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689.
Akt o AI jedynie w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Tymczasem architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw, często nadużywając wyjątku przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”).
W naszym przekonaniu brak zapewnienia ochrony praw autorskich w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele aktu o AI w
37
Art. 2. 1.
Art. 2 ust. 1
postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe.
Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy do czynienia każdego dnia Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.
2. O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia
1) brakuje zwrotu „do” lub „wobec”
2) konstrukcja art. 2 wydaje się wadliwa. Ust. 1 wskazuje na zakres podmiotowy, tj. dostawca, producent itp., a ust. 2 mówi o systemach (czyli przedmiotowo).
W ust. 2 powinno się wskazać bądź na dostawców modeli AI ogólnego przeznaczenia, bądź na dostawców i użytkowników.
PWPW
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
Alternatywna propozycja to pozostawić art. 2 w zakresie podmiotowym a odrębny artykuł poświęcić modelom AI ogólnego przeznaczenia. Należy też wskazać które przepisy stosuje się ww. zakresie. Wskazanie w ustawie „o ile przepisy AI act nie stanowią” – jest zbyt ogólne i nie spełnia wymagań precyzyjności przepisu prawnego.
Określenie zasad podlegania pod ustawę w zakresie modeli ogólnego przeznaczenia ma szczególne znaczenie dla użytkowników, tj. firm korzystających z modeli ogólnego przeznaczenia.
Normy prawne w ww. zakresie powinny być precyzyjnie określone w projekcie ustawy.
W pierwszej kolejności postulujemy dodanie przyimka „do” w treści ustępu pierwszego:
Art. 2. 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.
W dalszej kolejności podnosimy, iż zgodnie z art. 2 ust. 1 Projektu ustawy, ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Podnosimy, iż art. 2 ust. 1 w pkt g) Rozporządzenia 2024/1689 stanowi, że Rozporządzenie 2024/1689 stosuje się również do: "g) osób, na które AI ma wpływ i które znajdują się w Unii.".
W tym zakresie powstaje wątpliwość czy zakres podmiotowy ukształtowany w art. 2 ust. 1 Projektu ustawy odpowiada celowi ustawy, który określony został w art. 1 Projektu ustawy. Jak czytamy bowiem w uzasadnieniu projektu ustawy, „Celem projektowanej ustawy jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi”.
38
Art. 2 ust. 1
e-Izba
Art. 2 ust. 1
AI Chambre
Art. 2 ust. 1
Fundacja Poland
Art. 2 ust. 1
Osoba fizyczna jk
Art. 2 ust. 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 2 ust. 2
Fundacja Poland
art. 2
GRAI
W związku z powyższym zdaje się, iż celem ustawy nie jest objęcie nadzorem osób, na które AI ma wpływ.
Projektowany przepis wskazuje, że ustawa znajdzie zastosowanie do wszystkich podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W art. 2 ust. 1 pkt g tego aktu prawnego wskazane są „osoby, na które AI ma wpływ i które znajdują się w Unii”. Regulacja ta odnosi się w dużej mierze do osób fizycznych, które nie koniecznie same korzystają z systemów sztucznej inteligencji, lecz ich działanie w jakiś sposób na nie wpływa. Treść Projektu wskazuje z kolei, że reguluje on zagadnienia adresowane do podmiotów stosujących systemy sztucznej inteligencji.
W związku z tym rekomendujemy rozważenie zmiany zawężającej zakres odesłania przewidzianego w art. 2 ust. 1 Projektu.
W art. 2 ust. 1 - brakuje słowa “do” (uwaga redakcyjna)
FinTech
w
FinTech
W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: "g) osób, na które AI ma wpływ i które znajdują się w Unii.". Rekomendujemy wyjaśnienie czy projektodawca ma na myśli obywateli czy celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są "obiektem" stosowania AI.
Brak "do"
1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Zgodnie z art. 2 ust. 2 Projektu ustawy, o ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.
Patrząc na zakres definicji określony w art. 3 Projektu ustawy, w którym pojęcia definiowane są poprzez odesłanie do Rozporządzenia 2024/1689, rekomendujemy uwzględnienie w Projekcie ustawy również definicji „modelu AI ogólnego przeznaczenia” (motyw 97 Rozporządzenia 2024/1689). Chyba, że celem Projektodawcy jest, aby odnosić się do „systemów AI ogólnego przeznaczenia”, które oparte są o te modele AI ogólnego przeznaczenia, zgodnie z definicją zawartą w art. 3 pkt 66 Rozporządzenia 2024/1689.
Sugerujemy wprowadzenie reguł kolizyjnych w ustawie. Rozporządzenie UE zobowiązuje do uregulowania przez Państwa członkowskie pewnych obszarów. Nie rozstrzyga natomiast kolizji między przepisami polskiej ustawy (ani żadnej innej ustawy krajowej). To Polski ustawodawca powinien wprowadzić reguły kolizyjne i określić które reguły stosuje się do systemów AI ogólnego przeznaczenia.
Należy uniknąć transgranicznego wymiaru ustawy. Przedsiębiorcy zagraniczni mający siedzibę w UE, będą podlegać własnym, lokalnym regulacjom (np. nadzorowi własnym organom) i nie powinny równolegle podlegać regulacjom polskim. Ponadto, zastosowanie polskiej ustawy do tych
39
podmiotów będzie zapewne wątpliwe i może prowadzić do sytuacji spornych. Wątpliwe byłoby podejmowanie przez polski organ działań wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania. Jeżeli jednak taki przedsiębiorca nie ma zarejestrowanej w Polsce spółki, nie ma uzasadnienia, aby to był organ polski.
Zawężenie zastosowania ustawy do podmiotów mających siedzibę na terytorium Rzeczypospolitej Polskiej.
Art. 2
Związek Polska
Art. 2 i 4
Repropol
Cyfrowa
Zakres podmiotowy. Projekt ustawy bazuje na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole/postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie zatem rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw.
Olbrzymie wątpliwości budzi sposób uregulowania zakresu stosowania UoSSI.
Projekt w tym zakresie nawiązuje do artykułu 2 AIA, ale przenosi na grunt polskiej ustawy jedynie wybrane zakresy stosowania (zob. art. 2 i 4 UoSSI), przy czym nie jest jasny klucz doboru wybranych wyłączeń.
Jeśli ustawodawca zdecydował się już na dookreślenie zakresu stosowania UoSSI, z oczywistych przyczyn powinien on pokrywać się dokładnie z brzmieniem rozporządzenia AIA, które w swoim art. 2 wprowadza bardzo heterogeniczny katalog. Prócz relatywnie jasnego brzmienia art. 2 ust. 1 AIA, kolejne ustępy zawierają również istotne doprecyzowania zakresu stosowania. Tymczasem w Projekcie zawarto jedynie wybrane ograniczenia. Dla przykładu brak jest wyłączenia regulacji wobec osób fizycznych, które „korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej” (art. 2 ust. 10 AIA).
40
Mając to na uwadze, należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo dokonać tego kompletnie, czyli z uwzględnieniem jego całej zawartości normatywnej.
Odrębną uwagę trzeba poświęcić błędnemu wyłączeniu zawartemu w art. 4 pkt 3 UoSSI. Przepis ten stanowi, iż UoSSI, „nie stosuje się do: (…) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 roku - Prawo o szkolnictwie wyższym (…), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 roku - Kodeks karny (…)”. Należy założyć, że w zamyśle projektodawcy postanowienie to ma wdrażać artykuł 2 ustęp 6 AIA, wedle którego AIA „nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”.
Sfomułowanie zawarte w Projekcie nie wdraża jednak wspomnianego przepisu AIA. Wyłączenie to ma fundamentalne znaczenie dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA).
Należy podkreślić, że już samo sformułowanie, iż ustawy „nie stosuje się do (…) podstawowych badań naukowych” jest niezrozumiałe. To przecież nie same badania naukowe, lecz modele oraz systemy AI rozwinięte i oddane do użytku w celach prowadzenia badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Także odesłanie do definicji „podstawowych badań naukowych” jest błędne, i to już w swojej referencji do art. 4 ust. 2 pkt 2 Prawa o szkolnictwie wyższym (podczas gdy „podstawowe badania naukowe” znajdują się w pkt. 1 wskazanej jednostki redakcyjnej). To odesłanie jest wadliwe również in meritum, albowiem jako „badania podstawowe” rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” wprost koliduje z tą częścią art. 2 ust. 6 AIA, która expressis verbis wskazuje na badania naukowe „i rozwojowe”.
Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(…) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego).
Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego.
Na marginesie należy zauważyć, iż bardzo ważne jest wyeksponowanie w wyłączeniu ograniczenia do tych systemów lub modeli AI, które powstały wyłącznie w celu prowadzenia badań naukowych i rozwojowych. Obawiamy się, iż wyłączenie zaproponowane w Projekcie może być w przyszłości przedmiotem nadużyć, bowiem zaprogramowane dla celów naukowych – a zatem nie
41
Art. 3
Osoba fizyczna
Art. 3
PIIT
Art. 3
Polskie Towarzystwo Informatyczne
Art. 3
AI Chambre
Art. 3
Związek Polskich
Banków
objęte AIA – algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych.
W naszym przekonaniu, nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE.
Problem definicji legalnych w treści aktów normatywnych od lat budzi kontrowersje doktrynalne oraz wynikające z praktyki stosowania prawa, zarówno na poziomie adresatów przepisów, jak i praktyki orzeczniczej. Dodatkowym wyzwaniem jest kwestia definicji legalnych przyjmowanych w aktach unijnych. W doktrynie wyraźnie się podkreśla, że definicje legalne przyjęte w rozporządzeniach, czyli aktach normatywnych obowiązujących w polskim porządku prawnym wprost, bezpośrednio, nie podlegają transpozycji. Wprowadzenie przepisów odsyłających do przepisów rozporządzenia UE2024/1689 budzi duże wątpliwości interpretacyjne i praktyczne.
Zastosowanie zabiegu odesłania do treści aktu unijnego jest niepotrzebne, a wręcz błędne.
Wykorzystanie podstawowych modeli wykładni prawa pozwala na pełne odkodowanie treści normy prawnej, także w zakresie objętym definicją znajdującą się w innym akcie normatywnym, zwłaszcza w akcie normatywnym wyższego rzędu. Dlatego proponuję całkowicie usunąć art. 3 w proponowanym brzmieniu.
Wykreślenie definicji zawartych w ASI, którego przepisy są bezpośrednio stosowane w polskim porządku prawnym.
Zasadniczo nie ma przesłanek do powtarzania w krajowych przepisach definicji z, bezpośrednio stosowanych w krajowym porządku prawnym, przepisów unijnych rozporządzeń.
Definicje Wszystkie przytoczone enumeratywnie określenia odnoszone są w całości do definicji w rozporządzeniu PEiR UE 2024/1689. Zatem wystarczyłby zapis, iż określenia w ustawie zdefiniowane są w rozporządzeniu.
Propozycja:
Określenia użyte w ustawie zdefiniowane zostały w art. 3 rozporządzenia 2024/1689.
Przytoczone w ustawie określenia nie są w rzeczywistości definicjami tych określeń, lecz odsyłaczami do rozporządzenia 2024/1689.; Zajmują niepotrzebnie miejsce w ustawie.
W art. 3 trudno doszukać się logiki we wpisaniu jedynie części z niezwykle długiej listy definicji zawartych w Akcie o SI. Zastosowana tu technika odesłania do Aktu nie spełnia swojej roli, bowiem osoba czytająca ustawę musi i tak korzystać z Aktu. Proponujemy albo zrezygnować z definicji, jeśli są tożsame z Aktem i odesłać ogólnie do wszystkich tam zawartych definicji, albo przepisać definicje wprost do ustawy.
Forma przepisu wprowadzająca listę odesłań do AI Act jest nieczytelna. Proponujemy generalne odesłanie – wszystkie pojęcia niezdefiniowane odrębnie w ustawie przyjmują znaczenie z art. 3 AI Act.
42
Art. 3 ust. 13
PIIT
art. 3 pkt 15
SKwP
Art. 3 pkt 15
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Wykreślenie ust. 13 (działanie zbędne, o ile zostaną wykreślone wszystkie unijne definicje).
Termin “organ właściwy” jest pojęciem prawa unijnego. Wynika z charakteru prawa negocjowanego dla odmiennych systemów prawa. Siłą rzeczy akty prawa UE nie mogą się posługiwać nazewniczą systematyką któregokolwiek z krajowych systemów. Natomiast w polskiej ustawie doprecyzowujemy zarówno organ notyfikujący jak i organ/y nadzoru rynku. Nie posługujemy się pojęciem “organu właściwego”. Zachodzą tu podobne okoliczności jak w przypadku braku potrzeby definiowania organu ścigania (pkt 45 art. 3 ASI).
To nie jest najlepsze tłumaczenie oryginalnego tekstu. Czy nie można znaleźć odpowiedniego słowa polskiego?
„55) piaskownica regulacyjna w zakresie AI" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym;”.
A może tak: „Ramy rozwoju, walidacji, testowania AI w warunkach rzeczywistych uzgodnione z Komisją …”.
w
Zgodnie z art. 3 pkt 15 Projektu ustawy przez piaskownicę regulacyjną należy rozumieć piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 Rozporządzenia 2024/1689.
Zgodnie z uzasadnieniem Projektu ustawy „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)."
W rzeczywistości Projekt ustawy do piaskownic regulacyjnych się nie odnosi. W związku z powyższym prosimy o wyjaśnienie, czy to oznacza, że piaskownic regulacyjnych do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane?
Art. 3 pkt 15
Obywatelski Akcelerator Innowacji
Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych.
Art. 3 pkt 15
Instytut Spraw Obywatelskich
Art. 3 pkt 15
PWPW
Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. piaskownica regulacyjna piaskownica regulacyjna w zakresie AI w rozumieniu art. 3 pkt 55
43
rozporządzenia 2024/1689; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r.
Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp.
AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty.
Art. 3 pkt 15
Fundacja Poland
FinTech
Art. 3 pkt 17
Instytut Spraw Obywatelskich
Art. 3 pkt 17
Obywatelski Akcelerator Innowacji
Art. 4
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
Zgodnie z uzasadnieniem projektu: "Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)." W związku z tym pojawia się wątpliwość czy do tego czasu pojawi się piaskownica regulacyjna w Polsce, bo jeśli mają się pojawić wcześniej to w jaki sposób będą uregulowane. Zgodnie z art. 11 pkt 11 "podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych" jest jednym z zadań Komisji pojawia się wątpliwość w jaki sposób zadanie to będzie realizowane.
Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną.
Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689.
Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689.
W związku z brzmieniem art. 4 Projektu ustawy powstaje wątpliwość, czy wskazane w tym przepisie obszary nie będą nadzorowane przez jakikolwiek organ nadzoru?
Zwracamy uwagę, że zakres zastosowania Rozporządzenia 2024/1689 nie dotyczy „badań naukowych i rozwojowych" (art. 2 ust. 6 Rozporządzenia 2024/1689) ani „działalności badawczej, testowej, rozwojowej" (art. 2 ust. 8 Rozporządzenia 2024/1689) w ogólności. Nie ma w Rozporządzeniu 2024/1689 ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach.
W konsekwencji, postulujemy zmianę treści art. 4 pkt 3 Projektu ustawy na następującą:
„3) badań naukowych.”
44
Art. 4
PWPW
Art. 4
ICC Poland
Należy dodać, w ślad za AI act-em (art. 2 ust. 8) sformułowanie „działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku.
To ma istotne znaczenie – gdyż wskazane w art. 4 pkt 3 wyłączenie dla działań badawczych podstawowych i eksperymentalnych jest węższe niż 2.
Działalność tego rodzaju prowadzona jest zgodnie z mającym tu zastosowanie prawem europejskim. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.” prowadzenie badań ogółem.
Art. 4 pkt 3 mówi o badaniach podstawowych (co jest wąskimi rodzajem badań) a AI act mówi „o żadnych badaniach”).
Jest to kluczowe w kontekście rozwoju programów B+R i testowania produktów. Firmy muszą ww. zakresie mieć pewność, że do czasu zakończenia wdrażania B+R nie podlegają obowiązkom wskazanym w ustawie.
Artykuł 4 Projektu przewiduje wyłączenie zastosowania nowej ustawy do spraw związanych z obroną narodową, spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego oraz podstawowych badań naukowych, jak również dla celów naukowych w związku z eksperymentem (pojęcia te dookreślone zostały przez odesłania do odpowiednich ustaw). Zakres tego wyłączenia, ze względu na sposób jego ujęcia, może budzić jednak wątpliwości co do zgodności z rozporządzeniem 2024/1689, a także otwierać drogę do nadużyć w tym zakresie.
Po pierwsze, samo rozporządzenie 2024/1689 istotnie przewiduje wyłączenie jego zastosowania do:
i) systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 2 rozporządzenia 2024/1689); ii) systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 3 rozporządzenia 2024/1689); iii) systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689); iv) działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku (art. 2 ust. 8 rozporządzenia 2024/1689) [podkreślenia własne].
45
Art. 4
Związek Polskich
Banków
Wyłączenia te determinowane są jednak przede wszystkim celem wprowadzenia do obrotu, oddania do użytku lub wykorzystywania systemu AI (natomiast w przypadku art. 2 ust. 8 rozporządzenia 2024/1689 dotyczy specyficznej działalności badawczej, testowej i rozwojowej, ograniczonej przedmiotowo). Tymczasem zakres wyłączeń zaproponowany w art. 4 Projektu odnosi się ogólnie do pojęcia „sprawy” lub „podstawowych badań naukowych”, co może sugerować, że projektowana ustawa w ogóle nie znajdzie zastosowania do systemów sztucznej inteligencji w tych obszarach (np. z uwagi na podmiot wykorzystujący system), niezależnie od celu ich wprowadzenia do obrotu, oddania do użytku lub wykorzystania. Z jednej strony może to sugerować, że zakres wyłączenia zastosowania ustawy jest w istocie szerszy niż zakres wyłączenia zastosowania rozporządzenia 2024/1689 (co mogłoby w praktyce rodzić trudności w egzekwowaniu przepisów tego ostatniego), a z drugiej strony może skłaniać w szerszym zakresie do powoływania się na te wyłączenia w celu uniknięcia nadzoru nad stosowanymi systemami sztucznej inteligencji.
Po drugie, wątpliwości budzi wyłączenie zastosowania nowej ustawy do „celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz.U. z 2024 r. poz. 17 i 1228)” (art. 4 pkt 3 Projektu). Niezależnie od pewnej niejasności ujęcia tego wyjątku [nie wiadomo bowiem, jakich konkretnie sytuacji ma on dotyczyć, skoro „ustawy nie stosuje się (…) dla celów naukowych (…)”], należy zwrócić uwagę, że eksperyment na gruncie przepisów Kodeksu karnego jest definiowany bardzo szeroko. Otwiera to więc pole do prób powoływania się na ten wyjątek wyłącznie w celu uniknięcia nadzoru nad systemami sztucznej inteligencji.
Powyższe uwagi powinny skłonić do ponownej rewizji ujęcia art. 4 Projektu, a także rozważenia, czy przepis ten – przynajmniej w takim kształcie – jest istotnie potrzebny. Przepisy rozporządzenia 2024/1689, w tym jego art. 2 określający jego zakres zastosowania, są bowiem stosowane bezpośrednio, co oznacza, że nie wymagają dla swojego zastosowania wdrożenia do krajowego porządku prawnego. Skoro natomiast na podstawie art. 2 rozporządzenia 2024/1689 wskazane tam systemy sztucznej inteligencji nie podlegają pod samo rozporządzenie 2024/1689 (wyłączenia), to nie będą również podlegać nadzorowi przewidzianemu w Projekcie, który stanowi wszak pochodną zakresu zastosowania rozporządzenia 2024/1689. Projekt nie jest zresztą w tym zakresie konsekwentny, pomijając w art. 4 inne przypadki wyłączeń przewidziane w art. 2 rozporządzenia 2024/1689, jak np. osoby fizyczne, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10 rozporządzenia 2024/1689).
4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689.
W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 Projektu nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów:
1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689).
2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689).
46
Art. 4
Fundacja Poland
Art. 4
Fundacja Panoptykon
FinTech
3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE).
4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej.
Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689.
Zgodnie z treścią AI Act zakres zastosowania nie dotyczy "badań naukowych i rozwojowych" (art. 2 ust. 6 AI Act) ani "działalności badawczej, testowej, rozwojowej" (art. 2 ust. 8 AI Act) w ogólności.
Nie ma w rozporządzeniu ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach.
Uprzejma prośba o wyjaśnienie intencji projektowanego przepisu.
Postulowane brzmienie przepisu Art. 4 pkt 3):
Art. 4. Ustawy nie stosuje się do: (...)
3) badań naukowych.
Wyłączenia dla AI w obszarze bezpieczeństwa wewnętrznego i porządku konstytucyjnego Zgodnie z art. 4 projektu ustawy, nie stosuje się jej do spraw związanych m.in. z obroną narodową oraz spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego. Jest to odzwierciedlenie art. 2 ust. 3 rozporządzenia, zgodnie z którym rozporządzenia nie stosuje się do obszarów systemów AI wykorzystywanych do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego.
Zdecydowanie popieramy próbę doprecyzowania i jednoznacznego ograniczenia znaczenia pojęcia bezpieczeństwo narodowe, a tym samym – jasne określenie, zastosowanie w jakich celach systemów AI podlega regulacji.
Jest to znacząco lepszy model, niż przyjęty m.in. w ustawach implementujących do polskiego porządku prawnego unijne zasady ochrony danych osobowych5, które w sposób podmiotowy wyłączyły spod zakresu obowiązywania tych zasad służby specjalne. Nie sposób przyjąć, że wszystkie zadania realizowane przez służby specjalne mieszczą się w kategorii bezpieczeństwa narodowego. Przykładem takiej sytuacji jest m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt 2 lit. e ustawy o ABW).
Zdajemy sobie sprawę, że ostateczna treść wyłączenia spod zakresu ustawy zawarta w art. 4 będzie jeszcze przedmiotem dyskusji. Jednak zwracamy uwagę, że – bez względu na jego ostateczne brzmienie – wyłączone spod zakresu działania ustawy wykorzystywanie sztucznej inteligencji przez służby specjalne, w tym systemów zdalnej biometrycznej identyfikacji, pozostanie nieuregulowane. Zarówno Konstytucja RP jak i Karta Praw Podstawowych oraz
47
art. 4 pkt 3
PIRP
art. 4 pkt 3
Sano
Europejska Konwencja Praw Człowieka zobowiązują państwa do zapewnienia, że ingerencja w prawo do prywatności –również za pośrednictwem systemów sztucznej inteligencji – ma miejsce wyłącznie w przypadkach niezbędnych w demokratycznym państwie prawa. Biorąc pod uwagę brak efektywnego nadzoru nad służbami w Polsce, co potwierdził Europejski Trybunał Praw Człowieka, brak jasnych zasad wykorzystywania systemów sztucznej inteligencji na poziomie ustawy rodzi pole do nadużyć i naruszeń praw człowieka. Dodatkowo, brak podstawowych reguł rozwijania i wdrażania systemów AI analogicznych do tych zawartych w rozporządzeniu oznacza, że nic nie stoi na przeszkodzie temu, aby służby rozwijały i nabywały systemy sztucznej inteligencji, które nie zostały poddane podstawowym testom jeśli chodzi o ich dokładność, cyberbezpieczeństwo, wolność od błędów czy stronniczości prowadzącej do dyskryminacji.
Warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem Rada UE, w tym polski rząd, poparła blankietowe wyłączenie obszaru bezpieczeństwa narodowego z zakresu rozporządzenia (art. 2 ust. 3), opierając się na argumencie, że kwestie bezpieczeństwa narodowego należą do kompetencji państw członkowskich i powinny być uregulowane na poziomie krajowym. Choć mamy zastrzeżenia do adekwatności tej argumentacji w świetle orzecznictwa Trybunału Sprawiedliwości UE7, oczekujemy, że rząd faktycznie skorzysta ze swoich kompetencji w zakresie bezpieczeństwa narodowego i podejmie inicjatywę legislacyjną mającą na celu stworzenie kompleksowych zasad kontroli nad działaniami służb, w tym wykorzystaniem przez nie sztucznej inteligencji. proponuje się rozszerzyć zakres wyłączenia także na prace rozwojowe w rozumieniu art. 4 ust. 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.); taka zmiana byłaby uzasadniona w świetle art. 2 ust. 6 rozporządzenia 2024/1689 w projektowanej ustawie w art. 4 pkt 3 wskazano:
„Ustawy nie stosuje się do: (…) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”
Pragniemy uprzejmie zauważyć, iż podstawowe badania naukowe zostały wskazane w art. 4 ust. 2 pkt 1 ustawy - Prawo o szkolnictwie wyższym, a nie jak wskazano w projekcie w pkt 2. Ponadto w ocenie Sano zasadnym byłoby możliwie jak najszersze zastosowanie wyłączenia stosowania przepisów, które limitowałyby możliwość prowadzenia badań naukowych, przy jednoczesnym niestosowaniu określonych postanowień ustawy ale bez całościowego wyłączenia badań z zakresu regulacji. Sano jako uczestnik grupowych podmiotów jak choćby Koalicja AI w Zdrowiu wskazało na inne możliwości poszerzenia przepisów ustawy – choćby poprzez mocniejsze unormowanie możliwości wykorzystania sandboxes w ramach polskich przepisów mających implementować rozporządzenie unijne. W takim przypadku również w obszarze badań naukowych
48
art. 4 pkt 3
GRAI
wtedy możliwe było skorzystanie z narzędzia jakim są sandboxes również przez podmioty prowadzące badania.
W przypadku AI znaczna część badań naukowych jest prowadzona również przez inne instytucjenie wymienione w ustawie o szkolnictwie wyższym. Wydaje się, że jest to niespójność w rozumieniu wyjątku dla jednostek badawczych – bo w ustawie są wpisane instytucje z nazwy i lista jest ograniczona do uczelni, podczas gdy na zachodzie wyjątek ten rozszerza się na jednostki badawcze nie jako oddzielne instytucje, które mogą istnieć też w sektorze prywatnym.
Proponujemy zamianę z instytucjonalnego rozumienia jednostki badawczej na rozumienie funkcjonalne (spełnienie określonych warunków (open research, publikacje, współpraca z podmiotami badawczymi itp.). W UE pojawia się też koncepcja certyfikowania jednostek zajmujących się rozwojem AI (coś na wzór ESOMAR dla firm badania opinii i marketingowych, które dzięki certyfikacji mają inne regulacje dot. Danych osobowych). To ma kolosalne znaczenie do rozwoju AI, budowania kompetencji w EU i w Polsce, i w konsekwencji niezależności i samowystarczalności (w razie globalnych konfliktów, tracimy dostęp), brak odpływu kadr i budowanie niezależnej pozycji, w tym kluczowym dla przemysłu obszarze.
AI Akt dotyczy przypadków użycia, a nie przypadków badań nad AI i tworzenia technologii.
Oczywiście przy zachowaniu wszystkich innych przepisów dotyczących transparentności badań, etyki badawczej i postępowania z danymi. Zarówno ośrodki uniwersyteckie, jak oddziały badawcze z sektora prywatnego tworzą wartość dla dobra wspólnego: wyniki badań nad AI, możliwościach jej rozwoju, jej ograniczeniach są publikowane i służą wszystkim. Projektowana ustawa o systemach AI powinna dotyczyć systemów w konkretnym przypadku ich użycia a nie w fazie badań czy przemysłowych czy R&D.
Zmiana brzmienia przepisu
art. 4 pkt 3
e-Izba
Rozdział 2
Osoba fizyczna
Rekomendujemy wprowadzenie zmiany do projektowanego przepisu polegającej na zastąpieniu fragmentu „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym” sformułowaniem „badań naukowych, o których mowa w art. 4 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”.
W polskiej praktyce ustawodawczej dotyczącej organizacji nadzoru nad jakąś sferą życia społeczno-gospodarczego przyjęto dwa modele działalności organów nadzoru – organ kolegialny oraz monokratyczny. W przypadku organu monokratycznego organem administracji publicznej jest Prezes organu, którego obsługę zapewnia odpowiedni Urząd, którego jednocześnie jest zwierzchnikiem – zob. np. Urząd Ochrony Danych Osobowych. W przypadku organu kolegialnego, organem nadzorczym jest Komisja wraz z Przewodniczącym, posiadający poza kierowaniem komisją, dodatkowe kompetencje.
Zarówno Przewodniczący Komisji, jak i Komisja jest obsługiwana przez Urząd. Takie rozwiązania przyjęto m.in. w ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym.
49
Rozdział 2
Związek Polskich
Banków
Rozdział 2 Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji
Software Development Association Poland (SoDA)
Przyjęte w projektowanej ustawie rozwiązanie w którym na pierwszym miejscu stawia się Biuro – aparat obsługujący organ administracji publicznej jest całkowitą zmianą perspektyw formalnej i organizacyjnej, podważającej niezależność organu odpowiedzialnego za nadzór nad SI. Należy przebudować cały rozdział 2 ustawy, wychodząc od określenia organu nadzoru oraz jego kompetencji, prawnych form działania, a dopiero później ewentualnie zdefiniować aparat obsługujący organ.
Zgodnie z założeniami projektu, wszystkie działania KRIBSI, w tym decyzje administracyjne, mają być dokonywane kolegialnie. Proponujemy rozważenie powierzenia decyzji w najbardziej doraźnych sprawach (np. w zakresie decyzji mniejszej wagi lub decyzji o charakterze proceduralnym) Przewodniczącemu Komisji – dla przyspieszenia działania organu.
KOMISJA ROZWOJU I BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI
Jednolity zakres jurysdykcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Zgodnie z art. 6 ust. 1 Projektu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji.
Rozwiązanie polegające na powierzeniu kompetencji w ręce jednego, wyspecjalizowanego organu, przyjmując koncepcję nadzoru zintegrowanego, zamiast dzielić je pomiędzy istniejące już organy nadzorcze w zależności od zakresu działalności danego podmiotu, należy ocenić pozytywnie.
Mając na uwadze, że w skład Komisji wejdą m.in. przedstawiciele Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej, Komisja będzie miała środki służące zapewnieniu spójnego podejścia w zakresie działalności podlegającej ocenie przez różne organy nadzoru z uwagi na ich specyfikę.
Dodatkowo zapewnieniu tej spójności będzie służyć obowiązek współpracy Komisji z innymi organami nadzoru, o którym mowa w art. 6 ust. 3 Projektu.
W naszej ocenie rozważyć należy, czy w skład Komisji, niezależnie od przedstawiciela ministra powołanego w celu koordynowania działalności służb specjalnych, nie należałoby powołać również przedstawiciela Szefa Agencji Bezpieczeństwa Wewnętrznego, jako podmiot prowadzący Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego na poziomie krajowym
(CSIRT GOV).
Wynagrodzenie członków Komisji
50
W naszej ocenie konieczne jest przyznanie wynagrodzenia za udział w pracach Komisji nie tylko przewodniczącemu Komisji oraz jego zastępcom, ale również pozostałym członkom. Zgodnie bowiem z projektowanym art. 7 ust. 7, za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu. Chociaż przepis ten nie precyzuje, że wynagrodzenie to przysługuje przewodniczącemu Komisji oraz jego zastępcom, takie podejście wynika z treści uzasadnienia do Projektu. W tym zakresie w naszej ocenie przepis powinien zostać doprecyzowany.
Rozwiązanie, zgodnie z którym brak wynagrodzenia oraz zwrotu kosztów przejazdów i noclegów dotyczyć miałby członków Komisji, a nie jedynie podmiotów biorących udział pracach Komisji z głosem doradczym, należy ocenić negatywnie. Takie rozwiązanie może istotnie i negatywnie wpływać na sposób funkcjonowania Komisji, w szczególności prowadząc do mniejszego zaangażowania członków Komisji w jej prace, mniejszą liczbę spotkań Komisji i inicjatyw podejmowanych przez Komisję poza jej obowiązkami ustawowymi, w szczególności w zakresie inicjatyw informacyjno-edukacyjnych, a także na jakość samych prac, wytycznych czy poziom merytoryczności tego organu. Trudno bowiem oczekiwać, aby członkowie Komisji wykazywali się 100% zaangażowaniem w swoje obowiązki, jeżeli nie będą otrzymywać z tego tytułu adekwatnego wynagrodzenia, nie mówiąc już o kosztach udziału w spotkaniach Komisji. Trzeba również mieć na uwadze, że dla części członków Komisji tj. przedstawicieli podmiotów wskazanych w art. 7 ust. 2 Projektu, udział w pracach Komisji będzie dodatkowym obowiązkiem w stosunku do ich standardowych obowiązków pełnionych w organie, którego będą przedstawicielami w Komisji.
Argument przedstawiony w uzasadnieniu do Projektu, że celem tego rozwiązania jest brak „generowania niepotrzebnych kosztów po stronie budżetu państwa” pozostaje wobec tego daleko nietrafiony, gdyż koszty te są wręcz niezbędne, aby Komisja mogła funkcjonować w sposób prawidłowy i aby zapewnić jej skuteczne i merytoryczne działanie, zgodnie z koncepcją nadzoru zintegrowanego tj. przy zaangażowaniu przedstawicieli pozostałych organów nadzoru i instytucji publicznych.
Równocześnie zrozumiałym jest wprowadzenie zasady braku wynagrodzenia za udział w pracach Komisji dla podmiotów wskazanych w art. 7 ust. 3, 4 i 5 Projektu, jako że ich udział w pracach Komisji nie jest obligatoryjny i ma charakter jedynie doradczy. Jednak, aby zapewnić wysoki poziom merytoryczny w samej Komisji, a także nie zniechęcać wskazanych podmiotów do udziału w pracach Komisji, należy rozważyć, czy w przypadku takich podmiotów nie byłoby wskazane przyznanie na ich rzecz zwrotu kosztów przejazdu oraz noclegu w związku z udziałem w pracach Komisji z takim głosem doradczym.
INTERPRETACJE INDYWIDUALNE
51
W naszej ocenie wprowadzenie do art. 13 Projektu mechanizmu interpretacji indywidualnych na wzór tych stosowanych w postępowaniu podatkowym jest rozwiązaniem, które może w istotny sposób przyczynić się do poprawy przejrzystości stosowania nowych przepisów, zwiększając pewność prawa w tym zakresie oraz istotnie ułatwiając przedsiębiorcom dostosowanie się do nowych wymogów regulacyjnych. W tym zakresie jednak w naszej ocenie konieczne są dalsze prace mające na celu zwiększenie efektywności tego rozwiązania.
Ochrona wnioskodawców stosujących się do treści interpretacji W pierwszej kolejności należy zwrócić uwagę, że w ustawie brak jest jasnego wskazania, jakie konsekwencje dla podmiotu wnioskującego będzie miało zastosowanie się do interpretacji zgodnej z jego wnioskiem. Takie rozwiązanie zostało wprowadzone w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (t.j. Dz. U. z 2023 r. poz. 2383 z późn. zm.), zgodnie z którym zastosowanie się przez wnioskodawcę do treści wydanej interpretacji indywidualnej nie może mieć negatywnych skutków dla wnioskującego. Również w przypadku Projektu wskazane byłoby wprowadzenie takiego mechanizmu ochrony wnioskodawcy przed negatywnymi konsekwencjami w zakresie zmian w interpretacji przepisów dotyczących systemów sztucznej inteligencji. Jest to szczególnie istotne także z uwagi na fakt, że Akt o Sztucznej Inteligencji („Rozporządzenie”) jako akt prawa o randze Rozporządzenia UE, podlega bezpośredniemu stosowaniu, stąd też w zakresie jego bezpośredniej interpretacji może wypowiadać się Sąd unijny.
W takim przypadku interpretacja Sądu odmienna od tej wyrażonej przez Przewodniczącego Komisji w interpretacji indywidualnej również nie powinna wywoływać negatywnych konsekwencji dla wnioskodawcy, który dostosował się do treści interpretacji indywidualnej.
Termin odpowiedzi na wniosek oraz skutki jego przekroczenia przez organ Wskazanym byłoby wprowadzenie do Projektu maksymalnego terminu rozpatrzenia wniosku o wydanie interpretacji indywidualnej. Z uwagi na charakter obszaru działalności gospodarczej, którego dotyczy Projekt, w szczególności dynamicznych zmian technologicznych, termin ten powinien równocześnie mieć charakter terminu zawitego, a w konsekwencji brak jego dotrzymania powinien skutkować uznaniem interpretacji za zgodną z treścią wniosku. W przeciwnym bowiem razie przedsiębiorcy staną przed dylematem, czy narażać się na ewentualne negatywne konsekwencje braku wiążącej interpretacji przepisów w niejasnych stanach faktycznych, czy też wstrzymać pracę nad danym produktem, narażając w ten sposób niejednokrotnie efekt kilku lat pracy, w szczególności wobec rosnącej konkurencji, mając jednak jasne stanowisko Przewodniczącego Komisji co do zgodności z prawem zakładanych działań. Zapewnienie konkurencyjności polskich przedsiębiorstw, w szczególności z zakresu MŚP wymaga, aby wprowadzić tego rodzaju mechanizm automatycznego uznania interpretacji za pozytywną po upływie określonego terminu, przynajmniej w odniesieniu do wnioskodawców będących MŚP.
52
W przypadku interpretacji indywidualnych w sprawach podatkowych, mechanizm milczącego uwzględnienia wniosku o wydanie interpretacji indywidualnej został wprowadzony w art. 14o Ordynacji podatkowej.
Ochrona tajemnicy przedsiębiorstwa W naszej ocenie rozwiązanie proponowane w art. 16 Projektu tj. publikowanie interpretacji w Biuletynie Informacji Publicznej („BIP”), po dokonaniu ich anonimizacji, jest rozwiązaniem pożądanym, w istotny sposób przyczyniającym się do poziomu przejrzystości stosowania przepisów Rozporządzenia oraz pozytywnie oddziałowującym na pewność prawa w Polsce w tym zakresie. Nasze obawy budzi jednak fakt, że specyfika tego rodzaju rozwiązań, w szczególności w zakresie innowacyjnych technologii opartych o systemy sztucznej inteligencji, może wymagać zapewnienia, że opis funkcjonowania konkretnego systemu bądź jego przeznaczenie będą odpowiednio zabezpieczone, w szczególności jako stanowiące tajemnicę przedsiębiorstwa danego podmiotu. Należy wskazać, że nacisk na ochronę poufności rozwiązań opartych o AI został położony już w samym Rozporządzeniu. Zgodnie z art. 78 Rozporządzenia, Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie tego Rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa. W naszej ocenie istnieje ryzyko, że brak możliwości zastrzeżenia tajemnicy przedsiębiorstwa dla celów późniejszej publikacji treści interpretacji indywidualnej w BIP w istotny sposób wpłynie na gotowość podmiotów gospodarczych do korzystania z tej instytucji. Warto zwrócić uwagę, że opis konkretnych rozwiązań planowanych do wdrożenia przez dany podmiot, przedstawiony w interpretacji, może niekiedy doprowadzić do ujawnienia danego podmiotu, nawet pomimo anonimizacji jego danych.
Dotyczy to w szczególności podmiotów działających w niszowych obszarach rynku bądź też największych spółek technologicznych. Równocześnie ujawnienie konkretnego rozwiązania na wczesnym etapie prac może doprowadzić do „przejęcia” tego rozwiązania przez inne podmioty.
Takie sytuacje są o tyle prawdopodobne, że z ekonomicznego punktu widzenia wniosek o interpretację należałoby złożyć na wczesnym etapie planowania prac projektowych, tak aby podjąć racjonalną decyzję o inwestycji w dane rozwiązanie, w szczególności mając świadomość tego, czy dany system zostanie zakwalifikowany przez organ nadzoru jako system wysokiego ryzyka. Występowanie o taką interpretację po fakcie tj. po ukończeniu procesu produkcyjnego wydaje się być bezcelowe.
Z tych powodów w naszej ocenie podmiot składający wniosek o wydanie interpretacji indywidualnej powinien mieć możliwość zastrzeżenia we wniosku zakresu informacji, które objęte
53
są tajemnicą przedsiębiorstwa. Dzięki temu następcze opublikowanie treści interpretacji, bez informacji stanowiących tajemnicę przedsiębiorstwa, nie wpłynie w negatywny sposób na działalność tego podmiotu. Takie rozwiązanie może w negatywny sposób wpłynąć na użyteczność publikowanych interpretacji podatkowych dla innych podmiotów, jednak w naszej ocenie ochrona tajemnicy przedsiębiorstwa powinna mieć w tym zakresie priorytet.
Decyzje Komisji Wstrzymanie wykonania decyzji Komisji po złożeniu odwołania do Sądu Zgodnie z art. 73 ust. 1 Projektu, administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu.
Ponadto, zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Równocześnie jednak brak jest w Projekcie przepisu, który powodowałby powstanie tożsamych skutków w stosunku do innych elementów decyzji, w szczególności w zakresie zobowiązania do wycofania systemu AI z rynku.
Tymczasem to właśnie środki zobowiązujące nakładane przez Komisję mogą okazać się dla dostawców i podmiotów stosujących systemy AI najbardziej dotkliwe, a w skrajnych przypadkach mogą prowadzić do całkowitej utraty możliwości dalszego prowadzenia działalności gospodarczej.
Mając to na uwadze, zasadnym byłoby wprowadzenie rozwiązania, zgodnie z którym wniesienie odwołania do sądu wstrzymuje wykonanie decyzji Komisji w całości. Z uwagi na potrzebę zabezpieczenia interesów i bezpieczeństwa społecznego, rozstrzygnięcie w zakresie obowiązku wycofania systemu z obrotu mógłby podejmować sąd w ramach rozpoznania wstępnego sprawy objętej odwołaniem od decyzji.
Rygor natychmiastowej wykonalności decyzji Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Przepis ten stanowi daleko idącą ingerencję w prawo strony do dwuinstancyjnego postępowania. Jest to tym bardziej istotne, że projektowany przepis posługuje się tylko jedną, bardzo nieostrą i uznaniową przesłanką w zakresie możliwości nadania decyzji rygoru natychmiastowej wykonalności. Warto zwrócić uwagę, że nawet w przypadku regulacji o charakterze ogólnym tj. w art. 108 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego ( Dz. U. z 2024 r. poz. 572) nadanie decyzji rygoru natychmiastowej wykonalności uzależnione jest od wystąpienia znacznie bardziej sprecyzowanych przesłanek tj. niezbędności dla ochrony zdrowia lub życia ludzkiego, niezbędności dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami lub ze
54
względu na inny ważny interes społeczny. Tymczasem treść art. 74 Projektu pozostawia bardzo daleko idącą dowolność Komisji w zakresie stosowania tego środka, którego skutki dla danego podmiotu, z uwagi na specyfikę branży (w szczególności długi czas produkcji i istotne nakłady finansowe na stworzenie systemu) mogą być niezwykle dotkliwe, a w przypadku podmiotów z sektora MŚP bądź podmiotów z obszarów wysoko wyspecjalizowanych, mogą doprowadzić do upadku danego przedsiębiorstwa, których to skutków nie będzie można odwrócić nawet w razie pozytywnego rozstrzygnięcia sądu odwoławczego.
Z tych przyczyn w naszej ocenie z tego przepisu należy zrezygnować w całości, bądź też zawęzić zakres jego stosowania jedynie do sytuacji, w której nadanie rygoru natychmiastowej wykonalności decyzji jest niezbędne dla ochrony zdrowia lub życia ludzkiego.
Rozdział 2
GRAI
Rozdział 2
GRAI
Rozdział 2
GRAI
Rozdział 2
GRAI
Rozdział 2
GRAI
art. 5 i kolejne w rozdziale
Związek Telewizji Kablowych w Polsce Izba Gospodarcza
Rozważyć uwzględnienie w wymogach na członków komisji, żeby to byli nie tylko "przedstawiciele instytucji kluczowych dla rozwoju sektora technologii sztucznej inteligencji", ale żeby aktywnie prowadzili pracę i mieli osiągnięcia z zakresu tematów związanych ze sztuczną inteligencją. Rozważyć zdefiniowanie minimalnych wymagań. Pozwoliłoby to na zapewnienie odpowiedniego poziomu merytorycznego oraz wzmocniło postrzeganie samej komisji.
Przejrzystość działań Komisji Komisja będzie prowadzić publiczną i przyjazną użytkowniczkom bazę danych dotyczącą wydanych decyzji Sugeruje wprowadzenie przepisów regulujących tryb i zasady wydawania zezwolenia (oraz kontroli sądu) na wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw.
Sugeruje rozważyć udział w pracach Komisji Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka oraz Rzecznika Ubezpieczonych. Można rozważyć zobowiązanie RPO, RPD, RU do przedstawiania cyklicznych raportów o wpływie AI na obszary ich zainteresowań (np. Wpływ technologii na zdrowie dzieci i higienę cyfrową).
Sugeruje uregulowanie zasad dostępu do przebiegu jawnych posiedzeń Komisji np. Poprzez odesłanie do ustawy o dostępie do informacji publicznej.
Z kolei regulacja art. 5, art. 6 oraz art. 8 projektu ustawy o Al świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 4 pkt. I oraz art. 6 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej Komisją. Pogląd ten znajduje pełne oparcie w regulacji art. 8 ust. 5 projektu ustawy o AI, wedle której Komisja w zakresie swojej właściwości podejmuje uchwały, w tym wydaje decyzje administracyjne i postanowienia. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1
55
k.p.a. w zw. z art. 104 $ 1 k.p.a. w zw. z art. 104 $ 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 $ 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją(art. 105 k.p.a.).
Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postepowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 5 ust. 2 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym przypadku państwowego, obsługującego organ administracji publicznej (art. 5 ust. 1 projektu ustawy o AN). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji(art. 5 ust. 4 pkt. 1 projektu ustawy o AT), które z racji zapewniania obsługi Komisji (art. 5 ust. 2 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 ust | projektu ustawy o AT), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem(art. 5 ust. 4 pkt. 2 projektu ustawy o AT). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. zart. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał _ cywilnoprawne i _ administracyjne _ kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja
56
rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AT) i kierujący pracą Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego Komisji (art. 5 ust. 2 projektu ustawy o AT) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż autor projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnegozasady reprezentacjj w stosunkach cywilnoprawnych osób prawnych przez ich organów, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety autorowi projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W zakresie z kolei kompetencji administracyjnoprawnych duże wątpliwości wywołuje zróżnicowanie, a zarazem częściowe niedoprecyzowanie kompetencji Komisji, która działając jako organ Biura Komisji jest organem właściwym w sprawach nadzoru nad bliżej nieokreślonym rynkiem (art. 5 ust. 4 pkt. 1 projektu ustawy o AT), zaś na mocy art. 6 ust. 1 jest uznana za organ nadzoru rynku w zakresie systemów sztucznej inteligencji, co już samo w sobie jest rozwiązaniem nie budzącym większych wątpliwości. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej(art. 6 ust. 1 projektu ustawy o Al) za błędne uznać należy przyznanie Prezesowi Rady Ministrów będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 5 ust. 2 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 5 ust. 3 w zw. zart. 5 ust. 1 projektu ustawy o AT). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny
57
jest Prezes Rady Ministrów (art. 17 pkt. 3 k.p.a. w zw. zart. 18 pkt. 1 k.p.a.) i to nad Komisją, a nie jak błędnie przyjęto w art. 5 ust. 3 projektu ustawy o AI, nad Biurem Komisji, Prezes Rady Ministrów winien pełnić nadzór. O niechlujstwie projektodawcy świadczyć natomiast może zamieszczenie w art. 5 projektu ustawy o AI aż dwóch ustępów o numerze dwa. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę usuwając tym samym wiele nieprawidłowości należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom.
W tym celu niezbędne będzie nadanie nowego. poprawnego brzmienia art. 5 projektu ustawy o Al:
„ l. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę technicznoorganizacyjną Społecznej Rady do spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje Prezes Rady Ministrów. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6. Komisja posiada prawo używania pieczęci z godłem państwowym. ”. D/ Duże wątpliwości budzą także regulacje poświęcone składowi Komisji. Mając bowiem na uwadze, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji (art. 6 ust. 1 projektu ustawy o AI) oraz uwzględniając niezwykle istotną rolę i znaczenie zadań jakie jej poruczono (art. 11 ust. 1 projektu ustawy o AI) doprawdy trudno zrozumieć dlaczegóż to spośród wszystkich Członków Komisji jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni łącznie spełniać zakreślone projektem ustawy wymogi pod postacią: a/ posiadania obywatelstwa polskiego, b/korzystania z pełni praw publicznych, c/ posiadania co najmniej wykształcenia wyższego i tytułu zawodowego magistra, magistra inżyniera lub tytułu równorzędnego, d/ wyróżniania się wiedzą i posiadania znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, e/posiadania co najmniej trzyletniego stażu pracy na stanowiskach kierowniczych, f/posiadania statusu osoby nie karanej za umyślne przestępstwo lub umyślne przestępstwo skarbowe, g/ posiadania nieposzlakowanej opinii i dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 18 ust. 2 projektu ustawy o AI, art. 21 ust. 2 projektu ustawy o AI). Tutaj należałoby dodać jedną istotną uwagę zasądzającą się w tym, iż Przewodniczący Komisji oraz jego Zastępcy winni być osobami niekaranymi za popełnienie przestępstw umyślnych wskazanych w art. 18 ust. 2 pkt. 6 projektu ustawy o AI prawomocnymi wyrokami, tak jak to przyjęto w odniesieniu do członków Społecznej radu do Spraw sztucznej
58
Inteligencji w art. 28 ust. 4 pkt. 2 projektu ustawy o AI. Mając bowiem na uwadze, że Komisja w zakresie swojej właściwości podejmuje uchwały, w tym decyzje i postanowienia, zwykłą większością głosów (art. 8 ust. 5 w zw. z art. 8 ust. 6 projektu ustawy o Al), zaś skład Komisji jest dwunastoosobowy i obejmuje Przewodniczącego, dwóch jego Zastępców oraz dziewięciu Członków Komisji (art. 7 ust. 1 projektu ustawy o AT) nietrudno dojść do przekonania, że raptem trzech członków Komisji posiadających niezwykle istotne w realizacji zadań Komisji cechy opisane w art. 18 ust. 2 projektu ustawy o AI bez większego problemu może przegłosować pozostałych co najmniej siedmiu Członków Komisji, którzy tych ważkich dla pełnienia funkcji w Komisji cech nie posiadają, co może okazać się szczególnie istotne w przypadku decydowania w merytorycznych sprawach dotyczących sprawowania nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji (art. 6 ust. I projektu ustawy o Al) przez Członków Komisji nie wyróżniających się wiedzą i nie posiadających znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, nierzadko przesądzając 0 prawidłowości podjętej uchwały. Rozwiązanie lansowane przez projektodawcę, wedle którego jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni wyróżniać się wiedzą i posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, gdy tymczasem pozostali Członkowie Komisji tego rodzaju walorami legitymować już się nie muszą trudno by było pogodzić z regulacją art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przewidującą, iż „Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych.
Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie.”. Wskazanie w art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przez prawodawcę wspólnotowego na bezwzględną potrzebę zapewnienia przez właściwe organy krajowe w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych wnioskując a minori ad maius tym bardziej odnosi się do podejmujących decyzje merytoryczne w sprawach nadzoru nad rzeczonym rynkiem Członków Komisji nie będących pracownikami Biura Komisji. Nie
59
można też wykluczyć sytuacji, w której grupa siedmiu przestępców skazanych za szpiegostwo lub przestępstwa przeciwko bezpieczeństwu systemów obronnych naszego kraju, a wskazanych przez organy władzy i administracji publicznej określone w art. 7 ust. 2 projektu ustawy o AI mogłaby bez większych problemów przegłosować uchwały dotyczące rynku w zakresie systemów sztucznej inteligencji, które wprost wystawiłyby nasze państwo na niebezpieczeństwo inwigilacji ze strony obcych służb, czy też na przeprowadzane przez nie akcje sabotażowe,, którym to służbom przed skazaniem rzeczeni przestępcy się wysługiwali ze szkodą dla naszego kraju.
Przykład ten nie stanowi zwyczajnej abstrakcyjnej dywagacji, bo przecież wobec Członków Komisji wskazanych w trybie art. 7 ust. 2 projektu ustawy o AI przez właściwe organy nie stawia się wymogu spełnienia wymagań określonych w art. 18 ust. 2 ustawy o AI, wtymi wymogu niekaralności za umyślne przestępstwa, który to wymóg odniesiono jedynie do Przewodniczącego Komisji i jego Zastępców (art. 18 ust. 2 pkt. 6 projektu ustawy o AI, art. 18 ust. 2 pkt. 6 w zw. zart. 21 ust. 2 projektu ustawy o Al). Co więcej nie sposób racjonalnie wytłumaczyć motywów jakimi kierował się projektodawca, który o wiele wyższe wymagania stawia członkom Społecznej Rady do spraw Sztucznej Inteligencji pod postacią: posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka, nieskazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystania z pełni praw publicznych oraz wyrażenia pisemnej zgody na kandydowanie do Rady (art. 28 ust. 4 projektu ustawy o Al), której przypisano jedynie kompetencje opiniodawczo- doradcze wobec Komisji (art. 28 ust. 1 projektu ustawy o AT), niż Członkom Komisji nie będącym Przewodniczącym Komisji lub Zastępcą Przewodniczącego Komisji, którym jako Członkom Komisji będą przecież przysługiwały kompetencje do merytoryczne rozstrzygania spraw z zakresu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 6 ust. 1 w zw. z art. 8 ust. 5 projektu ustawy o AT).
O ile można zgodzić się z przekonaniem wyrażonym na stronie 10 uzasadnienia projektu ustawy o AI, iż „„W celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych”, to za całkowicie błędne uznać należy pominięcie w składzie Komisji z głosem stanowiącym, a mie jedynie doradczym, przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców, którzy zajmując się w ramach swoich kompetencji sprawami przedsiębiorców oraz sprawami postępu technicznego nie są jednakże ich przedstawicielami. Tym bardziej musi dziwić pozbawienie w Komisji przedstawicielstwa z głosem stanowczym przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, skoro z jednej strony do składu Komisji delegowani są przedstawiciele Rzecznika Praw Dziecka, czy też Rzecznika Praw Obywatelskich albo Komisji Nadzoru Finansowego (art. 7 ust. 2 pkt. 7, pkt. 6, pkt. 5 projektu ustawy o AT), które to organy niewiele w zakresie swoich kompetencji będą miały wspólnego z rynkiem systemów sztucznej inteligencji, z drugiej zaś strony projektodawca na stronach 2-3
60
uzasadnienia projektu ustawy o AI w sposób jednoznaczny identyfikuje cele wiązane przez niego z wdrażaniem projektu ustawy o AI wskazując, że „ Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i Średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start. up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną Al.”. W tej zatem sytuacji pominięcie w składzie Komisji z głosem stanowiącym przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców świadczy 0 oczywistej wręcz niekonsekwencji projektodawcy wynikającej z rozbieżności projektu ustawy o AI oraz motywów, które legły u podstaw wdrażania tego rodzaju rozwiązań wyrażonych w uzasadnieniu tegoż projektu. Eliminowanie zaś ze składu Komisji przedstawicieli resortów gospodarczych (resort gospodarki, resort przemysłu), które to resorty będą projekty te realizowały, oraz resortu nauki i szkolnictwa wyższego, który winien przygotować podwaliny naukowe pod przygotowanie podstaw naukowo- badawczych do wdrożenia systemów sztucznej inteligencji, a także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, który „sźoi na straży praw mikroprzedsiębiorców oraz małych i średnich przedsiębiorców, w szczególności poszanowania zasady wolności działalności gospodarczej, pogłębiania zaufania przedsiębiorców do władzy publicznej, bezstronności i równego traktowania, zrównoważonego rozwoju oraz zasady uczciwej konkurencji i poszanowania dobrych obyczajów oraz słusznych interesów przedsiębiorców” [art. 1 ust. 1 ustawy z dnia 6.03.2018 r. o Rzeczniku Małych i Średnich Przedsiębiorców (tekst jedn. Dz. U. z 2023 r. poz. 1668), zwanej dalej ustawą o Rzeczniku MŚP], a którzy to mali przedsiębiorcy, Średni przedsiębiorcy oraz mikroprzedsiebiorcy mają być w zamierzeniu projektodawcy głównymi beneficjentami przedmiotowej inicjatywy ustawodawczej (strona_ 2-3 uzasadnienia projektu ustawy o AN), jest nie tylko niezrozumiałe, ale wręcz taką decyzję projektodawcy uznać należy za błędną, wręcz antyrynkową i sprzeczną zarazem z potrzebami rodzimej gospodarki.
Celem wyeliminowania przedstawionych powyżej nieprawidłowości dotyczących składu Komisji Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje wprowadzenie do projektu ustawy o AI następujących zmian: a/ art. 7 ust. 1 projektu ustawy o AI otrzymuje nowe brzmienie „W skład Komisji wchodzą: Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz trzynastu Członków Komisji. Członkami Komisji w liczbie trzynastu, o których mowa w zdaniu poprzednim mogą być jedynie osoby spełniające wymagania określone w art. 18 ust. 2 ustawy.”, b/ w art. 7 ust. 2 in fine projektu ustawy o AI po pkt. 9 kropkę zastępuje się średnikiem, po którym dodaje się punkty o numerach od 10 — 13 w brzmieniu: „10) ministra właściwego do spraw gospodarki; 11) ministra właściwego do spraw przemysłu; 12)ministra właściwego do spraw nauki i szkolnictwa wyższego; 13) Rzecznika Małych i Średnich Przedsiębiorców.”
61
c/ w art. 7 ust. 3 projektu ustawy o AI skreśla się pkt. 6 i pkt. 13, d/ w art. 18 ust. 2 pkt. 6 otrzymuje nowe brzmienie „nie była karana prawomocnym wyrokiem za przestępstwo umyślne lub za umyślne przestępstwo skarbowe”.
E/ Uchwały Społecznej Rady do spraw Sztucznej Inteligencji. Projektodawca w art. 30 ust. 3 projektu ustawy o AI przyjmuje, że Rada w sprawach określonych w art. I ust. I ustawy w zakresie innym niż przekazany przez Komisję może wyrazić opinię lub stanowisko z własnej inicjatywy w drodze uchwały podjętej większością głosów. Regulacją ta wywołuje dwie istne wątpliwości. Po pierwsze odesłanie do spraw określonych w art. I ust. 1 projektu ustawy o AI jest odesłaniem pustym, gdyż art. 1 projektu ustawy o AI dzieli się na punkty, a nie na ustępy. Należałoby zatem wyjaśnić, w których sprawach nie objętych przekazaniem przez Komisję do wyrażenia przez Radę opinii lub stanowiska spośród spraw wymienionych w art. 1 projektu ustawy o AI Rada może wyrazić z własnej inicjatywy własną opinię lub stanowisko, czy we wszystkich sprawach z art. 1 projektu ustawy o AI, czy też jedynie w sprawach określonych w art. 1 pkt. 1 projektu ustawy o AI.
Druga z kolei wątpliwość zasadza się w tym, iż skoro w sprawach nie przekazanych Radzie przez Komisję do wyrażenia opinii lub stanowiska Rada podejmuje uchwały zwykłą większością głosów pełnego jej składu, to pojawia się pytanie jaką większością głosów i przy obecności jakiego quorum głosujących Rada w drodze uchwały wyraża opinie i stanowiska w zakresie spraw objętych przekazaniem Radzie przez Komisję do wyrażenia opinii lub stanowiska. Niestety stosownej regulacji w tym zakresie próżno szukać w projekcie ustawy o AI.
F/ Projektodawca w art. 43 ust. 2 zd. 2 projektu ustawy o AI w uzasadnionych przypadkach dopuszcza przeprowadzanie czynności kontrolnych poza formą zdalną także przy użyciu przesyłek rejestrowanych lub kurierskich doręczanych w dodatku za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23.11.2012 r. — Prawo pocztowe.
Jeżeli organ kontrolujący zainteresowany jest doręczaniem kontrolowanemu przesyłek za pośrednictwem operatora pocztowego jako przesyłek rejestrowanych lub kurierskich, to oczywiście takie rozwiązanie wątpliwości budzić nie może. Natomiast wniosek wynikający z przedmiotowej regulacji dotyczący samego kontrolowanego, z którego wynikałoby, że kontrolowany także doręczając pewne dokumenty, czy też próbki, materiały, towary etc. podmiotowi kontrolującemu musi korzystać jedynie z przesyłek rejestrowanych lub kurierskich, a nie może przykładowo wskazując osobiście ich zawieść do organu kontrolowanego i złożyć na dzienniku podawczym, choćby w tym celu by zaoszczędzić na kosztach wysyłki przesyłki kurierskiej lub rejestrowanej, brzmi zgoła absurdalnie, jest pozbawiony podstaw racjonalnego wnioskowania i w dodatku jest niemożliwy do pogodzenia z regulacją art. 8 zd. 1 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn .dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców, wedle której przedsiębiorca może podejmować wszelkie działania, z wyjątkiem tych, których zakazują przepisy prawa. Skoro zatem przepisy projektu ustawy o AI nie zakazują doręczania osobiście do lokalu podmiotu kontrolującego dokumentów, materiałów, przesyłek, próbek, towarów etc. z pominięciem przekazywania ich przez operatora pocztowego w formie przesyłek rejestrowanych lub kurierskich, przeto nic nie stoi na przeszkodzie, by
62
przedsiębiorca poddany procedurze kontrolnej osobiście na żądane przez kontrolującego materiały, dokumenty, próbki, towary etc. dostarczył osobiście do lokalu podmiotu przeprowadzającego kontrolę. art. 5 i kolejne w rozdziale
GRAI
Uwaga o charakterze ogólnym Przepisy projektu ustawy odnoszące się do nadzoru, zgłaszania poważnych incydentów, nakładania kar itd. są bardzo rozbudowane, natomiast przepisy dotyczące działań z zakresu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów sztucznej inteligencji – bardzo hasłowe, ogólne, znajdujące się jedynie w dwóch artykułach projektowanej ustawy.
Konieczność rozbudowania przepisów dotyczących konkretnych propozycji rozwoju AI w Polsce o konkretne propozycje działań, które pozwolą na rozwój AI w Polsce.
Rolą Komisji powinno być uprawnienie do przedstawiania rządowi konkretnych propozycji działań i dbanie (wnioskowanie) o zabezpieczenie odpowiednich środków finansowych na ich realizację.
Proponujemy wykorzystać to, co eksperci GRAI wypracowali w ramach prac Podsekcji: „Wsparcie dla biznesu” i które to propozycje znalazły się w projekcie dokumentu strategicznego „Polityka AI”, a w części także w propozycji do „Strategii Cyfryzacji” przekazanej do Ministerstwa Cyfryzacji”:
WSPARCIE DLA BIZNESU:
CEL GŁÓWNY: Rozwój polskiej gospodarki i zwiększenie konkurencyjności firm na rynku globalnym przez efektywne wsparcie małych, średnich i dużych przedsiębiorstw w Polsce w opracowywaniu, komercjalizacji i wdrażaniu innowacji, w tym adaptacji i wykorzystaniu technologii sztucznej inteligencji (AI).
Kluczowe jest zapewnienie skutecznego i efektywnego ekonomicznie rozwoju, wdrażania i umiędzynarodowienia inteligentnych produktów i usług wykorzystujących możliwości AI oraz innych przełomowych technologii (np. internet rzeczy, zaawansowana mechatronika).
CELE POŚREDNIE:
CEL: Rozwój polskich firm, w tym startupów w obszarze rozwoju AI i wdrażania innowacji CEL: Stworzenie ekosystemu prawno-finansowo-techniczno-edukacyjnego przyjaznego przedsiębiorcom, w tym głównie startupom i MŚP do rozwoju AI i wdrażania innowacji w Polsce;
CEL: Zapewnienie wykwalifikowanych zasobów kadrowych do efektywnego wdrażania AI przez firmy w Polsce CEL: Zwiększenie świadomości i wiedzy na temat AI wśród przedsiębiorców CEL: Ułatwienie dostępu do technologii AI dla firm różnej wielkości CEL: Stymulowanie innowacji i badań w dziedzinie AI
63
DZIAŁANIA, KTÓRE POZWOLĄ NA OSIĄGNIĘCIE CELÓW:
LEGISLACJA:
- dostosowanie polskich regulacji prawnych do AI Act (przepisy wdrażające AI Act, które będą pozbawione nadmiernych ograniczeń legislacyjnych i restrykcyjnych norm prawnych w zamian za stworzenie bezpiecznych i racjonalnych warunków otoczenia prawnego dla rozwoju AI w Polsce i dadzą szansę na konkurowanie polskich firm w tym obszarze z przedsiębiorcami na świecie;
- skupienie mechanizmów centralnych instytucji nadzoru i mechanizmów dopuszczania rozwiązań (AI Act Conformance) na systemach wysokiego ryzyka i zabronionych (pozostałe obszary poddane powinny być istniejącemu systemowi nadzoru nad rynkiem, i uwzględniać branżowe kodeksy dobrych praktyk jako punkt odniesienia dla wykazania należytej staranności);
- prawne regulacje obejmujące udogodnienia dla polskich firm w wykorzystaniu AI, w tym przede wszystkim dla startupów i MŚP.
ZASOBY TECHNICZNE:
Platforma Wsparcia Technologicznego:
- darmowy marketplace narzędzi i oprogramowania w zakresie AI i rozwiązań komplementarnych dla MŚP;
- darmowy dostęp do chmury obliczeniowej dla startupów i małych firm do testowania i rozwijania aplikacji AI – piaskownice rozwiązań; ułatwienie dostępu do danych:
- udostępnienie firmom publicznych zbiorów danych do testowania i rozwijania algorytmów AI;
- tworzenie wspólnych przestrzeni danych (data spaces) z danymi branżowymi dla firm; rozwój efektywnej ekonomicznie i przyjaznej dla środowiska infrastruktury obliczeniowej (polskie możliwości obliczeniowe) - tu ostateczne działania zaplanować w łączności z sekcją: „Piaskownice regulacyjne” w następującym zakresie tematycznym:
- fabryki AI i dostęp do superkomputerów dla start-upów;
- wdrożenie przez Polskę zaleceń EuroHPC - integracja z istniejącą infrastrukturą;
- proces wnioskowania o dostęp do infrastruktury obliczeniowej dla start-upów; opracowanie efektywnego procesu; identyfikacja możliwości wsparcia dla start-upów; reguła transparentności z API, a nie tylko dokumentacji; rozdział odpowiedzialności w procesie wnioskowania;
- Piaskownice Regulacyjne AI: AI Compute Hub i Wirtualny Instytut Badawczy (WiB);
- mapowanie istniejących Piaskownic Regulacyjnych w UE i na świecie;
- analiza i wybór branż i technologii do zaadresowani;
- identyfikacja rynkowych ekspertów, liderów;
- stworzenie koncepcji piaskownicy (sandboxa) dla sektora publicznego lub prywatnego, pod nadzorem WIB Office;
64
- formuła utworzenia Poliversum (edge) wraz z funduszami / grantami i PL GRID, szczegółowa analiza obecnej infrastruktury PL GRID, ocena potencjalnych usprawnień;
FINANSE:
ulgi podatkowe dla firm opracowujących i wdrażających innowacje, w tym te z obszaru AI; coroczne środki budżetowe na wsparcie rozwoju polskich firm w obszarze AI; niezwłoczne uruchomienie i sprawne działanie Funduszu AI; skuteczne pozyskiwanie środków zewnętrznych na rozwój polskich, innowacyjnych technologii z wykorzystaniem AI - np. z dostępnych programów pomocowych; szybkie granty i mikrofinansowanie:
- uruchomienie programu małych grantów (np. do 50,000 PLN) na szybkie wdrożenie projektów AI w firmach;
- programy mikrofinansowania dla startupów AI z uproszczonymi procedurami aplikacyjnymi;
EDUKACJA:
przygotowanie kadr do skutecznego wykorzystywania AI w Polsce:
- programy edukacyjne na poziomie szkoły podstawowej i szkoły średniej (dzieci i młodzież szkolna),
- nowe kierunki studiów dot. AI (młodzież, studenci),
- wypracowanie we współpracy twórców AI, uczelni i regulatora AI zasad odpowiedzialnej inżynierii i certyfikacji z nią związanych dla systemów AI wysokiego ryzyka, na wzór przemysłu lotniczego i budownictwa.
- kursy, szkolenia – dla osób, które chcą się przebranżowić i pracować w obszarze dot. AI (dorośli); programy szkolenia w zakresie odpowiedzialnego wdrażania i projektowania rozwiązań wykorzystujących AI:
- repozytorium kursów stacjonarnych i kursów online z podstaw AI zwłaszcza dla małych przedsiębiorstw z niewielką świadomością dotyczącą praktyk rynkowych i małą adopcją rozwiązań AI;
- propagowanie darmowych zasobów wiedzy dot. AI w postaci e-booków, webinarów, nagrań video;
WSPARCIE MERYTORYCZNE/ WPARCIE EKSPERTÓW DLA PRZEDSIĘBIORCÓW
ROZWIJAJĄCYCH AI:
sieci mentorów i ekspertów:
- tworzenie sieci mentorów i konsultantów AI, którzy mogą doradzać MŚP w kwestiach technologicznych i biznesowych;
- organizowanie regularnych spotkań i sesji mentoringowych online; inkubatory i akceleratory AI:
65
- tworzenie programów inkubacyjnych i akceleracyjnych dedykowanych startupom AI;
- zapewnienie wsparcia w postaci mentorów, finansowania początkowego oraz dostępu do technologii; wsparcie w certyfikacji i standaryzacji:
- ogólnodostępne repozytorium regulacyjne, wraz z interpretacjami prawnymi i technologicznymi;
- szerzenie tej świadomości poprzez serie warsztatów i seminariów;
- wsparcie merytoryczne w procesach certyfikacji, pomoc prawna.
PROMOCJA I INFORMACJA:
zaplanowanie i realizacja działań informacyjno – promocyjnych dla startupów i MŚP z zakresu możliwości efektywnego rozwoju AI i innowacji w Polsce, w tym stworzonego dla tego rozwoju ekosystemu prawno-finansowo-techniczno-edukacyjnego; promocja polskich produktów i usług wykorzystujących AI w celu zwiększenia konkurencyjności firm; pilotażowe projekty AI:
- zwinne Proof of Concept z możliwością skalowania dla kluczowych branż w kraju z zaangażowaniem firm polskich, które mają doświadczenie w budowaniu rozwiązań AI;
- system nagradzania firm biorących udział w projektach PoC – dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; hackathony i konkursy innowacji:
- wybór realnych przypadków biznesowych realizujących cel społeczny (użyteczny dla społeczeństwa) i organizacja konkursów wyłaniających najlepsze rozwiązania rozwiązujące problem za pomocą AI;
- system nagradzania podobny jak w przypadku Proof of Concept - dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; kampanie Informacyjne i edukacyjne: kampanie medialne promujące korzyści z zastosowania AI w biznesie;
- informowanie o dostępnych programach wsparcia, grantach i szkoleniach.
Propozycje bardziej szczegółowe– poniżej – w Dodatkowych uwagach.
Art. 5 i nast.
AI CHAMBER
Jak wskazano już powyżej koncepcja przyjęcia rozwiązań instytucjonalnych wprost z ustawy o nadzorze finansowym ma zalety, ale analiza tych przepisów budzi wątpliwości nie tylko natury ogólnej, ale też co do poszczególnych przyjętych rozwiązań. Samo powołanie nowej, wyspecjalizowanej instytucji zasługuje na poparcie - żadna z istniejących nie posiada odpowiednich kompetencji i jest zorientowana na zupełnie inne cele. Wątpliwości może jednak budzić sama koncepcja organu kolegialnego, jego skład oraz forma prawna.
66
Art. 5
KIGEiT
Art. 5 powinien zaczynać się treścią Art. 83 i Art. 84 ust.1 Przepisy Art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od 0. dlatego obecnie przepisy Art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w Art. 5 - jako przepis prawa materialnego
Art. 5
PIIT
Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1, Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych / zlikwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od podstaw. Dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu.
W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego.
Art. 5
Art. 5
Związek Pracodawców Technologii Cyfrowych Lewiatan Osoba fizyczna jk
Art. 5 ust. 1
ISSA Polska
Art. 5 ust. 1
SKwP
Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji. wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku.
Nazwa Komisji (art. 5)
Nazwa Komisji w obecnym brzmieniu dotyczy rozwoju i bezpieczeństwa sztucznej inteligencji.
Ustawa zaś mówi o „systemach sztucznej inteligencji”. Proponujemy ujednolicić i wszędzie jednak stosować „systemy sztucznej inteligencji”.
Powinien zostać przeniesiony przed art. 31.
Najpierw opis samej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej działalności, później jej Biura - nawet jeżeli Biuro jest przywoływane w artykułach 6-30 Warto zmienić z “państwowej osoby prawnej” na “urząd/organ administracji rządowej/publicznej”
- decyzje Komisji będą podlegać procedurze odwoławczej zgodnie z kpa.
Zadaniem Biura Komisji jest zapewnienie obsługi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji.
Może warto rozważyć, i Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji - nazwać inaczej, np. Urząd ds. AI.
Wtedy należy budować strukturę wewnętrzną: Biuro, Komisję i Radę. Dalej w Biurze będzie dyrektor i pracownicy? Komisja ma przewodniczącego.
67
Art. 5 ust. 1.
PWPW
dot. Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Jakie jest uzasadnienie aby Biuro Komisji posiadało status państwowej osoby prawnej. Dla porównania np. UOKIK, PUODO nie posiadają takiego statusu. Z podmiotów publicznych UKNF jest tylko taką osobą prawną. Należy wskazać, że ww. okoliczność może mieć wpływ na zakres odpowiedzialności odszkodowawczej Skarbu Państwa za wadliwe działania Komisji i Biura względem podmiotów nadzorowanych.
Komisja ...... jest państwową osobą prawną. Konsekwentnie należy dalej używać wyrazu “Komisja”, zamiast “Biuro Komisji” na oznaczenie tej państwowej osoby prawnej (agencji).
Biuro Komisji W projekcie ustawy zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem, w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również "biur" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy "urząd" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować.
Art. 5 ust. 1.
PIIT
Art. 5 ust. 1
GRAI
Art. 5 ust. 1
Osoba fizyczna
Art. 5 ust. 1
Fundacja Poland
Art. 5 ust. 1 i ust. 4
AI CHAMBER
FinTech
Przyjęcie dla aparatu administracyjnego nazwy „Biuro” odbiega od praktyki legislacyjnej dotyczącej tworzenia nazw organów i urzędów administracji publicznej. Dlatego też należy wprowadzić termin Urząd ds. nadzoru nad sztuczną inteligencją, co będzie odpowiadało zarówno treści ustawy, jak i zadaniom Komisji.
Przepis wzorowany jest na przepisie art. 3 ustawy o nadzorze nad rynkiem finansowym, przy czym Komisja jest organem kolegialnym z którego wybiera się przewodniczącego. Sugerujemy przeanalizować czy jest to wariant optymalny. Struktura rynku w przypadku sztucznej inteligencji różni się od rynku finansowego dość znacznie. Jak wynika z OSR już obecnie ze sztucznej inteligencji korzysta 330 tys. przedsiębiorców. Do rozważenia pozostaje czy nadzoru nad tak rozproszonym rynkiem nie powierzyć na wzór Hiszpanii Agencji lub tak jak w Austrii już istniejącemu organowi. przyjęta konstrukcja prawna jest dość niejasna. Biuro KRiBSI jest to osobą prawną, a Przewodniczący organem, ale Biura. Dlaczego nie zdecydowano się na ustanowienie centralnego organu administracji państwowej, na kształt Prezesa UOKiK lub UKE?
68
Art. 5 ust. 2
Osoba fizyczna
Art. 5 ust. 1 i 2 oraz inne
GRAI
Głównym zadaniem nowego organu administracji publicznej jest nadzór nad systemami sztucznej inteligencji. Dlatego też prawidłowe jest nazwanie organu administracji publicznej, np. Komisja ds. nadzoru nad sztuczną inteligencji. Inną nazwą oddającą charakter i zadania organu moz0e być Komisja ds. bezpieczeństwa sztucznej inteligencji.
Taka nazwa wskazuje w sposób jednoznaczny na główny cel funkcjonalny ustawy, a mianowicie zapewnienie bezpieczeństwa w związku ze stosowaniem sztucznej inteligencji przez społeczeństwo i rynek.
Należy zwrócić uwagę, że nowy organ w swych kompetencjach, określonych w art. 11 projektu ustawy, nie ma rozwoju Sztucznej Inteligencji. Przyjęcie tego elementu w nazwie będzie budziło wątpliwości co do zadań i kompetencji Komisji oraz wprowadza w błąd destynatariuszy organu.
Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”).
Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds.
Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji.
Nazwa „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” – sugeruje zawężony zakres działania Komisji do rozwoju i bezpieczeństwa i może wywoływać uzasadnione wątpliwości do rzeczywistej roli, jaką ma pełnić. Szczególnie, że z projektowanych przepisów wiemy, że Komisja będzie działała w szerszym zakresie. Ponadto należy założyć, że jej kompetencje w czasie będą się rozwijały.
Dodatkowo, należy zauważyć, że proponowana nazwa organu nadzoru „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” jest zbędnym opisem w nazwie oczekiwanych działań organu. Zwłaszcza, że zakres kompetencyjny będzie stopniowo rozszerzany, a nacisk w zakresie działalności również będzie odmienny w zależności od okresu i stanu prawnego.
W przypadku zmiany nazwy organu zmianie ulegnie również nazwa Biura.
Rekomendujemy zmianę nazwy organu na „Komisję do spraw Sztucznej Inteligencji”.
Będzie to rozwiązanie podobne do stosowanego w innych krajach członkowskich UE, oraz uwzględniającą w przyszłości dalszy rozwój kompetencji organu.
Konsekwencją tej zmiany będzie zmiana nazwy Biura Komisji.
69
Art. 5 ust. 2
GRAI
Art. 5 ust. 3
Osoba fizyczna
Art. 5 ust. 2,4,5
Osoba fizyczna
art. 5 ust. 4
AI CHAMBER
art. 5 ust. 4
KIGEiT
art. 5 ust. 5
KIGEiT
Uwaga redakcyjna Oczywista omyłka pisarska – zastosowanie podwójnej numeracji ust. 2.
Zmiana numeracji ustępów w art. 5 projektu ustawy.
Zgodnie z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689) właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad.
Przyjęcie rozwiązania, w ktorym organ nadzoru Komisja - jest organem Biura Komisji Rozwoju i Bezpieczeństwa SI, a samo Biuro pozostaje pod nadzorem Prezesa Rady Ministrów nie spełnia warunku niezależności i bezstronności, bowiem proponowana podległość pod organ polityczny stwarza ryzyko politycznej zależności i stronniczości. Ponadto w ust.3. nie wskazano charakteru i zakresu nadzoru sprawowanego przez Prezesa Rady Ministrów wobec Biura Komisji, jakie środki prawne może użyć i na jakich zasadach. Niedookreślenie tego aspektu budzi jeszcze większe wątpliwości co do bezstronności i niezalez0nosci organu nadzorczego nad SI.
W ust. 4. przyjęto, że Komisja jest organem Biura Komisji, co sugeruje, że Komisja jest częścią Biura Komisji, a nie osobną jednostką organizacyjną, której Biuro Komisji zapewnia obsługę.
W ust. 2. jest napisane, że zadaniem Biura Komisji jest zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji.
Natomiast w ust. 4. jest napisane, że Przewodniczący Komisji kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Jednak w ust. 5. jest napisane, że Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji, co sugeruje, że Przewodniczący Komisji nie jest najwyższym organem Biura Komisji, ale tylko jednym z pracowników. Wewnętrzna niespójność logiczna powoduje, że należy przeredagować cały artykuł, wskazując Komisje jako organ a Biuro/Urząd jako aparat obsługujący Komisję. Jednocześnie należy zapewnić Przewodniczącemu Komisji zwierzchność kompetencyjną, służbową, organizacyjną, i finansową nad Biurem/Urzędem. należy sprecyzować o nadzór nad jakim rynkiem (“systemów sztucznej inteligencji”) lub (mając na uwadze treść art. 6 ust. 1) kreślić słowa “która jest właściwa w sprawach nadzoru nad rynkiem”.
Propozycja zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku Rekomendacja: Podział na różne poziomy nadzoru w zależności od ryzyka: "Komisja klasyfikuje systemy sztucznej inteligencji według poziomów ryzyka, przy czym systemy niskiego i średniego ryzyka nie podlegają pełnej procedurze zgodności ani kontrolom ex ante.
70
Systemy o wysokim ryzyku (np. w dziedzinie medycyny, transportu autonomicznego) podlegają bardziej rygorystycznym wymogom. Jednakże, firmy mogą skorzystać z uproszczonych procedur, jeśli udowodnią, że ich systemy są wystarczająco zabezpieczone przed potencjalnymi zagrożeniami." , Art. 5 ust.5 (Zadania Komisji) definiuje, że Komisja ma za zadanie przeciwdziałać zagrożeniom związanym z systemami AI, ale przepisy te można rozwinąć, uwzględniając podejście oparte na ryzyku. Dzięki propozycji podmioty rozwijające systemy, które nie charakteryzują się wysokim ryzykiem, nie byłyby narażone na nadmierne koszty związane z regulacjami, co mogłoby sprzyjać ich rozwojowi, podczas gdy ryzykowne technologie byłyby odpowiednio kontrolowane.
Projekt zakłada, że Przewodniczący Komisji i Zastępcy są pracownikami Biura Komisji. Mając jednak na uwadze treść art. 32 ust. 5 projektu ustawy osobą wykonującą obowiązki z zakresu prawa pracy względem pracowników Biura Komisji będzie Dyrektor Biura Komisji. W zakresie, w jakim te czynności miałby wykonywać względem Przewodniczącego lub Zastępców Przewodniczącego może to powodować uzasadniony konflikt kompetencyjny (zgodnie z projektem to Przewodniczący podlega Dyrektorowi).
art. 5 ust. 5
GRAI
Art. 6
KIGEiT
Art. 6 ust. 1.
PIIT
Art. 6 ust. 1
Polskie Towarzystwo Informatyczne
Rekomendacja: Harmonizacja regulacji: "Komisja we współpracy z organami UE i międzynarodowymi organizacjami AI opracowuje wspólne standardy oceny zgodności systemów AI, tak aby firmy działające w Polsce mogły łatwo wejść na rynki międzynarodowe. Komisja będzie dążyć do zapewnienia, że przepisy krajowe nie nakładają na przedsiębiorców większych obciążeń regulacyjnych niż te wymagane przez standardy międzynarodowe." , Art. 6 (Współpraca z organami UE) określa współpracę Komisji z innymi organami w ramach Unii Europejskiej, ale warto rozwinąć ten zapis, by zapewnić, że przepisy w Polsce nie będą odbiegać od międzynarodowych standardów. Dzięki temu firmy polskie będą mogły swobodnie operować na rynkach globalnych, bez potrzeby dostosowywania się do różnych reżimów regulacyjnych.
Wykreślenie ust. 1 art. 6, przeniesienie zadania do art. 11. , Zadanie w postaci nadzoru nad rynkiem powinno być w katalogu zadań w art. 11, nawet jeżeli jest traktowane jako podstawowe.
W zakresie kompetencji nadzorczych Komisji wymienione są systemy AI, jednak wynikiem ich działania mogą być także usługi świadczone przez te systemy. Zatem wskazane jest rozszerzenie zakresu kompetencji nadzorczych Komisji również w zakresie usług AI Propozycja Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji oraz usług opartych na AI.
Art. 6 ust. 1
Krajowy Mediów
Instytut
Zawężenie zakresu kompetencji Komisji może uniemożliwić jej nadzór w sytuacji, gdy na terenie kraju dostępne są usługi AI poprzez kanały elektroniczne a nie systemy.
Zasadność wyznaczenia organów nadzoru rynku spośród obecnie istniejących organów
71
1. Na podstawie art. 70 ust. 1 rozporządzenia 2024/1689 państwa członkowskie obowiązane są do wskazania organu lub organów nadzoru rynku dla systemów sztucznej inteligencji.
Rozwiązaniem rekomendowanym przez projektodawcę w tej kwestii jest powołanie nowego organu nadzoru rynku, co jak wskazano w Ocenie Skutków Regulacji, pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących m.in. niezależności organu nadzoru.
2. W odpowiedzi na powyższą argumentację należy zaznaczyć, że w Polsce, wśród wymienionych przez projektodawcę instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, mających wchodzić w skład nowego organu nadzoru rynku, istnieją organy, których status jest w zasadzie niezależny, takie jak Krajowa Rada Radiofonii i Telewizji, formalnie niepodporządkowana innym organom państwowym, w szczególności zaś Radzie Ministrów. Uregulowanie konstytucyjnej pozycji KRRiT stanowi przeniesienie określonych zadań egzekutywy na rzecz podmiotu leżącego poza jej strukturą organizacyjną, przez co racją istnienia KRRiT jest wykonywanie powierzonych jej zadań w sposób niezależny od rządu.
3. W wyroku z 23.03.2006 r., K 4/06, OTK-A 2006, nr 3, poz. 32, Trybunał Konstytucyjny zaznaczył, że szczególna pozycja KRRiT, jako organu kontroli i ochrony prawa, łączącego w sobie funkcje zarządu i kontroli, którego kompetencje i sposób powoływania określa Konstytucja, pociąga za sobą pełną autonomiczność Krajowej Rady w stosunku do Rady Ministrów i jej Prezesa. Świadczy o tym treść art. 6 ust. 2 pkt 1 ustawy o radiofonii i telewizji, w myśl którego do zadań Krajowej Rady należy projektowanie, w porozumieniu z Prezesem Rady Ministrów, kierunków polityki państwa w dziedzinie radiofonii i telewizji. Przepis ten wskazuje na partnerski, równoprawny charakter stosunków między Krajową Radą a Prezesem Rady Ministrów. O niezależności KRRiT od Rady Ministrów świadczy także fakt, że przedstawia ona sprawozdanie ze swej działalności Sejmowi, Senatowi i Prezydentowi, natomiast Prezesa Rady Ministrów jedynie informuje o swoich dokonaniach. Ponadto, ze względu na szczególną pozycję Krajowej Rady, nie ma do niej zastosowania art. 146 Konstytucji RP ustanawiający kompetencje Rady Ministrów do kierowania i kontrolowania pracy wszystkich organów administracji rządowej.
4. Projektodawca argumentując na rzecz zasadności powołania nowego organu nadzoru rynku dla systemów sztucznej inteligencji uznał ponadto, że posunięcie to pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Odnośnie do organów kluczowych w zakresie nadzoru nad sektorem technologii cyfrowych należy zauważyć, że co prawda pod względem przedmiotowym zakres działania KRRiT obejmuje radiofonię i telewizję, a więc co do zasady wyłączone z niego zostały inne środki społecznego przekazu, również elektroniczne formy masowego komunikowania, jednakże pojęcia radiofonii i telewizji nie zostały w Konstytucji RP sprecyzowane, przez co nie jest wykluczone przyjęcie ich „dynamicznej” i ewolucyjnej wykładni w związku z rozwojem technologicznym w dziedzinie środków społecznego przekazu. Co istotne, Krajowa Rada została wyposażona w kompetencje do inicjowania postępu naukowo – technicznego i kształcenia kadr w dziedzinie radiofonii i telewizji. Zadaniem KRRiT jest też upowszechnianie umiejętności świadomego korzystania z mediów (edukacji medialnej) oraz
72
współpraca z innymi organami państwowymi, organizacjami pozarządowymi i innymi instytucjami w zakresie edukacji medialnych. Dla realizacji tych zadań, istotnych z punktu widzenia funkcjonowania systemów AI w wielu różnych obszarach życia społecznego, Krajowa Rada Radiofonii i Telewizji ma kluczowe znaczenie.
5. W związku z powyższym za logiczne należałoby uznać poszerzenie ustawowych kompetencji KRRiT o przeciwdziałanie zjawisku deepfake w mediach elektronicznych, a także o zwalczanie działań polegających na wykorzystywaniu sztucznej inteligencji do manipulowania zachowaniami użytkowników oraz wizerunkiem osób publicznych za pośrednictwem mediów i platform internetowych, zwłaszcza że od 1 listopada 2021 r. Krajowa Rada jest wyposażona w kompetencje kontrolne względem platform udostępniania wideo, zdefiniowanych w ustawie o radiofonii i telewizji jako: usługa świadczona drogą elektroniczną w ramach prowadzonej w tym zakresie działalności gospodarczej, jeżeli podstawowym celem lub zasadniczą funkcją tej usługi lub jej dającej się oddzielić części jest dostarczanie ogółowi odbiorców w celach informacyjnych, rozrywkowych lub edukacyjnych audycji, wideo stworzonych przez użytkowników lub innych przekazów. Platformy udostępniania wideo niewątpliwie są więc częścią platform internetowych, definiowanych jako usługi świadczone z wykorzystaniem systemu teleinformatycznego.
6. W pozostałym zakresie nadzór nad rynkiem dla systemów sztucznej inteligencji powinien zostać podzielony pomiędzy już istniejące organy administracji publicznej, zdolne do kompleksowego podejścia do nowych zagadnień z tej sfery. Kierunek ten należy uznać za słuszny, zwłaszcza że w motywie 3 rozporządzenia 2024/1689 wskazano, że systemy AI mogą być łatwo wdrażane w wielu różnych sektorach gospodarki i obszarach życia społecznego, a w motywie zaznaczono, że zharmonizowane przepisy ustanowione w niniejszym rozporządzeniu powinny mieć zastosowanie we wszystkich sektorach. Okolicznością przemawiającą za racjonalnością wskazanego modelu jest dysponowanie przez istniejące organy administracji publicznej kompetentnymi pracownikami, posiadającymi wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach takich jak technologie informacyjne oraz nadzór nad prawami podstawowymi, co umożliwi im należyte wykonywanie powierzonych zadań. Realizowanie działań w obrębie wymienionych dziedzin odbywa się m.in. w ramach struktur KRRiT, stojącej na straży wolności słowa w radiu i telewizji, samodzielności dostawców usług medialnych oraz dostawców platform udostępniania wideo, interesów odbiorców usług i użytkowników oraz zapewniającej otwarty i pluralistyczny charakter radiofonii i telewizji (art. 6 ust 1 ustawy o radiofonii i telewizji).
7. Reasumując powyższe rozważania, za zasadne należałoby uznać wyznaczenie organów nadzoru rynku spośród obecnie istniejących organów, przy czym w kompetencje w tym zakresie z pewnością powinna zostać wyposażona Krajowa Rada Radiofonii i Telewizji.
Art. 6 ust. 1
Związek Pracodawców Technologii
1. Potrzeba powołania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Uważamy, że należy ponownie rozważyć niezbędność powołania kolejnego organu regulacyjnego działającego w sferze cyfrowej. Pod uwagę należy wziąć nie tylko fakt, że:
73
Cyfrowych Lewiatan
art. 6 ust. 1 i 3
GRAI
• będzie to jeden z wielu regulatorów specjalnie dedykowanych dla sfery cyfrowej (UKE, praktycznie UODO) lub w znacznej części zajmujących się sferą cyfrową (UOKiK, ABW, KNF) • powołanie takiego regulatora będzie w praktyce oznaczało, że kolejne akty prawne związane z sferą cyfrową, także będą potrzebowały swoich regulatorów; przykłady to akt w sprawie danych czy europejska przestrzeń danych dotyczących zdrowia • praktyka w innych krajach UE: jeśli zadania związane z regulacją systemów sztucznej inteligencji w innych krajach członkowskich UE będą delegowane do istniejących już organów regulacyjnych będziemy mieli kolejny przykład niespójności europejskich regulacji Warto zwrócić uwagę na zapis z Uzasadnienia do projektu ustawy: „Akt o AI jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych.”
Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia
– jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”.
Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej.
Zgodnie z postanowieniem art. 74 ust. 6 rozporządzenia 2024/1689:
„W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.”
Z zapisu art. 6 pkt 1 wynika natomiast iż Komisja jest jedynym organem nadzoru w zakresie systemów sztucznej inteligencji. Z punktu 3 wynika, iż Komisja współpracuje z KNF w zakresie spraw wskazanych w art. 74 ust. 6 rozporządzenia.
Proponowane rozwiązanie: Dodanie zastrzeżenia w art. 6 pkt. 1, że w przypadku systemów AI wysokiego ryzyka stosowanych przez instytucje finansowe organem nadzoru jest Komisja Nadzoru Finansowego.
74
art. 6 ust.1 punkty 1 oraz ust. 3 podpunkt 1
GRAI
Uwzględniając: -postanowienia art. 74 ust. 6 rozporządzenia 2024/1689, które określają, że w przypadku systemów wysokiego ryzyka używanych przez instytucje finansowe odpowiedzialnym organem nadzoru jest krajowy organ odpowiedzialny za nadzór finansowy, w Polsce jest to KNF, -oraz zapisy art. 6 pkt. 1, które wskazują na istnienie jednego organu nadzorczego, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z jedynie współpracą z KNF, powstaje niejasność co do roli KNF w kontekście instytucji finansowych korzystających z systemów AI. Aktualne zapisy wydają się sprzeczne z art. 74 ust. 6 rozporządzenia 2024/1689.
Istnieje potrzeba wyjaśnienia i doprecyzowania podziału kompetencji między KNF a Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w odniesieniu do instytucji finansowych stosujących systemy AI.
Proponujemy zmiany doprecyzowujące te elementy zgodnie z zaproponowaną treścią, tak by być zgodnym z art. 74 ust. 6 rozporządzenia 2024/1689 oraz zapewnić spójna i jednolitą politykę nadzorczą w zakresie systemów AI dla całego rynku (ust. 3)
Proponujemy zmianę treści na następującą:
Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji z zastrzeżeniem, że w przypadku systemów AI wysokiego ryzyka używanych przez instytucje finansowe, nadzór sprawuje Komisja Nadzoru Finansowego, zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689.
2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689.
3. Komisja oraz Komisja Nadzoru Finansowego współpracują celem zapewnienia spójności sprawowanego nadzoru na rynkiem w zakresie systemów sztucznej inteligencji.
4. Komisja współpracuje z:
1) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz pozostałymi podmiotami, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854 oraz z 2024 r. poz. 1089) - w zakresie spraw, których mowa w art. 74 ust. 3 rozporządzenia 2024/1689);
2) Prezesem Urzędu Ochrony Danych Osobowych - w zakresie spraw, o których mowa w art. 57 oraz art. 74 ust. 8 rozporządzenia 2024/1689;
3) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych;
4) ministrem właściwym do spraw informatyzacji - w zakresie spraw związanych z notyfikacją, o których mowa w rozdziale 6 ustawy;
5) Pełnomocnikiem Rządu do Spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie
75
cyberbezpieczeństwa (Dz. U. z 2024 r. poz. 1077) - w zakresie spraw związanych z cyberbezpieczeństwem. 5.
Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej.
Art. 6 ust. 1 i 3 (w szczególności pkt 1))
GRAI
Projekt wskazuje, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Ust. 3 reguluje też obowiązek Komisji współpracy z innymi organami w zakresie spraw tam wskazanych. Konstrukcja tego przepisu może prowadzić do sprzeczności z treścią art. 74 rozporządzenia 2024/1689 w zakresie w jakim wskazuje, że w każdym przypadku Komisja działa jako właściwy organ nadzoru. Dla przykładu, ust. 3 pkt 1 nakłada na Komisję obowiązek współpracy z Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689. Przepis ten wskazuje jednak, że w przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych, organem nadzoru jest odpowiedni organ nadzoru nad rynkiem finansowym (w tym przypadku Komisja Nadzoru Finansowego). Oznacza to, że w zakresie tam wskazanym mamy rozdzielenie organów nadzoru.
W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych w zakresie w jakim wprowadzenie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych – organem nadzoru będzie Komisja Nadzoru Finansowego. W pozostałym zakresie (a więc systemy inne niż wysokiego ryzyka lub w zakresie systemów AI również wysokiego ryzyka jeśli nie są bezpośrednio związane ze świadczeniem usług finansowych – organem nadzoru pozostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tymczasem projektowany ust. 3 art. 6 nie rozróżnia tych sytuacji i przyjmuje generalnie zobowiązanie do współpracy.
Proponuję, że art. 6 ust. 1 powinien przyjąć treść „Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w zakresie w jakim art. 74 rozporządzenia 2024/1689 nie stanowi inaczej. W przypadkach określonych w art. 74 ust. 3, ust. 6 i ust. 8 rozporządzenia 2024/1689 organy nadzoru określa ust. 3 poniżej.”
Z kolei w ust. 3 art. 6 ustawodawca powinien podjąć decyzję czy kompetencje organu nadzoru wskazane w art. 74 ust. 6 rozporządzenia 2024/1689 przyznać Komisji Nadzoru Finansowego a nałożyć na Komisję Rozwoju tylko zobowiązanie do współpracy albo uznać Komisję Rozwoju za wyłączny podmiot nadzoru nad AI na rynku finansowym.
76
W przypadkach określonych w art. 74 ust. 3 i 8 rozporządzenia 2024/1689 relacja powinna przyjąć zobowiązanie Komisji Rozwoju do współpracy z jednoczesnym wskazaniem, co w tą współpracę wchodzi.
Art. 6 ust. 2
KIGEiT
Art. 6 ust. 3
AI CHAMBER
Art. 6 ust. 3
Art. 6 ust. 3
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
PIIT
Art. 6 ust. 3
ISSA Polska
Art. 6 ust. 3
Związek Polskich
w
banków
Propozycja zapisu: "Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w Art. 70 ust.1 Rozporządzenia 2024/1689." Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W Art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. jeżeli istotne jest enumeratywne wymienienie instytucji, z którymi Komisja ma współpracować (powstaje tu pytanie, czy enumeratywna lista oznacza, że z innymi organami nie może współpracować), to należy uzupełnić tę listę przynajmniej o dowódcę komponentu wojsk obrony cyberprzestrzeni, o którym mowa w art. 23 ustawy o obronie ojczyzny.
Prosimy o doprecyzowanie, w jaki sposób i na jakich zasadach przebiegać będzie współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”) a Komisją Nadzoru Finansowego i jak dokonany zostanie podział obowiązków.
Doprecyzowanie kompetencji PUODO w pracach Komisji. , Niejasna relacja kompetencji PUODO w pracach Komisji – czy Komisja jednocześnie ma współpracować z PUODO i PUODO ma być członkiem Komisji? Kompetencje PUODO powinny być jednoznacznie określone, aby rola PUODO w poszczególnych działaniach była oczywista, czy działa jako Członek Komisji, czy też jako podmiot współpracujący z Komisją.
Postuluję dodanie do katalogu podmiotów, z którymi współpracuje Komisja również NASK instytucję kompetentną w zakresie cyberbezpieczeństwa.
Warto dodać także CSIRT sektorowe, zgodnie z ustawą KSC
3. Komisja współpracuje z: 1)
Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; (…) 3a. Współpraca, o której mowa w ust. 3 polega na [uzupełnić] Niejasne jest określenie, na czym polegać ma współpraca z wymienionymi organami. W szczególności interesuje nas ew. zbieg właściwości w ramach współpracy KNF i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Zgodnie z Art. 74 ust. 6 i 7 AI Act:
6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym
77
usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.
7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku.
Czy aktualne brzmienie art. 6 ust. 3 pkt 1). oznacza, że Polska skorzystała z odstępstwa przewidzianego w w/w ust. 7 i wyłącznie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie właściwa?
W przypadku nieskorzystania z odstępstwa przepis powinien precyzować zakres współpracy, np. wskazywać, że współpraca z organami ma na celu zapewnienie spójnego nadzoru nad systemami SI, z zastrzeżeniem że np. w zakresie spraw, o których mowa w art. 74 ust. 6 AI Act, właściwym organem nadzoru jest KNF. art. 6 ust. 3 pkt 1
GRAI
Niejasne wskazanie zakresu współpracy Komisji z Komisją Nadzoru Finansowego, brak rozwinięcia kwestii w dalszej części ustawy. Użycie sformułowania „w zakresie spraw” w odniesieniu do AI Act art. 74 ust. 6. „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” jest zbyt daleko idącym uproszczeniem skoro w AI Act mowa o generalnym nadzorze rynku.
Doprecyzowanie w Ustawie podziału kompetencji między Komisją a KNF w stosunku do sektora finansowego. Optymalne byłoby wyłączenie sektora finansowego spod jurysdykcji Komisji.
art. 6 ust.3
GRAI
art. 6 ust.3 pkt 1
Fundacja Poland
Komisja współpracuje… – wątpliwości może budzić „współpracuje”. Przykładowo „Komisja współpracuje z Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689” nie wyjaśnia co oznacza „współpraca”.
Konieczność wyjaśnienie w uzasadnieniu do ustawy.
FinTech
W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakłada współpracę pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpracy z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres
78
Art. 6 ust. 3 pkt 1
Związek Pracodawców Technologii Cyfrowych Lewiatan
art. 6 ust. 4
Logicise
art. 6 ust. 4
KIGEiT
takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować w przyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF.
Kompetencje Komisji a kompetencje innych organów nadzoru Zapis projektu ustawy w art. 6 w punktach 1 i 3 mówi:
Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. (…)
3. Komisja współpracuje z:
1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689;
Wspomniany art. 74 rozporządzenia mówi z kolei
6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.
Ponieważ jest różnica pomiędzy „organem nadzoru jest”, a „Komisja współpracuje” z tym organem proponujemy dwa możliwe rozwiązania:
Zapis dalej idący: „Organem właściwym dla nadzoru instytucji finansowych wykorzystujących systemy sztucznej inteligencji jest Komisja Nadzoru Finansowego”
Uzasadnienie: ze względu na wieloletnie działania nadzorcze i idące z tym doświadczenie i znajomość sektora finansowego nadzór nad systemami sztucznej inteligencji – dla każdego ich rodzaju – pozostaje KNF.
Zapis synchronizujący z AI Act – art. 6 ust. 3 punkt 1) przyjmuje brzmienie:
„1) Komisją Nadzoru Finansowego – która jest organem właściwym w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 “współpracuje z Urzędem do spraw AI”
Niejasne o jakim urzędzie jest mowa. Czy zapis ten dotyczy np. Europejskiego Urzędu ds.
Sztucznej Inteligencji czy może chodzi o organ na poziomie krajowym? Jakiego rodzaju kompetencje ma mieć wspomniany w tym artykule urząd do spraw AI?
Propozycja zapisu: Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Europejskim Urzędem do spraw Sztucznej Inteligencji, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii
79
Europejskiej. , Nie istnieje taka instytucja jak "Urząd do spraw AI" zgodnie z czym zastąpiono na "Europejski Urząd do spraw Sztucznej Inteligencji".
Urząd ds. AI to europejski UE, czy będzie taki w Polsce ?
Jeżeli z UE, to taka nazwa powinna być także używana w Polsce, a nie Biuro.
art. 6 ust. 4
SKwP
Art. 7
Fundacja Panoptykon
Art. 7
Związek Polska
Cyfrowa
Nie mamy zastrzeżeń do ogólnej konstrukcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Sugerujemy jednak wprowadzenie dodatkowych rozwiązań mających na celu doprecyzowanie przepisów dotyczących konfliktu interesów oraz zwiększenie przejrzystości procesu powoływania przewodniczącego Komisji.
Skład Komisji Zgodnie z projektem w skład Komisji wejdą członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji m.in. ministra-koordynatora służb specjalnych. Udział przedstawiciela tej instytucji nie jest w żaden sposób wyjaśniony w uzasadnieniu projektu.
Naszym zdaniem jego miejsce powinien zająć przedstawiciel ministra spraw wewnętrznych jako podmiotu mającego duże doświadczenie w zarządzaniu bazami danych osobowych (np. rejestr PESEL), a jednocześnie nadzorującego Policję i Straż Graniczną. Taka zmiana byłaby też uzasadniona zakresem regulacji.
Nowy organ nadzoru rynku. Ustawodawca, w wyniku przeprowadzonych prekonsultacji, zdecydował o powołaniu nowego organu nadzoru na rynkiem AI w Polsce – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zamiast wyposażenia w dodatkowe kompetencje z zakresu AI innych, już istniejących organów, takich jak UODO, UKE czy UOKiK. Oceniamy to rozwiązanie korzystnie, biorąc pod uwagę m.in. złożoną materię regulacji dot. AI, a także konieczność zaangażowania w to zadanie wysokiej klasy specjalistów. Dodatkowo jako korzystne rozwiązanie oceniamy wykorzystanie dotychczasowego doświadczenia oraz kompetencji istniejących organów, decydując się na włączenie ich przedstawicieli w skład nowo powołanej KRiBSI (art. 7 ust. 2 Projektu).
Wskazać należy także, że w obliczu wieloaspektowego wpływu sztucznej inteligencji na społeczeństwo, konieczne jest, aby organ nadzorujący stosowanie ustawy o sztucznej inteligencji w Polsce posiadał możliwość zrównoważenia podstawowych praw i celów regulacyjnych. Mogą one obejmować, ale nie ograniczają się do konkurencji, innowacji, inwestycji bezpośrednich, prywatności, niedyskryminacji, wolności słowa i bezpieczeństwa. Takie względy, jak prawo do prowadzenia działalności gospodarczej i wspierania innowacji, są również kluczowe w ramach regulacyjnych. Dlatego też organ regulacyjny musi mieć zdolność i reżim ustawowy, które zapewnią, że będzie odpowiedzialny za przyjęcie holistycznego podejścia obejmującego cały rząd, które może ułatwić tę równowagę między prawami podstawowymi a promowaniem innowacji i wzrostu gospodarczego. Wymaga to zniuansowanego zrozumienia współzależności między różnymi celami polityki i zaangażowania w osiągnięcie równowagi, która służy szerszym interesom społeczeństwa.
80
Art. 7
GRAI
Uzasadnienia wymaga dobór opcjonalnych uczestników posiedzeń Komisji. Jakie przyjęto kryterium przemawiające za umożliwieniem udziału w posiedzeniach przedstawicieli właśnie tych wskazanych organów?
Art. 7
ICC Poland
W Projekcie zaproponowano powierzenie funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 70 ust. 1 rozporządzenia 2024/1689) nowoutworzonemu organowi o charakterze kolegialnym – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”).
Organ ten ma obejmować, oprócz Przewodniczącego i jego dwóch Zastępców, dziewięciu członków Komisji spośród przedstawicieli innych istniejących organów (art. 7 Projektu).
Zaproponowane rozwiązanie polegające na nadaniu nowemu organowi nadzoru charakteru kolegialnego budzi jednak wątpliwości z perspektywy efektywności, w tym sprawności jego działania, w zestawieniu z licznymi zadaniami, jakie ma on wykonywać (por. art. 11 Projektu).
Równocześnie wydaje się, że cele, jakimi projektodawca uzasadnia przyjęcie takiej formuły organizacji Komisji, w tym zapewnienie skoordynowanego nadzoru oraz umożliwienie współpracy pomiędzy regulatorami (s. 7-8 uzasadnienia Projektu), możliwe są do osiągnięcia również przy modelu organu jednoosobowego za pomocą alternatywnych mechanizmów, np. obligatoryjnych konsultacji. Z tego względu należałoby rozważyć, czy efektywniejszym rozwiązaniem nie byłoby wyznaczenie jako organu nadzoru w rozumieniu art. 70 rozporządzenia 2024/1689 organu jednoosobowego, jak to uczyniono chociażby w przypadku Prezesa Urzędu Ochrony Danych Osobowych w odniesieniu do obszaru ochrony danych osobowych, przy równoczesnym zapewnieniu odpowiedniego poziomu eksperckości i interdyscyplinarności przy pomocy wspierającego go urzędu lub biura.
Nadzór nad rynkiem systemów sztucznej inteligencji będzie wymagał bowiem sprawnego i szybkiego działania – tak ze względu na niesamowite tempo rozwoju tej technologii, jak i z uwagi na bardzo poważne ryzyka, jakie systemy sztucznej inteligencji mogą stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W tym kontekście wątpliwości może budzić wymaganie podejmowania uchwał przez organ kolegialny w odniesieniu do niemal wszelkich jego zadań, w tym co do wydawania postanowień i decyzji w sprawie naruszenia przepisów o systemach sztucznej inteligencji. Podjęcie takiej uchwały wymagać będzie bowiem przynajmniej zwołania posiedzenia Komisji, zebrania odpowiedniego kworum, a wcześniej zapoznania się przez wszystkich członków Komisji z materiałami niezbędnymi do podjęcia decyzji.
Nawet przy przyjętym założeniu odbywania tego rodzaju posiedzeń w formie zdalnej lub w trybie obiegowym (art. 8 ust. 7 i 9 Projektu), należy przewidywać, że działania te zajmować będą więcej czasu niż podjęcie decyzji przez organ jednoosobowy, nawet wtedy, gdyby miał on ściśle współpracować z odpowiednimi organami w zakresie ich właściwości (np. konsultacje).
W uzasadnieniu Projektu wyjaśniono (s. 7 uzasadnienia Projektu), że przyjmując wskazaną formułę organizacji Komisji projektodawca kierował się modelem Komisji Nadzoru Finansowego.
81
Skład tego ostatniego organu ma jednak charakter zdecydowanie bardziej homogeniczny niż proponowany w odniesieniu do nadzoru nad systemami sztucznej inteligencji. O ile bowiem w skład Komisji Nadzoru Finansowego wchodzą organy i przedstawiciele organów posiadających kompetencje ściśle odnoszące się do różnych aspektów funkcjonowania rynku finansowego (np. właściwi ministrowie, NBP, Bankowy Fundusz Gwarancyjny, Prezes UOKiK), tak proponowany skład Komisji miałby obejmować przedstawicieli bardzo różnych organów, których zadania jedynie mogą – potencjalnie – wiązać się z rynkiem systemów sztucznej inteligencji. Przykładowo, przedstawiciele Rzecznika Praw Dziecka, czy też Krajowej Rady Radiofonii i Telewizji mieliby uczestniczyć w wykonywaniu wszelkich kompetencji Komisji, również tych niezwiązanych w żaden sposób z zakresem działania tych właśnie organów (mając głos równy z pozostałymi członkami Komisji).
W uzasadnieniu Projektu wskazano, że proponowany model ma umożliwić realizację koncepcji nadzoru zintegrowanego nad systemami sztucznej inteligencji „łączącego kompetencje i eksperckość organów wchodzących w skład Komisji” (s. 7 uzasadnienia Projektu), jak i współpracę między regulatorami, w tym wymianę informacji w kwestiach dotyczących sztucznej inteligencji (s. 8 uzasadnienia Projektu). Wydaje się jednak, że cele te można osiągnąć w sposób efektywniejszy przez wykorzystanie innych mechanizmów, w tym obowiązkowych konsultacji lub wymogu zasięgnięcia przez organ nadzoru opinii organów, których zakresu działania dotyczy dana sprawa. Zadania, jakie Projekt powierza organowi nadzoru, z reguły nie będą bowiem obejmować zakresu działania wszystkich organów, które projektodawca uznał za kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI. Uzasadnia to dodatkowo rezygnację z włączenia ich wszystkich w proces realizacji każdego zadania organu nadzoru, a poprzestanie na punktowej integracji nadzoru nad systemami sztucznej inteligencji w odniesieniu do danej konkretnej sprawy, gdy tego ona wymaga.
Powyższe uwagi skłaniają do postulatu rewizji kształtu Komisji jako kolegialnego organu nadzoru na korzyść organu jednoosobowego, co może zapewnić większą efektywność realizacji jego zadań.
Art. 7
Instrat – Fundacja Centrum Cyfrowe
Skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI)
Z zadowoleniem przyjmujemy decyzję o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kluczowa dla skutecznego wdrażania rozporządzenia 2024/1689, zwłaszcza w kontekście zapewnienia niezależności organu nadzorującego przestrzeganie przepisów AI Act. Widzimy również istotną rolę Komisji w koordynacji działań między kluczowymi instytucjami nadzorującymi sektor technologii cyfrowych, w tym sztucznej inteligencji, co uważamy za krok w dobrym kierunku.
Jednocześnie wyrażamy obawy, że w proponowanej strukturze Komisji może brakować odpowiedniej liczby ekspertów posiadających techniczną wiedzę i umiejętności z zakresu rozwijania sztucznej inteligencji. Ustawa wprawdzie przewiduje, że przewodniczący powinien
82
wyróżniać się wiedzą w zakresie SI lub prawa oraz doświadczeniem zawodowym w dziedzinie cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Jednakże takie zapisy nie gwarantują, że na to stanowisko zostanie wybrana osoba z rzeczywistym zrozumieniem modeli SI. W związku z tym rekomendujemy usunięcie zapisu „lub prawa”, gdyż pozostałe wymogi – dotyczące wiedzy i doświadczenia w obszarze SI – umożliwiają także wybór specjalisty z zakresu prawa, o ile jego wiedza koncentruje się na sztucznej inteligencji. Uważamy ponadto, że samo wskazanie na kompetencje w zakresie cyfryzacji jest wystarczające, ponieważ tematy cyberbezpieczeństwa i technologii informacyjnych mieszczą się w tym pojęciu.
Art. 7
Fundacja Poland
FinTech
Art. 7
Związek Pracodawców Technologii Cyfrowych Lewiatan
Uważamy również, że w Komisji powinna znaleźć się nie jedna, a przynajmniej trzy osoby będące ekspertami w projektowaniu i wdrażaniu narzędzi sztucznej inteligencji. Zaangażowanie na stałe członków, którzy na co dzień zajmują się praktycznym rozwijaniem narzędzi SI, znacząco wzmocniłoby bowiem zdolność Komisji do oceny technologicznych wyzwań i potencjalnych zagrożeń związanych z poddawanym analizie systemom.
Dlatego proponujemy rozważenie następujących rozwiązań:
1. rozszerzenie składu Komisji o dwóch ekspertów z zakresu SI, wybieranych w drodze otwartego i konkurencyjnego naboru (na wzór sposobu i kryteriów naboru na przewodniczącego), którzy będą zarazem pełnić funkcję wiceprzewodniczących (w razie nieobecności przewodniczącego), a którym przyznane zostanie prawo głosu. Rozwiązanie to umożliwi zapewnienie Komisji ekspertów posiadających specjalistyczną wiedzę, nie generując przy tym dodatkowych kosztów; albo
2. rozszerzenie składu Komisji o dwóch przedstawicieli takich instytucji jak chociażby Narodowe Centrum Badań i Rozwoju Ideas (NCBR Ideas) czy Naukowa i Akademicka Sieć Komputerowa (NASK). Jeśli formalne włączenie do Komisji wyżej zaproponowanych ekspertów nie będzie możliwe, rekomendujemy, aby przynajmniej zostały one uwzględnione jako podmioty wspierające, biorące udział w posiedzeniach z głosem doradczym.
W projekcie brak jest sformułowania wymagań dot. kompetencji osób zasiadających w KRiBSI.
Powinny to być osoby o bardzo wysokiej wiedzy technicznej i/lub prawniczej w zakresie sztucznej inteligencji. Dodatkowo wszyscy członkowie komisji powinni przejść szkolenie i egzamin, przygotowywane przez czołowe polskie uczelnie i ekspertów dziedzinowych, dotyczące działania modeli sztucznej inteligencji.
Skład Komisji odzwierciedla dzisiejszy obraz organów regulacyjnych, ale nie zauważa niezwykle ważnych tematów, które będą musiały być regulowane w najbliższym czasie na podstawie aktów prawnych Unii Europejskiej. Należy tu przede wszystkim wymienić dwa akty, tj. akt w sprawie danych, który zaczyna być egzekwowalny już od września 2025 roku, a także będący na ostatnim etapie europejskiego procesu prawodawczego, rozporządzenia europejska przestrzeń danych dotyczących zdrowia (EHDS). Pominięcie organów, które zostały lub zostaną wskazane jako właściwe dla tych regulacji nie pozwoli Komisji na prawidłowe działania w przyszłości.
Propozycja: zmiana w art. 7 ust. 2 poprzez dodanie:
83
10) innych organów regulacyjnych właściwych dla ochrony danych
Art. 7 ust. 1
ISSA Polska
Art. 7 ust. 1
ZPAV
Art. 7 ust. 1
ZAIKS
Art. 7 ust. 1-2
Osoba fizyczna
Postuluję określenie sposobu wyłonienia Członków Komisji przez każdy z podmiotów uprawnionych do ich oddelegowania. Ponadto trybu ich odwoływania.
Proponuję wskazanie, czy Członkowie Komisji powoływani są na kadencję, czy są to wspólne kadencje. Zmiana składu osobowego może negatywnie wpływać na ciągłość prac Komisji. postuluje w tym miejscu rozszerzenie składu Komisji (art. 7 ust. 1 projektu ustawy) o przedstawiciela ministra właściwego do spraw kultury.
Art. 7 ust. 1 Projektu otrzymuje następujące brzmienie:
„Art. 7.1 W skład Komisji wchodzą Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziesięciu członków Komisji."
Propozycja zbudowania składu Komisji w oparciu o urzędników administracji rządowej (głównie) oraz działających na zasadach reprezentowania swoich mocodawców (piastunów organów politycznych), a więc osób całkowicie zalez0nych, nie gwarantuje stworzenia niezależnego organu nadzoru ds. sztucznej inteligencji, a jest to przecież wymóg wynikający z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689).
Ponadto dobór członków Komisji, poza jednym przypadkiem – Przewodniczącego, nie jest obwarowany żadnymi warunkami merytorycznymi. Tylko osoba stająca do konkursu na Przewodniczącego Komisji musi, zgodnie z art. 18 ust 1 pkt 4) projektu ustawy o SI wyróżniać się wiedzą i posiadać znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Budzi to poważne wątpliwości co do braku kwalifikacji pozostałych członków ważnego, w dobie skokowego rozwoju sztucznej inteligencji, organu administracji publicznej. Potencjalnie osoby wskazywane do Komisji mogą nie mieć żadnego doświadczenia lub wiedzy związanej z cyberbezpieczeństwem, sztuczną inteligencją lub technologiami informatycznymi. Nawet jeśli przyjąć, że zależy Ustawodawcy na szerokim spektrum wiedzy i wśród członków komisji, to ww. elementy muszą stanowić zasób ich wiedzy. Np lekarz prowadzący badania nad SI, etyk zajmujący się etyką sztucznej inteligencji lub socjolog badający skutki społeczne wykorzystania SI.
Dopiero takie połączenie wiedzy, umiejętności i formalnego wykształcenia istotnie wzmocni merytoryczny poziom w ramach Komisji, zapewni jej interdyscyplinarność oraz pozwoli potencjalnie na właściwą ocenę naruszenia przepisów prawa dotyczącego sztucznej inteligencji. Należy również zwrócić uwagę, że wprowadzenie konstrukcji organizacyjnoprawej, w której za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu budzi wątpliwości nie tylko natury etycznej, ale także natury prawnej. Przyjęte rozwiązanie o nie wynagradzaniu członków komisji za udział w pracach może naruszać przepisy prawa pracy
84
Art. 7 ust. 2
Logicise
Art. 7 ust. 2
ZAIKS
i kodeksu cywilnego, które przewidują obowiązek wynagradzania pracy i zwrotu kosztów związanych z jej wykonywaniem.
Poza tym jest wysoce prawdopodobne, że pracownik organu delegującego, oprócz udziału w pracach komisji, będzie miał inne obowiązki w swym macierzystym urzędzie. Powstaje pytanie, czy w takim razie będzie się wstanie zaangażować się w pracę Komisji w pełni, zwłaszcza w sytuacji szerokiego zakresu kompetencji i zadań Komisji, mając potencjalne obowiązki w macierzystym organie? W sytuacji, gdy poszczególne organy delegujące członków do Komisji SI będą tworzyły odrębne stanowisko w swym urzędzie w celu zapewnienia wynagrodzenia dla takiego pracownika, to powstaje kolejne pytanie o gospodarność w wydatkowaniu pieniędzy publicznych. Równie istotna jest kwestia równego wynagrodzenia, bowiem poszczególne organy mogą posiadać różne regulaminy płac, co przełoży się na niczym nieuzasadnione prawnie zróżnicowane wynagrodzenia członków komisji. Generalnie skład Komisji ds SI powinien opierać się o dobór merytoryczny, być może z pozostawieniem prawa do wskazania poszczególnych osób przez niektóre organy władzy publicznej, przy jednoczesnym zatrudnieniu lub wynagradzaniu członków bezpośrednio przez Komisję, w której pracach będą uczestniczyć. dobór dziewięciu członków Komisji Proponujemy poszerzenie składu Komisji o ministra właściwego do spraw szkolnictwa wyższego i nauki, oraz dwóch do trzech ekspertów w obszarze AI przedstawicieli wiodących w Polsce instytutów badawczych zajmujących się badaniami nad AI oraz wykorzystaniem AI w gospodarce, w szczególności Instytutu Badawczego IDEAS, Instytutu Technik Innowacyjnych EMAG Sieci Badawczej Łukasiewicz, Europejskiego Laboratorium Uczących się i Inteligentnych Systemów (ELLIS) w Warszawie. Ponadto, proponujemy zredukować udział KRRiT do uczestniczenia z głosem doradczym (art. 7. 3.) art. 7 ust. 2 Projektu punkt 3) uzyskuje następujące brzmienie: ,,3) ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego;" art. 7 ust. 2 Projektu obecne punkty 3)-9) otrzymują numerację odpowiednie 4)-10)
Jednym z celów Al Act jest zapewnienie przestrzegania przez dostawców modeli Al. ogólnego przeznaczenia przepisów prawa UE dotyczących prawa autorskiego i praw pokrewnych1• Rozwój i trenowanie takich modeli wymaga dostępu do ogromnych ilości danych, w tym treści chronionych prawem autorskim, takich jak teksty, obrazy, materiały wideo i utwory muzyczne. Każde
85
wykorzystanie takich treści wymaga co do zasady zezwolenia uprawnionych z tytułu praw autorskich i praw pokrewnych. Jak wiadomo chociażby z wielu doniesień prasowych z ostatnich miesięcy, dostawcy modeli Al często rozwijają swoje produkty z pominięciem praw twórców, artystów i producentów. Co więcej, ich utwory są często wykorzystywane do trenowania narzędzi generatywnej Al, które tworząc maszynowe imitacje twórczości ludzkiej, wchodzą z nią w bezpośrednią konkurencję jako alternatywne źródło podaży treści rozrywkowych czy informacyjnych. Tzw. wytwory Al już zaczynają stanowić bezpośrednią konkurencję, dla utworów tworzonych przez człowieka, ponieważ korzystanie z nich wiąże się z mniejszymi kosztami czy formalnościami i obowiązkami prawnymi. Tym samym wielu twórców zaczyna tracić zamówienia od takich podmiotów jak nadawcy czy wydawcy prasy, stanowiące źródło ich podstawowych przychodów. Również muzyczne serwisy steamingowe coraz częściej zamieszczają wytwory muzyczne stworzone przez narzędzia Al, aby w ten sposób obniżać zawartość chronionych utworów i, w konsekwencji, wysokość opłat licencyjnych, które są zobowiązani uiszczać na rzecz twórców i artystów wykonawców.
Przywołany powyżej cel Al Act nie znajduje jednak żadnego odzwierciedlenia w Projekcie.
Przepisy projektowanych artykułów 7 i 28 całkowicie pomijają w składzie organów odpowiedzialnych za nadzór nad rynkiem systemów Al oraz modelami Al podmioty prowadzące działalność w zakresie kultury i przemysłów kreatywnych
Art. 7 ust. 2
CHAMBER
Artykuł 7 ust. 2 Projektu powinien uwzględniać w składzie Komisji przedstawicieli ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego, a przez to pozostającego w bezpośrednim kontakcie z twórcami i artystami. Należy zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. ll Projektu jest „wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji". Al Act w art. 53 w stosunku do modeli Gen Al przewiduje szereg obowiązków, w tym wprowadzanie przez dostawców tych modeli polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen Al. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych.
Proponowany w art. 7 ust. 2 skład Komisji budzi wątpliwości. Wbrew uzasadnieniu ustawy nie obejmuje on “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”, bo trudno za kluczowy organ uznać w tym kontekście ministra-koordynatora służb specjalnych czy Rzecznika Praw Dziecka. Wskazanie tego pierwszego może wręcz budzić pewien niepokój. Brakuje z kolei wskazania choćby Ministra właściwego do spraw gospodarki, który szczególnie jako reprezentującego aspekt gospodarczy i spojrzenie ze strony wspierania MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. Podobnie niezrozumiały jest brak przedstawiciela
86
ministra właściwego ds. nauki przy obecności np. KRRiT, która wedle naszej wiedzy nie ma większej wiedzy czy zainteresowania SI jako taką. Udział przedstawiciela MON także wydaje się wskazany.
Reasumując skład Komisji powinien wyglądać następująco:
Minister ds. informatyzacji Minister ds. gospodarki Minister ds. nauki Prezes UKE Rzecznik Praw Obywatelskich Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę.
Art. 7 ust. 2
Polskie Towarzystwo Informatyczne
Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym).
Skład Komisji nie uwzględnia niektórych sektorów regulowanych, które powinny być reprezentowane w Komisji, np. w zakresie produktów leczniczych lub ochrony zdrowia. Nie jest do końca jasne jakie są podstawy do wskazywania Rzecznika Prawa Obywatelskich oraz RPD w składzie Komisji.
Prosimy o przeanalizowanie, jakie instytucje powinny być reprezentowane w składzie Komisji (kryteria wyboru są niejasne)
87
Art. 7 ust. 2
GRAI
I. W art. 7 ust. 2 projektu został uregulowany skład Komisji, z przedstawicieli wybranych podmiotów. Jednak w uzasadnieniu nie znalazło się wyjaśnienie, dlaczego w skład Komisji mają wchodzić akurat przedstawiciele tych podmiotów i według jakiego klucza ich wybrano.
II. Wątpliwości budzi zaproponowany skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Dlaczego w stałym składzie Komisji znaleźli się przedstawiciele Rzecznika Praw Dziecka i Krajowej Rady Radiofonii i Telewizji, natomiast w posiedzeniach Komisji tylko mogą uczestniczyć przedstawiciele m.in.: Biura Rzecznika MŚP, urzędu obsługującego ministra właściwego do spraw gospodarki. Z punktu widzenia zapowiadanych założeń, jakie miała realizować ustawa wdrażająca AI Act – rozwój sztucznej inteligencji, niezrozumiałe jest, jak bez przedstawicieli przedsiębiorców i resortu odpowiedzialnego za rozwój gospodarczy kraju ma być realizowane zadanie Komisji: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”.
I. Wyjaśnienie w uzasadnieniu według jakiego klucza dokonano wyboru podmiotów wchodzących w skład Komisji i jakie kompetencje mają wnosić przy realizacji zadań Komisji.
Uzasadnienia wymaga, w szczególności wskazanie do składu Komisji przedstawicieli ministra powołanego w celu koordynowania działalności służb specjalnych, KRRiT oraz Prezesa UKE.
II.
Konieczne jest w stałym składzie Komisji i Bezpieczeństwa Sztucznej Inteligencji przedstawicieli MRiT i Rzecznika MŚP.
Art. 7 ust. 2
GRAI
Art. 7 ust. 2
Fundacja Poland
uwzględnienie Rozwoju
Brakuje w składzie Komisji reprezentanta Urzędu Rejestracji Produktów Leczniczych. Rozwój technologii w sektorze dotyczącym zdrowia wymaga szczególnej atencji, stąd przedstawiciel Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych powinien się znaleźć w stałym składzie Komisji.
Uzupełnienie przepisu.
FinTech
Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: ministra właściwego ds. spraw wewnętrznych, ministra właściwego ds. zdrowia, ministra właściwego ds. szkolnictwa i nauki, ministra właściwego ds. pracy. Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając
88
Art. 7 ust. 2
Polska Izba Książki
dotychczasowe postanowienie – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna.
Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689.
Poza tym do rozważenia jest również potrzeba zaangażowania naukowców, praktyków sztucznej inteligencji pracujących w biznesie, oraz przedsiębiorców prowadzących firmy związane ze sztuczną inteligencją. Stałym członkiem prac Komisji powinien zostać również przedstawiciel Społecznej Rady, o której mowa w art. 28.
Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie).
Mamy jednak zasadnicze zastrzeżenia dotyczące pominięcia w projektowanej ustawie Ministerstwa Kultuty 1 Dziedzictwa Narodowego, któte to Ministerstwo tradycyjnie odpowiada za sektor kteatywny. Nie jest dla nas zrozumiałe dlaczego sektor kreatywny jest traktowany marginalnie, podczas gdy w sposób naturalny — poza korzyściami wypływającymi z zastosowania sztucznej Inteligencji — w związku z zastosowaniem systemów sztucznej inteligencji wiąże się wiele zagrożeń dla sektora kteatywnego. W uzasadnieniu do ptojektu ustawy wskazano, że „w skład Komisji będą wcbodziji członkowie — przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji kluczowych dla rozwoju sektora technologii sztucznej znielęgeneji” . Tyta samym nie jest zrozumiałe, dlaczego pominięto w tym katalogu Ministra Kultuty i Dziedzictwa Narodowego.
Z, tego względu postulujemy, by w przepisie att. 7 ust. 2 projektowanej ustawy uwzględnić ministra tesortu Kultuty i Dziedzictwa Natodowego jako członka Komisji Uważamy takie rozwiązanie za uprawnione i uzasadnione z perspektywy interesów, na czele których stoi Minister Kultury i Dziedzictwa Narodowego. To jest jedyny przedstawiciel organów wykonawczych, któty
89
teptezentuje tesott kultury i środowiska kreatywne, które w sposób oczywisty zostaną dotknięte działaniem systemów sztucznej inteligencji. Należy sobie uświadomić to, że systemy sztucznej inteligencji bazują w znacznej mierze na kontencie — tj. materiale bazowym — pochodzącym od twórców, tj. autotów w rozumieniu ustawy o Prawie autorskim i prawach pokrewnych. Działania wielu podmiotów dostatczających systemy sztucznej inteligencji muszą być odpowiednio zakwalifikowane z perspektywy ww. przepisów prawnych i odpowiednio monitotowane.
Naturalnym wyborem w zakresie instytucji właściwej do zajmowania się powyższymi kwestiami w odniesieniu do treści autorskich jest Ministerstwo Kultury i Dziedzictwa Natodowego. Pominięcie tego Ministerstwa jawi się jako akt ignorancji wobec całego sektota kreatywnego w Polsce, przynoszącego określone przychody i rokującego dalszym tozwojem, co przekłada się istotnie na gospodarkę państwa. Uważamy, że przewidzenie w ustawie możliwości uczestniczenia w obradach Komisji z głosem doradczym, co zostało przewidziane w przepisie art. 7 ust. 3 projektowanej ustawy, nie jest wystarczające z perspektywy obrony intetesów polskich twótców i polskich przemysłów kreatywnych, których działalność może być dobitnie dotknięta wprowadzeniem systemów sztucznej inteligencji. Mając powyższe na uwadze wnosimy o dodanie ministra ds. kultury 1 dziedzictwa natodowego do katalogu podmiotów wchodzących w skład Komisji zgodnie z att. 7 ust. 2 projektowanej ustawy.
Art. 7 ust. 2
Związek Pracodawców Technologii Cyfrowych Lewiatan
Art. 7 ust. 2 pkt 8
ISSA Polska
Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: • ministra właściwego ds. spraw wewnętrznych • ministra właściwego ds. zdrowia • ministra właściwego ds. szkolnictwa i nauki • ministra właściwego ds. pracy Uzasadnienie:
Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając dotychczasowy zapis – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa.
Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna.
Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689.
W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo.
Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce
90
Art. 7 ust. 2 pkt 8
GRAI
Art. 7.2. i 7.3.
PIIT
Art. 7 ust. 3
Centrum Badań Kosmicznych Polskiej Akademii Nauk
Art. 7 ust. 3
Logicise
przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji.
Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie).
Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo.
Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji.
Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie).
Należy w miejsce Krajowej Rady Radiofonii i Telewizji należy wskazać NASK PIB.
Dołączenie Ministra Nauki, Nie do końca rozumiemy przesłanki ukształtowania podstawowego składu Komisji (art. 7.2.). Wydawałoby się, że powinny to być organy, których działania w największym stopniu przesądzają o przyszłości SI w Polsce. Większą rolę ma chyba do odegrania minister nauki, od RPO i RPD. W podstawowym składzie brak przedstawiciela przedsiębiorców, obszarów związanych z infrastrukturą krytyczną, w tym transportową, rolnictwem oraz przedstawicieli III sektora. Słabo uzasadniony wydaje się udział KRRiT (zamiast np. MKiDN).
Ponadto, w pracach organu administracji, którego podstawowym zadaniem jest nadzór rynku minister do spraw służb specjalnych powinien uczestniczyć z głosem doradczym (art. 7.3.).
Podstawowy skład można ograniczyć do ministra cyfryzacji, UODO, UKE, UOKiK, KNF i min nauki (zob. zadanie z obecnego art. 11.1.3 projektu).
W posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinien móc uczestniczyć przedstawiciel Polskiej Akademii Nauk, instytucji integrującej poszczególne instytuty naukowe Polskiej Akademii Nauk. W art. 7 ust. 3 po pkt 15 należy zatem dodać pkt 16 w brzmieniu: „16) Polskiej Akademii Nauk;” oraz odpowiednio przenumerować pkt 16 w dotychczasowym brzmieniu na pkt 17. ograniczona liczba przedstawicieli w organie doradczym Analogicznie do uwagi powyżej, proponujemy rozszerzenie listy organizacji mogących brać udział w
91
Art. 7 ust. 3
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 7 ust. 3
KIGEiT
Art. 7 ust. 3
GRAI
Art. 7 ust. 3
PIRP
Art. 7 ust. 3
GRAI
w
posiedzeniach Komisji o wiodące w skali kraju instytuty badawcze specjalizujące się w AI. Ponadto, członkowie Społecznej Rady ds. Sztucznej Inteligencji, o której mowa w art. 28, powinni mieć możliwość udziału w posiedzeniach Komisji.
Mając na uwadze brzmienie art. 28 ust. 1 Projektu ustawy, w myśl którego „Przy Komisji działa Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, która jest organem opiniodawczo–doradczym Komisji.”, zasadne wydaje się, aby w posiedzeniach Komisji mogli brać udział również członkowie tej Rady, będący ekspertami w dziedzinie sztucznej inteligencji.
W związku z powyższym, postulujemy dodanie pkt 17) w art. 7 ust. 3 Projektu ustawy o treści:
„17) Społecznej Rady do spraw Sztucznej Inteligencji, o której mowa w art. 28 ust. 1 ustawy”.
Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do Art. 7 ust. 5).
Brak możliwości udziału w posiedzeniach Komisji przedstawicieli związków samorządowych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich czy Związek Województw RP oraz przedstawicieli wojewodów (np. Konwent Wojewodów), ogranicza możliwość konsultacji i reprezentacji interesów samorządów terytorialnych.
Sztuczna inteligencja będzie miała ogromny wpływ na funkcjonowanie społeczności lokalne, ich potrzeby i specyfikę. Dlatego obecność przedstawicieli samorządów będzie kluczowa dla skutecznego wdrażania i nadzoru AI, uwzględniając lokalne perspektywy i wyzwania.
Propozycja dodania przepisu, stanowiącego, że „W posiedzeniach Komisji uczestniczą, z głosem doradczym, przedstawiciele związków samorządów terytorialnych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich, Związek Województw RP oraz przedstawiciele wojewodów, np. Konwent Wojewodów.”. w katalogu przedstawicieli podmiotów mogących brać udział w posiedzeniach Komisji proponuje się dodać przedstawiciela urzędu obsługującego ministra właściwego do spraw nauki i szkolnictwa wyższego; postulowana zmiana wydaje się zasadna z punktu widzenia znaczenia regulacji także dla obszaru nauki i szkolnictwa wyższego Członkiem Komisji jest przedstawiciel np. KNF – wątpliwości może budzić to jak się odnieść do kontrolowania sektora finansowego przez KNF w kontekście jego członkostwa w Komisji. Wydaje się, że może zaistnieć ryzyko nakładania się kompetencji, wydawania zaleceń w tym samym obszarze.
Choć gdy przyjmiemy, że zamysłem było utworzenie takiej struktury Komisji, że należą do niej przedstawiciele np. KNF i to w domyśle jest współpraca/konsultacja z KNF. Nie jest jasne czy
92
działania Komisji i KNF będą uzupełniały się Jaką rolę ma każdy organ? Można przyjąć założenie, że powinny tworzyć spójny system nadzoru.
Wyjaśnienie w uzasadnieniu roli organów.
Art. 7 ust. 3
GRAI
Wskazana lista członków mogących uczestniczyć w posiedzeniach Komisji składająca się z przedstawicieli wybranych podmiotów – dlaczego wybrano akurat te podmioty?
Uzupełnienie w uzasadnieniu według jakiego klucza zaproponowano takie podmioty.
Art. 7 ust. 3
INFARMA
art. 7 ust.3
PIIT
Art. 7 ust. 3
AI Chambre
Wśród przedstawicieli, którzy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji brakuje przedstawicieli urzędu obsługującego ministra właściwego ds. zdrowia (tak jak zostali wskazani przedstawiciele innych urzędów). Proponujemy, aby w posiedzeniach Komisji uczestniczył również przedstawiciel urzędu obsługującego ministra właściwego ds. zdrowia ponieważ systemy sztucznej inteligencji w bardzo dużej mierze będą także wykorzystywane w obszarze zdrowia, w którym mogą mieć zasadniczy wpływ na zdrowie (i życie) obywateli. Wpływ sztucznej inteligencji ma i będzie miał duży wpływ na postęp w medycynie i nauce. W najbliższych w latach w obszarze zdrowia będą wykorzystywane rozwiązania regulacji EHDS (Europejskiej Przestrzeni Danych Medycznych), mające na celu monitorowanie i regulację przetwarzania danych dotyczących zdrowia. Wdrożeniu EHDS będzie towarzyszyć szereg nowych przepisów dotyczących zarządzania danymi i ochrony prywatności pacjentów, w tym z wykorzystaniem sztucznej inteligencji. Sztuczna inteligencja odgrywa coraz większą rolę w sektorze ochrony zdrowia, a obszar zdrowia stanowi jeden z kluczowych obszarów Strategii Cyfryzacji Polski, która ustala ramy transformacji cyfrowej państwa na kolejne 10 lat.
W świetle powyższego, możliwość udziału przedstawiciela MZ w pracach Komisji wydaje się niezbędna.
Rekomendacja: dodanie punktu
17) Społecznej Rady ds. Sztucznej Inteligencji. , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji
- inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5).
Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę.
Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich
93
art. 7 ust.5
Logicise
art. 7 ust.5
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
art. 7 ust.5
art. 7 ust.5
KIGEiT
PIIT
w
centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). zapraszanie osób posiadających wiedzę specjalistyczną Brak informacji jak definiowane są “osoby posiadające wiedzę specjalistyczną” i czy muszą reprezentować podmioty określone w art. 7. 3. czy też nie. Brak zapisu o możliwym konflikcie interesów. Wydaje się, że zapis art. 7.
5. jest już ujęty w art. 7. 4.
Zgodnie z art. 7 ust. 5 Projektu ustawy „Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną.”
Podnosimy, iż mogą pojawiać się wątpliwości na tle określenia „osoby posiadające wiedzę specjalistyczną”, w szczególności w zakresie ustalenia, kto za taką osobę może zostać uznany i przy uwzględnieniu jakich kryteriów. Zapewne chodzi o ekspertów z dziedziny rozwiązań/modeli/systemów sztucznej inteligencji, w związku z czym zasadnym wydaje się doprecyzowanie brzmienia przepisu poprzez wyraźne wskazanie o jaką wiedzę specjalistyczną chodzi.
Najbardziej pożądanym kierunkiem doprecyzowania powinno być wskazanie konkretnie na pracowników naukowych, biegłych, czy posłużenie się określeniem „osoby posiadającej wiadomości specjalne”.
Propozycja zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7 biegłego”
Kim jest "osoba posiadająca wiedzę specjalistyczną" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem "wiadomości specjalnych" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów.
5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, biegłego. , Kim jest "osoba posiadająca wiedzę specjalistyczną" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem "wiadomości specjalnych" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby
94
Art. 7 ust. 3 pkt 1)-6), 11-13,
Osoba fizyczna
Art. 7 ust. 7
KIGEiT
Art. 7 ust. 7 i Art. 29 ust. 6
KIG
Art. 7 ust. 7 pkt
PIIT
z postępowania. Przy takim zapisie takich praw brak, a musza być one zagwarantowane choćby ze względu na konflikt interesów. Sugerujemy, by kwestia rozumienia tego pojęcia (biegły) wg kpa znalazła się także w uzasadnieniu do projektu ustawy.
Wprowadzenie takiej regulacji powoduje, że najważniejsze organy państwa nie mogą wskazać osoby do udziału w posiedzeniu komisji, natomiast prawo to posiada aparat administracyjny obsługujący te organy. Innymi słowy, to nie Prezydent RP będzie wskazywał swego przedstawiciela, ale jego urzędnicy, podobnie to nie Minister Obrony Narodowej będzie wskazywał swego przedstawiciela, ale ministerstwo – czyli aparat administracyjny go obsługujący. Należy poprawić przepis, przez wskazanie nazw organów władzy publicznej jako uprawnionych do wskazywania swoich przedstawicieli do uczestniczenia w posiedzeniach Komisji. Jeśli ten element regulacji pozostanie, to proponuję poprawić wskazane przepisy przez odwołanie do nazw organów władzy publicznej, wynikających z Konstytucji RP lub ustaw, a nie nazw urzędów ich obsługujących.
Ponadto Biuro Komisji – pkt 16, nie jest organem, natomiast pracownicy Biura przygotowują posiedzenie i obsługują od strony techniczno- administracyjnej. Pewnym kuriozum jest zaproponowanie przepisu, zgodnie z którym przedstawiciel aparatu obsługującego organ – Komisję, brał udział w posiedzeniu tego organu. Proponuje wykreślić art. 7 ust 3 pkt 16) całkowicie.
Poza tym powstaje zasadnicze pytanie, czy w ogóle ciało niezależne, jakim ma być Komisja ds.
SI powinno posiadać członków fakultatywnych będących przedstawicielami innych organów władzy publicznej? Komplikuje to pozycję organizacyjno-prawną Komisji i osłabia jej niezależność.
Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Jeśli przepis dotoczyć ma także osób wskazanych w
Art. 7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w Art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w Art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca.
Poddajemy krytyce “społeczny wymiar” zaangażowania Członków Komisji i Członków Społecznej Rady ds. Bezpieczeństwa. Trudno oczekiwać, by ktoś poświęcał swój czas, zaangażowanie i intelekt bez wynagrodzenia. Uważamy, że jest to złudne poczucie gospodarności. Akty prawne dużego Państwa europejskiego powinny odpowiednio doceniać i wynagradzać.
6. Za udział pracach Komisji przysługuje wynagrodzenie zwrot kosztów przejazdów i noclegów. , Niezrozumiała jest intencja tego przepisu.
Jeśli przepis dotyczyć ma także osób wskazanych w art. 7 ust. 5 - to nieuzasadnione jest, aby
95
art. 7 ust. 7
SKwP
Art. 7 ust. 7 pkt
GRAI
osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu.
Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji.
Jeśli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca.
To dotyczy członków Komisji, czy tylko osób doproszonych do posiedzenia? Zaprasza się eksperta – specjalistę i tak się go traktuje??? A przewodniczący i zastępcy mają wynagrodzenie?
Za wykonaną prace musi być wynagrodzenie. Przewodniczący Komisji jest pracownikiem ,,Biura”, bez wynagrodzenia?
Udział w pracach Komisji powinien być rekompensowany, przynajmniej w zakresie, w którym koszty te nie byłyby pokryte przez jednostkę macierzystą członka Komisji. Nie można wymagać, aby w tak ważnej instytucji pracowano pro bono.
Należy przyjąć, że koszty związane z udziałem w pracach Komisji pokrywane są przez jednostki macierzyste, a w pozostałym zakresie przyjąć pewien ryczałt, aby chociaż zrekompensować tym osobom koszty, które poniosłyby z własnej kieszeni. Chociaż, aby motywować kompetentne osoby do udziału w pracach Komisji, dodatkowa rekompensata powinna być przewidziana.
Art. 7 ust. 8
CHAMBER
art.8
PIIT
Art. 8
KIGEiT
Art. 8
Fundacja Poland
Art. 8 ust.3.
PIIT
FinTech
Zawarte w projektowanym art. 7 ust. 8 wykluczenie zwrotu nawet kosztów diet i noclegu, obok wynagrodzenia, budzi zastrzeżenia. Brak wynagrodzenia może być uzasadniony wykonywaniem funkcji członka Komisji w ramach obowiązków służbowych, ale wyłączenie ogólnych przepisów dotyczących kosztów przejazdu i zakwaterowania wydaje się tu zbyt daleko posunięte. "Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważniony do Kierowania Pracami Komisji". , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną.
Rekomendacja: dodanie punktu: "Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji" , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną.
Przepisy ust. 2 i ust. 9 wzajemnie się wykluczają. Ponadto brak jest sprecyzowania czy posiedzenia są co do zasady jawne czy też nie. Brak doprecyzowania kiedy mogą zostać utajnione, a kiedy mogą toczyć się przy tzw. drzwiach zamkniętych.
Przewodniczący Komisji zwołuje i prowadzi posiedzenia Komisji. , Poprawka redakcyjna.
96
Art. 8 ust.5.
PIIT
Dodać “z zastrzeżeniem przepisu art. 11.2.”. , Przepis art. 11.2. przewiduje upoważnienie do wydawania postanowień i decyzji administracyjnych. przepis zdaje się sugerować, że uchwały Komisji są decyzjami lub postanowieniami. Czy taka jest intencja projektodawców?
Art. 8 ust 5
CHAMBER
Art. 8 ust. 5
Fundacja Poland
Art. 8 ust. 6
Polskie Towarzystwo Informatyczne
FinTech
Uchwała to nie jest to samo co decyzja administracyjna. Przy obecnym brzmieniu przepisu pojawiają się wątpliwości np. co do trybu odwoławczego i niezgodności z Prawem o postępowaniu przed sądami administracyjnymi. Decyzja administracyjna w sposób władczy kształtuje sytuację konkretnego podmiotu. Należy więc precyzyjnie określić kiedy i jakie decyzje mają być wydane.
Decyzja nie jest rodzajem uchwały. Uchwały jeśli już mogą wyrażać stanowisko Komisji w jakiś kwestiach. Nie są to jednak źródła prawa.
Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co naj-mniej sześciu osób wchodzących w jej skład, w tym Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji, a w razie jego nieobecności – głos Zastępcy Przewodniczącego Komisji upoważnionego do kierowania pracami Komisji.
Sugerujemy rozważenie delegacji do Rozporządzenia dot. trybu pracy Komisji.
Art. 8 ust. 6
Fundacja Poland
FinTech
Art. 8 ust. 9
Osoba fizyczna
Nie sprecyzowano, jakiego rodzaju uchwały może podejmować Komisja w tym trybie. Czy rzeczywiście uchwały dotyczące nadzoru rynku sztucznej inteligencji powinny zapadać w minimalnym przypadku przy udziale 6 osób i zwykłej większości głosów?
Brak określenia w jaki sposób wydawane są decyzje. Przyjęcie zasady, że wystarczająca jest zwykła większość w sytuacji gdy w skład Komisji nie wchodzą osoby wyspecjalizowane w danej dziedzinie budzi kontrowersje i zastrzeżenia. Powstaje ryzyko, że rozstrzygnięcia Komisji będą w rzeczywistości losowe i będą wynikiem głosowania osób nie do końca znających daną materię.
Jeżeli wystarcza większość zwykła przy składzie min 6 osób to tytułem przykładu: Rzecznik Praw Dziecka, Rzecznik Praw Obywatelskich oraz przedstawiciel do spraw służb specjalnych mogą rozstrzygnąć o wyniku problemu technicznego związanego z konkretnym rozwiązaniem. Nieuzasadnione jest domniemanie, że osoby te będą posiadały w tym zakresie specjalistyczną wiedzę.
Skoro w art. 8 ust. 7 – 8 projektu ustawy o SI przewidziano możliwość udziału członków Komisji w posiedzeniu zdalnym, przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym, to wprowadzenie trybu obiegowego wydaje się niepotrzebne.
Ponadto nie wskazano formy trybu obiegowego – elektronicznej czy papierowej, co też może
97
Art. 9 ust. 1
CHAMBER
Art. 9 ust. 1
Fundacja Poland
Art. 9 ust. 2
CHAMBER
Art. 9 ust. 2
Logicise
skutkować wątpliwościami interpretacyjnymi przy zachowaniu tego trybu. Coraz doskonalsze formy komunikacji elektronicznej, z coraz wyższym standardem cyberbezpieczeństwa są wystarczającą formą posiedzeń Komisji poza trybem stacjonarnym, a jednocześnie pozwolą w pełni realizować ustawowe kompetencje. należy skreślić słowo “ustawowych”, jako superfluum (uwaga redakcyjna)
FinTech
Jeżeli członkowie mają wspierać Przewodniczącego to co dzieje się w sytuacji gdy mają odrębne poglądy przy głosowaniu.
Należy zagwarantować członkom niezależność jeżeli już ustawodawca decyduje się na formę głosowania. należy skreślić słowo “w” (uwaga redakcyjna) “w podmiotu, której są przedstawicielami”
Błąd językowy. “przedstawiają działania”
Nieprecyzyjne sformułowanie. O jakiego typu działaniach jest mowa: planowanych, dokonanych?
Uwaga redakcyjna - brakuje słowa, ewentualnie usterka językowa. “Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w [imieniu(?)] podmiotu, której są przedstawicielami”
Art. 9 ust. 2
GRAI
Art. 9 ust. 2
Centrum Badań Kosmicznych Polskiej Akademii Nauk
Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. W brzmieniu docelowym, ustęp ten powinien brzmieć: „2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”.
Art. 9 ust. 2
Polskie Towarzystwo Informatyczne
literówki w p. 2 Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotach, których są przedstawicielami.
98
Art. 9 ust. 2
Związek Polskich
Banków
Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.
Zmiana gramatyczna.
Art. 9 ust. 2
Osoba fizyczna
art. 10 ust. 1
SKwP
art. 10 ust. 3
PIIT
art. 10 ust. 3
KIGEiT
art. 10 ust. 3
GRAI
Art. 11
PIIT
Art. 11
Instrat – Fundacja Centrum Cyfrowe
błąd gramatyczny
2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami Powstaje pytanie, ilu pracowników będzie w Biurze?
3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. , Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów.
3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia.
Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów.
Zgodnie z projektem ustawy szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadawany przez Prezesa Rady Ministrów w drodze zarządzenia. Prowadzi to jednak do uzależnienia Komisji od Prezesa Rady Ministrów. Kompetencje do nadawania regulaminu Komisji powinny przysługiwać Przewodniczącemu Komisji, który powinien mieć zagwarantowaną silną niezależną pozycję instytucjonalną od działań administracji rządowej. Jednym z wariantów jest przyznanie tej kompetencji samej Komisji (do samouchwalenia regulaminu), ale z uwagi na skład Komisji mogłoby to albo doprowadzić do paraliżu pracy albo ukształtowania organizacji i trybu funkcjonowania Komisji wbrew Przewodniczącemu.
Zmiana brzmienia na „3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Przewodniczącego Komisji.”
Nowy art. 11.1.1 - wykonywanie nadzoru rynku w zakresie systemów sztucznej inteligencji wysokiego ryzyka. , Zob. uwaga do art. 6, ew. Zmiana treści art. 11.1.7.
W ramach zadań Komisji proponujemy, aby poza obowiązkami określonymi w art. 11, Komisja pełniła dodatkową rolę wspierającą, zwłaszcza w odniesieniu do podmiotów prawa publicznego,
99
Art. 11
Osoba fizyczna
prywatnych organizacji świadczących usługi publiczne oraz instytucji stosujących systemy sztucznej inteligencji wysokiego ryzyka. Wsparcie to powinno dotyczyć przede wszystkim oceny wpływu tych systemów na prawa podstawowe. Komisja mogłaby wspierać te podmioty poprzez wydawanie wytycznych dla administracji, opracowanych na podstawie kwestionariuszy przygotowywanych przez Biuro ds. Sztucznej Inteligencji. Dokumenty te stanowiłyby narzędzie oceny wpływu SI na prawa podstawowe, pomagając jednostkom administracyjnym podejmować świadome decyzje zgodne z przepisami prawa. Ponadto, Komisja mogłaby pełnić funkcję punktu konsultacyjnego, do którego jednostki administracyjne i podmioty stosujące SI wysokiego ryzyka mogłyby zgłaszać pytania dotyczące oceny wpływu oraz zarządzania ryzykiem związanym z tymi systemami.
Co więcej, rekomendujemy uwzględnienie w art. 11 zadań z art. 66 ust. 1 (oraz usunięcie ust. 2 z art. 66), które obecnie przypisane są ministrowi właściwemu do spraw informatyzacji. Mowa tutaj o zadaniach określonych w art. 95 rozporządzenia 2024/1689, obejmujących wydawanie rekomendacji dotyczących najlepszych praktyk stosowania systemów sztucznej inteligencji.
Uważamy, że Komisja, jako organ odpowiedzialny za wdrażanie rozporządzenia, jest najlepiej predysponowana do opracowywania takich dokumentów. Do zadań Komisji w tym obszarze mogłoby należeć także wspieranie tworzenia kodeksów dobrych praktyk, mających na celu propagowanie dobrowolnego stosowania części lub wszystkich wymogów rozdziału III sekcja 2 AI Actu w odniesieniu do systemów SI niebędących systemami wysokiego ryzyka. Takie rozwiązanie wydaje się szczególnie uzasadnione, ponieważ kwestie te będą koordynowane przez unijny Urząd ds. SI, z którym Komisja ma pełnić rolę kontaktową.
Przyznanie Komisji większych kompetencji w zakresie wspierania podmiotów publicznych, jak i prywatnych w stosowaniu rozporządzenia przyczyniłoby się do zapewnienia większej zgodności SI z prawami podstawowymi i sprzyjałoby budowaniu spójnych standardów w zakresie projektowania i wdrażania SI w firmach i instytucjach.
Powstaje pytanie, czy kolejność zadań w projektowym przepisie ma charakter przypadkowy czy zamierzony, bowiem nie sposób określić jednoznacznie jaki klucz został przyjęty w tworzeniu tego przepisu. Przykładowo, zadanie określone w pkt 7 wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;- - powinno być jednak wyżej w hierarchii zadań, jako jedno z najważniejszych.
Ponadto zadanie wynikającej z pkt 6) wydawanie postanowienia i decyzje w sprawach naruszenia przepisów o systemach sztucznej inteligencji – zawiera błędy.
Po słowie "postanowienia" - powinno być "postanowień w sprawie" zamiast "postanowienia i decyzje w sprawach". Nie zastosowano liczby mnogiej. Ponadto w języku prawniczym częściej używa się słowa "oraz" do łączenia dwóch równorzędnych członów zdania. Nie określono prawidłowo o jakie przepisy chodzi - powinno być "przepisów ustawy o systemach sztucznej inteligencji" lub "przepisów dotyczących
100
systemów sztucznej inteligencji. Prawidłowe brzmienie przepisu "Wydawanie postanowień w sprawach oraz decyzji w sprawach naruszenia przepisów ustawy o systemach sztucznej inteligencji".
Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7 art. 11, dopiero po zadaniach związanych m.in. ze wspieraniem rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów SI czy udziale w opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu.
Art. 11
GRAI
Art. 11
GRAI
Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku?
Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym, czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę?
Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach?
Art. 11
Osoba fizyczna mk
Artykuł 11 Ustawy wśród zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wskazuje:
3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji;
4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy;
W obecnym ujęciu, działania mające na celu wspieranie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji wydają się znacznie lepiej zdefiniowane oraz mocniej zaakcentowane wśród zadań Komisji niż działania
101
Art. 11
Związek Polska
Art. 11 ust. 1
KIG
Cyfrowa
dotyczące przeciwdziałania zagrożeniom w zakresie bezpieczeństwa sztucznej inteligencji, gdzie jedynym wymienionym działaniem Komisji jest przyjmowanie zgłoszeń poważnych incydentów.
Zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie, co powinno znaleźć odzwierciedlenie wśród zadań Komisji. Ponadto, zapewnienie bezpieczeństwa systemów sztucznej inteligencji również pozytywnie wpływa na rozwój, innowacyjność i konkurencyjność badań i zastosowań systemów sztucznej inteligencji, a zatem zwiększenie udziału komisji w zagadnieniach dotyczących bezpieczeństwa nie tylko nie kłóci się, ale wspiera zagadnienia rozwoju, innowacyjności i konkurencyjności badań i zastosowań.
Wskazane jest, aby Artykuł 11 punkt 4 zyskał brzmienie odzwierciedlające, fakt, że zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie np.
4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy, a także podejmowanie działań mających na celu wspieranie badań i monitorowanie zagrożeń w zakresie bezpieczeństwa systemów sztucznej inteligencji;
Niejasność dotyczącą zakresu kompetencji krajowego organu nadzorczego. Może ona rodzić niepewność prawną dla przedsiębiorstw wielonarodowych. Niejednoznaczność zakresu jurysdykcji może prowadzić do sprzecznych wymogów zgodności między różnymi organami krajowymi, komplikując operacje i zwiększając obciążenie regulacyjne dla przedsiębiorstw działających w wielu krajach. Co więcej, należy podkreślić, że niejasnośc ta jedynie wzrasta w związku z faktem, że na poziomie UE współpraca w ramach Rady ds. AI UE będzie zachdziła między organami o różnym zakresie przedmiotowym.
Proponujemy zmianę brzmienia pkt 11 tak, aby nie był mechanicznym tłumaczeniem tekstu rozporządzenia. Proponowany zapis:
„11) podejmowanie działań mających na celu stworzenie narzędzi prawnych do testowania nowych rozwiązań dotyczących systemów sztucznej inteligencji zgodnie z przepisami rozporządzenia 2024/1689 – piaskownic regulacyjnych;”.
Proponujemy również rozszerzenie katalogu zadań Komisji i po pkt 11 dodanie następujących:
- podejmowanie działań wspierających badania, rozwój i komercjalizację produktów i usług wykorzystujących sztuczną inteligencję, w szczególności przez integrację środowiska gospodarczego i naukowego, tworzenie założeń do programów wsparcia i tworzenie propozycji rozwiązań prawnych ułatwiających współpracę nauki z biznesem i komercjalizację osiągnięć wykorzystujących sztuczna inteligencję,
- inicjowanie działań zmierzających do łączenia instytucji publicznych, badaczy akademickich i firm działających na rzecz rozwoju sztucznej inteligencji.
102
Art. 11 ust. 1
Osoba fizyczna jk
Jak wspomniano powyżej, Komisja powinna koncentrować się w pierwszym okresie działalności nad wzmacnianiem ekosystemu administracji, przedsiębiorców i ośrodków naukowych w celu integracji środowiska i prowadzenia aktywnego dialoguz interesariuszami. Nie może koncentrować się na nadzorze, nie będzie również w stanie realizować zadania wskazanego w pkt. 5 ze względu na ograniczoną znajomość specyfiki rynku. zadania Komisji powinny być wymienione w art. 6 po ust. 1 błąd gramatyczny
6) wydawanie postanowieniań i decyzjei w sprawach naruszenia przepisów o systemach sztucznej inteligencji Uważamy, że decyzje administracyjne i interpretacje indywidualne powinny być omawiane i głosowane w Komisji. Jednoosobowe decyzje mogą prowadzić do wypaczeń na skutek lobbingu.
art. 11 pkt 13 i art. 11. ust. 2
SKwP
Art. 11 ust. 1 pkt i pkt 7
CHAMBER
wydają się pokrywać pod kątem treści normatywnej, gdyż organ nadzoru rynku sprawuje właśnie kontrolę nad tym rynkiem. Należy (ponownie) sprecyzować, że chodzi o “rynek systemów sztucznej inteligencji”.
Art. 11 ust. 1 pkt
GRAI
Do zadań Komisji powinna należeć koordynacja międzyresortowa w sprawach i projektach dot. AI i nowych technologii, aby zniwelować obecnie utrudniającą międzysektorowe inicjatywy, silosowość resortów. Warto zaznaczyć, że wśród podmiotów wymienionych w art. 7 ust. 3 brakuje chociażby takich resortów, jak edukacja czy szkolnictwo wyższe.
Każdy resort powinien wyznaczyć rzecznika do kontaktu z Komisją i taka osoba powinna uczestniczyć w obradach Komisji zgodnie z art.7 ust. 3.
Art. 11 ust. 1 pkt 3 i 4
Związek Polskich
GRAI
art. 11 ust. 1 pkt 3
Banków
Uwaga o charakterze ogólnym - brak rozwinięcia w dalszej części projektu brzmienia tych przepisów, w jaki sposób, w jakim zakresie.
Brzmienie pkt 3 dotyczącego wspierania i monitorowania rozwoju, innowacyjności oraz konkurencyjności w obszarze AI jest kluczowe, ale warto rozważyć dodanie konkretnych mechanizmów wsparcia tych innowacji.
Wyłączny i bardzo rozbudowany nadzór nad rozwojem AI, który jest szczegółowo ujęty w ustawie, może być niewystarczający dla rozwoju innowacji bez wprowadzenia realnych zachęt. Brak takich rozwiązań może hamować rozwój technologii AI w Polsce.
Nadanie nowego brzmienia:
„3) podejmowanie działań wspierających oraz monitorujących rozwój, innowacyjność i konkurencyjność w zakresie badań i wdrażania systemów sztucznej inteligencji, w tym w szczególności stosowanie ulg podatkowych oraz preferencji finansowych dla przedsięwzięć o znaczącym potencjale społecznym i gospodarczym, celem zwiększenia atrakcyjności inwestycyjnej w obszarze sztucznej inteligencji;”.
103
Art. 11 ust. 2 pkt 3-5
PSSI
Art. 11 ust.1 pkt 4
PIIT
Art. 11 ust. 1 pkt 5
ISSA Polska
W związku z zadaniami Komisji, które ujęto w Art. 11 punkt 1 ustępy 3-5, tj.:
„ 3). podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji;
4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy;
5) udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji;” niezbędne jest, aby Przewodniczący, albo co najmniej jeden z jego zastępców miał wysokie kompetencje i doświadczenie w zakresie badań naukowych. Częściowo podkreślono to w artykule 18 punkt 1 ustępy 3-4, tj.:
„ 3)posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny;
4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych;”
Rekomenduje się:
1. zwiększenie wymagań dotyczących kompetencji Przewodniczącego, o jawne wskazanie dorobku naukowego w zakresie badań w obszarze sztucznej inteligencji oraz posiadanie stopnia naukowego co najmniej doktora w dziedzinie nauk ścisłych lub inżynieryjno-technicznych. albo:
2. dodanie stosownych wymagań (j.w.) dla jednego z zastępców Przewodniczącego.
Trudno sobie wyobrazić, biorąc pod uwagę cele komisji oraz dynamiczny rozwój sztucznej inteligencji, aby w Komisji nie zasiadała co najmniej jedna osoba o dużym i aktualnym dorobku naukowym.
Jednocześnie, z wyżej wskazanych powodów, członkiem komisji powinna być co najmniej jedna osoba będąca przedstawicielem Polskiej Akademii Nauk (PAN) lub Komitetu Informatyki PAN (Art. 7).
CSIRT jako podstawowy system zgłaszania incydentów, z informacją dla komisji, jeżeli dotyczy AI. Ewentualnie – tylko dla systemów wysokiego ryzyka , System zgłaszania incydentów informatycznych powinien być spójny z CSIRT. Czy zostało ocenione ryzyko redundancji procedur oraz nieracjonalnego powielania kosztów budżetu? Notabene przepis art. 11.1.4 odsyła do art. 61, który dotyczy zgłoszeń do KE.
Błąd: zamiast “wydawanie postanowienia i decyzje” powinno być “postanowień i decyzji”.
104
Art. 11 ust. 1 pkt 6
PIIT
Art. 11 ust. 1 pkt6
Centrum Badań Kosmicznych Polskiej Akademii Nauk KIGEiT
Art. 11 ust. 1 pkt 6
Art. 11 ust. 1 pkt 6 art. 11 ust. 1 pkt 6
Polskie Towarzystwo Informatyczne
GRAI
Art. 11 ust. 1 pkt 6
Związek Polskich
Banków
Art. 11 ust. 1 pkt 8
Związek Polskich
Banków
Art. 11 ust. 1 pkt 11
ISSA Polska
Art. 11 ust. 1 pkt 11
SANO
art. 11 ust. 1 pkt 13 i art. 14 ust. 1
GRAI
"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji wysokiego ryzyka i systemów zakazanych, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa.
Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej.
Propozycja zapisu: "6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa.
Literówki wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Uwaga redakcyjna Słowa „postanowienia i decyzje” zastępuje się słowami „postanowień i decyzji”. (…)wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Zmiana gramatyczna. [Dodanie po pkt 8) punktu w brzmieniu jak obok]
9) prowadzenie badań w zakresie zastosowania systemów sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację ich wpływu na decyzje podejmowane w organizacji.
Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu SSI na podejmowane decyzje w organizacjach.
Do zadań Komisji należy m.in. podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie brak regulacji prawnych w tej kwestii. Temat możliwości testowania innowacyjnych systemów AI w warunkach rzeczywistych wydaje się zbyt ważny z punktu widzenia zarówno społeczeństwa, jak i przedsiębiorców, by jego ramy prawne nie były określone ustawowo.
W art. 11 ust. 1 pkt. 11 wskazana jest możliwość podejmowania działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie ustawy nie ma żadnych innych postanowień regulujących tą kwestię. Rekomendujemy doprecyzowanie i uszczegółowienie, ponieważ brakuje jasnych zasad funkcjonowania piaskownic, które pozwoliłyby przedsiębiorstwom na testowanie innowacyjnych technologii z zachowaniem niezbędnych zabezpieczeń prawnych.
Postanowienia te są sprzeczne. Art. 11 ust. 1 pkt 13 wskazuje jako zadanie Komisji do dokonywania interpretacji generalnych i indywidualnych. Z kolei art. 14 ust. 1 wskazuje, że
105
interpretacje indywidualne wydaje Przewodniczący Komisji. Należy usunąć odniesienie do interpretacji indywidualnych bo te leżą w kompetencji Przewodniczącego (Komisja rozpatruje jedynie sprzeciw).
Zmiana brzmienia art. 11 ust. 1 pkt 13 na „13) dokonywanie interpretacji generalnych.” art. 11 ust. 1 pkt 11
GRAI
W projekcie ustawy pominięto w zadaniach Komisji – zadanie w zakresie rozwoju piaskownic regulacyjnych po ich utworzeniu. Obecne brzmienie art. 11 ust. 1 pkt 11 odnosi się tylko do „utworzenia” piaskownic regulacyjnych.
Zmiana Brzmienia przepisu. W art. 11 ust. 1 pkt 11 projektu ustawy po słowie „utworzeniu” dodaje się ,,i rozwój”.
art. 11 ust. 1 pkt 11
GRAI
Uwaga redakcyjno - legislacyjna Po uwzględnieniu powyższej uwagi, do rozważenia zmiana numeracji punktów - obecny pkt. 11 powinien być nowym pkt 4 - po pkt 3, który wskazuje na podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji.
Zmiana numeracji przepisów - obecny pkt. 11 z dodanym “i rozwój” powinien stanowić pkt 4, gdyż jest uzupełniniem obecnego pkt. 3.
Art. 11 ust. 1 pkt 11
PWPW
Do zadań Komisji należy: podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych;
W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych.
Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI.
AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp.
AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie
106
Art. 11 pkt 11
Fundacja Poland
FinTech
Art. 11 ust. 2
Osoba fizyczna
Art. 11 ust. 2
Fundacja Poland
FinTech
prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty.
Art. 57 ust. 1 nakłada na państwa członkowskie obowiązek zapewnienia, aby ich właściwe organy ustanowiły co najmniej jedną piaskownicę regulacyjną dla systemów AI na poziomie krajowym, z terminem uruchomienia do 2 sierpnia 2026 r. Ze względu na ambitny i stosunkowo bliski termin realizacji tego wymogu, istotne jest już teraz podjęcie kroków w celu zdefiniowania zasad funkcjonowania takich piaskownic. Brak odpowiednich regulacji w Ustawie może prowadzić do opóźnień w Poważne wątpliwości prawne budzi określenie kompetencji Komisji do upoważnienia Przewodniczącego, Zastępców Przewodniczącego oraz pracowników Komisji do realizacji działań pozostających w zakresie właściwości Komisji, w tym do wydawania decyzji i postanowień. W doktrynie prawa administracyjnego oraz w praktyce administracyjnej stosuje się rozwiązanie, w której to organ realizuje swoje zadania przez pracowników, ale nadal są to zadania organu, realizowane w jego imieniu i na rzecz organu. Poza wyjątkowymi sytuacjami, wyraźnie wynikającymi z przepisów ustawowych, to nie bezpośrednio organ podejmuje działania w zakresie realizacji swych kompetencji, ale pracownicy aparatu obsługującego organ. Organ, obejmując urząd, wydaje upoważnienia imienne do wykonywania określonych kompetencji w imieniu organu delegującego do wydawania/załatwiania spraw w imieniu i na rzecz organu.
Proponowane rozwiązanie wynikające z art. 11 ust 2 projektu ustawy nie wskazuje, że działania te będą realizowane w imieniu i na rzecz organu. Ponadto nie wskazano w jakich okolicznościach faktycznych moz0na upoważnić inne podmioty do realizacji określonych kompetencji. Nie wskazano również sytuacji prawnie relewantnych, skutkujących wygaśnięciem lub umożliwiających odebranie upoważnienia.
Wydaje się, że treść art. 268a. Kodeksu postępowania administracyjnego – Organ administracji publicznej może upoważniać, na piśmie utrwalonym w postaci papierowej lub elektronicznej, pracowników obsługujących ten organ do załatwiania spraw w jego imieniu w ustalonym zakresie, a w szczególności do wydawania decyzji administracyjnych, postanowień, zaświadczeń, a także do poświadczania za zgodność odpisów dokumentów przedstawionych przez stronę na potrzeby prowadzonych postępowań z oryginałem – konsumuje w znacznym zakresie projektowany przepis i jednocześnie nie powoduje potencjalnych wątpliwości interpretacyjnych. Proponuję usunąć ust 2 art. 11 i ewentualnie odesłać do przepisów k.p.a.
Zasady wydawania decyzji i postanowień powinny być jednolite. W tym kształcie jeden podmiot otrzyma decyzję wydaną przez Przewodniczącego inny przez młodszego specjalistę zatrudnionego w Biurze Komisji. Jeszcze inny mając na uwadze przepisy powyżej może otrzymać decyzję wydaną w sprawie na skutek głosowania (art. 8 ust 5 - “w tym” zaznaczone powyżej).
107
Art. 11 ust. 3
Osoba fizyczna
Art. 11 ust. 1 pkt 13
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
Przepis jest nie jasny, zwłaszcza jeśli uwzględnimy uwagi dotyczące art. 11 ust 2. projektowanej ustawy. Ponadto nie wiadomo, czy czynności procesowe dotyczące spraw określonych w art. 70 ustawy mogą podlegać delegacji, a samo rozstrzygnięcie już jest zastrzeżone do wyłącznej kompetencji Komisji, czy też wszystkie czynności procesowe, od wszczęcia do prawomocnego zakończenia postępowania, są prowadzone bezpośrednio przez Komisję. Proponuję usunąć ust 3 art. 11.
Postulujemy doprecyzowanie obecnej treści przepisu w następujący sposób:
„13) dokonywanie interpretacji generalnych i indywidualnych, o których mowa w art. 14 i 15 ustawy.”.
Wskazujemy, iż art. 13 Projektu ustawy także stanowi o interpretacjach, w związku z powyższym zasadnym zdaje się być doprecyzowanie treści komentowanego przepisu.
Podnosimy także, iż zasadnym byłoby, aby projektowana ustawa umożliwiała składanie wniosków o interpretację przepisów Rozporządzenia 2024/1689 do Europejskiego Urzędu ds. Sztucznej Inteligencji.
Art. 11 ust. 1 pkt 13
Związek Polska
Cyfrowa
Wprowadzenie instytucji interpretacji na poziomie lokalnym (krajowym). Rozwiązanie pozwalające na wydawanie takich interpretacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”), skutkować może fragmentaryzacją prawa unijnego (Aktu o sztucznej inteligencji), jego odmienną interpretacją, rozumieniem, stosowaniem oraz egzekwowaniem (co dotyczy zarówno interpretacji indywidualnych, jak również generalnych). Ryzyko to związane jest również z uprawnieniami ministra właściwego do spraw informatyzacji związanym z wydawaniem „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”.
Art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66
Związek Polska
Cyfrowa
Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689).
Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) zostaną wyposażone w podobne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania.
Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. W praktyce może to
108
Art. 11 ust. 1 pkt 13
PWPW
Art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu
Związek Pracodawców Technologii Cyfrowych Lewiatan
wpłynąć na możliwość korzystania ze sztucznej inteligencji przez przedsiębiorstwa, ponieważ niepewność ram prawnych może rodzić zbyt wysokie i zbyt kosztowne ryzyko związane z korzystaniem ze sztucznej inteligencji.
Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który upoważnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Należy w tym miejscu także wskazać, że rządowe prace w obszarze zakazanych praktyk w Polsce, trwają w czasie, gdy otwarty jest wciąż apel European AI Office o opinie na ten sam temat. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte Do zadań Komisji należy: dokonywanie interpretacji generalnych i indywidualnych.
Uwaga dotyczy też art. 13 projektu.
Należy doprecyzować, czy interpretacje, o których mowa w art. 11 i art. 13, stanowią interpretacje w rozumieniu art. 33 i 34 ustawy - Prawo przedsiębiorców. W ocenie PWPW S.A. taka interpretacja powinna stanowić realizację art. 33 i 34 ww. ustawy. Wtedy chronią one podmiot. Ponadto nie ma określenia skutków prawnych interpretacji. Należy je określić lub odesłać w tym zakresie do art. 35 ustawy - Prawo przedsiębiorców Ponadto w przypadku podmiotów publicznych – dla których PWPW S.A. także realizuje swoje usługi – w projekcie ustawy powinno się znaleźć doprecyzowanie skutków interpretacji dla tych podmiotów – tak aby one chroniły podmioty publiczne, wtedy kiedy np. korzystają z produktów AI danego podmiotu, w ramach realizacji zadań publicznych.
Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o
109
Art. 12
KIGEiT
sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) będą wyposażone w analogiczne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który uprawnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji).
W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte.
Rekomendacja:
Programy edukacyjne i dostęp do zasobów obliczeniowych: "Komisja organizuje coroczne programy edukacyjne dla przedsiębiorców i jednostek badawczorozwojowych, które obejmują szkolenia z zakresu implementacji i zgodności z przepisami sztucznej inteligencji. Programy te będą obejmować dostęp do zasobów obliczeniowych (w tym chmury obliczeniowej) i symulacji AI. Komisja zapewni możliwość bezpłatnego korzystania z tych zasobów przez pierwsze 6 miesięcy."
Art. 12 (Programy edukacyjne) określa, że Komisja ma prowadzić działania edukacyjne, jednak konieczne jest rozwinięcie tych działań w bardziej strukturalny sposób, by wspierać rozwój AI w Polsce. Taka inicjatywa nie tylko pomoże firmom w dostosowywaniu się do przepisów, ale również przyspieszy rozwój i wdrażanie nowych technologii AI, szczególnie w małych firmach i start-upach.
Rekomendacja: Wprowadzenie mechanizmów finansowego wsparcia: "Komisja, we współpracy z ministrem właściwym do spraw informatyzacji, tworzy program wsparcia finansowego w postaci grantów i ulg podatkowych dla przedsiębiorstw, które rozwijają systemy sztucznej inteligencji o niskim lub średnim ryzyku. Program będzie obejmować dofinansowanie do 50% kosztów projektów badawczo-rozwojowych oraz ulgi podatkowe dla przedsiębiorstw korzystających z piaskownic regulacyjnych."
Rozdział 2, Art. 12 (Wsparcie konkurencyjności) mówi o działaniach wspierających innowacyjność. Można to rozszerzyć o szczegółowe mechanizmy wsparcia, takie jak granty i ulgi
110
podatkowe dla firm AI. Taki zapis wspierałby innowatorów i start-upy AI, stymulując rozwój branży, bez dodatkowych obciążeń finansowych. powielenie zapisu art. 11 ust. 1 pkt 5
Art. 12 ust. 1
Osoba fizyczna jk
Art. 12 ust. 2
Logicise
ograniczona liczba realizowanych działań Nie jest jasne dlaczego art. 11. 1. pkt. 3 nie został uwzględniony w tym artykule.
Art. 12 ust. 2
Osoba fizyczna jk
pkt 3) dla spójności zapisów zamiast "udostępnia" powinno być "publikuje" jak w pkt 4
Art. 12 ust. 2 pkt 1
CHAMBER
Art. 12.2.1.
PIIT
art. 12 i 13
GRAI
art. 13 ust. 1
GRAI
pkt 4) brak informacji, gdzie Komisje publikuje przykłady dobrych praktyk – czy w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji czy na stronie Ministra właściwego do spraw informatyzacji - zgodnie z zapisem art. 66 ust. 1 wydaje się wskazane, aby Komisja mogła przedstawiać ministrowi właściwemu do spraw informatyzacji także propozycje działań innych, niż legislacyjne - np. organizacyjnych, faktycznych, planistycznych.
Czy przepisu nie należałoby uzupełnić o ministrów nauki i gospodarki?
Komisja powinna mieć prawo zwracania się tam, gdzie uzna, że jest potrzeba działania na rzeczy rozwoju AI.
Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie "najlepsze praktyki" będą się różnić od "najlepszych praktyk" AI Office?
Komisja może opracowywać wyjaśnienia, opinie i interpretacje – istnieje ryzyko, że w przypadku dużej liczby wpływających np. wniosków o interpretację czas oczekiwania na nią będzie długi.
Komisja nie będzie w stanie obsłużyć wniosków.
Dodatkowo, pojawiają się wątpliwości czy członkowie Komisji będą mieć właściwe kompetencje, by taki wniosek o interpretację efektywnie, szybko i merytorycznie rozpatrzyć Ponowne rozważenie wskazanych działań lub wskazanie podmiotu wspomagającego ich realizację.
111
Art. 13 ust. 1
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 13 ust. 1
NRA
Art. 13 ust. 1
Związek Polskich
Art. 13 ust. 1
Fundacja FinTech Poland
Art. 13 ust. 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 13 ust. 2
Związek Polskich
w
Banków
w
Banków
Wnosimy o doprecyzowanie przepisu art. 13 ust. 1 Projektu ustawy poprzez wyjaśnienie, czym „interpretacje” określone w komentowanym przepisie różnią się od interpretacji generalnych wydawanych przez Komisję (art. 15 Projektu ustawy).
Art. 13 ust. 1 Projektu, przewidujący możliwość formułowania przez KRiBSI wyjaśnień, opinii oraz interpretacji o istotnym znaczeniu dla stosowania przepisów Projektu, pozostawia bez odpowiedzi kwestię skutków prawnych tychże aktów. Komisji przyznano prawo do opracowywania dokumentów publikowanych w Biuletynie Informacji Publicznej, co niewątpliwie świadczy o ich potencjalnej doniosłości normatywnej. Jednakże niedookreślenie prawnego znaczenia takich wyjaśnień, opinii i interpretacji może prowadzić do ich wyłącznie deklaratywnego charakteru i naraża te działania na ryzyko jedynie pozornej, a nie rzeczywistej skuteczności. Jeśli bowiem Komisja nie będzie związana własnymi interpretacjami, a stosujące się do nich podmioty mogłyby mimo to doświadczać sankcji, zamierzona funkcja zapewnienia pewności prawa i spójności w interpretacji przepisów ulegnie zdezawuowaniu, wprowadzając dodatkowe i nieakceptowalne ryzyko dla odbiorców tych wytycznych.
Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji.
Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.
Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na podstawie nazwy było wiadomo jaki dany dokument ma charakter Skoro ustawa jest wzorowana na ustawie o nadzorze nad rynkiem finansowym to do rozważenia pozostaje wprowadzenie możliwości wydania rekomendacji jako kolejnego sposobu działania Komisji. Rekomendacje są czym innym niż opinie czy wyjaśnienia. Nie są to też interpretacje indywidualne. Rekomendacje przyczyniają się do ustandaryzowania rynku.
Wskazujemy, iż w przypadku uzasadnienia decyzji wydanych przez Komisję zakres publikowanych informacji powinien być ograniczony, tzn. nie powinien obejmować tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów.
Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, po usunięciu danych identyfikujących stronę postępowania, treść decyzji wydawanych na podstawie przepisów ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.
Upublicznienie informacji, jakiego podmiotu dotyczy decyzja byłoby formą kary, której nie przewiduje AI Act. Dla porównania w przypadku regulacji dotyczących AML publikacja informacji
112
o instytucji obowiązanej oraz zakresie naruszenia przepisów wchodzi do katalogu kar administracyjnych
Art. 13 ust. 2
e-Izba
Art. 13 ust. 5
Fundacja Poland
art. 13 i 14
GRAI
Aktualne brzmienie tego przepisu implikuje ryzyko publikowania decyzji wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wraz z wrażliwymi informacjami, szczególnie istotnymi z perspektywy działalności gospodarczej prowadzonej przez przedsiębiorców podlegających kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w tym tajemnicy przedsiębiorstwa.
Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom.
Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotnym jest zagwarantowanie maksymalnej ochrony tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem.
W związku z powyższym proponujemy dodanie w treści aktualnego brzmienia art. 13 ust. 2 projektu ustawy o systemach sztucznej inteligencji zastrzeżenia (wzorowanego na art. 31b ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów), że publikowane decyzje nie będą zawierały informacji kwalifikowanych jako tajemnica przedsiębiorstwa i innych informacji podlegających ochronie prawnej na podstawie odrębnych przepisów.
FinTech
Sugerujemy nie posługiwać się przy określaniu koniecznych elementów przymiotnikami które można różnie interpretować.
Trudno określić co jest “wyczerpujące” i kiedy opis stanu faktycznego jest wyczerpujący. Takie określenie powoduje, że po pierwsze łatwo o pretekst do odrzucenia wniosku. Po drugie podmiot występujący działając racjonalnie (i chcąc uniknąć odrzucenia) będzie rozciągał opis co utrudni skupienie się na istocie problemu i spowoduje stworzenie zbędnej dokumentacji.
Jeśli już to opis powinien być zwięzły a nie wyczerpujący.
Postulowane brzmienie przepisu:
5. Interpretacja, o której mowa w ust. 1, zawiera opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny.
Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.
I. Wskazania wymaga moc prawna interpretacji, które będą mogły być wydawane przez Komisję
- czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)?
II. Należy zwrócić także uwagę na potrzebę ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź
113
usunięcia z informacji przedsiębiorstwa.
Art. 14
Osoba fizyczna
Art. 14
ITCORNER
Art. 14
e-Izba
Art. 14
CHAMBER
podlegających
publikacji
informacji
zawierających
tajemnicę
Nie wskazano trybu procesowego wydawania interpretacji indywidualnych oraz czy podlegają one zaskarżeniu do sądu. Z uwagi na umiejscowienie przepisu odsyłającego do ustawy kodeks postępowania administracyjnego w art. 56, brak takiego wskazania w art 11 może budzić wątpliwości interpretacyjne.
Porządkującym rozwiązaniem jest przesunięcie przepisów dotyczących interpretacji indywidualnych i generalnych do rozdziału 4 ustawy, i jednoczesne dodatnie treści wynikającej z art. 56 ustawy już na początku tego rozdziału. Odwołanie powinno być generalne, ze wskazaniem k.p.a. jako uniwersalnego zbioru reguł procesowych do wszystkich czynności o charakterze administracyjnoprawnym podejmowanym przez Komisję, Przewodniczącego oraz Biuro/Urząd.
W projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (“KRiBSI”) na wydanie interpretacji indywidualnej dot. przepisów AI Act.
Sugerujemy, na wzór interpretacji indywidualnej (podatkowej), wskazanie maksymalnego terminu na wydanie interpretacji (np. 30 dni), wraz z zastrzeżeniem, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska wnioskodawcy.
Postulujemy także o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.
Projekt nie reguluje procedury odwoławczej, a także nie wskazuje, co miałby zawierać sprzeciw od wydanej interpretacji - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego.
Postulujemy rozszerzenie zakresu podmiotów uprawnionych do występowania o interpretacje również o organizacje zrzeszające podmioty podlegające pod zakres zastosowania rozporządzenia 2024/1689 (izby gospodarcze, stowarzyszenia, fundacje). Takie podmioty mogłyby występować o interpretacje na rzecz wszystkich swoich członków. W ten sposób interpretacja dawałaby pewność interpretacji przepisów szerszej grupie podmiotów, a jednocześnie eliminowałaby zbędne obciążenie Komisji, czyli indywidualne wnioski o interpretacje indywidualne w takich samych sprawach składane przez większą liczbę podmiotów. ponownie projekt tworzy na kanwie już istniejących przepisów o wydawaniu interpretacji indywidualnych. Wydaje się, że lepszym rozwiązaniem jest odesłanie do przepisów ustawy Prawo przedsiębiorców wprost, ze wskazaniem że w zakresie objętym ustawą o systemach sztucznej inteligencji ubiegać się mogą o interpretacje podmioty inne, niż przedsiębiorcy. Opłatę od wydania interpretacji można ustalić na poziomie wyższym z racji na specjalistyczny charakter spraw związanych ze sztuczną inteligencją, zwracamy jednak uwagę na to, że wpisanie w ustawę
114
określonej kwoty będzie oznaczało jej realną deprecjację z czasem. Rozważyć należałoby ustalenie tej kwoty w odniesieniu do jakiegoś wskaźnika zapewniającego waloryzację kwoty (np. pensja minimalna lub średnia w sektorze przedsiębiorstw).
Art. 14
ISSA Polska
1.Brakuje określenia maksymalnego terminu na wydanie interpretacji przepisów. Podmiot wnioskujący o interpretację pozostanie w niepewności co do terminu rozpatrzenia jego wniosku. 2.W projekcie ustawy nie określono, czy interpretacje wydane w trybie art 14 mają być wiążące dla innych organów. Należy dookreślić tę kwestię w projekcie ustawy.
Art. 14
ICC Poland
i) Konieczność określenia skutku prawnego interpretacji Przede wszystkim zwraca uwagę brak określenia w ustawie skutku prawnego interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji. Nie jest jasne, czy taka interpretacja ma charakter wiążący dla organów administracji publicznej (w tym Komisji) oraz czy wnioskodawca może opierać się na niej w swoich działaniach.
W celu zapewnienia pewności prawnej oraz praktycznego znaczenia zaproponowanego mechanizmu, pożądanym rozwiązaniem byłoby wprowadzenie przepisu wskazującego, że interpretacja indywidualna jest wiążąca dla organów w zakresie stanu faktycznego przedstawionego we wniosku, analogicznie do rozwiązań funkcjonujących na gruncie Ordynacji podatkowej3 w odniesieniu do interpretacji indywidualnych (por. art. 14k Ordynacji podatkowej).
Przepisy ustawy powinny również jasno określać zakres ochrony prawnej wynikającej z interpretacji, jak również możliwość jej zmiany, uchylenia lub wygaśnięcia, wraz ze wskazaniem skutków tych zdarzeń dla ochrony wnioskodawcy. ii) Zakres wniosku a możliwości organizacyjne Biura Komisji Zwraca uwagę, że szeroki zakres spraw, które mogą być przedmiotem wniosku o interpretację (art. 14 ust. 2 Projektu) i stopień skomplikowania tej materii, może rodzić pewne wątpliwości co do dostosowania tego mechanizmu do możliwości organizacyjnych Biura Komisji oraz przewidzianego w Projekcie budżetu (art. 87 Projektu). Istnieje ryzyko nadmiernego obciążenia Przewodniczącego Komisji, Komisji i Biura Komisji dużą liczbą wniosków, co może negatywnie wpłynąć na terminowość i jakość wydawanych interpretacji. W tym kontekście należałoby rozważyć albo zwiększenie docelowego maksymalnego limitu wydatków z budżetu państwa na ten cel albo ograniczenie zakresu spraw podlegających mechanizmowi interpretacji np. poprzez wskazanie katalogu takich zagadnień, które nie mogą być przedmiotem wniosku. Taki katalog powinien obejmować takie regulacje rozporządzenia 2024/1689 lub ustawy, których interpretowanie nie ma realnej wartości dodanej dla wnioskodawcy, są jednoznaczne lub zostały już uprzednio wyjaśnione (np. w ramach interpretacji generalnej). Wpływ na zmniejszenie ryzyka nadmiernego obciążenia mogłoby mieć także doprecyzowanie wymogów formalnych co do wniosku o interpretację indywidualną. Organ powinien mieć wówczas możliwość odmowy rozpatrzenia wniosku, który nie spełnia określonych wymogów.
115
iii) Brak terminu na wydanie interpretacji przez Przewodniczącego W obecnym brzmieniu art. 14 Projektu nie wskazano terminu, w jakim Przewodniczący Komisji powinien wydać interpretację indywidualną (termin taki przewidziano jedynie dla Komisji na rozpatrzenie sprzeciwu od takiej interpretacji). Dla zapewnienia efektywności procedury oraz pewności prawnej dla wnioskodawców proponujemy wprowadzenie konkretnego terminu na wydanie interpretacji, co byłoby zgodne z zasadami przyjętymi dla analogicznych instytucji w innych ustawach (np. w Ordynacji podatkowej). iv) Wysokość opłaty za wniosek o interpretację Opłata w wysokości 150 zł może być niewspółmierna do nakładu pracy oraz kosztów związanych z przygotowaniem interpretacji indywidualnej w tak specjalistycznej dziedzinie, jaką jest sztuczna inteligencja. Wydanie takiej interpretacji w wielu przypadkach będzie wymagało bowiem analizy technicznej oraz zaangażowania specjalistów z różnych dziedzin, co generuje znaczące koszty.
Obecnie proponowana opłata, przy pozostawieniu szerokiego zakresu wniosku o interpretację, może tym samym prowadzić do nadmiernego obciążenia budżetu i zdolności organizacyjnych Biura Komisji, ograniczając jego zdolność do realizacji zadań ustawowych na odpowiednim poziomie.
v) Procedura odwoławcza – sprzeciw do Komisji Proponowany w art. 14 ust. 6-7 mechanizm odwoławczy, polegający na złożeniu sprzeciwu od interpretacji wydanej przez Przewodniczącego do Komisji, może budzić wątpliwości co do jego skuteczności i niezależności. Ponieważ zarówno Przewodniczący, jak i Komisja będą wspierani w wykonywaniu tego zadania przez to samo Biuro, istnieje ryzyko braku obiektywizmu i niezależności w rozpatrywaniu sprzeciwu. Zaproponowana procedura efektywnie będzie zatem bliższa wnioskowi o ponowne rozpatrzenie sprawy kierowanemu do tego samego organu niż rzeczywistemu odwołaniu. W związku z tym należałoby rozważyć zastąpienie instytucji sprzeciwu instytucją wniosku o ponowne rozpatrzenie sprawy przez Przewodniczącego Komisji, co zwiększyłoby przejrzystość procedury i wzmocniło zaufanie podmiotów korzystających z instytucji interpretacji
Art. 14
Polski związek zarządzania wierzytelnościami
Art. 14 Projektu W Projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”) na wydanie interpretacji indywidualnej dotyczącej przepisów AI Act (art. 14 Projektu). Zważywszy na zapotrzebowanie sektora, istotnym rozwiązaniem, na wzór interpretacji indywidualnej (podatkowej), byłoby wskazanie maksymalnego terminu na wydanie interpretacji (np. 60 dni). Sugerujemy, by termin opatrzyć zastrzeżeniem właściwym dla instytucji interpretacji milczącej, uznającej potwierdzenie stanowiska wnioskodawcy w przypadku braku niewydania właściwej interpretacji w wyznaczonym terminie.
Równocześnie postulujemy o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się
116
przez wnioskującego do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.
W Projekcie nie wskazano także odpowiedniej procedury odwoławczej od interpretacji, jak i nie wskazano, poszukując rozwiązań per analogiam do sprawdzonych rozwiązań wynikających z ordynacji podatkowej, sugerowanej treści sprzeciwu od danej interpretacji. Sprzeciw w tej sprawie
- w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego.
Art. 14
Polskie Towarzystwo Informatyczne
1.opłata interpretacji - możliwość zwrotu pieniędzy dla składającego wniosek o interpretacje Określenie przypadków, w których można ubiegać się o zwrot pieniędzy za prośbę o interpretacji
2. Nie jest jasne, czy za odwołanie od interpretacji również musi być opłacone
3. Brak przepisu o skutkach zastosowania się do interpretacji - np. wyłączenie możliwości nałożenia sankcji w przypadku zastosowania się do interpretacji Propozycja Analogicznie jak w art. 11b ustawy o nadzorze nad rynkiem finansowym: “Interpretacja Komisji nie jest wiążąca dla podmiotu, o którym mowa w ust. 1, i Komisji, z zastrzeżeniem że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej”
art. 14 ust. 1
Logicise
art. 14 ust. 1
PIIT
Przewodniczący Komisji wydaje interpretację przepisów Wydaje się, że interpretację przepisów powinna wydawać Komisja, a nie Przewodniczący vide Art. 15.
Rekomendacja:
Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 ustawy interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. , Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję
- celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności.
117
art. 14 ust. 1
art. 14 ust. 1
KIGEiT
GRAI
Spójnik "lub" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie.
Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument.
Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy.
Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w Art. 55 ustawy.
Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję
- celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności.
Spójnik "lub" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie.
Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument.
Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy.
I. Konieczność doprecyzowania:
1) kogo rozumiemy jako określonego terminem „zainteresowanego”?
2) termin w jakim interpretacja ma zostać wydana i skutki niedochowania terminu.
3) skutek jaki wywołuje otrzymanie interpretacji przez zainteresowanego.
II. Projekt ustawy wprowadza obowiązek Przewodniczącego do wydawania na wniosek interpretacji indywidualnych, bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji.
Mając na uwadze tematykę i cel wystąpienia o taką interpretację zasadne jest, aby termin wydania interpretacji indywidualnej był nie dłuższy niż 3 miesiące.
III. Do rozważenia wprowadzenie zastrzeżenia, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.
118
IV. Brak jednoznacznego przesądzenia o braku mocy wiążącej interpretacji indywidualnej dla wnioskującego przedsiębiorcy, z zastrzeżeniem, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez Komisję interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.
Nadanie brzmienia: „1. Przewodniczący, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów ustawy, w terminie nie dłuższym niż 3 miesiące.”
„Niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.”.
art. 14 ust. 1
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
Dodanie ust. 8: „8. Zastosowanie się przez wnioskodawcę do wydanej przez Przewodniczącego Komisji interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.”.
O ile pozytywnie należy ocenić, że Komisja może wspierać uczestników rynku w interpretowania Rozporządzenia 2024/1689, o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny.
Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do sytuacji, że pomimo publikacji interpretacji w Biuletynie Informacji Publicznej, prace Komisji będą zakłócone ciągle wpływającymi wnioskami o interpretacje (bo każdy podmiot podlegający pod Rozporządzenie 2024/1689 będzie chciał być chroniony we własnym zakresie).
Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych (sporadyczność wydawania).
W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod Rozporządzenie 2024/1689, ale również organizacje zrzeszające takie podmioty (związki pracodawców, stowarzyszenia, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich Członków ułatwi zapewnienie zgodności z Rozporządzeniem 2024/1689, a zarazem pozwoli uniknąć „zasypania"
Komisji dużą ilością podobnych wniosków o interpretację. Postulujemy także o doprecyzowanie, że w treści art. 14 ust. 1 Projektu ustawy chodzi o interpretację indywidualną, jak również wskazujemy, że ustanowiony powinien zostać termin na wydane tej interpretacji indywidualnej przez Komisję. W ten sposób przedsiębiorcy wnioskujący o wydanie interpretacji mieliby zakreślone ramy czasowe otrzymania tej interpretacji, co może mieć istotne znaczenie z perspektywy prowadzonego biznesu.
119
Art.14.1.
PIIT
Należy zapewnić, aby instytucja interpretacji indywidualnych i generalnych była zgodna z przepisami prawa unijnego.
art. 14 ust. 1
SKwP
Warto podkreślić, że w ustawie nie wskazano, jaki efekt dla wnioskodawcy spowoduje otrzymana interpretacja. Np. indywidualne interpretacje podatkowe dają efekt ochronny wskazany w Ordynacji podatkowej. Wydaje się, że należy w ustawie wskazać skutek, jaki osiągnie wnioskodawca otrzymaną interpretacją.
Art. 14 ust. 1
Fundacja Poland
FinTech
Zgodnie z art. 14 Przewodniczący wydaje interpretacje indywidualne bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Wskazanie terminu wydania interpretacji jest kluczowe dla zapewnienia pewności prawnej i przewidywalności procedur administracyjnych. Ustalony termin umożliwia wnioskodawcy lepsze planowanie działań, minimalizując ryzyko związane z opóźnieniami w uzyskaniu interpretacji, co mogłoby wpłynąć na strategiczne decyzje biznesowe i operacyjne, zwłaszcza w obszarze innowacyjnych technologii, takich jak sztuczna inteligencja. Brak terminu wydania interpretacji może prowadzić do nadmiernej zwłoki ze strony organów, co negatywnie wpływa na efektywność i zaufanie do administracji publicznej. Dlatego wskazanie konkretnego terminu jest niezbędne, aby zagwarantować sprawność postępowania i ochronę interesów wnioskodawców. Rekomendujemy termin 3 miesięcy.
Tryb interpretacji indywidualnych nie w każdym przypadku może być nieefektywny - zgadzamy się, że w niektórych sytuacjach interpretacje indywidualne mogą stanowić wsparcie dla poszczególnych podmiotów. Przy czym, należy pamiętać, że interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie.
W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby
120
Art. 14 ust. 1a
Związek Polskich
Art. 14 ust 1 - 5
NRA
art.14 ust 2
GRAI
Banków
gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli efektywnie działać KRiBSI i uniknie potrzebie wydania interpretacji indywidualnych o podobnym stanie faktycznym. [Propozycja dodania ust. 1a] 1a. Zainteresowanym jest podmiot, o którym mowa w art. 2 ust.1 pkt a)- f) rozporządzenia 2024/1689 lub zamierzający wykonywać taką działalność.
Propozycja ma na celu doprecyzowanie pojęcia zainteresowanego, w celu uniknięcia wątpliwości.
Art. 14 ust. 1–5 Projektu nie określa wyraźnie skutków prawnych dla interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji, co rodzi istotne obawy o stabilność stosowania prawa i poszanowanie praw podmiotów, które na tych interpretacjach mogą się opierać. Zgodnie z treścią art. 14 ust. 1 Przewodniczący, na wniosek zainteresowanego, może wydać interpretację przepisów odnoszącą się do wskazanego stanu faktycznego lub zdarzenia przyszłego, zaś ust. 5 pozwala na odstąpienie od uzasadnienia, jeśli w pełni podziela stanowisko wnioskodawcy.
Zaniechanie skonstruowania w tym przypadku regulacji o charakterze wiążącym stawia pod znakiem zapytania ochronę prawną wnioskodawców, szczególnie gdy interpretacja miałaby być w przyszłości zmieniona. Taki stan prawny może prowadzić do sytuacji, w której podmioty korzystające z interpretacji Komisji nie mają dostatecznej pewności prawnej ani ochrony przed przyszłymi sankcjami, nawet jeśli działały zgodnie z wydaną interpretacją. Brak jednoznaczności co do mocy wiążącej tych aktów może osłabić ochronę tych, którzy w zaufaniu do interpretacji dokonali określonych działań lub zaniechań.
W dokumencie nie porusza się zagadnień związanych z dopasowaniem sztucznej inteligencji (AI Aligment). Koncepcja właściwego dopasowania SI jest bardzo istotna i powinna być jednym z głównych obszarów zainteresowania organów kontrolnych.
Systemy AI powinny działać zgodnie z intencjami i celami ludzi, a ponieważ technologie AI stają się coraz bardziej zaawansowane, ryzyko niepożądanych skutków ich działania wzrasta.
Można wskazać 3 główne obszary ryzyka:
1. Bezpieczeństwo: możliwość podejmowania samodzielnych decyzji, często w kontekstach, które są trudne do przewidzenia przez ludzi.
2. Zgodność z wartościami ludzkimi: uwzględnianie etyki i norm społecznych.
3. Kontrola i przewidywalność: system nie będzie "nadużywał" autonomii ani podejmował działań, które mogłyby podważać zaufanie ludzi.
W dłuższej perspektywie dopasowanie AI będzie kluczowe, jeśli systemy zaczną zbliżać się do poziomu zbliżonego lub wyższego od ludzkiej inteligencji. W takim przypadku, bez odpowiednich zabezpieczeń, istnieje ryzyko, że superinteligentna AI będzie miała cele sprzeczne z naszymi interesami.
Dodanie w ust. 2 podpunktu 3:
121
„2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie:
1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji;
2) określenia ryzyka systemu sztucznej inteligencji;
3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. art.14 ust 2
KIGEiT
art. 14 ust. 2 i art. 15 w zw. z art. 18
GRAI
Propozycja zapisu: dodanie pkt 3) stosowania systemów zabezpieczeń Rozszerzenie o możliwość złożenia wniosku o interpretację stosowanych systemów zabezpieczeń z względu na zachowanie jak najwyższych ram bezpieczeństwa i spełnienie kryteriów Rozporządzenia oraz ustawy w celu prawidłowego przebiegu kontroli systemów sztucznej inteligencji.
Poważne wątpliwości budzi uprawnienie Komisji / Przewodniczącego Komisji do wydawania interpretacji, szczególnie w indywidualnej sprawie - interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy. Należy wskazać, że taki przepis narusza kompetencje TSUE do wykładni przepisów aktów prawa unijnego – co oznacza, że w zaproponowanej postaci będzie przesłanką wszczęcia wobec Polski postępowania o naruszenie przepisów prawa unijnego i obowiązków państwa członkowskiego.
Dodatkowo, takie uprawienie krajowego organu powoduje ryzyko, że w Polsce powstanie odmienne do europejskiego podejście dla niektórych kwestii, co może mieć negatywny wpływ na przedsiębiorców działających na terenie całej UE i którzy dla niezakłóconej działalności potrzebują jednolitej linii interpretacyjnej w całej UE.
Usunięcie zgłoszonej niezgodności.
Art.14 ust 2
Tauron Dystrybucja
Art. 14 ust. 2
Polskie Towarzystwo Informatyczne
Dodanie podpunktu 3:
„2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie:
1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji;
2) określenia ryzyka systemu sztucznej inteligencji;
3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”.
Wniosek o interpretację (…) 2) określenia ryzyka systemu sztucznej inteligencji Propozycja „2) określenia ryzyka systemu sztucznej inteligencji, zgodnie z zapisami Rozporządzenia 2024/1689”
Wniosek o interpretację powinien być stosowany w ramach sformalizowanej procedury. Niejasne jest np. w jaki sposób odbywałoby się określanie ryzyka systemu sztucznej inteligencji? W ramach tzw. „Standardisation Request” ze strony Komisji Europejskiej (C(2023)3215, 2023), powstaje
122
Art. 14.2.2)
PIIT
Art. 14.4.
PIIT
Art. 14 ust. 5a i 5c
Związek Polskich
zestaw standardów, które będą umożliwiały ocenę ryzyka systemów sztucznej inteligencji.
Obowiązywać będzie zasada „presumption of confomity”. Jak np.. ma się do tego kwestia wniosku o interpretację? Tego typu rzeczy powinny zostać doprecyzowane w ustawie.
Prawdopodobnie w tym przepisie mogło chodzić o poziom ryzyka (art. 6 ASI). Brzmi jednak jak określenie rodzajów ryzyk.
Czy to wyklucza uiszczenie opłaty online jednocześnie ze złożeniem elektronicznego formularza?
Banków
5a. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 30 dni od dnia otrzymania wniosku. 5b. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. 5c. Interpretacja nie ma charakteru wiążącego dla przedsiębiorcy.
Konieczność wskazania terminu wydania interpretacji oraz skutków niewydania interpretacji i charakteru interpretacji.
W razie nieuwzględnienia, przyjmujemy zasadę z KPA : Organy administracji publicznej obowiązane są załatwiać sprawy bez zbędnej zwłoki.
Załatwienie sprawy wymagającej postępowania wyjaśniającego powinno nastąpić nie później niż w ciągu miesiąca, a sprawy szczególnie skomplikowanej - nie później niż w ciągu dwóch miesięcy od dnia wszczęcia postępowania.
Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców.
Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza
123
akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli
Art. 14 ust 6
PIIT
Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego.
Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję.
Art. 14 ust 6
KIGEiT
Art. 14 ust 6
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. , Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie.
Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję.
Postulujemy o doprecyzowanie formy sprzeciwu. w
Art. 14 ust 6
SKwP
Od interpretacji przysługuje sprzeciw do komisji. Interpretacje wydaje Przewodniczący komisji, a komisja rozpatruje sprzeciw. Pytanie, czy ustawodawca zamierzał osiągnąć taki efekt, ponieważ zapis ten jest sprzeczny z art. 11 ust. 1 pkt 13, z którego wynika, że to do zadań komisji należy wydawanie interpretacji indywidualnych. Natomiast w przepisie tym nie ma nic o rozpatrywaniu sprzeciwów od interpretacji.
Zakładając jednak, że interpretacje wydaje Przewodniczący, a sprzeciwy rozpatruje Komisja, to czy nie zostaje naruszona zasada dwuinstancyjność postępowania administracyjnego.
Przewodniczący bowiem, kieruje pracami komisji.
W ustawie nie wskazano drogi kontroli sądowej interpretacji, co może być poczytane, jako naruszenie konstytucyjnego prawa do sądu.
art. 14 ust. 6 - 7
NRA
Art. 14 ust. 6–7 Projektu nie formułuje jasno ani formy prawnej aktu, w którym Komisja rozstrzyga sprzeciw wobec wydanej interpretacji indywidualnej, ani ścieżki prawnej dostępnej dla wnioskodawcy w przypadku chęci odwołania się od takiego rozstrzygnięcia. Brak tak precyzyjnych regulacji budzi poważne wątpliwości co do ochrony praw stron postępowania, w ramach którego będzie można zakwestionować decyzję Komisji, ponieważ brak jednoznacznych ustaleń co do formy aktu i przysługującej ścieżki odwoławczej naraża podmioty wnioskujące na ryzyko pozbawienia ich skutecznych instrumentów obrony. Zagwarantowanie jasności i pewności prawa, zwłaszcza w obszarze decyzji interpretacyjnych, jest kluczowe dla ochrony praw jednostek oraz przejrzystości procesu. Gdyby rozstrzygnięcie przybrało formę decyzji administracyjnej, to otwarta
124
byłaby możliwość wniesienia skargi do sądu administracyjnego. Alternatywnie, gdyby rozstrzygnięcie przybrało formę postanowienia, zasadnym byłoby rozważenie możliwości odwołania się do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej także „SOKiK”), wzorem postępowania przewidzianego w art. 57 ust. 1 Projektu. W związku z tym należałoby wyraźnie określić, iż rozstrzygnięcie Komisji winno przyjmować formę decyzji albo postanowienia oraz doprecyzować dopuszczalność skargi do sądu administracyjnego albo odwołania do SOKiK. art. 14 ust. 6 - 7
PIIT
Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia.
Ustawa nie określa:
- formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji;
- formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała?
- formy doręczenia interpretacji i sprzeciwu.
A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii.
art. 14 ust. 6 - 7
KIGEiT
art. 14 ust. 6 - 7
GRAI
art. 14 ust. 7
SKwP
Art. 14 ust. 7
Związek Polsich
Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia.
Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to też ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii.
Projektowana ustawa nie reguluje procedury odwoławczej (rozpatrzenia sprzeciwu) oraz nie wskazuje co ma zawierać sprzeciw od interpretacji indywidualnej.
Propozycja uregulowania sprzeciwu na wzór odwołania w przepisach KPA.
Powinno się tu wskazać możliwość odwołania do właściwego sądu.
Banków
7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio.
125
Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. kompetencja Komisji do dokonywania interpretacji generalnych jest zbyt daleko idąca; w aktualnym stanie prawnym wydaje się wystarczająca przyznana Komisji kompetencja w zakresie interpretacji w sprawach indywidualnych (art. 14 ustawy)
i) Konieczność uregulowania procedury wydawania interpretacji generalnych Artykuł 15 Projektu jest zbyt ogólny i nie precyzuje w ogóle procedury wydawania interpretacji generalnych. Brakuje informacji na temat trybu postępowania, terminów, podmiotów uprawnionych do złożenia wniosku, zakresu wniosku, czy też skutków wydania takiej interpretacji.
W celu zapewnienia transparentności i efektywności procesu, konieczne jest zatem szczegółowe uregulowanie procedury lub odwołanie się do odpowiedniego stosowania przepisów dotyczących interpretacji indywidualnych (po ich odpowiednim skorygowaniu z uwzględnieniem ww. uwag). ii) Relacja między art. 13 a art. 15 Projektu Nie jest jasne, jaka jest relacja między interpretacjami generalnymi (art. 15 Projektu) a „wyjaśnieniami, opiniami i interpretacjami mającymi istotne znaczenie dla stosowania przepisów”, wydawanymi przez Komisję (art. 13 Projektu) oraz w jakim zakresie te instytucje się od siebie różnią. Jeśli interpretacje generalne mają służyć ujednoliceniu praktyki i ogólnemu wyjaśnieniu przepisów, warto tę funkcję wyraźnie zaznaczyć. Należy zarazem rozważyć łączne uregulowanie interpretacji generalnych oraz wyjaśnień, opinii i interpretacji, z jasnym określeniem różnic w procedurach oraz skutkach prawnych poszczególnych form.
Art. 15
PIRP
Art. 15
ICC Poland
Art. 15
Instrat – Fundacja Centrum Cyfrowe
Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy.
Art. 15
ITCORNER
Projekt nie reguluje, jakie podmioty i w jakim trybie mogłyby wnioskować o interpretacje generalną
- sugerujemy wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną.
art. 15
GRAI
W tym kontekście uważamy, że ogólnokrajowe stowarzyszenia zrzeszające przedsiębiorców z branży technologicznej powinny zostać uprawnione do wnioskowania o interpretację generalną z uwagi na ich przekrojową wiedzę, doświadczenie oraz wpływ na branżę technologiczną Projekt ustawy nie reguluje w jakim trybie i jakie podmioty mogą występować o interpretację generalną.
Wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną.
126
art. 15
Polski związek zarządzania wierzytelnościami
Art. 15 Projektu W Projekcie nie wskazano docelowej grupy podmiotów, jak i trybu wnioskowania o interpretację generalną (art. 15 Projektu). W celu zachowania funkcjonalności KRiBSI postulujemy o wskazanie katalogu podmiotów i trybu składania wniosków w celu uzyskania rzeczonej interpretacji.
Tym samym wskazujemy, że rola ogólnokrajowych stowarzyszeń zrzeszających przedsiębiorców z branży technologicznej powinna być kluczowa, a same stowarzyszenia powinny zostać uwzględnione w wyżej wspomnianym katalogu do wnioskowania o interpretację generalną z uwagi na ich kompleksowy charakter, szerokie spojrzenie na interesy branży, doświadczenie oraz wpływ na sam sektor technologiczny.
art. 15
NRA
Art. 15
Związek Polskich
Banków
Zgodnie z art. 13 ust. 1 Projektu Komisja jest uprawniona do sporządzania wyjaśnień, opinii oraz interpretacji w sprawach objętych zakresem jej działania, w celu ułatwienia stosowania przepisów w tym obszarze. Z kolei art. 15 Projektu pozwala Komisji dokonywać interpretacji generalnych, zarówno z własnej inicjatywy, jak i na wniosek, w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. De facto oba wskazane przepisy zdają się dotyczyć wydawania podobnych aktów interpretacyjnych, które mimo odmiennych nazw w praktyce wydają się być zbieżne co do ich charakteru i przeznaczenia, a brak czytelnego rozróżnienia wprowadza ryzyko niepewności prawnej w stosowaniu obu instytucji. Wydaje się zatem niezbędne, aby w Projekcie wyraźnie rozgraniczono zakresem interpretacji wynikających z art. 13 ust. 1 oraz z art. 15 albo wprowadzono w inny sposób jednoznaczną ich dyferencję. Taka precyzja zapewniłaby większą klarowność co do zakresu kompetencji Komisji i wyeliminowała niejasności, jakie mogą wyniknąć z nakładania się tych regulacji. Konieczne jest również określenie, jak sygnalizowano powyżej, skutków prawnych interpretacji zawartych w obu artykułach, co dodatkowo zabezpieczyłoby podmioty stosujące się do wytycznych Komisji.
Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z zastrzeżeniem, że działania tych osób w zakresie w jakim zastosowały się do interpretacji Komisji nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnych.
Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie
127
swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy.
Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej.
Art. 15
Osoba fizyczna jk
Artykuł powiela zapisy art. 13 ust. 1 oraz art. 14
Art. 16
Osoba fizyczna jk
dla spójności zapisów zamiast "zamieszczane są" powinno być "publikowane są"
art. 16
PIIT
Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.
Co oznacza pojęcie "dane identyfikujące wnioskodawcę" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić.
art. 16
art. 16
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
GRAI
w
Postulujemy o uzupełnienie treści przepisu art. 16 Projektu ustawy poprzez wskazanie, że usunięciu podlegają również informacje stanowiące tajemnicę przedsiębiorstwa oraz inne informacje podlegające ochronie na podstawie odrębnych przepisów.
W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP.
Doprecyzowanie przepisu:
128
Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji
Art. 16
KIGEiT
Art. 16
ICC Poland
Art. 16
TAURON
Dystrybucja
Propozycja zapisu: Art. 16. Interpretacje, o których mowa w Art. 14 i Art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.
Co oznacza pojęcie "dane identyfikujące wnioskodawcę" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić.
Artykuł 16 przewiduje publikację interpretacji po usunięciu jedynie danych identyfikujących wnioskodawcę. Takie podejście może być niewystarczające w kontekście ochrony informacji poufnych i tajemnicy przedsiębiorstwa. W treści interpretacji mogą znajdować się szczegółowe dane techniczne, know-how lub inne wrażliwe informacje, których ujawnienie może narazić wnioskodawcę na straty, zwłaszcza, że wyczerpujące przedstawienie stanu faktycznego we wniosku o interpretację (art. 14 ust. 3 Projektu) ze względu na jego przedmiot będzie z reguły wymagało szczegółowego opisu technicznego systemu maszynowego. Rozwiązaniem w tym zakresie może być wprowadzenie mechanizmu pozwalającego wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku. Organ wydający interpretację powinien być zobowiązany do uwzględnienia tych zastrzeżeń i zapewnienia, że publikowana wersja dokumentu nie zawiera chronionych informacji.
Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści interpretacji, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich.
W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot
129
będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP.
Propozycja:
Doprecyzowanie zapisu:
Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji
Art. 16
Instrat – Fundacja Centrum Cyfrowe
Art. 17 ust. 1
CHAMBER
art. 17 ust. 1
GRAI
Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących podmiot, którego sprawa dotyczy lub wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. - uwaga: w obecnym brzmieniu wydaje się, jakby dokumenty w sprawach, które nie zostały wszczęte na wniosek nie miały być anonimizowane. - uwaga: w obecnym brzmieniu przepisu wydaje się, jakby w przypadku interpretacji z urzędu dane nie musiały być anonimizowane. mając na uwadze prawdopodobny termin przyjęcia ustawy i czas niezbędny do zorganizowania prac Komisji i Biura, wydaje się że przedstawienie sprawozdania powinno nastąpić po raz pierwszy dopiero w marcu 2026 r. Sugerujemy przyjęcie stosownego przepisu przejściowego.
Zmiana zakresu raportowania, zbytecznym wydaje się raportowanie do obu stron Skreśla się słowa: „i ministrowi właściwemu do spraw informatyzacji”.
Art.17 ust. 1
ISSA Polska
Sprawozdanie powinno zawierać także informacje o wydanych indywidualnych interpretacji
Art. 18
ITCORNER
W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie jest w wystarczającym stopniu precyzyjny. Aktualnie art. 18 ust. 2 Projektu zakłada, że Przewodniczący Komisji powinien mieć znaczną wiedzę i dorobek “w zakresie sztucznej inteligencji lub prawie”.
Uważamy, że osoba piastująca krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne, wyróżniała się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii - w tym kontekście uważamy zastosowane w Projekcie pojęcie “prawo” za zbyt pojemne. Przewodniczący Komisji, aby przekrojowo rozumieć otoczenie prawne dot. sztucznej inteligencji oraz ryzyka z nią związane, powinien cechować się wiedzą oraz wysoką świadomością prawną dotyczącą co najmniej własności intelektualnej (prawa autorskie, ochrona programów komputerowych, bazy danych), prawa IT, danych osobowych oraz cyberbezpieczeństwa.
Pod rozwagę także zostawiamy, czy pojęcie sztucznej inteligencji nie powinno w tym kontekście także zostać doprecyzowane, uwzględniając przy tym uczenie maszynowe.
130
art. 18 ust.1
SKwp
Jak już wcześniej wskazywaliśmy, konkurs tak, ale akceptacja Sejmu i powołanie przez Prezesa RM.
art. 18 ust.1
GRAI
Kwestia upolitycznienia wyboru Przewodniczącego Komisji.
W projekcie wyboru kandydata na Przewodniczącego dokonywać ma komisja kwalifikacyjna (uwagi do samej komisji poniżej), ale powołanie nadal należy do Prezesa Rady Ministrów. Są obawy, że ze względów politycznych to powołanie może albo nie nastąpić, albo być odwlekane w czasie, albo zostać dokonane z pominięciem przepisów. Brakuje mechanizmu odblokowującego występujące przeszkody politycznie.
Propozycja przepisu, zawierającego alternatywną ścieżkę, jeżeli powołanie nie nastąpi w przeciągu 14 dni od wyłonienia kandydata.
Art. 18 ust. 1 pkt 4
Art. 18 ust. 2
Polskie Towarzystwo Infopmatyczne
Polski związek zarządzania wierzytelnościami
Wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Propozycja Kryterium wyboru Przewodniczącego Komisji na podstawie znaczącego dorobku w zakresie prawa jest niezgodne z tematyką działania Komisji, gdzie wymagane są kompetencje związane z AI.
Wiedza i doświadczenie z zakresu prawa nie gwarantuje wymaganej w Komisji wiedzy dotyczącej AI
Art. 18 ust. 2 Projektu W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie został określony wystarczająco precyzyjnie. Bieżące brzmienie art. 18 ust. 2 Projektu wskazuje, że Przewodniczący Komisji powinien wyróżniać się wiedzą i posiadać znaczący dorobek „w zakresie sztucznej inteligencji lub prawa”. Stoimy na stanowisku, że osoba piastująca tak krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne i interpretacyjne, powinna wyróżniać się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii.
Ograniczenie ujętych w Projekcie wymagań do „prawa” stałoby się zbyt pojemne, a w konsekwencji nie wymagałoby od potencjalnego kandydata przekrojowego rozeznania w otoczeniu prawnym dotyczącym sztucznej inteligencji czy powiązanych z nim ryzyk. Pośród zagadnień, które zawężają to pojęcie, należałoby wskazać m.in. kwestie związane z własnością intelektualną (w tym prawa autorskie, ochronę programów komputerowych oraz baz danych), szeroko rozumiane prawo IT, ochronę danych osobowych oraz cyberbezpieczeństwo.
131
W kontekście tego samego artykułu nasze wątpliwości budzi także samo pojęcie „sztucznej inteligencji”, które zwłaszcza w kontekście specjalistycznej ustawy w tymże zakresie, mogłoby być doprecyzowane, jako że sam AI Act nie definiuje tego pojęcia w sposób przejrzysty, posługując się pojęciem „systemu sztucznej inteligencji”. Obecne rozwiązanie wydaje się także nie uwzględniać problematyki uczenia maszynowego.
Art. 18 ust. 2
CHAMBER
mają na uwadze międzynarodowy wymiar rozwoju SI i konieczność uczestniczenia przez Przewodniczącego (jak i jego Zastępców) KRiBSI w pracach rozmaitych gremiów na poziomie UE, niezbędny wydaje się wymóg biegłej znajomości języka angielskiego.
Art. 18 ust. 2
Art. 18 ust. 2 pkt 4
Fundacja FinTech Poland
CHAMBER
Art. 18 ust. 2 pkt 4
Logicise
Sugeruje się podnieść wymagania dla przewodniczącego. Określenie - wyróżnia się wiedzą jest bardzo ocenne. zgodnie z brzmieniem tego przepisu Przewodniczącym Komisji może zostać osoba, która posiada wiedzę i doświadczenie w zakresie prawa, zupełnie bez doświadczenia i wiedzy nt. SI czy choćby technologii informacyjno-komunikacyjnych w ogóle. W naszej ocenie jest to zbyt daleko idące rozszerzenie grona potencjalnych kandydatów, a Przewodniczący Komisji bezwzględnie powinien odznaczać się wiedzą fachową w obszarze nowoczesnych technologii (lub prawa nowych technologii).
Kwalifikacje Przewodniczącego Opis kwalifikacji Przewodniczącego jest nieprecyzyjny, trudny do porównania i w naszej opinii zdecydowanie niewystarczający aby zapewnić odpowiednią jakość. Np. pojęcie “znaczącego dorobku” nie gwarantuje posiadania odpowiednich kwalifikacji do pełnienia tej funkcji przez kandydata. Uważamy, iż, “znaczący dorobek” naukowy powinien być oceniany przez pryzmat szeroko stosowanych kryteriów w świecie naukowym, m.in.: liczby publikacji naukowych (z uwzględnieniem impact factor czasopism i konferencji), liczby cytowań (wskaźnik Hirscha), liczby patentów, liczby i jakości grantów naukowych, itd. Podobnie w pozostałych przypadkach.
Art. 18 ust. 2 pkt 4
KIG
Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Przewodniczącego powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami.
Art. 18 ust. 2 pkt 4
KIGEiT
Propozycja zapisu: 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji
132
oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; , Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna.
Pojęcie znaczącego dorobku jako bardzo niedookreślone, nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji.
Art. 18 ust. 2 pkt 4
PIIT
4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji.
Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna.
Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji.
Art. 18 ust. 2 pkt 4
Repropol
Art. 18 ust. 2 pkt 4 UoSSI wskazuje na obowiązek posiadania odpowiednich kompetencji osób stojących na czele Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI): „wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych”. Mając na uwadze brzmienie art. 70 ust. 3 AIA, wydaje się właściwe, aby przewodniczący komisji (również jego zastępcy – zob. art. 21 ust. 2 UoSSI) legitymowali się albo wiedzą techniczną, albo prawną w zakresie AI. Aby kryterium wiedzy prawnej zostało należycie wyeksponowane, wskazany przepis powinien być uzupełniony poprzez możliwość wykazywania się przez kandydatów doświadczeniem uzyskanym w trakcie wykonywania usług, realizowania zadań związanych z wykonywaniem zawodu prawnika (a nie tylko „doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji,
133
cyberbezpieczeństwa lub technologii informacyjnych”). Obecne brzmienie przepisu w swojej drugiej części jest zatem sformułowaniem zbyt wąskim.
Projekt ustanawia gremium doradcze, Radę działającą przy KRIBSI. Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 28 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest nie do przecenienia. Mając to na uwadze, wnosimy o odpowiednie uzupełnienie art. 28 ust. 3 UoSSI.
Na marginesie, uważamy, iż uczestnictwo w Radzie, jak powinno wiązać się z (choćby niewielkim) wynagrodzeniem. Ze dziwieniem odnotowaliśmy uzasadnienie nieodpłatnego uczestnictwa w pracach Rady, jakim jest jedynie chęć niegenerowania „niepotrzebnych kosztów po stronie budżetu państwa”. Uważamy, że merytoryczny wkład w funkcjonowanie wspomnianego gremium uzasadnia zapłatę wynagrodzenia także innym osobom, niż jedynie Przewodniczącemu Komisji i jego zastępcom – patrz s. 10 i 12 uzasadnienia). Tym bardziej, że przynależność do tego grona wymaga posiadania dość unikalnych kompetencji merytorycznych. Zakwalifikowanie takiego wynagrodzenia do kategorii „niepotrzebnego kosztu” wydaje się niefortunnym skrótem myślowym.
Poczynione w ten sposób „oszczędności” byłyby raczej iluzoryczne z uwagi na ograniczony liczbowo skład Rady. art. 18 ust. 2 pkt 4
GRAI
Zwiększenie wymagań dla Przewodniczącego Komisji Mając na uwadze zakres działania Komisji, za niewłaściwe należy uznać wymagania sfromułowane w odniesieniu do potencjalnego kandydata na stanowisko Przewodniczącego Komisji poprzez wskazanie, iż powinna być to osoba "wyróżniająca się wiedzą i posiadająca znaczący dorobek w zakresie sztucznej inteligencji lub prawa". Pozostawiając zapis "lub prawa" z założenia dopuszcza się, że na czele Komisji może stanąć osoba posiadająca znaczący dorobek w zakresie prawa, ale niekoniecznie w zakresie AI. Podobnie zapis dot. doświadczenia zawodowego wskazujący, iż powinno być ono uzyskane "w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych" nie zapewnia pozyskania osoby, która będzie wykazywała się doświadczeniem praktycznym w zakresie tego konkretnego obszaru. Na czele Komisji powinna natomiast stanąć osoba posiadająca wiedzę i doświadczenie zawodowe przede wszystkim w zakresie AI.
Następujące propozycje:
I. Po słowie ,,prawa” dodaje się „nowoczesnych technologii”.
II. "wyróżnia się wiedzą i doświadczeniem zawodowym w zakresie sztucznej inteligencji".
134
art. 18 ust. 2 pkt. 4
GRAI
I. Wymogi wskazane w pkt 4 są zawężające w zakresie doświadczenia kandydata i eliminuje osoby, które realizowały swoje obowiązki w charakterze innym niż w ramach stosunku pracy.
II. Sprecyzowanie wymagań dla Przewodniczącego Komisji (obecny zakres jest nieprecyzyjny) tak aby obejmował łączne kompetencje w dziedzinie informatyki i prawa. Nb. technologie informacyjne obejmują zarówno cyfryzację jak i cyberbezpieczeństwo (być może zasadnym byłoby zastosowanie określenia Informatyka Techniczna i Telekomunikacja). Dorobek w zakresie SI jest także wymaganiem kłopotliwym (szczególnie jeśli miałby być to dorobek “znaczący”) dodanie znacznie bardziej precyzyjnego określenia np. uczenie maszynowe.
Nadanie następującego brzmienia pkt 4: „4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, współpracy z lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, lub świadczenia usług na ich rzecz”
Art. 18 ust. 2 pkt 4
Związek Polskich
Banków
4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, prawa nowych technologii oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Wobec Przewodniczącego Komisji powinny być stawiane bardziej konkretne wymagania w kontekście wiedzy o AI: nie może to być "dorobek w zakresie sztucznej inteligencji lub prawa".
Prawo ma tutaj mniejszą istotność niż wiedza i rozumienie kwestii dot. AI.
art. 18 ust. 4
GRAI
Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.).
Uwaga redakcyjno-legislacyjna Ust. 4 powinien brzmieć: „4. Po upływie kadencji Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.”
Art. 18 ust. 5
Polskie Towarzystwo Informatyczne
Trzyletni staż na stanowiskach kierowniczych w takiej Komisji to stanowczo za mało Propozycja
135
„posiada co najmniej siedmioletni staż pracy na stanowiskach kierowniczych”
Art. 19 ust. 1
Fundacja Poland
FinTech
Art. 19 ust. 1 pkt 1
ISSA Polska
art. 19 ust. 3 i 4
GRAI
Trzyletni staż na stanowiskach kierowniczych jest zbyt krótki Jeżeli ustawodawca decyduje się wprowadzić katalog zamknięty to należałoby go poszerzyć tytułem przykładu o: ubezwłasnowolnienie całkowite lub częściowe. Pełnienie funkcji przewodniczącego może wiązać się z zarządzaniem środkami publicznymi. Należałoby więc uwzględnić również orzeczenia Głównej Komisji Orzekającej w Sprawach o Naruszenie Dyscypliny Finansów Publicznych. Pytanie też o zastosowanie tymczasowego aresztowania - pkt 6 dotyczy jedynie przyczyn zdrowotnych trwających dłużej niż 3 miesiące.
Proponuję zmianę treści punktu na: „prawomocnego skazania za przestępstwo umyślne ścigane z oskarżenia publicznego lub umyślne przestępstwo skarbowe”.
Ustawa przyznaje uprawnienia Prezesowi Rady Ministrów do wskazania, który z Zastępców zastępuje Przewodniczącego. Jest to przykład zależności Komisji od czynnika politycznego i budzi wątpliwości co do niezależności Przewodniczącego i jego Zastępców.
Przyjęcie rozwiązania, że w obu przypadkach wskazanych w ust. 3 i 4 art. 19 Przewodniczącego zastępuje Zasępca z najdłuższym stażem na stanowisku Zastępcy, a w przypadku, gdyby obaj mieli taki sam staż to kolejność powołania.
Art. 20
CHAMBER
zawieranie tak szczegółowych i istotnych jedynie incydentalnie dla nielicznych zainteresowanych przepisów w akcie prawa powszechnie obowiązującego nie wydaje się konieczne. Tryb postępowania może być określony aktem niższego rzędu, przykładowo rozporządzeniem Prezesa Rady Ministrów, a ustawa powinna zawierać jedynie delegację do jego wydania. Co więcej proponowana procedura wydaje się też nadmiernie skomplikowana.
Art. 20
PIIT
Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów.
Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne?
Art. 20
KIGEiT
Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie
136
Art. 20 ust. 1
Osoba fizyczna jk
art. 20 ust. 2 pkt 3
SKwP
art. 20 ust.3
GRAI
Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. , Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. Art. 83 i
84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - nasuwa się pytanie czy jest to wykonalne w tak krótkim czasie. dla spójności zapisów powinno być: ... przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej Powstaje pytanie, jakie to będą wymagania prawne i gdzie określone? Jak mówimy o wymaganiach prawnych, to warto byłoby podać akt prawny.
Termin na składanie dokumentów jest dość krótki. Pomimo, że to jedynie termin minimalny, to jednak jest ryzyko, że będzie wykorzystywany w takim wymiarze. Powinno to być min 30 dni, albo chociaż min. 3 pełne tygodnie, szczególnie, że znalezienie osoby spełniającej wymagania wskazane w ustawie nie będzie łatwe, przynajmniej w pierwszych latach obowiązywania AIA.
Termin nie powinien być krótszy niż 30 dni od dnia opublikowania ogłoszenia w BIP
Art. 20 ust. 4
KIG
Art. 20 ust. 4
Instrat – Fundacja Centrum Cyfrowe
Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata.
Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego.
Art. 20. 4 Nabór na stanowisko Przewodniczącego Komisji przeprowadza komisja kwalifikacyjna,, powołana przez Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów, liczący co najmniej 3 osoby, których wiedza i doświadczenie dają rękojmię wyłonienia najlepszych kandydatów. W toku naboru ocenia się doświadczenie zawodowe kandydata, wiedzę niezbędną do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. - uwaga: drobne błędy redakcyjne.
137
art. 20 ust. 4
GRAI
Uwaga redakcyjna Słowo ,,liczący” zastępuję sie słowem ,,licząca”.
art. 20 ust. 4 i 5
GRAI
Nie jest zrozumiałe z jakiego powodu komisja kwalifikacyjna, która ma mieć wiedzę, doświadczenie i ma dawać rękojmię wyłonienia najlepszych kandydatów, miałaby korzystać z podmiotu trzeciego (także posiadającego wiedzę, kwalifikację i doświadczenie) do dokonania oceny kandydata. To by mogło oznaczać, że zakłada się, że spełnienie przez członków komisji wymogów wskazanych w punkcie 4 nie będzie zawsze możliwe. Idąc dalej, oznaczać to może, że członkowie komisji nie dają rękojmi do prawidłowego ocenienia kandydata i nie powinni zasiadać w komisji. Ponadto, jeżeli już w jakikolwiek sposób ten podmiot trzeci miałby się pojawić w procesie wyłonienia kandydata to powinna to być jednak bezstronna osoba i wyłoniona apolitycznie. Brak też wskazania w jaki sposób zagwarantowana miałaby być apolityczność członków komisji oceny kandydata. -Usunięcie ustępu 5; -doprecyzowanie, z jakiego kręgu osób powoływani są członkowie komisji kwalifikacyjnej; -konieczność zapewnienia apolityczności procesu wyłonienia Przewodniczącego.
Art 20 ust. 7
KIG
Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata.
Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego.
Art. 20 ust. 8
Fundacja Panoptykon
Przejrzystość wyboru przewodniczącego Komisji Nie mamy kierunkowych zastrzeżeń do samego trybu wyboru przewodniczącego Komisji.
Z uznaniem odnotowujemy także intencję zapewnienia przejrzystości i rozliczalności prac komisji kwalifikacyjnej. Zdecydowanie popieramy w szczególności propozycję wprowadzoną w art. 20 ust. 8 projektu ustawy, zgodnie z którą komisja kwalifikacyjna musiałaby opublikować protokół zawierający nazwiska najlepszych kandydatów wraz z uzasadnieniem ich wyboru.
138
Jednakże, biorąc pod uwagę kluczową rolę przewodniczącego Komisji w kierowaniu jej pracami i reprezentowaniu jej na zewnątrz oraz fakt, że Komisja i jej przewodniczący to nowo tworzone organy wymagające unikalnych kompetencji, uważamy za istotne z perspektywy interesu publicznego, aby społeczeństwo obywatelskie, opinia publiczna i parlamentarzyści mieli szansę na zapoznanie się z kandydatami i ocenę ich kompetencji przed dokonaniem wyboru przez Prezesa Rady Ministrów.
Z tych względów sugerujemy dwa dodatkowe rozwiązania mające na celu zwiększenie przejrzystości procesu naboru: • dopuszczenie przedstawicieli organizacji społecznych zajmujących się m. in. ochroną praw człowieka do udziału w charakterze obserwatorów przy komisji kwalifikacyjnej; • wprowadzenie obowiązku organizacji wysłuchania publicznego kandydatów wyłonionych przez komisję kwalifikacyjną zgodnie z art. 20 ust. 7 projektu ustawy, przed ostateczną decyzją Prezesa Rady Ministrów.
Prawo do udziału w charakterze obserwatora przy komisji kwalifikacyjnej pozwoli organizacjom społecznym na efektywne monitorowanie prawidłowości i rzetelności procesu wyboru przewodniczącego Komisji. Warto podkreślić, że takie rozwiązanie nie byłoby precedensowe z punktu widzenia praktyki wyłaniania osób piastujących ważne z perspektywy interesu publicznego stanowiska. Przykładowo, w 2024 r. przedstawiciele organizacji pozarządowych uczestniczyli jako obserwatorzy w rozmowach kwalifikacyjnych z kandydatami i kandydatkami na urząd sędziego Europejskiego Trybunału Praw Człowieka.
Jeśli chodzi o wysłuchanie publiczne, proponujemy ograniczenie go do wysłuchania kandydatów i kandydatek wytypowanych przez komisję kwalifikacyjną zanim Prezes Rady Ministrów zadecyduje o powołaniu przewodniczącego. Takie rozwiązanie umożliwiłoby członkom Sejmu i Senatu RP, organizacjom społecznym oraz opinii publicznej zapoznanie się z kandydatami i kandydatkami oraz ocenę ich kompetencji. Choć ostateczna decyzja wciąż należałaby do Prezesa Rady Ministrów, wcześniejsze wysłuchanie publiczne stworzyłoby przestrzeń do otwartej debaty na temat kompetencji kandydatów, ich priorytetów i wizji sprawowania urzędu. Dzięki temu zmniejszyłoby się poczucie arbitralności decyzji Premiera, a jednocześnie wzrosłyby szanse na wybór osoby, która zyska szersze zaufanie społeczne. W końcu, wysłuchanie publiczne także jest dość powszechną praktyką w procesie obsadzania wielu kluczowych stanowisk publicznych, jak choćby we wcześniej wspomnianym przypadku powoływania kandydata na sędziego ETPCz, a także wyboru Prezesa Urzędu Ochrony Danych Osobowych.
Oba postulowane rozwiązania, jakkolwiek bywają już stosowane w praktyce, nie mają dotychczas odpowiedniej podstawy prawnej. Biorąc pod uwagę innowacyjny charakter komentowanego projektu, naszym zdaniem projektodawcy mogliby także i w tym obszarze wskazać wysoki standard zabezpieczając w ustawie prospołeczne i sprzyjające debacie publicznej rozwiązania.
139
Art. 20 ust. 9
Osoba fizyczna jk
dla spójności zapisów powinno być: ... przez umieszczenie informacji w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej dla spójności zapisów zamiast "Umieszczenie" powinno być "Opublikowanie"
Art. 20 ust. 11
Osoba fizyczna jk
Art. 21
Instrat – Fundacja Centrum Cyfrowe
Procedura powoływania Przewodniczącego Komisji oraz Zastępców Jeśli jednak przyjęcie pierwszego z powyższych rozwiązań okaże się niemożliwe, rekomendujemy wprowadzenie zmian w sposobie wyznaczania Zastępców Przewodniczącego.
Zgodnie z Art. 21, Zastępców Przewodniczącego Komisji powołuje Prezes Rady Ministrów na wniosek Przewodniczącego Komisji, wybierając spośród kandydatów przez niego wskazanych.
Aby ograniczyć możliwość wpływu konkretnych grup interesów oraz zminimalizować ryzyko mianowania osób blisko związanych z Przewodniczącym, proponujemy, aby Zastępcy byli rekomendowani przez Społeczną Radę do spraw Sztucznej Inteligencji. Alternatywnie, kandydatury mogłyby przynajmniej podlegać opiniowaniu przez Radę, co podniosłoby transparentność i wiarygodność procesu nominacji na te stanowiska.
Wprowadzenie takiego mechanizmu wymagałoby powołania Społecznej Rady oraz wyłonienia jej członków przed nominacjami Zastępców, co mogłaby przeprowadzić Komisja w okrojonym składzie. Mimo potencjalnych wyzwań organizacyjnych, uważamy, że taki model jest wart rozważenia, ponieważ sprzyjałby zwiększeniu apolityczności i przejrzystości działania Komisji.
Art. 21
ITCORNER
Art. 21
GRAI
Za kluczowe uważamy również zapewnienie konkurencyjności powołania Zastępców Przewodniczącego Komisji. W tym kontekście proponujemy, aby Prezes Rady Ministrów wybierał zastępców spośród kandydatów wyłonionych w drodze konkurencyjnego i otwartego naboru, prowadzonego przez zespół powołany przez Przewodniczącego Komisji.
Zapewnienie konkurencyjności modelu powołania wiceprezesa Komisji Następująca propozycja brzmienia:
1. Prezes Rady Ministrów powołuje Zastępców Przewodniczącego Komisji spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Prezes Rady Ministrów odwołuje wiceprezesów Urzędu na wniosek Przewodniczącego Komisji.
2. Stanowisko Zastępcy Przewodniczącego Komisji może zajmować osoba, która spełnia wymagania określone w art. 18 ust. 2 ustawy.
3. Zespół przeprowadzający nabór na stanowiska, o których mowa w ust. 1, powołuje Przewodniczący Komisji.
4. Do sposobu przeprowadzania naboru na stanowiska, o których mowa w ust. 1, stosuje się odpowiednio przepisy art. 20 ustawy.
140
Art. 22
Polski związek zarządzania wierzytelnościami
Art. 21 Projektu
Art. 22
CHAMBER
- wydaje się, że prawidłową techniką legislacyjną byłoby jednoznaczne określenie (jeśli nie wynika to z przepisów odrębnych), że Przewodniczący Komisji i jego Zastępcy mają status osób pełniących funkcje publiczne zgodnie z ustawą, ze wszystkimi wiążącymi się tym konsekwencjami prawnymi (w tym obowiązkiem składania oświadczeń majątkowych). Kazuistyczne wskazywanie poszczególnych jedynie obowiązków czyni status tych osób niejasnym i może prowadzić do niepotrzebnych wątpliwości i sporów.
Art. 22 ust. 1
ISSA Polska
Art 23
KIG
Proponuję uszczegółowić zapis „… są obowiązani do złożenia oświadczeń o swoim stanie majątkowym, w trybie i terminach, zgodnie z art 10 … - oświadczenia zgodnie z ustawą składa się w dniu objęcia/złożenia stanowisko i corocznie do dnia 31 marca”.
Zapis powtarza model przyjęty w ustawie o nadzorze nad rynkiem finansowym, co w opisywanym przypadku nie znajduje uzasadnienia. Sugerujemy albo całkowity zakaz łączenia funkcji zawodowych ze stanowiskiem w Komisji albo model odwrotny – brak zakazu, z obowiązkiem urlopu bezpłatnego na czas kadencji.
Art. 23 ust. 2
Fundacja Poland
Art. 23 i Art. 24
ICC Poland
FinTech
Bieżące brzmienie art. 21 Projektu nie zakłada konkurencyjnego charakteru procedury powołania osób na stanowiska Zastępców Przewodniczącego Komisji. Rozwiązanie powoływania Zastępców na wniosek Przewodniczącego KRiBSI przez Prezesa Rady Ministrów rażąco kontrastuje z wymogami stawianymi wobec kandydatów na stanowisko Prezesa, wobec czego wskazujemy na istotę zachowania konkurencyjnego i otwartego naboru także na tym poziomie.
Sugerujemy wymagania te rozszerzyć na osoby mogące wydawać decyzje w tym pracowników Biura. Sugerujemy wprowadzić tryb wyłączenia w przypadku konfliktu interesów - samo pojęcie konflikt interesów jest zbyt ogólne bo nie ma z czym go porównać (z czyimi interesami ma być konflikt, publicznymi czy prywatnej działalności). Ponadto sugeruje się poszerzyć katalog organizacji do których nie może należeć Przewodniczący i Zastępca np. o związki wyznaniowe i kościoły (rozgraniczenie Kościoła od Państwa).
W razie pozostania przy koncepcji powierzenia funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji organowi kolegialnemu (Komisji), wątpliwości budzi przewidziany w projekcie zakres niepołączalności stanowisk Przewodniczącego Komisji, jego Zastępców, członków Komisji oraz pracowników Biura i innych osób tam zatrudnionych (art. 23 i 24 Projektu).
Po pierwsze, zgodnie z art. 24 Projektu, Przewodniczący Komisji, jego zastępcy, pozostali członkowie Komisji, Dyrektor Biura Komisji, jak i wszyscy pracownicy Biura Komisji i osoby zatrudnione w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze nie mogą być akcjonariuszami, udziałowcami, członkami organów, ani nawet podejmować zatrudnienia na jakiejkolwiek podstawie w podmiotach
141
„podlegających nadzorowi Komisji”. Tymczasem nadzorowi Komisji, jako organowi nadzoru nad systemami sztucznej inteligencji, podlegać będą docelowo wszyscy operatorzy systemów sztucznej inteligencji, a zatem nie tylko dostawcy, importerzy czy dystrybutorzy takich systemów, ale również podmioty je stosujące. Oznacza to, że proponowana treść art. 24 Projektu wyklucza możliwość istnienia przewidzianego tam powiązania członków Komisji i pracowników Biura z takim podmiotami już tylko z tej przyczyny, że podmiot taki będzie wykorzystywać system sztucznej inteligencji, nad którym będzie sprawować kontrolę (art. 3 pkt 4 rozporządzenia 2024/1689).
Rozwój tej technologii uprawdopodabnia jednak przewidywanie, że wykorzystywanie systemów sztucznej inteligencji – zwłaszcza przy istniejącej, szerokiej i nie w pełni jasnej definicji tego pojęcia – będzie powszechne. Może to prowadzić do sytuacji, w której spełnienie wymogów z art. 24 Projektu będzie w praktyce bardzo utrudnione lub wymagać będzie rezygnacji przez takie osoby z jakiegokolwiek innego zatrudnienia lub uczestnictwa w innych podmiotach bądź instytucjach, co może negatywnie wpłynąć na eksperckość składu Komisji i Biura Komisji. Nie jest wreszcie jasne, jak należałoby ocenić sytuację, w której Przewodniczący lub Zastępca Przewodniczącego zajmowaliby stanowisko w jednostkach naukowych, o których mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (odesłanie w tym zakresie wymaga zresztą poprawienia), gdyby jednostka taka zarazem wykorzystywała systemy sztucznej inteligencji, a tym samym podlegała nadzorowi Komisji (art. 24 Projektu).
Po drugie, art. 23 i 24 Projektu nie przewidują żadnego rozwiązania na wypadek, gdyby opisane tam powiązanie (np. przyjęcia stanowiska, podjęcia zatrudnienia) powstało już po powołaniu na funkcję Przewodniczącego, Zastępcy Przewodniczącego, członka Komisji, Dyrektora Biura lub po zatrudnieniu w Biurze Komisji. W szczególności nie można przecież wykluczyć sytuacji następczego rozpoczęcia wykorzystywania systemu sztucznej inteligencji przez dany podmiot, co spowoduje, że stanie się on podmiotem podlegającym nadzorowi Komisji, aktualizując zastosowanie art. 24 Projektu.
Art. 24
Centrum Badań Kosmicznych Polskiej Akademii Nauk
Należy rozważyć częściową rezygnację z wymogu braku zatrudnienia osoby zatrudnionej w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze na dowolnej podstawie prawnej w „podmiotach stosujących” w rozumieniu art. 3 pkt 4 (w zw. z art. 2 ust. 1 lit. b) rozporządzenia 2024/1689, oznaczających każdą osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę. Konsekwencje takiego ograniczenia kłócą się z możliwością szerokiego rozpowszechnienia SI, nad którymi stosujące je podmioty (także takie jak organy i inne podmioty publiczne) mogłyby sprawować kontrolę. Ma to szczególne znaczenie w przypadkach zawierania umów cywilnoprawnych z osobami posiadającymi wiedzę specjalistyczną, w sytuacji, gdy zatrudnienie w Biurze Komisji może nie być jedynym miejscem zatrudnienia takiej osoby, będącej równocześnie stroną licznych innych umów cywilnoprawnych, w tym z „podmiotami stosującymi”.
142
art. 24
GRAI
Nieuzasadnione pominięcie wspólników spółek osobowych (nie są akcjonariuszami ani udziałowcami), niezrozumiałe posługiwanie się nieznanym kodeksowi spółek handlowych słowem „udziałowiec”, mającym węższe znaczenie niż wspólnik.
Słowa „udziałowcami” zastępuje się słowami „wspólnikami”.
art. 24
GRAI
Uwaga redakcyjno - legislacyjna – w pierwszym z wyliczeń umów cywilnoprawnych podobnych do zlecenia nie pada umowa agencyjna, zaś w drugim z wyliczeń już się znalazło - wydaje się, że zbędnie i z tego względu do usunięcia.
Słowa „umowy agencyjnej” skreśla się.
art. 24
SKwP
Powstaje pytanie, jaka jest struktura zatrudnienia w tzw. Biurze? Kto jest na umowie o pracę, a kto na umowach cywilno–prawnych (zlecenie, dzieło). Ilu pracowników liczy Biuro, jakie ma działy itp.? Być może warto było rozważyć i wprowadzić regulamin organizacyjny pracy biura, w którym, szczegółowo wszystkie ww. kwestie byłyby rozstrzygnięte, a kompetencję do jego wydania można byłoby przyznać Przewodniczącemu Komisji albo Dyrektorowi Biura Komisji ?
Art. 24
Fundacja Panoptykon
Konflikt interesów w przypadku członków Komisji Zdecydowanie popieramy wprowadzone w art. 24 projektu ustawy rozwiązania dotyczące konfliktu interesów jako niezbędne do zagwarantowania bezstronnego działania Komisji.
Uważamy jednak, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji wymienionych w art. 7 ust. 2, której przedstawiciel jest członkiem Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 24 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji.
Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”.
Nie ma przy tym znaczenia to, czy dana instytucja wykorzystuje obecnie jakiekolwiek systemy sztucznej inteligencji lub czy mieszczą się one w zakresie uregulowanym rozporządzenia w sprawie sztucznej inteligencji. Po pierwsze, nawet w obecnym kształcie rozporządzenia niewykluczone, że instytucje wymione w art. 7 ust. 2 będą zobowiązane w niektórych przypadkach sprostać jego wymogom, np. jeśli chodzi o przejrzystość „chatbotów” uregulowaną w art. 50 ust 1 rozporządzenia lub wykorzystanie AI w rekrutacji pracowników (system wysokiego ryzyka zgodnie z pkt. 4 Załącznika III). Po drugie, warto zauważyć, że Komisja Europejska jest zobowiązana okresowo rewidować zakres Załącznika III określającego listę systemów wysokiego ryzyka, co nie wyklucza w przyszłości objęcia regulacją systemów wykorzystywanych przez instytucje mające swoich przedstawicieli w Komisji. W rezultacie, działania tych instytucji mogą stać się przedmiotem
143
Art. 25
CHAMBER
art. 25 w zw. z art. 43 ust. 1 pkt. 2
PIIT
kontroli Komisji. Wprowadzenie klarownych reguł postępowania w takich przypadkach zapewniłoby elastyczność ustawy wobec zmieniających się okoliczności prawnych lub faktycznych, bez konieczności jej nowelizacji.
Wątpliwym jest podobnie obowiązek zachowania tajemnicy służbowej wprowadzany w art. 25.
Przepisy powszechnie obowiązujące już zobowiązują do zachowania tajemnic prawnie chronionych i wydaje się, że nie ma potrzeby powtarzania takich przepisów w każdej ustawie powołującej do życia organ lub osobę prawną.
Wnosimy o dopisanie w postanowieniach art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu.
Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji.
Art. 25 w zw. z Art. 43 ust. 1 pkt. 2
Art. 25 ust. 3
KIGEiT
CHAMBER
Rekomendacje: Wnosimy o dopisanie w postanowieniach Art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach Art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w Art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych wA. 25 projektu - wyraźnie wskazanie tego w treści Art. 43 ust. 1 pkt. 2 projektu.
Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w
Art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji.
Art. 25 ust. 3 - przepis ten budzi poważne zastrzeżenia. Analogicznie do uwagi powyższej należy stwierdzić, że dostęp do informacji niezbędnych do wykonywania czynności służbowych przez funkcjonariuszy organów ścigania jest unormowany w odpowiednich ustawach. Wprowadzanie dodatkowych podstaw prawnych, w dodatku tak niejasno sformułowanych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do organów ścigania bez wyraźnego celu i potrzeby, jest zupełnie niepotrzebne i zgoła niebezpieczne. Postulujemy wykreślenie tego przepisu także w wypadku nieuwzględnienia propozycji usunięcia całego art. 25.
Minimalnie należy przynajmniej zawęzić krąg odbiorców takich informacji do “uprawnionych” funkcjonariuszy.
144
Art. 25 ust. 3
KIGEiT
Art. 25 ust. 3
Związek Polskich
Art. 25 ust. 3
Związek Polska
Banków
Cyfrowa
Propozycja zapisu: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym na podstawie odrębnych przepisów prawa pracownikom podmiotu, o którym mowa w Art. 64 ust. 3 ustawy, a także uprawnionym funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji. , Punkt 3 uprawnia pracowników komisji do udzielenia poufnych informacji wszystkim żołnierzom, prokuratorom itd. Natomiast punkt 4 zobowiązuje do utrzymania tajemnicy tylko uprawnionych.
Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie.
Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach.
Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc.
Niewystarczająca ochrona informacji i wrażliwych danych oraz ujawnienie informacji przez członków Komisji (art. 25 ust. 3 Projektu). Zarówno na etapie prowadzonych przez organ kontroli (rozdział 3 – w szczególności art. 43 ust. 4 pkt 3 oraz art. 43 ust. 8 – Projektu ustawy), jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa, w tym ochrona wrażliwych informacji, danych należących do przedsiębiorców (w tym danych osobowych) oraz innych tajemnic prawnie chronionych.
145
W szczególności uwagę należy poświęcić art. 25 ust. 3 Projektu, który umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj.
a) w ramach obowiązków służbowych;
b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji;
Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział
3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb).
Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji.
146
Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji,w niezbędnym zakresie.
Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów.
W związku z powyższym i ponadto zwracamy zatem uwagę legislatora na następujące propozycje zawarte w Projekcie ustawy oraz przepisów: art. 25 ust. 3 Projektu, który upoważnia członków KRiBSI do udostępniania uzyskanych informacji szerokiej grupie podmiotów, w tym np. pracownikom Polskiego Centrum Akredytacji. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. art. 27 Projektu, który przewiduje szerokie uprawnienie do przetwarzania (szeroko rozumianych)
„informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania; art. 61 ust. 4 i 5 Projektu, który posługuje się terminem „informacje stanowiące tajemnice prawnie chronione”, które ma szerokie znaczenie, nie uwzględniając brzmienia Aktu o sztucznej inteligencji, w szczególności art. 78 oraz motywu 167; art. 67 Projektu, który przewiduje szerokie uprawnienie ministra właściwego do spraw informatyzacji do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania.
Należy oczekiwać odpowiedniego zawężenia ww. uprawnień stosownych organów, z właściwym zbilansowaniem praw i interesów przedsiębiorców oraz z uwzględnieniem przepisów Aktu o sztucznej inteligencji, w szczególności art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień” oraz motywu 167.
Art. 25 ust. 3
Związek Pracodawców Technologii Cyfrowych Lewiatan
Ujawnienie informacji przez członków Komisji (art. 25 ust. 3 USS)
Przepis umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj.
a) w ramach obowiązków służbowych;
147
b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji;
Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział
3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb).
Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji.
Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 USS już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji, w niezbędnym zakresie.
Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości.
148
art. 25 ust. 3 i 4
PIIT
Wnosimy o wykreślenie Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie.
Art. 26
CHAMBER
Art. 26 - należy ponownie rozważyć, czy przepisy tego typu są konieczne. Rozporządzenie Ogólne o Ochronie Danych określa powszechnie obowiązujące zasady przetwarzania danych i obowiązki z niego wynikające (np. analizy ryzyka czy podejmowania środków zaradczych, minimalizacji danych itd. ) będą obowiązywały Komisję bez względu na ich umieszczenie w ustawie.
Zamieszczanie takich powielanych przepisów w każdej kolejnej ustawie nie wydaje się potrzebne i prowadzi do dalszej inflacji i tak już niezmiernie obszernego i skomplikowanego prawa.
Art. 26
ISSA Polska
Postuluję wskazanie wprost, że Komisja jest administratorem danych osobowych, wówczas nie będzie wątpliwości, że jako administrator musi realizować obowiązki wynikające z RODO.
Art. 26
PIIT
Uzgodnienie przepisów z zapisami ustawy RODO.
Art. 26 Zbyt szeroki zakres możliwego przetwarzania danych osobowych i zbyt szeroko określony cel przetwarzania danych wynikający z art. 11 projektu ustawy.
Zapisy nie precyzyjne, brak proporcjonalności zakresu i celu przetwarzania danych w kompetencji Komisji.
Przy tak szeroko określonych celach i zakresie przetwarzania danych naszym zdaniem powołanie IOD powinno być obligatoryjne, a nie uznaniowe.
W ust. 8 należałoby wymienić wszystkie prawa osób, których dane będą przetwarzane przez Komisję – wynikające z RODO, nie niektóre z nich.
Proponujemy odwoływać się już do PKE, w tym do pojęcia Usług komunikacji interpersonalnej.
149
Art. 26
GRAI
Generalna uwaga do art. 26 I. Zbyt wąski zakres przedmiotowy i zakres stosowanych środków ochrony. Przepis przez taką redakcję wydaje się ograniczony tylko do niektórych środków i tylko do niektórych rodzajów informacji. Środki zabezpieczające powinny spełniać najwyższe wymagania, bo Komisja będzie dysponować wieloma informacjami dotyczącymi zarówno innych instytucji, podmiotów rozwijających technologię jak i samych użytkowników. W cały projekcie wybrzmiewa nadmierne uprawnienie do żądania zbyt szerokiego zakresu informacji chronionych (co nie powinno mieć miejsca i powinno zostać ograniczone przepisami do absolutnego minimum) przy czym nie ma nic o ochronie tych informacji.
II. W miejsce obecnie zaproponowanych zapisów w art. 26, które budzą liczne wątpliwości proponuję odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO:
Np. „Do przetwarzania danych osobowych przez Komisję na mocy niniejszej ustawy zastosowanie ma rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679.”.
„Wszelka wymiana danych osobowych na mocy niniejszej ustawy przez Komisję podlega rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679.”.
A dodatkowo wskazać w ustawie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e) czy h) RODO.
I. Katalog informacji podlegających ochronie jak i katalog środków zabezpieczenia powinien być rozszerzony, otworzony. Benchmarkiem spełnienia tego obowiązku powinno być zapewnienie takich mechanizmów, które realnie zagwarantują najwyższą ochronę przetwarzanych przez Komisję informacji (w oparciu o najnowsze technologie i aktualne standardy branżowe). Nie tylko dane szczególnych kategorii z RODO powinny się znaleźć w treści tego przepisu, ale i tajemnica przedsiębiorstwa, tajemnica adwokacja czy radcowska, innego rodzaju tajemnice prawnie chroniona, dane osobowe zwykłych kategorii.
II. Zmiana brzmienia art. 26 zgodnie z poniższymi propozycjami.
Art. 26
Osoba fizyczna jk
Art. 26 ust. 1
Osoba fizyczna jk
Jest to nieudolne i nielogiczne powielenie zapisów Rozporządzenia UE 2016/679 - zupełnie niepotrzebne oprócz ust. 5 i ust. 9, który powinien być ust. 1.
Komisja - czy/i Biuro Komisji - nie byłaby w ogóle w stanie funkcjonować bez przetwarzanie danych osobowych, chociażby osób składających skargi czy pracowników swojego Biura.
Ponadto, jako jednostka sektora finansów publicznych jest zobowiązana przetwarzać dane na podstawie i w granicach prawa. Zatem po co zapis w ustawie?
150
Art. 26 ust. 2
Osoba fizyczna jk
Art. 26 ust. 2
TAURON
Dystrybucja
Czy przetwarzając dane osobowe, które nie są określone w art. 9 ust. 1 rozporządzenia 2016/679, Komisja - czy/i Biuro Komisji - nie musi prowadzić analizy ryzyka, stosować środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu, a także opracować procedury bezpiecznej wymiany informacji? Czy cytowane zapisy są jedynymi wymogami dotyczącymi bezpiecznego przetwarzania danych osobowych przez Komisję?
Sprowadzanie środków technicznych i organizacyjnych bezpieczeństwa przetwarzania danych osobowych wymaganych na podstawie art. 32 rozporządzenia 2016/679 (RODO) do
- środków ochrony przed złośliwym oprogramowaniem,
- mechanizmów kontroli dostępu oraz
- procedur bezpiecznej wymiany informacji świadczy o kompletnej nieznajomości obowiązujących przepisów oraz standardów, norm i dobrych praktyk dotyczących ochrony danych osobowych, cyberbezpieczeństwa i bezpieczeństwa informacji, zalecanych m.in. przez Ministerstwo Cyfryzacji i NASK.
Zapis jest absurdalny i niepotrzebny.
Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1.
Zmiana zapisu:
Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji.
Art. 26 ust. 2
GRAI
Bezzasadne ograniczenie tylko do danych określonych art. 9 ust 1 RODO, gdy tymczasem przepis powinien obejmować wszelkie dane osobowe jakie Komisja przetwarza. Zarazem w przepisie tym, w ograniczony i wybiórczy sposób zostały określone zobowiązania Komisji w związku z przetwarzaniem danych, w tym stosowanie środków technicznych i organizacyjnych służących zabezpieczeniu przetwarzanych danych.
Komisja jako administrator danych zobowiązana jest do przestrzegania wymagań określonych w RODO, w tym wdrożenia i stosowania odpowiednich środków technicznych i organizacyjnych, aby przetwarzanie odbywało się zgodnie RODO.
Propozycja zmiany brzmienia ust.2 w następujący sposób: „2. Przetwarzanie danych osobowych, o którym mowa w ust. 1 przez Komisję, odbywa się z zachowaniem przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679.
151
Art. 26 ust. 2
GRAI
Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1.
Zmiana przepisu:
Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji.
Art. 26 ust. 3
PIIT
3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji:
- gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”;
- gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”;
- gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych.
Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia.
Art. 26 ust. 3
KIGEiT
Propozycja zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji
152
Art. 26 ust. 3
GRAI
elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz.
U. 2024 poz. 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. , Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia.
Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych.
Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy też operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji.
Doprecyzowanie przepisu:
Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1
153
Art. 26 ust. 3
TAURON
Dystrybucja
Art. 26 ust. 3
Osoba fizyczna jk
Art. 26 ust. 3 pkt 4
KIG
art. 26 ust. 4
GRAI
Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych.
Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy tez operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji.
Doprecyzowanie zapisu:
Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 Bardzo odważny zapis ograniczający przetwarzanie danych do wymienionej listy przypadków nadzoru nad systemami. Jeżeli w trakcie tworzenia i funkcjonowania Komisji - czy/i Biura Komisji
- okaże się, że dla wykonania swoich zadań Komisja - czy/i Biuro Komisji - musi przetwarzać dodatkowo inne dane osobowe, niestety będzie musiała poczekać na nowelizację ustawy.
Zapis jest absurdalny i niepotrzebny.
Pojęcie podmiotów kluczowych i ważnych zostało wprowadzone przez dyrektywę NIS2.
W ustawie o krajowym systemie cyberbezpieczeństwa, do której referuje Projekt, brak wskazania tych podmiotów.
Anonimizacja danych zbędnych do realizacji zadań Komisji jest działaniem zbędnym i dodatkowo obciążającym pracowników Biura Komisji
154
Skreśla się słowa: „lub anonimowane”.
Art. 26 ust. 4
Osoba fizyczna jk
art. 26 ust. 5
GRAI
Art. 26 ust. 6
TAURON
Dystrybucja
Jest to powielenie zasady ograniczenia przechowywania zapisanej w art. 5 ust. 1 lit. e) rozporządzenia 2016/679 (RODO).
Zapis jest niepotrzebny.
Uwaga redakcyjna – brak przecinka zamykającego zdanie podrzędnie złożone.
Dodaje się przecinek po słowach „o którym mowa w rozdziale 3, 4 i 7 ustawy”.
Omyłka pisarska w numeracji rozporządzenia.
Powinno być: 2024/1689 Ponadto wskazany zapis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanym podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty o których mowa w art. 7 ust. 2.
Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru.
Ponadto na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?)
art. 26 ust.6
GRAI
art. 26 ust. 6
GRAI
Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie.
Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych.
Przepis dotyczący przekazywania informacji został sformułowany w taki sposób, że kolejne regulacje mogą prowadzić do jego naruszenia, jak chociażby okoliczność, że „kontrolującym” nie musi być pracownik Komisji.
Omyłka pisarska w numeracji rozporządzenia.
Ponadto wskazany przepis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanych podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty, o których mowa w art. 7 ust. 2.
Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru.
155
Ponadto, na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?)
Powinno być: 2024/1689 Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie.
Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych.
Art. 26 ust. 6
Osoba fizyczna jk
Art. 26 ust. 7
Osoba fizyczna jk
Art. 26 ust. 7
TAURON
Dystrybucja
art. 26 ust. 7
GRAI
Kto może przekazywać dane: Komisja czy/i Biuro Komisji czy też pracownicy Biura Komisji, skoro wzajemnie dane przekazywać będą pracownicy podmiotów, o których mowa w art. 7 ust. 2.
Czy przepisy regulujące funkcjonowanie podmiotów, o których mowa w art. 7 ust. 2 projektu ustawy, dopuszczają opisane przekazywanie danych i przetwarzanie tych danych?
Jak zwolnienie z realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 ma się do "zapewnienia wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI"?
Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych.
I. W projektowanym ust. 7 wskazano, że przetwarzanie danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji nie wymaga realizacji przez Komisję i inne podmioty obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 „jeżeli uniemożliwiałoby to realizację zadań Komisji”.
Zastrzeżenie zawarte w przepisie jest niejasne i budzi wątpliwości, w jakich konkretnie przypadkach określone podmioty nie będą realizowały obowiązków wynikających z RODO.
II. Przepis wprowadza ograniczenie praw z RODO – uzasadnienie powinno krótko powołać art. 23 RODO jako podstawę ograniczenia tych praw. Do rozważenia powołanie art. 23 ust. 1 lit. e lub h RODO.
I. Koniecznym jest doprecyzowanie, co oznacza „uniemożliwiałoby to realizację zadań Komisji”, jeśli miałoby pozostać taki zapis. Jednocześnie wydaje się zasadne przeredagowanie całego art. 26 zgodnie z uwagami dotyczącymi tego artykułu.
156
II. Uzupełnienie uzasadnienia o podstawę prawną ograniczenia praw z RODO w art. 26 ust. 7 projektu – o konkretną podstawę prawną z art. 23 ust.1 RODO (potencjalnie lit. e lub h). art. 26 ust. 7
GRAI
Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych.
art. 26 ust. 8
GRAI
Jeśli celem ustawodawcy było, aby publikacja wskazanych informacji stanowiła spełnienie obowiązku informacyjnego w świetle art. 13 i 14 RODO – rekomendowane jest wskazanie tego w uzasadnieniu albo wprost doprecyzowanie tej kwestii w projekcie.
Art. 26 ust. 8 otrzymuje brzmienie:
8. Realizacja obowiązku informacyjnego, o którym mowa w art, 13 i 14 RODO następuje poprzez publikację w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji informacji wskazujących:
1) dane kontaktowe administratora danych osobowych oraz, gdy ma to zastosowanie, dane kontaktowe inspektora ochrony danych osobowych;
2) cele przetwarzania i podstawę prawną przetwarzania;
3) kategorie przetwarzanych danych osobowych;
4) informacje o odbiorcach danych osobowych;
5) informacje o tym, przez jaki okres dane osobowe będą przechowywane;
6) informacje o ograniczeniach obowiązków i praw osób, których dane dotyczą wraz z podstawą prawną tego ograniczenia;
7) informacje o prawie wniesienia skargi do organu właściwego do spraw ochrony danych osobowych;
8) źródło pochodzenia danych osobowych.
9. Komisja jest administratorem danych, o których mowa w ust. 1-3.”
art. 26 ust.8
GRAI
Zaproponowany sposób realizacji obowiązku informacyjnego w BIP poprzez podanie bardzo ogólnych i zbiorczych informacji nie spełnia wymogów art. 14 ust. 1-3 RODO, a ewentualne zastosowanie art. 14 ust. 5 lit. a czy c budzi poważne wątpliwości
157
Art. 26 ust. 8
Osoba fizyczna jk
art. 27
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
art. 27
CHAMBER
art. 27 ust. 1
GRAI
Art. 27 ust. 1
Związek Polskich
Banków
Art. 27 ust. 1
Fundacja Poland
FinTech
Kuriozalna i wybiórcza interpretacja zapisów art. 13 i 14 rozporządzenia 2016/679 (RODO) oraz Wytycznych GR260/WP260 rev.01 "w sprawie przejrzystości na podstawie rozporządzenia 2016/679".
Skoro rozporządzenie 2016/679 (RODO) oraz Wytyczne GR260/WP260 rev.01 "w sprawie przejrzystości na podstawie rozporządzenia 2016/679" określają, jakie informacje należą się osobom, których dane dotyczą, to po co prawnicy wpisują listę należnych informacji do kolejnych polskich ustaw? Czy bez zapisów w ustawach wymienione w RODO informacje nie należą się osobom, których dane dotyczą?
Potrzebne jest tylko doprecyzowanie, kto jest administratorem danych oraz jakie są okresy przechowywania danych osobowych dla poszczególnych czynności przetwarzania.
Wnosimy o doprecyzowanie, co obejmuje pojęcie „tajemnicy prawnie chronionej". Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących „tajemnicę prawnie chronioną" na podstawie odrębnych ustaw (np. ustawy - Prawo bankowe).
Analogiczna uwaga odnosi się do art. 27 - zasady przetwarzania tajemnic prawnie chronionych są określone odrębnymi przepisami i obowiązują powszechnie. Podobnie obowiązek zawiadomienia o ujawnionym przestępstwie w ust. 2 niepotrzebnie powiela powszechnie obowiązujący przepis art. 304 par. 2 Kodeksu karnego.
Uwaga redakcyjna - zbędny przecinek zastosowany w wyliczeniu przed spójnikiem współrzędności łącznej.
Skreśla się przecinek po słowach „pracownicy Biura Komisji”.
Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach.
Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc.
Pytanie co obejmuje "tajemnica prawnie chroniona" (ustawy branżowe, postępowania karne).
Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących "tajemnicę prawnie chronioną" na podstawie odrębnych ustaw (np. prawa bankowego). Rekomendujemy zdefiniowanie określenia “tajemnica prawnie chroniona”
158
Art. 27 ust. 1, art. 25 i art. 67 ust. 1
e-Izba
Art. 28
GRAI
Aktualne brzmienie projektowanych przepisów implikuje ryzyko niedostatecznej ochrony tajemnicy przedsiębiorstwa przedsiębiorców, którzy będą podlegać kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom.
Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotne jest zagwarantowanie maksymalnej ochrony tajemnicy prawnie chronionej przedsiębiorców, tym tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. Szczególnie istotne jest zagwarantowanie przedsiębiorcom takiego poziomu ochrony tajemnicy prawnie chronionej, w tym tajemnicy ich przedsiębiorstwa, które zapewni, że informacje składające się na tajemnicę przedsiębiorstwa nie zostaną wykorzystane w jakichkolwiek innych celach aniżeli ściśle związanych z prowadzoną kontrolą i wyłącznie na jej potrzeby.
W związku z powyższym proponujemy zmianę( wzorowaną na art. 73 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów) aktualnego brzmienia art. 27 ust. 1 projektu ustawy o systemach sztucznej inteligencji, poprzez wskazanie, że informacje prawnie chronione, w tym tajemnica przedsiębiorstwa, mogą zostać wykorzystane jedynie na potrzeby tej kontroli w ramach, której zostały przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji lub jej upoważnionych przedstawicieli pozyskane, z wyłączeniem przypadku wskazanego w art. 27 ust. 2 projektu ustawy o systemach sztucznej inteligencji.
Proponujemy, aby powyższa zasada miała zastosowanie na potrzeby całej ustawy, tj. żeby tajemnica przedsiębiorstwa mogła być przetwarzana wyłącznie na cele tego postępowania, w ramach którego została zebrana. W związku z tym, powyższe doprecyzowanie powinno znaleźć zastosowanie również w przypadku: art. 25 oraz 67 ust. 1 projektu ustawy o systemach sztucznej inteligencji.
Uwaga ogólna do charakteru Rady Wyjaśnienia wymaga, dlaczego Rada ma mieć charakter społeczny, skoro mają ją tworzyć eksperci (naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – „będą mogli wesprzeć swoją wiedzą Komisję”). Dlaczego te osoby mają pracować bez wynagrodzenia i z ograniczeniami dotyczącymi dodatkowej działalności/ aktywności zawodowej członków takiej Rady?
Do rozważenia - może taką Radę (ale nie społeczną) ds. Sztucznej Inteligencji powinni tworzyć obecni członkowie GRAI najbardziej zaangażowani w prace Grupy , w szczególności w przygotowanie Polityki AI w Polsce (w GRAI są praktycy z bogatym doświadczeniem z różnych dziedzin; interdyscyplinarne grono ekspertów z wiedzą merytoryczną do efektywnego wykorzystania w rozwoju AI w Polsce).
159
Art. 28
SKwP
Uważamy, że do Społecznej Rady powinien zostać zgłoszony przedstawiciel SKwP. AI wchodzi w obszar rachunkowości, zatem dotyczy księgowych. Powinniśmy mieć wpływ na opiniowanie systemów AI dla księgowych, to dalszy problem etyki zawodu księgowego, odpowiedzialności a nawet kar. W tym zakresie, w projekcie wskazuje się, że kandydatów na członków Rady mogą zgłosić jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji.
Art. 28
Osoba fizyczna mk
Artykuł 28 ustawy przewiduje, że kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji mogą zgłaszać m.in. „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”.
Nieuzasadnione jest zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”, w szczególności biorąc pod uwagę, iż:
a) rolą Rady jest (wg uzasadnienia Ustawy) „zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję”;
b) również wg Artykułu 28 Ustawy do członkostwa w Radzie uprawnia wiedza i doświadczenie m.in. w obszarze praw człowieka.
Zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji” utrudni w nieuzasadniony sposób udział w pracach Rady przedstawicielom społeczeństwa obywatelskiego i osobom z doświadczeniem np. w obszarze praw człowieka, które działają na rzecz fundacji i stowarzyszeń, których celem statutowym nie jest wprost wyrażona działalność na rzecz rozwoju sztucznej inteligencji a np. właśnie ochrona praw człowieka czy rozwój społeczeństwa obywatelskiego.
Wskazane jest co najmniej rozszerzenie wspomnianego zapisu do formy „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, rozwoju społeczeństwa obywatelskiego i ochrony praw człowieka”.
Art. 28
Open AI Community
Rozszerzenie składu Społecznej Rady. Wnosimy o modyfikację art. 28 projektu poprzez: • Włączenie przedstawicieli społeczności deweloperów do składu Rady; • Zapewnienie reprezentacji startupów i MŚP; • Wprowadzenie transparentnego procesu wyboru członków.
Devs
2. Właściwe uwzględnienie głosu społeczności deweloperskiej przyczyni się do:
160
Art. 28
ZPAV
Art. 28
PWPW
Art. 28
Związek Polska
Cyfrowa
• Lepszego zrozumienia praktycznych wyzwań wdrożeniowych; • Skuteczniejszej implementacji przepisów; • Rozwoju kultury odpowiedzialnego rozwoju AI Mając na uwadze motywy 104-109 rozporządzenia 2024/1689 art. 28 projektu ustawy dotyczący powołania Społecznej Rady ds. Sztucznej Inteligencji powinien dopuszczać możliwość zgłaszania kandydatów na członków także przez organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi, o których mowa w art. 3 pkt. 2 ustawy z dnia 15 czerwca 2018 r. o zbiorowym zarządzaniu prawami autorskimi i prawami pokrewnymi. W aktualnym brzmieniu projektowany przepis w istotny sposób narusza równowagę interesów – z jednej strony dopuszcza zgłaszanie kandydatów przez izby gospodarcze (grupy interesów) – nie uwzględniając w ogóle z drugiej strony reprezentacji sektora kreatywnego. Wieloletnie doświadczenie koegzystencji na rynku medialnym pokazuje, że bardzo często interesy branży elektronicznej i komunikacyjnej co najmniej nie są zbieżne z interesami środowisk twórczych i właścicieli praw własności intelektualnej, a zdarza się, że ze sobą kolidują. dot. Społecznej Rady do spraw AI Z uwagi na duży wpływ działania Rady na biznes, w ustawie należy wskazać na konieczność powołania członka wskazanego przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Przepisy powinny wskazywać na członków wskazywanych oraz na członków wybieranych.
Taki podział zapewni odpowiednią reprezentację wszystkich środowisk.
Zaproponowany model w projekcie ustawy nie zapewnia, że głos przedsiębiorców będzie obecny w radzie. A obecny być powinien, gdyż uprawnienia Komisji mają ogromny wpływ na rozwój rynku AI w kraju
– a poprzez udział Komisji w organach UE – także w całej Europie.
Ciała doradczego. Poza utworzeniem KRiBSI, planowane jest powołanie także Społecznej Rady do spraw Sztucznej Inteligencji („Rada”), która ma być organem opiniodawczo-doradczym KRiBSI (art. 28 Projektu). Pomimo że opinie i stanowiska Rady nie będą wiążące dla KRiBSI, to rozwiązanie to oceniamy jako korzystne, ponieważ środowiska przedsiębiorców/instytucji naukowych/NGOs działające w obszarze AI mogą uzyskać odpowiednie forum do bieżącego przedstawiania swoich uwag, propozycji zmian regulacji, itd. (art. 28 ust. 3 pkt 4 Projektu).
161
Art. 28 ust. 1
GRAI
I. Mając na uwadze, że w skład Komisji mają wejść przedstawiciele RPO oraz RPD, wyjaśnienia wymaga jakie jest uzasadnienie dla ich włączenia również do Rady?
II. Zgodnie z propozycją i słusznie, przedstawiciel RPO oraz RPR jest członkiem Komisji, natomiast w art. 28 ust. 3 pkt 2 i 3 te same podmioty mogą zgłosić kandydatów do Rady Społecznej. W takiej konstrukcji te podmioty nie tylko mają swojego przedstawiciela w Komisji, co jest już wystarczające, jak też wskazują kandydatów do Rady Społecznej, podczas gdy więcej sensu miałoby przyznanie tego uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA Przyznanie uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, niż PRO i PRD. Chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA.
Art. 28 ust. 1
GRAI
Społeczna Rada ma się składać z 9-15 członków, podczas gdy wymienione podmioty, które mogą przedstawiać kandydatów obejmują siedem urzędów czy obszarów. Biorąc pod uwagę 2-letnią kadencję członków oraz tempo postępu technologicznego, brak przedstawicieli przedsiębiorców w danej kadencji skutkowałby ograniczeniem udziału w dyskusjach dot. SI podmiotów, których projektowane przepisy i działania Komisji będą bezpośrednio dotyczyły. W Społecznej Radzie mogłoby przykładowo zasiadać co najmniej dwóch przedstawicieli przedsiębiorców. Zwraca uwagę również, że różnorodność zastosowań AI i niewielka liczba członków Rady sprawia, że pewne sektory nie będą mogły być reprezentowane w danej kadencji, podczas gdy przedstawiciele związków zawodowych czy Biur Rzeczników będą stale obecni jako członkowie.
Art. 28 ust. 2
Logicise
dziewięciu do piętnastu członków Sugerujemy zwiększenie liczby członków Społecznej Rady, tak aby była jak najbardziej przekrojowa i pokrywała możliwie wszystkie grupy interesariuszy. W związku z powyższym, w składzie Rady powinny znaleźć się miejsca dla reprezentantów różnych izb branżowych, również z uwagi na zróżnicowanie regulacji dla poszczególnych sektorów gospodarki. Wydaje się, że w skład Rady powinno wchodzić każdorazowo nie mniej niż 20 osób.
Art. 28 ust. 2
PIIT
Określenie minimalnej i maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji.
162
Proponujemy podwyższenie maksymalnego progu liczebności Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI.
W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez przedsiębiorców, w tym zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków.
Art. 28 ust. 2
PIIT
Zwiększenie liczby członków Społecznej Rady itd.
Art. 28 ust. 2
KIGEiT
Rekomendacja: Sugerujemy rozważenie zwiększenia maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji do min. 25 członków.
Art. 28 ust. 3
CHAMBER
Art. 28 ust. 3
GRAI
Zasadne jest zwiększenie maksymalnej liczby członków Rady celem zapewnienia jej reprezentatywności. Rady sektorowe, których działania są zakresowo ograniczone do konkretnego obszaru, a członkami są osoby o tej samej czy podobnej specjalizacji, liczą do 20 członków lub więcej. Rada Dostępności przy ministrze właściwym ds. rozwoju regionalnego liczy maksymalnie 50 członków (a dostępność jest również zagadnieniem horyzontalnym dot. zarówno sektora publicznego, jak i prywatnego). Zastosowania AI są bardzo różne w poszczególnych obszarach przemysłu czy w ramach realizowania zadań publicznych, stąd ustawa nie powinna ograniczać aż w takim stopniu możliwości udziału przedstawicieli różnych środowisk.
Określony w art. 28 ust. 3 katalog podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (Rada) jest zdefiniowany podobnie nieco arbitralnie. W szczególności w pkt. 6 należałoby dopuścić wszystkie podmioty tworzące system szkolnictwa wyższego i nauki, wymienione w art. 7 ust. ustawy Prawo o szkolnictwie wyższym.
Wątpliwe też wydaje się rozwiązanie przyjęte w ust. 6 pkt. 6, zgodnie z którym wycofanie poparcia przez instytucję zgłaszającą powoduje wygaśnięcie mandatu członka Rady. Członkowie Rady powoływani są do niej z powodu swoich osobistych przymiotów i nie są reprezentantami instytucji, które formalnie zgłaszają ich kandydatury. Przyjęte rozwiązanie de facto czyni członków Rady podatnymi na naciski z zewnątrz, gdyż w każdej chwili mogą zostać odwołani, co będzie negatywnie wpływało na ich niezależność. Proponujemy wykreślenie tego przepisu.
I. Kandydatów na członków Rady Społecznej mogą zgłosić tylko wskazane podmioty. Istnieje ryzyko, że niektóre sektory nie będą reprezentowane w Radzie.
163
II. Kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji może wskazać m.in. współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka. Są to jednak przedstawiciele sektora publicznego.
W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego.
III. Konieczność uwzględnienia wśród podmiotów, które mogą zgłaszać kandydatów na członków Rady także podmiotów reprezentujących osoby, których prawa mogą być naruszone przez AI – albo w pkt 7 albo jako odrębny punkt – w sposób bardziej generalny niż związki zawodowe, czy RPO. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 nie mieszczą się np. podmioty reprezentujące twórców, wydawców, czy producentów, których prawa mogą być naruszone działaniami związanymi ze sztuczną inteligencją (twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych; ponadto statutowa działalność podmiotów, w których się zrzeszają nie dotyczy działalności na rzecz rozwoju sztucznej inteligencji).
IV. Obecny zapis ogranicza prawo zgłaszania kandydatów do Rady wyłącznie do fundacji i stowarzyszeń zajmujących się technologicznymi aspektami rozwoju AI. Jednak rozwój sztucznej inteligencji wywołuje coraz bardziej znaczące skutki społeczne, etyczne i kulturowe, których analiza jest kluczowa dla zrozumienia pełnego wpływu tej technologii na społeczeństwo. Dlatego też warto uwzględnić w ustawie organizacje i ośrodki badawcze zajmujące się społecznymi aspektami AI, aby zapewnić bardziej wszechstronną perspektywę konsultacji.
V. dotyczy to także organizacji zajmujących się kwestiami tzw. praw własności intelektualnej, wolnej kultury i wolnego oprogramowania (nb. Ustawa w ogóle nie porusza aspektów własności wytworów generatywnej sztucznej inteligencji, wykorzystania utworów w domenie publicznej jako materiału służącego do trenowania modeli AI – i ew. wynagrodzenia ich twórców lub zastrzeżenia ich wykorzystania itd. – a które szczególnie zyskują na znaczeniu szczególnie w przypadku GenAI i dużych modeli językowych).
VI. W praktyce może ten zapis może wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować
164
interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie.
VII. Rozszerzenie zakresu merytorycznego listy dopuszczonych izb gospodarczych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji o Związek Banków Polskich, który funkcjonuje jako izba gospodarcza. Reprezentuje on sektor finansowy, bardzo aktywny na rynku rozwiązań sztucznej inteligencji II. Postuluje się skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych.
III. „7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji ewentualnie
8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji.”
IV. „Fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które w swoich celach statutowych uwzględniają działalność na rzecz rozwoju sztucznej inteligencji lub analizę jej społecznych, etycznych oraz kulturowych konsekwencji.”.
V. z tym, że także takich które w swoich celach statutowych mają kwestie związane z wolnymi i otwartymi danymi i oprogramowaniem (np. fundacja Wikimedia)
VI. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji.
Poprawka stylistyczna
165
Słowa „może zgłaszać” zastępuje się słowem „zgłasza”.
Należy rozważyć uwzględnienie przedstawicieli GRAI w składzie Rady Społecznej.
Art. 28 ust. 3
Instrat – Fundacja Centrum Cyfrowe
Art. 28 ust. 3
SFP-ZAPA
Skład Społecznej Rady W uzasadnieniu do ustawy wskazano, że skład Społecznej Rady zaprojektowano z myślą o tym, aby mogły w niej zasiadać osoby reprezentujące szeroki wachlarz środowisk i instytucji. Niemniej jednak chcemy zwrócić uwagę na fakt, że w zakresie reprezentacji społeczeństwa obywatelskiego, art. 28 ust. 3 może być ograniczający. Zgodnie z obecnym brzmieniem artykułu, kandydatów do Rady mogą zgłaszać jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których statutowym celem jest działalność na rzecz rozwoju sztucznej inteligencji.
W praktyce może to wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, etyki danych, czy edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie.
Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, ekonomiczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji.
Wśród podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji powinny znaleźć się także podmioty reprezentujące osoby, których prawa mogą być naruszone przez AI.
Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 Projektu nie mieszczą się np. podmioty reprezentujące twórców, wydawców czy producentów, których prawa mogą być naruszone i obecnie są naruszane działaniami związanymi ze sztuczną inteligencją.
Twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, które zostały wskazane w tym przepisie Projektu, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych, które również zostały tam wskazane.
Praw podmiotów uprawnionych z tytułu praw autorskich i pokrewnych nie reprezentują też organizacje, których statutowa działalność jest działalnością na rzecz rozwoju sztucznej inteligencji.
166
Art. 28 ust. 3
Polska Ubezpieczeń
Izba
Art. 28 ust. 3
Fundacja Sztuka Media Film
Art. 28 ust. 3
Osoba fizyczna jk
Art. 28 ust.3 pkt 1-3
ISSA Polska
Z tych względów postulujemy poszerzenie katalogu podmiotów, które mogą zgłaszać kandydatów na szłonków Rady o stowarzysenia i fundacje, które realizują cele ustawowe poprzez działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji, np. organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi. Bez takiej zmiany podmioty praw autorskich i praw pokrewnyhc nie będą miały szansy na swoje przedstawicielstwo w Radzie.
Proponuje się w art. 28 ust. 3 projektu ustawy zmianę w pkt 4) na „izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych, a także usług finansowych, w szczególności bankowych i ubezpieczeniowych”
Postulujemy poszerzenie zakresu podmiotów, które będą mogły zgłaszać kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji o: organizacje zbiorowego zarządzania oraz fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz mediów lub kultury, w szczególności kultury cyfrowej. Powyższy postulat związany jest z koniecznością zapewnienia reprezentacji twórców i przedstawicieli mediów w Społecznej Radzie do spraw Sztucznej Inteligencji, co wynika z rosnącego wykorzystania sztucznej inteligencji w mediach oraz szeroko pojętej kulturze. W naszej ocenie, niepewności związane z etycznym wykorzystaniem sztucznej inteligencji w mediach oraz konieczność zapewnienia ochrony interesów twórców utworów wykorzystywanych przez sztuczną inteligencję uzasadnia poszerzenie katalogu podmiotów wskazanych w art. 28 ust. 3 projektu ustawy o systemach sztucznej inteligencji o wskazane powyżej dwie grupy Na liście podmiotów, które mogą zgłosić kandydatów do Społecznej Rady, wymieniono fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji.
Dlaczego nie ma przedstawicieli osób poszkodowanych / skrzywdzonych przez sztuczną inteligencję? Chyba, że ich przedstawicielem będzie Rzecznik Praw Obywatelskich. Oby.
Postuluję skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów
167
Art. 28 ust. 3 pkt 2 i 3 Istotna, o ile nie zostanie uwzględniona uwaga dot. art. 7 ust. 1-2
Art. 28 ust. 3 pkt. 4
Osoba fizyczna
Art. 28 ust. 3 pkt 4
Związek Polskich
Fundacja Allies
do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych.
Przedstawiciele RPO oraz RPD (po uwzględnieniu ww. uwagi) obligatoryjnie wchodzą w skład Komisji ds. SI. Niepotrzebne jest przyznanie miejsc tym organom w Społecznej Radzie do spraw SI. Dubluje to kompetencje i wprowadza chaos organizacyjny. Ponadto może być uznana za uprzywilejowanie tych organów w zakresie SI.
Open
Propozycja zapisu: 4) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych oraz fundacje, których celem statutowym jest działalność dotycząca sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych.
Banków
4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych;
Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI.
W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki.
Art. 28 ust. 3 pkt 7
GRAI
Projekt zakłada, że kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji mogą wskazać m.in. fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Zasadne jest jednak rozszerzenie tego katalogu w zakresie fundacji i stowarzyszeń o te działające również na polu cyberbezpieczeństwa.
168
Pkt 7 powinien otrzymać następujące brzmienie: “7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub cyberbezpieczeństwa”.
Art. 28 ust. 3 pkt 7
Fundacja Allies
Art. 28 ust. 3 pkt 7
ISSA Polska
Art. 28 ust. 3 pkt 7
Fundacja Panoptykon
Open
Propozycja modyfikacji zapisu:
Fundacje i stowarzyszenia wpisane do Krajowgo Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych.
Postuluję rozszerzenie zakresu fundacji i stowarzyszeń o te działające na polu bezpieczeństwa Sztucznej Inteligencji i cyberbezpieczeństwa. Proponuję przyjąć pkt 7 o następującej treści: “fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju lub bezpieczeństwa sztucznej inteligencji lub cyberbezpieczeństwa”.
Artykuł 28 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.
Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów Al oraz modelami Al. Nadzór ten musi bowiem dotyczyć również kontroli nad przestrzeganiem przez branżę Al. unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji, czy działające na rzecz jej rozwoju, a nie zapewnia jednocześnie poszanowania interesów sektorów kreatywnych czy użytkowników systemów Al. Dlatego też wnioskujemy o uzupełnienie składu Rady i właściwe zbalansowanie interesów wszystkich zainteresowanych stron.
Społeczna Rada do spraw Sztucznej Inteligencji Z aprobatą odnotowujemy propozycję ustanowienia Społecznej Rady do Spraw Sztucznej Inteligencji. Uważamy takie rozwiązanie za kluczowe do pogłębienia dialogu i współpracy pomiędzy Komisją a organizacjami społeczeństwa obywatelskiego. Chcielibyśmy jednak wskazać kilka kwestii wymagających, w naszej opinii, poprawy w kolejnej wersji projektu, aby Rada mogła jak najpełniej i najbardziej obiektywnie realizować swoje zadania.
Sformułowanie misji organizacji społecznych
169
Zgodnie z obecnym brzmieniem art. 28 ust. 3 pkt 7 projektu ustawy, członkowie Rady mogą być zgłoszeni przez fundacje i stowarzyszenia wpisane do KRS, których celem statutowym jest „działalność na rzecz rozwoju sztucznej inteligencji”. Takie sformułowanie w nieuzasadniony sposób wyklucza podmioty działające na rzecz ochrony praw człowieka w kontekście wykorzystywania sztucznej inteligencji, a niekoniecznie jej rozwoju. Może to doprowadzić do sytuacji, w której prawo zgłoszenia kandydatów będą miały wyłącznie zarejestrowane jako fundacje organizacje branżowe lub think tanki promujące rozwój sztucznej inteligencji. Uważamy, że umożliwienie zgłaszania kandydatów szerszemu gronu organizacji społecznych jest kluczowe dla zapewnienia pluralizmu głosów w Radzie oraz reprezentacji eksperckiej wiedzy z zakresu praw człowieka. Taka perspektywa będzie niezbędna do rzetelnego doradzania Komisji, szczególnie w kontekście oceny skutków dla praw człowieka, o której mowa w art. 27 rozporządzenia w sprawie sztucznej inteligencji, oraz ochrony praw osób poddanych działaniu AI.
Proponujemy więc rozszerzenie możliwych celów statutowych organizacji uprawnionych do zgłaszania kandydatów, poprzez dodanie działalności „na rzecz praw człowieka” do pkt. 7. Tak szeroko sformułowane regulacje dotyczące celów statutowych organizacji zgłaszających zwiększą szansę na większą wszechstronność członków Rady.
W art. 28 ust. 3 po punkcie 7) dodaje się średnik oraz punkt 8) o następującym brzmieniu:
„8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych."
Wygaśnięcie członkostwa członka Rady, chociażby z uwagi na fakt, że Rada składa się z 9 do 15 członków, nie powinno skutkować automatycznym powołaniem kogoś na jego miejsce. Wydaje się to zbędne, zwłaszcza w sytuacji, gdy kadencja Rady wkrótce wygasa.
Słowo „powołuję” zastępuje się słowami „może powołać.
Art. 28 ust. 3 pkt 8 Dodanie przepisu
ZAIKS
art. 28 ust. 7
GRAI
Art. 28 ust. 4 pkt 1
Instrat – Fundacja Centrum Cyfrowe
Art. 28 ust. 4
Polska Ubezpieczeń
Art. 28 ust. 4
Fundacja Panoptykon
Izba
Kompetencje Społecznej Rady W art. 28 ust. 4 pkt 1 wskazano, że członkiem Rady może być osoba, która posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka.
W katalogu wyszczególnionych specjalizacji zabrakło etyki (ewentualnie filozofii) nowych technologii, w tym SI, szczególnie istotnej w kontekście zadań stojących przed Radą.
Proponujemy uzupełnienie ww. katalogu o etykę nowych technologii.
Zmiana „pisemnej zgody” w treści projektu ustawy.
Proponuje się w art. 28 ust. 4 projektu ustawy zmianę w pkt 4) na „wyraziła zgodę na kandydowanie opatrzoną kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”.
Kryteria wyboru członków Rady Członkowie Rady będą powoływani przez Komisję spośród osób zgłoszonych przez uprawnione podmioty. Jednak o ile projekt ustawy wprowadza w art. 28 ust. 4 wymogi dla kandydatów i
170
Art. 28 ust. 4 pkt 1
KIG
Art. 28 ust. 6
Polska Ubezpieczeń
Art. 29 ust. 1 zd. 1
Związek Polskich
Izba
Banków
Banków
kandydatek, to już nie precyzuje kryteriów, jakimi Komisja powinna kierować się w sytuacji, gdy liczba kandydatów spełniających te wymagania przekroczy maksymalną liczbę członków Rady. Z perspektywy interesu publicznego i zapewnienia pluralizmu perspektyw w Radzie, kluczowe jest, by proces wyboru w takiej sytuacji opierał się na jasno określonych i przejrzystych zasadach.
Sugerujemy więc wprowadzenie w projekcie ustawy postanowienia, zgodnie z którym w takiej sytuacji Komisja powinna zapewnić reprezentatywność Rady i – w miarę możliwości – dążyć do utrzymania proporcjonalnej liczby członków zgłoszonych przez poszczególne uprawnione podmioty.
Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Członka Rady powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami Zmiana „pisemnej zgody” w treści projektu ustawy.
Proponuje się w art. 28 ust. 6 projektu ustawy zmianę w pkt 1) na „rezygnacji złożonej przewodniczącemu Rady opatrzonej kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”.
Rada Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków.
Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy.
Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady. [Usunięcie wskazanego zdania jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1]
Art. 29 ust. 1 zd. 2
Związek Polskich
Art. 29 ust. 3
CHAMBER
do czynności tak trywialnej jak zaproszenie osoby na posiedzenie Rady nie jest chyba konieczne kolegialne działanie całej Komisji. Wydaje się bardziej racjonalne przekazanie tej kompetencji Przewodniczącemu Komisji.
W art. 29 ust. 4
CHAMBER
obowiązek zachowania w tajemnicy _wszystkich_ informacji, do których członek Rady uzyskał dostęp wydaje się zbyt szeroki i powinien obejmować jedynie informacje objęte tajemnicą służbową, przedsiębiorstwa lub prawnie chronioną.
art. 29 ust. 5
GRAI
Zakazy dotyczące członka Rady są bardzo niedookreślone i trudne do wyegzekwowania. Jeżeli mowa o zakazach to ich zakres powinien być możliwy do zweryfikowania. W tej chwili jest to bardzo ocenne i rodzi ryzyko, że Komisja będzie korzystać z tego uprawnienia wg swojego uznania.
Propozycja doprecyzowania określeń co oznacza „działalność publiczna niedająca się pogodzić z działalnością w Radzie” oraz czym są działania skutkujące „konfliktem interesów”
171
Pojawia się wątpliwość czy brak wynagrodzenia za działalność w pracach Rady jest dobrym pomysłem. Taki dodatkowy obowiązek powinien podlegać choćby częściowemu wynagrodzeniu, aby członkowie Rady, często pochodzący z sektora prywatnego, nie musieli samodzielnie ponosić tych kosztów. To jedynie zniechęciłoby kompetentne osoby, gdyby musiały w wolnym czasie wykonywać dodatkowe obowiązki, bez wynagrodzenia.
Propozycja uwzględnienia chociaż częściowego wynagrodzenia dla członków Rady, aby zachęcić odpowiednie osoby do poświęcenia swojego wolnego czasu na zaangażowanie w pracach Rady. art. 29 ust. 5 pkt. 2
CHAMBER
projekt de facto zakazuje podejmowania wszelkiej działalności związanej z tworzeniem czy korzystaniem z systemów sztucznej inteligencji. Norma ta jest sformułowana zdecydowanie zbyt szeroko i może wykluczyć z udziału w Radzie wszystkich zawodowo czy naukowo związanych z tworzeniem i komercjalizowaniem systemów SI. Byłoby to zaprzeczenie samego celu istnienia Rady. Proponujemy usunięcie tego przepisu i zastąpieniem go bardziej precyzyjną normą wzorowaną na instytucji wyłączenia pracownika w KPA. Członek Rady powinien powstrzymać się od zajmowania stanowiska jedynie w ściśle określonych sytuacjach, gdzie jego bezpośredni interes jest przedmiotem de facto wyłącznie opiniodawczej działalności Rady (niebezpieczeństwo negatywnych skutków dla np. konkurentów jest tu raczej teoretyczne).
Art. 29 ust. 6
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie.
Wskazujemy na potencjalnie istniejące ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji.
Art. 29 ust. 6
KIGEiT
Art. 29 ust. 6
e-Izba
Art. 29 ust. 6
Polskie Towarzystwo Informatyczne
Art. 29 ust. 6
Związek Polskich
w
Banków
Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji.
Rekomendujemy rozważenie zmiany projektowanego brzmienia przepisu. Wprowadzenie wynagrodzenia i zwrotu kosztów może być rozwiązaniem, które zachęci wykwalifikowanych ekspertów do pełnienia funkcji w Radzie.
Brak wynagradzania członków Rady powoduje, że może to być organ niesprawny. Rekomenduje się wprowadzenie wynagrodzenia dla członków za udział w posiedzeniach.
Prosimy o rozważenie wprowadzenia zasad wynagrodzenia członków Rady.
Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów.
Dodana brakująca litera „w”.
172
Art. 29 ust. 6
Fundacja Panoptykon
Art. 28 ust. 6
Fundacja Poland
Art. 29 ust. 5
Fundacja Panoptykon
FinTech
Koszty udziału w pracach Rady Proponowane przepisy nie przewidują diet/wynagrodzeń ani zwrotu kosztów podróży dla członków Rady (art. 29 ust. 6). Tymczasem, aktywny udział w jej pracach może okazać się bardzo czasochłonny, zwłaszcza biorąc pod uwagę, że Rada będzie zobowiązana do wyrażenia opinii w zakresie i terminie określonym przez Komisję. Członkowie Rady będą więc musieli liczyć się z koniecznością przeznaczenia na prace w Radzie znacznych nakładów czasowych, oraz z tym, że tempo pracy, uzależnione od bieżących potrzeb Komisji, może być trudne do przewidzenia.
Konieczność przeznaczenia własnych środków na dojazdy i czas poświęcony na udział w pracach Rady stawia w uprzywilejowanej pozycji przedstawicieli izb gospodarczych i organizacji branżowych, którzy zazwyczaj dysponują większymi zasobami niż np. organizacje społeczne.
Dodatkowo, mogą oni być bardziej skłonni do angażowania zasobów na prace w Radzie, ponieważ udział w formułowaniu jej opinii może wspierać interesy biznesowe ich członków.
Brak diet oraz zwrotu kosztów z dużym prawdopodobieństwem utrudni natomiast aktywny udział przedstawicieli organizacji społecznych, które z reguły dysponują znacznie mniejszymi środkami i bardziej organiczonymi zasobami personalnymi i czasowymi.
Dodatkowo, zapewnienie zwrotu kosztów przejazdu i diet/wynagrodzeń to standardowa praktyka w przypadku innych podobnych ciał doradczych, np. diety i zwrot kosztów przewidują zasady funkcjonowania Rady ds. Ochrony Danych i Rady ds. Cyfryzacji.
Proponujemy więc, aby do projektowanej ustawy wprowadzić analogiczne zasady dotyczące wynagrodzeń/diet oraz zwrotu kosztów podróży dla członków Społecznej Rady ds. Sztucznej Inteligencji.
Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji.
Konflikt interesów członków Rady Doceniamy wprowadzenie zasad związanych z konfliktem interesów w przypadku członków Rady, zawartych w art. 29 ust. 5 projektu ustawy. Uważamy jednak, że konieczne jest doprecyzowanie, jakie sytuacje mogą prowadzić do konfliktu interesów oraz jakie byłyby ich konsekwencje. Konflikt interesów może wystąpić np. w sytuacji, gdy członek Rady jest powiązany z firmą lub instytucją będącą przedmiotem postępowania, w ramach którego Komisja zwraca się do Rady o opinię.
Może to mieć miejsce w przypadku zatrudnienia członka Rady przez kontrolowany podmiot lub gdy kontrolowany podmiot jest członkiem organizacji branżowej/ izby gospodarczej, którą członek Rady reprezentuje. Nie postulujemy całkowitego wykluczenia osób związanych z nadzorowanymi podmiotami z prac Rady. Uważamy jednak, że w sytuacjach, gdy opinia Rady dotyczy bezpośrednio podmiotu, z którym związany jest członek Rady, lub technologii, którą ten podmiot
173
Art. 30
Fundacja Sztuka Media Film
Art. 30 ust. 1
e-Izba
Art. 30 ust. 1
Związek Polskich
rozwija, członek Rady powinien wyłączyć się z dyskusji oraz wstrzymać się od głosowania w tej sprawie.
Zwracamy uwagę, że zaproponowane brzmienie art. 30 projektu ustawy o systemach sztucznej inteligencji sprawia, że istnieje możliwość istotnego ograniczenia faktycznej roli Społecznej Rady do spraw Sztucznej Inteligencji, z uwagi na brak jasnego zobowiązania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji do przekazywania Radzie projektów lub innych dokumentów celem ich zaopiniowania. Poddajemy pod rozwagę doprecyzowanie zakresu kompetencji Społecznej Rady do spraw Sztucznej Inteligencji i wprowadzenie regulacji wskazującej na konieczność uzyskania przez Komisję jej opinii, a nie tylko na możliwość podjęcia takich działań. Postulujemy wprowadzenie katalogu zamkniętego spraw wymagających uzyskania opinii Społecznej Rady do spraw Sztucznej Inteligencji, w ramach którego znalazłyby się projekty lub dokumenty związanie z wykorzystaniem sztucznej inteligencji w sektorze kultury lub mediów, w szczególności w kontekście praw twórców. Z uwagi na profil działalności naszej fundacji – zwracamy uwagę na potrzebę dialogu z przedstawicielami środowisk artystycznych i twórczych w tym branży filmowej oraz mediów. Niniejszy postulat pozostaje w związku z postulatem poszerzenia składu Społecznej Rady do spraw Sztucznej Inteligencji wskazanym w pkt. I powyżej.
Aktualne brzmienie tego przepisu sprawia, że nie można wykluczyć sytuacji, w której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie przekazywać Społecznej Radzie do spraw Sztucznej Inteligencji projektów lub innych dokumentów do zaopiniowania lub wyrażenia stanowiska, a w konsekwencji działalność Społecznej Rady do spraw Sztucznej Inteligencji będzie znikoma.
Istotnym jest, aby Społeczna Rada do spraw Sztucznej Inteligencji miała możliwość wypowiadania się na bieżące tematy związane ze sztuczną inteligencją, stanowiące przedmiot działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W związku z powyższym proponujemy wprowadzenie zamkniętego katalogu spraw, które Społeczna Rada do spraw Sztucznej Inteligencji będzie zobligowania zaopiniować. W szczególności proponujemy, aby w tym katalogu znalazły się kwestie dotyczące: obowiązków przedsiębiorców związanych z wykorzystaniem sztucznej inteligencji, inicjatyw legislacyjnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz dotyczących działań mających na celu wspieranie oraz monitorowanie rozwoju innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Banków
Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję.
Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez pełny skład Rady.
Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych
174
Art. 30 ust. 3
Fundacja Panoptykon
Art. 32 ust. 2
KIG
sytuacjach, gdy zostaną one przyjęte jednomyślnie przez pełny skład Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu.
Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce.
Zadania Rady
Art. 30 ust. 3 projektu ustawy stanowi obecnie, że w zakresie innym niż ten przekazany do opinii przez Komisję, Rada może wyrazić opinię lub stanowisko z własnej inicjatywy. Stanowczo popieramy to rozwiązanie, ponieważ pozwoli to Radzie zwrócić uwagę Komisji na istotne kwestie, które ta mogła przeoczyć. Nie mamy jednak pewności, jak interpretować fragment ust. 3, który mówi, że Rada może wydawać opinie w zakresie „dotyczącym spraw określonych w art. 1 ust. 1 ustawy”. Zwracamy uwagę, że to odwołanie wydaje się błędne, ponieważ art. 1 zawiera punkty, a nie ustępy. Jeśli jest to błąd redakcyjny i intencją projektodawcy było odwołanie do art. 1 pkt 1, uważamy, że zakres ten jest zbyt wąski. Obejmowałby on bowiem wyłącznie opinie w sprawie „organizacji i sposobu sprawowania nadzoru nad rynkiem”, podczas gdy opinie Rady mogą być równie wartościowe w przypadku innych kwestii, takich jak postępowania w sprawie naruszeń przepisów rozporządzenia w sprawie sztucznej intelignecji (art. 1 pkt 2), szczególnie w przypadkach mających znaczenie dla ochrony praw obywatelskich lub konsumenckich, a także w odniesieniu do działań wspierających rozwój systemów sztucznej inteligencji (art. 1 pkt 6). Aby Rada mogła w pełni zrealizować swoją rolę doradczą i sygnalizacyjną, postulujemy rozszerzenie jej kompetencji o możliwość wydawania opinii z własnej inicjatywy we wszystkich sprawach regulowanych ustawą, a także o dodanie zadań związanych z wyrażaniem opinii na temat zmian prawa w obszarze sztucznej inteligencji, analogicznie do kompetencji Rady ds. Ochrony Danych.
Sugerujemy, by Przewodniczący Komisji mógł nie tylko nadawać regulamin, ale też go zmieniać.
Sugerujemy, by dopisać, iż regulamin może zawierać sformułowania doprecyzowujące zapisy Ustawy, wszelkie inne zapisy organizacyjne, które nie stoją w sprzeczności z aktami nadrzędnymi oraz takie, których akty nadrzędne nie zabraniają
Art. 32 ust. 4
CHAMBER
określa charakter prawny powołania Dyrektora Biura Komisji. Brakuje jednak analogicznych przepisów dotyczących Przewodniczącego Komisji i jego Zastępców. Wpisuje się to w problematyka nieco niejasnego uregulowania statusu Komisji jako “państwowej osoby prawnej”, a nie organu administracji. Sugerujemy dopracowanie tych przepisów właśnie w kierunku jasnego określenia statusu Komisji i Przewodniczącego.
175
Art. 33 ust. 1
CHAMBER
jest zupełnie niepotrzebny - kto jest pracownikiem określają przepisy właśnie Kodeksu pracy i będzie on stosowany do tych osób bez względu na to, czy dana ustawa zawiera takie stwierdzenie. Jedynie uregulowanie przeciwne (o ile w ogóle dopuszczalne), wyłączające stosowanie przepisów KP do danej kategorii osób, byłoby celowe.
Art. 34. Ust.2
Logicise
art. 34 pt.2 ppkt.5
Związek Zawodowy Scenarzystów Polskich
GILDIA
SCENARZYSTÓW
Art. 36 ust. 1
Logicise
Art. 36 ust. 2
GRAI
zróżnicowane przychody biura Wydaje się, że obecny zapis, który m.in. umożliwia wpływy darowizn czy innych przychodów na rzecz Biura Komisji, jest niewystarczająco restrykcyjny i pozwala na uzyskiwanie przychodów niezwiązanych z działalnością statutową Komisji i Biura Komisji. Ponadto, otwiera możliwości dla sytuacji noszących znamiona działalności lobbingowej i/lub korupcyjnej.
Jednocześnie nasze wątpliwości budzi art. 34 pt.2 ppkt.5 mówiący o tym, iż źródłem finansowania Biura Komisji mogą być darowizny i zapisy. Biuro Komisji organizuje pracę komisji, która w ten sposób jest od niego uzależniona. Bez zawężającego określenia kto może być donatorem, darowizny na rzecz państwowej komisji ze strony prywatnych podmiotów — być może bezpośrednio zainteresowanych odpowiednimi decyzjami lub stworzeniem konkretnych przepisów, mogą budzić wątpliwości co do intencji donatora. W skrajnych przypadkach może być podważana rzetelność wydanych przez Komisję decyzji i opracowanych przepisów — jeśli będą one dotyczyć bezpośrednio lub pośrednio donatora. Zdaniem Gildii Scenarzystów należy albo doprecyzować zapis ograniczając donatorów tylko do jednostek i agencji rządowych lub też usunąć wzmiankowany podpunkt jako potencjalnie korupcjogenny. audyt sprawozdań finansowych Oprócz firmy audytorskiej, istotne jest, aby działalność Biura Komisji podlegała kontroli Najwyższej Izby Kontroli
(NIK).
I. Wybór firmy audytorskiej powinien odbyć się w trybie zamówień publicznych, w przetargu publicznym niezależnie od wartości zamówienia.
II. Wątpliwości dotyczą faktu, że wybór „firmy audytorskiej” jest dokonywany przez Prezesa Rady Ministrów bez żadnych dodatkowych wytycznych, co oznacza, że wybór zależy tylko i wyłącznie od niczym nie ograniczonej woli Premiera. Budzi to wątpliwości o dokonanie właściwego wyboru.
NIK powinien zajmować się weryfikacją sprawozdań finansowych Komisji.
Alternatywnie powinno się umożliwić dokonanie wyboru audytora w oparciu o obiektywne kryteria, możliwe do zweryfikowania, aby zapewnić obiektywizm oraz bezstronność.
176
Propozycja przyjęcia treści ust. 2 (wskazanie kierunku zmian): „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej po przeprowadzeniu przetargu publicznego, niezależnie od wartości zamówienia.”.
Art. 36 ust. 2
ISSA Polska
art. 38 ust. 1
GRAI
Art. 38 ust. 1
Osoba fizyczna jk
art. 39
CHAMBER
art. 39 ust 1 oraz 5
GRAI
artykuł 39 ust. 4 pkt 1)
PIIT
Proponuję zamienić na: Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów dokonuje wyboru firmy audytorskiej.
Uwaga legislacyjna - Odesłanie do nieistniejących przepisów projektowanej ustawy, tj. do art. 11 ust. 8 i 10 (art. 11 kończy się na ust. 3).
W art. 11 nie ma ust. 8 i 10.
Chyba zamysłem był zapis "art. 11 ust. 1 pkt 3, 8 i 10 ustawy".
Przepisy art. 39 o wydawanej pracownikom Biura Komisji legitymacji służbowych zostały w dużej mierze przeniesione z ustawy o nadzorze nad rynkiem finansowym. Dokonane w nich miejscami zmiany budzą jednak wątpliwości, gdyż nie są konsekwentne. Sama idea wydania legitymacji w “postaci elektronicznej” zasługuje na poparcie, ale w żaden sposób nie jest sprecyzowane, na czym dokładnie ta “postać elektroniczna” polega, a wydaje się to kwestią istotną. Ma to bezpośrednie zastosowanie do sytuacji przewidzianej w ust. 4, czyli do wymiany takiego dokumentu - w jaki sposób zachodzi “wymiana” dokumentu w postaci elektronicznej? W jaki sposób pracownik przedstawia taki dokument przy rozpoczęciu kontroli? Warto rozważyć dopracowanie tych przepisów lub umieszczenie w ust. 6 odpowiedniej delegacji ustawowej do wydania przepisów wykonawczych w tym zakresie. Wskazane wydaje się też dodanie wymogu umieszczenia zdjęcia pracownika na w legitymacji.
Propozycja przyjęcia ,,fizycznej formy” legitymacji, a jeśli zostawiamy postać elektroniczną, należy zastanowić się nad zmianą ust. 5. (Fizyczna legitymacja ułatwia rozpoczęcie kontroli).
1) aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych.
Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObywatel czy w innej postaci?
artykuł 39 ust. 4 pkt 1)
KIGEiT
Propozycja zapisu: 1) wymianie - aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji
- czy będzie w systemie mObwatel czy w innej postaci?
177
art. 40 ust.
CHAMBER
Nie jest jasne, a jakie “wymogi” chodzi projektodawcom w przepisie art. 40 ust. 1. Odesłanie do art. 70 Rozporządzenia 2024/1689 jest wysoce nieprecyzyjne. Można się jedynie domyślać, że chodzi o “wymogi dotyczące kompetencji i zasobów” o którym mowa w art. 70 ust. 3 Rozporządzenia. Jeżeli tak jest w istocie, to należy odpowiednio zmienić brzmienie przepisu ust. 1 oraz ust. 2, który odnosi się do “stanu zasobów o którym mowa w ust. 1”, mimo że w ust. 1 mowa jest jedynie o “wymogach”. Od strony merytorycznej wydaje się nie do końca fortunne, że Przewodniczący Komisji będzie określał wymogi w zakresie kompetencji i zasobów (w tym ludzkich) dla własnej instytucji, a następnie oceniał ich stan i raportował o nich do Komisji Europejskiej (ust. 3).
W praktyce Rozdział 3 projektu ustawy, dotyczący kontroli, może okazać się najistotniejszy i sprawić podmiotom rozwijającym lub korzystającym z SI w Polsce najwięcej problemów. Bardzo słusznym rozwiązaniem jest tu oparcie się o przepisy ustawy Prawo przedsiębiorców (art. 42 projektu). Należy jedynie wyrazić żal, że nie uczyniono tego w pełni konsekwentnie. Przykładowo zamiast regulacji art. 43 ust. 5 kontrola powinna być rozpoczęta zgodnie z przepisem art. 49 ust. 1 ustawy Prawo przedsiębiorców. Podobnie nie jest jasne, dlaczego wprowadzono w art. 43 ust. 6 projektu ustawy odrębną regulację upoważnienia do przeprowadzenia kontroli, które różni się jedynie jednym szczegółem od regulacji zawartej już w art. 49 ust. 7 ustaw Prawo przedsiębiorców.
Postulujemy ponowny przegląd projektowanych przepisów i odstąpienie od regulacji które zasadniczo powielają już istniejące przepisy, powodując niepotrzebne niejasności i rozwlekłość projektowanych przepisów.
art. 40 ust. 3
GRAI
Rozdział 3
Open AI Community
Rozdział 3
KIGEiT
Uwaga redakcyjna - brak przecinka zamykającego zdanie podrzędnie złożone.
Dodaje się przecinek po słowach „rozporządzenia 2024/1689”.
Devs
Procedury kontrolne. Wnioskujemy o doprecyzowanie w rozdziale 3 ustawy: • Szczegółowych procedur ochrony własności intelektualnej podczas kontroli; • Terminów na przygotowanie się do kontroli; • Możliwości asysty eksperta technicznego wybranego przez kontrolowanego.
Rekomendacja: Dodanie zapisów o elastycznych zasadach testowania: W Rozdziale 3 (Kontrola przestrzegania przepisów), należałoby dodać, że: "Podmioty korzystające z piaskownicy regulacyjnej mogą testować nowe technologie AI w warunkach nieobjętych pełnymi wymogami regulacyjnymi przez okres do 24 miesięcy. Piaskownice mogą obejmować zarówno produkty na etapie koncepcji, jak i projekty we wczesnej fazie wprowadzania na rynek, przy czym testy będą podlegać jedynie uproszczonym procedurom nadzoru. Uczestnicy piaskownic nie podlegają karom za naruszenie przepisów, jeśli działania mieszczą się w ramach ustalonych przez Komisję w programie testowym." , Rozdział 1, Art. 3, pkt 15, ustawa odnosi się do "piaskownicy regulacyjnej" jako przestrzeni do eksperymentowania z nowymi technologiami AI. Należy wzmocnić ten zapis, podkreślając jego znaczenie w stymulowaniu innowacji. Wskazana w
178
Rozdział 3
Związek Polskich
Rozdział 3
GRAI
Rozdział 3
PSSI
Rozdział 3
GRAI
Rozdział 3 lub 4
Związek Polskich
Banków
Banków
rekomendacji elastyczność zachęcałaby firmy do testowania innowacyjnych technologii, co mogłoby napędzać postęp w obszarze AI, bez obawy o nadmierne regulacje.
Kontrola dot. AI, co do zasady, powinna odbywać się z dużym wyprzedzeniem (notyfikacją) – z uwagi na poziom skomplikowania materii. Przepisy projektu nie powinny odsyłać do przepisów Prawa przedsiębiorców w zakresie kontroli dot. AI. Przepisy projektu powinny szczegółowo regulować zasady kontroli AI. Szczegółowe uregulowanie zasad kontroli AI powinno obejmować również rozwiązania w postaci wyjaśnień pokontrolnych i możliwości adresowania wyników kontroli przeprowadzonej przez Komisję.
Sugeruje dodanie rozdziału na temat zasad nadzoru rynku – tj. możliwe rozstrzygnięcia ich forma, droga odwoławcza. Wprowadzenie katalogu możliwych rozstrzygnięć i jasnej drogi odwoławczej sprzyja przewidywalności Wpływ wymogów kontrolnych na MSP rozwijające Sztuczną Inteligencję Obecna wersja Ustawy daje rozległe uprawnienia kontrolne, bez względu na wielkość kontrolowanego podmiotu. Niektóre z zapisów ustawy, może narazić, szczególnie mniejsze przedsiębiorstwa na znaczące koszty. Przykładem zapisów, o potencjalnie bardzo istotnych konsekwencjach dla małych podmiotów są:
Art. 47 pkt 2 Od zaleceń pokontrolnych nie przysługują środki odwoławcze. lub Art 52 pkt 3 Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt.
W przypadku mniejszych przedsiębiorstw, jakimi często są firmy rozwijające innowacyjne rozwiązania, takie wymogi mogą doprowadzić do utraty płynności lub innych niepożądanych konsekwencji.
Rekomendujemy traktowanie ograniczające koszty kontroli, które ponosić mogą mniejsze przedsiębiorstwa.
Sugeruje rozważenie wprowadzenia możliwości wydawania interpretacji indywidualnych przez Komisję w sytuacjach niejednoznacznych. Interpretacja wydawana byłaby na wniosek po spełnieniu określonych przesłanek [Propozycja dodania przepisu w Rozdziale 3 lub 4]
1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem.
2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne.
179
3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają przesłanek do objęcia ich tajemnicą przedsiębiorstwa.
4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania.
Rozdział 3
Związek Polska
Art. 41
PWPW
Art. 41
KIGEic
Cyfrowa
Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. Zastrzeganie informacji i dokumentów powinno być możliwe nie tylko w zakresie kontroli, ale również w zakresie komunikacji z Komisją.
Zbyt szerokie uprawnienia kontrolne, które mogą stwarzać ryzyko operacyjne i związane z prowadzeniem innowacyjnej działalności przez firmy. Dodatkowo, Projekt nie gwarantuje w pełnym zakresie niezbędnych środków zaskarżenia rozstrzygnięć wydawanych przez organ kontrolujący.
Ust. 1. Komisja może przeprowadzać kontrolę działalności podmiotów Przepisy ust. 1 i ust. 2 powinny wyraźnie wskazywać, że zakres kontroli może dotyczyć wyłącznie systemów AI.
Natomiast obecna propozycja regulacji wskazuje, że kontrola 4 obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy.
Ust. 2. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia 2024/1689 i ustawy. może dotyczyć całości działalności organizacji („kontrola działalności podmiotów”). W związku z tym zakres przepisu jest zbyt szeroki.
Propozycja zapisu: Dodanie ust. 4 "Z wyłączeniem kontroli przestrzegania przepisów o sztucznej inteligencji w prywatnych, zamkniętych systemach podmiotów, do których dostęp mają tylko te podmioty i obieg wprowadzanych dane do systemów sztucznej inteligencji jest zamknięty, a wyniki stworzone w tych systemach przez sztuczną inteligencję nie są nigdzie upubliczniane". , Jeżeli dany podmiot w ramach swojej działalności ma zamknięty system (box) gdzie zbierane i analizowane są dane wejściowe do systemów AI, następnie AI pracuje wyłącznie na tych danych w zamkniętym systemie i dane wyjściowe nie są upubliczniane - to wówczas nie istnieje żadne ryzyko związane z regulacjami dot. systemów sztucznej inteligencji.
180
Art. 41 ust. 1
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 41 ust. 1
Fundacja Poland
Art. 41 ust. 1 i 2.
PIIT
Wnosimy o doprecyzowanie kategorii podmiotów poprzez np. odesłanie do treści Rozporządzenia 2024/1689. w
FinTech
Zwracamy się z prośbą o doprecyzowanie zakresu podmiotów. Proponujemy odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f. Wątpliwości rynku budzą intencję projektodawcy, czy ustawa ma na celu poszerzenie zakresu podmiotów podlegających kontroli.
Komisja może przeprowadzać kontrolę działalności podmiotów, o których mowa w art. 2 ust. 1, lit.
a) - f) rozporządzenia 2024/1689.
Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia i ustawy w odniesieniu do systemów zakazanych oraz systemów wysokiego ryzyka lub innych systemów, co do których istnieje uzasadnione przypuszczenie, iż mogą być systemem wysokiego ryzyka mimo odmiennej ich kwalifikacji.
Art. 41 ust. 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 41 ust. 2
Fundacja Poland
Art. 41 ust. 3
e-Izba
w
FinTech
Wskazujemy, iż określenie „ustalenie zgodności działalności podmiotów” ma bardzo szeroki charakter. Postulujemy zawężenie wyżej wskazanego określenia lub wylistowanie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd.
Określenie celu kontroli jako „ustalenie zgodności działalności podmiotów z przepisami rozporządzenia 2024/1689 i ustawy” jest bardzo szerokie i może prowadzić do niejasności co do zakresu kontroli oraz potencjalnie różnych interpretacji. W celu zwiększenia precyzji i efektywności działań kontrolnych, warto rozważyć zawężenie tego przepisu poprzez wylistowanie konkretnych aspektów, które będą przedmiotem kontroli. Na przykład, można wskazać, że kontrola obejmuje sprawdzenie braku modeli zabronionych, odpowiednią klasyfikację ryzyk, spełnianie wymogów transparentności, stosowanie środków zabezpieczających oraz zgodność z zasadami etycznymi i technicznymi dotyczącymi sztucznej inteligencji. Takie sprecyzowanie zakresu kontroli zwiększy przejrzystość postępowania zarówno dla organów kontrolujących, jak i dla kontrolowanych podmiotów, co przyczyni się do lepszego zrozumienia obowiązków oraz zapewni bardziej ukierunkowane i efektywne działania nadzorcze.
Aktualne brzmienie tego przepisu implikuje ryzyko możliwości wszczęcia kontroli na podstawie jakiejkolwiek informacji, powziętej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
181
Art. 41 ust. 3
Fundacja Poland
Art. 41 i 48
ICC Poland
FinTech
Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom.
Celem zapewnienia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy istotne jest zwiększenie pewności prawnej przedsiębiorców w zakresie kompetencji kontrolnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ważne jest, aby przypadki kontroli przedsiębiorców ograniczyć do sytuacji, w których istnieje rzeczywiste prawdopodobieństwo naruszenia przez przedsiębiorcę przepisów rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji.
W związku z powyższym proponujemy zmianę aktualnego brzmienia art. 41 ust. 3 projektu ustawy o systemach sztucznej inteligencji poprzez wskazanie, że podstawą do wszczęcia kontroli, o której mowa w tym przepisie, jest uprawdopodobniona informacja, pozyskana przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Przepis w art. 41 ust. 3 Projektu Ustawy przewidujący, że kontrola może być prowadzona na podstawie uzyskanych przez Komisję informacji, jest niejasny co do źródła, charakteru oraz trybu uzyskiwania tych informacji. Warto doprecyzować, skąd Komisja może pozyskiwać informacje, np. czy pochodzą one od innych organów nadzorczych, instytucji publicznych, organizacji pozarządowych, czy zewnętrznych sygnalistów. Należy również określić, w jakim trybie takie informacje są pozyskiwane – czy w formie oficjalnych raportów, zgłoszeń, czy w wyniku działań monitorujących. Dodatkowo, istotne jest wskazanie, czy uzyskiwane przez Komisję informacje będą ewidencjonowane, a jeśli tak, to w jakiej formie (np. rejestr elektroniczny) i na jakich zasadach będą przechowywane oraz dostępne do wglądu. Takie doprecyzowanie zwiększyłoby przejrzystość procedur kontrolnych, zapewniając jasność zarówno dla podmiotów kontrolowanych, jak i dla samej Komisji, co może przełożyć się na bardziej efektywne i zgodne z prawem prowadzenie działań nadzorczych Zakres kontroli przestrzegania przepisów o sztucznej inteligencji, o której mowa w rozdziale 3 Projektu, powinien zostać ujednolicony z zakresem postępowania, o którym mowa w rozdziale 4 Projektu. Zgodnie bowiem z art. 41 Projektu Komisja może przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, zaś zgodnie z art. 48 Projektu w przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest ona do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy. Tymczasem to ostatnie postępowanie, zgodnie z Projektem, ogranicza się do postępowania w sprawie naruszenia przepisów jedynie rozporządzenia 2024/1689 (por. art. 1 pkt 2, art. 49 ust. 1 Projektu). Tym samym – według Projektu – przedmiotem kontroli mogą być objęte również naruszenia przepisów ustawy, podczas gdy przedmiotem postępowania w sprawie ich naruszenia już nie, co może mieć istotne znaczenie w razie planowanego uzupełnienia ustawy o systemach sztucznej inteligencji o nowe regulacje. Brak zsynchronizowania przepisów w tym
182
Art. 41 – 48
Instytut Spraw Obywatelskich
Art. 41 - 48
Obywatelski Akcelerator Innowacji
Art. 42
PWPW
Art. 42
Art. 43
Polska Izba Ubezpieczeń Polskie Towarzystwo Informatyczne
Art. 43
ITCORNER
zakresie powoduje również niepewność po stronie podmiotów, do których ustawa ma mieć zastosowanie, co do zakresu potencjalnej kontroli.
Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności.
Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności.
Do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236). Poprosimy o potwierdzenie, czy przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236) będą miały zastosowanie także do terminów i ograniczeń czasu prowadzenia kontroli.
Proponuje się w art. 42 korektę oznaczenia publikatora ustawy – Prawo przedsiębiorców, analogiczną jak ma to miejsce w art. 12 projektu ustawy Być może warto by rozważyć podział artykułu 43 na mniejsze elementy (o ile jest to możliwe z punktu widzenia merytorycznego).
Artykuł jest trudny do czytania, co może też wpływać na zrozumienie, a także może zwiększać ryzyko pomyłek.
Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem nadmiernie ingerują w swobodę prowadzenia działalności gospodarczej i cechuje je nadmierny poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - szczególnie biorąc pod uwagę obszerność dokumentacji technicznej i projektowej powstającej w toku tworzenia oprogramowania. Proponujemy usunięcie tego uprawnienia, ew. ograniczenie go tylko i wyłącznie do zamkniętego katalogu przypadków.
Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na identyfikację systemu AI podlegającemu kontroli - jest to krytyczne z punktu widzenia podmiotów z branży programistycznej (software house czy agencje), które jednocześnie uczestniczą nawet w kilkudziesięciu projektach (=kilkudziesięciu odrębnie tworzonych systemach), w których zaangażowani są także klienci końcowi i podwykonawcy. Jeśli kontrola ma być efektywna, a wizerunkowo nie ma odbijać się negatywnie w ocenie klienta końcowego podmiot kontrolowany powinien mieć możliwość poinformowania klienta końcowego oraz
183
Art. 43
PIIT
zaplanowaniu dalszych prac z jak najmniejszym, negatywnym wpływem na komercyjny projekt programistyczny.
W art. 43 ust. 7 brakuje także informacji o: terminach, które powinny zostać zachowane jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, maksymalnym czasie trwania kontroli - proponujemy, aby kontrole trwały nie dłużej niż 14 dni.
W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być bardzo krótki, aby mógł realizować swoją funkcję. ust. 2 Proponujemy zachować zgodność z KPA i ewentualnie wprowadzić do KPA możliwość wprowadzenia kontroli w formie zdalnej. – vs. art. 74 AI Act
Art. 43 ust. 4 pkt. 2: W toku kontroli kontrolujący mają prawo do: wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3;
- czy to oznacza, że kontrolna on-line, w systemach może się odbywać poza godzinami prowadzenia działalności?
Brak przepisu wyraźnie wskazującego, że działania kontrolne nie mogą powodować utrudnień w działalności podmiotu kontrolowanego lub działania jego systemów.
Art. 43 ust. 10. Dowody, o których mowa w ust. 9, mogą zostać zabezpieczone przez: pozostawienie ich w wydzielonym lub oddzielnym, zamkniętym i opieczętowanym pomieszczeniu u podmiotu kontrolowanego; - na jak długo, na czas kontroli?
Art. 43 Ust. 11 – należałoby wskazać kryteria takiego zajęcia.
Art. 43 ust. 15 - oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie.
Kto byłby „osobą godną zaufania”?
184
Ponieważ przedmiotem kontroli powinna być zgodność działania systemów AI z AI Act, oraz spełnienie innych wymagań AI Act w tym opracowanie dokumentacji systemu AI, zakres pozyskiwanej przez kontrolujących dokumentacji nie powinien wykraczać poza dokumentację systemu AI.
Art. 43
KIGEiT
Rekomendacja: Dodanie zapisu, iż osoba przeprowadzająca kontrolę powinna podpisać klauzulę poufności , Mitygacja ryzyka wycieku danych objętych tajemnicą handlową w związku z kontrolą
Art. 43
ICC Poland
Artykuł 43 ust. 11 Projektu przewiduje możliwość wydania przez Komisję w toku kontroli postanowień o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych i urządzeń, o których mowa w art. 43 ust. 4 pkt 3 ustawy, oraz innych przedmiotów mogących stanowić dowód w sprawie na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Na postanowienie to, zgodnie z art. 43 ust. 13 Projektu, przysługuje zażalenie osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje jednak wykonania postanowienia.
Po pierwsze, zajęcie wszelkich informatycznych nośników danych i urządzeń, o których mowa w tym przepisie, może mieć daleko idące konsekwencje dla prowadzenia działalności przez adresata postanowienia. W szczególności pozbawienie go dostępu do takich urządzeń, choćby na kilka dni, może w skrajnych przypadkach uniemożliwić mu prawidłowe prowadzenie działalności lub spowodować znaczące szkody (materialne i niematerialne). Z tego względu, biorąc pod uwagę potencjalne konsekwencje tego rodzaju czynności, należy postulować zawężenie kompetencji Komisji w tym zakresie, precyzując w projekcie przesłanki wydania takiego postanowienia.
Po drugie, Projekt bezpośrednio nie reguluje postępowania zażaleniowego, zaś zakres zawartych w ustawie odesłań do ustaw proceduralnych zdaje się nie obejmować tego przypadku (art. 56 Projektu, nakazujący do postępowania przed Komisją stosować w zakresie nieuregulowanym przepisy Kodeksu postępowania administracyjnego4 zdaje się, z uwagi na jego umiejscowienie, dotyczyć jedynie postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689). Rodzi to poważne wątpliwości dotyczące chociażby tego, do kogo takie zażalenie ma być kierowane. Z uwagi na charakter czynności zajęcia ww. przedmiotów wydaje się, że rekomendowanym rozwiązaniem byłoby przyznanie podmiotom, których prawa zostały naruszone zajęciem, prawa złożenia zażalenia do sądu.
Art. 43
Związek Polskich
Banków
Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości, przy czym osoba ta powinna złożyć oświadczenie o braku konfliktu interesów
185
2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467).
3. W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.
2. Kontrolę przeprowadza się w siedzibie przedsiębiorcy lub w miejscu wykonywania działalności gospodarczej oraz w godzinach pracy lub w czasie faktycznego wykonywania działalności gospodarczej przez przedsiębiorcę.
3. Za zgodą lub na wniosek przedsiębiorcy kontrolę przeprowadza się w miejscu przechowywania dokumentacji, w tym ksiąg podatkowych, innym niż siedziba lub miejsce wykonywania działalności gospodarczej, jeżeli może to usprawnić prowadzenie kontroli.
4. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzane również w siedzibie organu kontroli, jeżeli może to usprawnić prowadzenie kontroli. 4a. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzone w sposób zdalny za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. – Prawo pocztowe (Dz. U. z 2023 r. poz. 1640) lub za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344), jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej.
5. Dokumenty oraz informacje zebrane w toku czynności wykonywanych przez organ kontroli z naruszeniem przepisów ust. 2 i 3a nie stanowią dowodu w postępowaniu kontrolnym.
6. W toku kontroli kontrolujący mają prawo do: 1) swobodnego dostępu do środków łączności oraz, o ile zaistniały okoliczności, o których mowa w ust. 3, do oddzielnego pomieszczenia biurowego; 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną,
186
informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp;
Osoba wskazana w Art. 43. 1 ust 2) powinna składać obligatoryjnie oświadczenie o braku konfliktu interesów z kontrolowanym podmiotem.
Sposób przeprowadzania kontroli powinien być zgodny w pełni z trybem przewidzianym w ustawie z dnia z dnia 6 marca 2018 r. Prawo przedsiębiorców i jako zasada powinna być przyjęta kontrola w siedzibie przedsiębiorcy. Kontrola zdalna może być przeprowadzana za zgodą przedsiębiorcy, a wtedy powinny być szczegółowo ustalone warunki takiej kontroli, w tym przesyłanie danych/dokumentów o charakterze wrażliwym, specjalnego przeznaczenia, dokumentowanie rozmów (nagrywanie?), itd. Przyjęcie zdalnego trybu kontroli jako trybu domyślnego stwarza szereg ryzyk ujawnienia informacji poufnych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa, czy naruszenia ochrony danych osobowych
Art. 43
PWPW
przepisy dot. kontroli)
1) Analiza charakteru przepisów dotyczących prowadzenia kontroli prowadzi do wniosku, że – w zależności od intensywności kontroli - może ona doprowadzić do uniemożliwienia realizacji usług przez podmiot kontrolowany – co w przypadku usługodawców – może doprowadzić do odpowiedzialności finansowej lub zagrozić jego podstawowym interesom i bieżącej działalności. W szczególności przepisy dot. zajmowania dokumentacji i rzeczy, pieczętowania lokali i zajęcia nośników informacji są niebezpieczne z punktu widzenia przedsiębiorców.
2) Wskazany w art. 43 ust. 4 projektu ustawy zakres czynności kontrolnych jest znacznie szerszy niż to wynika z ustawy – Prawo przedsiębiorców.
3) Przepisy dotyczące kontroli podmiotów zawarte w projekcie ustawy powinny bardziej precyzyjnie określać m.in. prawa kontrolowanego i obowiązki kontrolującego. Z uwagi na swoje znaczenie dla podmiotów wykonujących działalność gospodarczą, przepisy o kontroli powinny zawierać należytą gwarancję ochrony praw przedsiębiorcy w toku kontroli.
187
Art. 43
Związek Pracodawców Technologii Cyfrowych Lewiatan
Prowadzenie kontroli (art. 43)
Uważamy, że zapisy rozdziału dotyczącego prowadzenia kontroli powinny być ponownie przejrzane, także w celu ujednolicenia zasad np. z projektem nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa. Zapisy powinny odzwierciedlać rozwój technologii informatycznych, sposobów przetwarzania itd. Poniżej przedstawiamy kilka zastrzeżeń związanych przede wszystkim z wykorzystaniem chmury obliczeniowej.
Wymóg zdalnych kontroli centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje mogą narażać wrażliwe dane na dostęp zewnętrznych inspektorów, zwiększając ryzyko wycieków lub naruszeń danych. Operatorzy potrzebują solidnych ustawowych zabezpieczeń, wskazujących że procesy kontroli są bezpieczne, zwłaszcza podczas obsługi danych klientów lub informacji podlegających tajemnicy przedsiębiorstwa. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe wprowadza dodatkowe wyzwania związane z ochroną danych osobowych.
Zdalne kontrole mogą również prowadzić do zagrożeń związanych z cyberbezpieczeństwem.
Udzielanie zewnętrznego dostępu wprowadza potencjalne osłabienie systemu cyberbezpieczeństwa, które może zostać wykorzystane przez adwersarzy, co sprawia, techniczne zabezpieczenia, takie jak protokoły bezpiecznego połączenia, są niezbędne.
Zakłócenia operacyjne to kolejna kwestia, ponieważ zdalne inspekcje systemów na żywo mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom.
Dla firm z systemami krytycznymi dla usług realizowanych w czasie rzeczywistym, czas i metoda inspekcji muszą być starannie skoordynowane, aby zminimalizować przerwy w świadczeniu usług.
Zgodność z wymogami dotyczącymi lokalizacji danych może stać się problemem w przypadku przetwarzania w systemach sztucznej inteligencji w jurysdykcjach z surowymi zasadami lokalizacji danych. Zdalne kontrole mogą kolidować z tymi przepisami, jeśli inspektorzy znajdują się poza krajem, tu: w Polsce, potencjalnie narażając firmy na ryzyko prawne. Zakres i kontrola dostępu do inspekcji muszą być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że niezbędne jest wdrożenie ścisłych kontroli dostępu i mechanizmów audytu do monitorowania działań inspektorów, co może być technicznie skomplikowane i angażować znaczące zasoby.
Wielu operatorów ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyka, ale także potencjalnie nawet uniemożliwiając zaoferowanie usług na rynku. Rozwiązanie tych problemów wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z przepisami prawnymi oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Również art. 43 ust. 1 mówi o tym, że Przewodniczący Komisji może wskazać osobę trzecią, co budzi dalsze wątpliwości natury cyberbezpieczeństwa. Nie ma żadnych zapisów w jaki sposób następuje weryfikacja takich osób.
188
Art. 43 ust. 1
PWPW
Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli:
1) pracownika Biura Komisji,
2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości.
Proponujemy doprecyzować wymóg rzetelności/bezstronności kontrolującego i przepisy dotyczące wyłączenia kontrolujące z kontroli w przypadku wystąpienia braku bezstronności, tj. wystąpienia potencjalnego lub faktycznego konfliktu interesów. Obecne projekt ustawy ww. zakresie nie zawiera takich regulacji. Kontrolujący nie powinien być powiązany z podmiotem konkurencyjnym wobec kontrolowanego np. przez stosunek pracy lub umowy pokrewne (cywilne),członkostwo w zarządzie, powołanie do rady nadzorczej, relacje inwestycyjne itp.
Komisja nie powinna mieć nieograniczonego prawa do kontroli. Powinno to nastąpić tylko w uzasadnionych przypadkach.
Propozycja zmiany na „1. Komisja może w uzasadnionych przypadkach podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania tych przepisów.”
Art. 43 ust. 1
GRAI
Art. 43 ust. 1
Instrat – Fundacja Centrum Cyfrowe
Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. - uwaga: niejasne sformułowanie.
Art. 43 ust. 1
Fundacja Poland
Przepis art. 43 ust. 1 budzi obawy związane z możliwością delegowania przeprowadzania kontroli osobom spoza Komisji, co stwarza ryzyko naruszenia poufności informacji należących do kontrolowanego podmiotu oraz ich potencjalnego wykorzystania do celów prywatnych lub komercyjnych. Takie rozwiązanie rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć
FinTech
189
Art. 43 ust. 1 pkt. 1
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
art. 43 ust. 1 pkt 1 i 2
GRAI
art. 43 ust. 1 pkt 1 i 2
PIIT
w
późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do przeprowadzenia kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem.
Wskazujemy, iż przepis art. 43 ust. 1 pkt 2 w obecnym kształcie budzi zastrzeżenia w zakresie chociażby braku ograniczenia co do osoby, którą może zostać upoważniona do przeprowadzenia kontroli z punktu widzenia konfliktu interesów. Budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego. Podnosimy, iż kontrolującymi nie powinny być osoby „z rynku" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem.
Osoba upoważniona do przeprowadzenia kontroli powinna być pracownikiem Biura oraz posiadać wiedzę specjalistyczną oraz władać językiem angielskim. Obecna redakcja wskazuje na alternatywę, kontrolującym może być albo pracownik Biura albo osoba spoza Biura, ale posiadająca niezbędną wiedzę. Te dwie przesłanki muszą być spełnione łącznie.
Postuluje się dodanie w art. 43 ust. 1 pkt 1słowa „oraz” na końcu zdania.
Dodanie obowiązku znajomości języka angielskiego.
Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..)
2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości.
Upoważnienie do "przeprowadzenia kontroli", a nie do udziału/przeprowadzenia czynności kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest "osoba posiadająca wiedzę specjalistyczną" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem "wiadomości specjalnych" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów.
190
art. 43 ust. 1 pkt 2
CHAMBER
W pierwszej kolejności należy stwierdzić, że dopuszczenie do prowadzenia kontroli osób nie będących pracownikami Biura Komisji (art. 43 ust. 1 pkt. 2) nie powinno być możliwe. Trudno znaleźć uzasadnienie lub wzorzec takiego zlecanie osobom trzecim wykonywania funkcji imperium Państwa. Prowadzącym kontrolę zawsze musi być wyłącznie pracownik organu, który może jedynie dodatkowo przybrać sobie w charakterze pomocnika “osobę posiadającą wiedzę specjalistyczną”. Wnosimy o wykreślenie tego przepisu w obecnym brzmieniu.
Art. 43 ust.1 pkt 2
KIGEiT
Art. 43 ust. 1 pkt. 2
e-Izba
art. 43 ust. 2 i kolejne
Związek Telewizji Kablowych w Polsce Izba Gospodarcza
Propozycja zapisu: Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. , Upoważnienie do "przeprowadzenia kontroli" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, Art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest "osoba posiadająca wiedzę specjalistyczną" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem "wiadomości specjalnych" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów.
Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla innych celów, niż prowadzenie kontroli. Rozumiemy, że można wydelegować do kontroli pracowników organów wskazanych w art. 6 ust. 3 Projektu, ale nie powinny to być osoby „z rynku" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem.
W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji.
W tym stanie rzeczy proponujemy skreślenie art. 43 ust. 2 projektu ustawy o AI jako niezgodnego z regulacją art. 8 zd. | prawa przedsiębiorców, a zarazem pozbawionego jakichkolwiek racjonalnych podstaw, a także niezgodnego z zasadami zdrowego rozsądku. G/ Nie sposób zrozumieć w czym zasadza się prawo kontrolującego do wstępu na grunt oraz do obiektów budowalnych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia „dzielności” podmiotu kontrolowanego (art. 43 ust. 4 pkt. 2 in fine projektu ustawy o AT). To kolejny przykład braku staranności w przygotowaniu projektu ustawy o
191
art. 43 ust. 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
AI albowiem prawdopodobnie chodziło projektodawcy o wstęp w dniach i godzinach pracy podmiotu lub prowadzenia „działalności” przez podmiot kontrolowany. H/ Nie sposób zaakceptować opcji obciążania podmiotu kontrolowanego, w tym i będącego przedsiębiorcą, kosztami sporządzania na żądanie organu kontrolującego kopii lub wydruków materiałów, czy korespondencji oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w art. 43 ust. 4 pkt. 3 projektu ustawy o Ai (art. 43 ust. 4 pkt. 5 projektu ustawy o A). Skoro to organ kontroli państwowej potrzebuje rzeczonych dokumentów to sam na własny koszt winien je sobie skopiować względnie wydrukować, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty kopiowania, czy też drukowania dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 43 ust. 4 pkt. 5 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji rzeczypospolitej Polskiej z dnia 2.04.1997 r. (Dz. U. nr 78 poz. 483 z późn. zm.), zwanej dalej Konstytucją RP].
Zdecydowanie należy pochwalić takie rozwiązanie, ale też należy zwrócić uwagę, że Komisja będzie musiała je zoperacjonalizować. Wysyłanie wiadomości e-mail na pewno będzie nieefektywną formą przekazywania danych. W związku z tym wnosimy o wyjaśnienie czy Komisja wystawi API, z którym podmioty kontrolowane będą mogły/musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom Komisji (przez narzędzia do współpracy zdalnej)?
Postulujemy uzupełnienie przepisu art. 43 ust. 2 zdanie drugie Projektu ustawy w następujący sposób:
„W szczególnie uzasadnionych przypadkach (…)”.
Zasadnym byłoby, aby fizyczne kontrole były absolutnym wyjątkiem. Wówczas po stronie kontrolowanej nie wystąpi konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych.
Art. 43 ust. 2
Fundacja Poland
FinTech
Zdecydowanie warto docenić wprowadzenie możliwości przeprowadzania kontroli w sposób zdalny, co przyczynia się do usprawnienia procedur nadzorczych oraz redukcji kosztów i czasu poświęcanego na kontrole. Niemniej jednak, należy zwrócić uwagę, że KRiBSI będzie musiała zoperacjonalizować te przepisy, aby zapewnić sprawne i efektywne funkcjonowanie zdalnych kontroli. Wysyłanie dokumentów drogą mailową jest rozwiązaniem, które może okazać się nieefektywne, szczególnie przy dużej ilości danych lub w przypadku przekazywania informacji o wysokim stopniu wrażliwości.
W związku z tym rekomenduje się rozważenie, czy KRiBSI powinna opracować i wystawić dedykowane API, umożliwiające bezpieczną i zautomatyzowaną wymianę danych z podmiotami
192
kontrolowanymi. Takie rozwiązanie pozwoliłoby na lepszą integrację systemów i znacznie przyspieszyło procesy kontrolne, zapewniając jednocześnie odpowiedni poziom bezpieczeństwa i ochrony danych. Alternatywnie, warto ustalić, czy na potrzeby zdalnej kontroli wystarczające będzie zapewnienie pracownikom KRiBSI zdalnego dostępu do systemów podmiotów kontrolowanych za pomocą narzędzi do współpracy online.
Ponadto, aby uniknąć nieefektywności związanych z fizycznymi kontrolami, sugeruje się, aby były one stosowane wyłącznie w absolutnie wyjątkowych przypadkach. Obecny zapis dotyczący przesyłek kurierskich i rejestrowanych może sugerować konieczność drukowania dużej ilości dokumentów, co jest niepraktyczne i mija się z ideą zdalnej kontroli. W skrajnych przypadkach, jak kontrola systemów opartych na ogromnych zbiorach danych (np. system wytrenowany na treściach typu Wikipedia), fizyczne przesyłki mogą prowadzić do absurdalnych sytuacji, takich jak konieczność drukowania tysięcy stron dokumentacji.
W związku z powyższym, warto rozważyć doprecyzowanie przepisów, aby zapewnić, że procesy zdalne będą dominującą formą kontroli, a fizyczne przesyłki będą wykorzystywane wyłącznie w ostateczności.
Art. 43 ust. 3
Polski związek zarządzania wierzytelnościami
Postulowane brzmienie przepisu:
Art. 43 ust. 2
2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W szczególnie uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467).
Art. 43 ust. 3 Projektu Nasze wątpliwości budzi fakt, że art. 43 ust. 3 Projektu nie wskazuje zakresu „szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Ograniczenie zakresu kontroli stacjonarnych do specjalnych potrzeb (np. w celu oględzin urządzeń, dokumentów i materiałów, jakimi dysponuje w swojej siedzibie kontrolowany) w znacznym stopniu wpłynęłoby pozytywnie na budowanie zaufania na linii organ
- przedsiębiorstwa, jednak przede wszystkim zminimalizowałoby negatywny wpływ, jak i efekt mrożący, na działalność przedsiębiorstw. Wydaje się, że w znakomitej większości przypadków niezbędna dotycząca systemu dokumentacja będzie powstawała w formie cyfrowej, a nie fizycznej.
193
Art. 43 ust. 3
Osoba fizyczna jk
Art. 43 ust. 3
GRAI
błąd gramatyczny W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.
Brak odniesienia się do kryteriów zainicjowania kontroli – kary są wysokie, a Komisja może przeprowadzić kontrolę „na podstawie uzyskanych informacji”.
Oznacza to. Że kontrola może być wszczęta na podstawie każdej skargi wnoszona w trybie art. 85 AI Act (o której mowa w art. 50 ustawy), każdej informacji powziętej przez Komisję.
Kontrola „w ramach monitorowania przestrzegania” przepisów AI Act – użycie tego sformułowania sugeruje, że kontrola może być zainicjowana w urzędu bez podania konkretnej przyczyny. Bardzo to niepokoi.
Rekomendowane jest doprecyzowanie:
Jaki charakter powinny mieć takie informacje?
Co może być źródłem takiej informacji?
Warto zaproponować stworzenie planu kontroli na kolejne lata, podobnie jak dzieje się to w UODO.
Takie planowane kontrole odbywałyby się w ramach monitorowania przestrzegania przepisów AIA, nie dotyczyłyby, z oczywistych względów, kontroli ad hoc.
Po ust. 3 dodać ust. 4 wskazujący na obowiązek opracowywania planów kontroli na następne lata.
Art. 43 ust. 3
e-Izba
Art. 43 ust. 3
Polskie Towarzystwo Informatyczne
Art. 43 ust. 3
ITCORNER
Rekomendujemy wskazanie w katalogu otwartym przykładów „szczególnie uzasadnionych okoliczności”. Zwiększy to przewidywalność stosowania tego przepisu.
Może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.
Propozycja edytorska „może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.”
Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Aby zminimalizować liczbę kontrol stacjonarnych w siedzibie / biurze kontrolowanego, oraz ich negatywny wpływ na działalność przedsiębiorców, proponujemy doprecyzowanie zakresu “szczególnych okoliczności”,
194
Art. 43 ust. 3
KIGEiT
Art. 43 ust. 3
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 43 ust. 3
w
GRAI
które uprawniają do wykonania kontroli stacjonarnej w siedzibie / biurze kontrolowanego i ograniczenie ich do takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym (np. kontrola wymaga oględzin urządzeń fizycznych lub informacje i materiały związane z przedmiotem kontroli nie mogą zostać przedstawione kontrolującemu zdalnie / w formie cyfrowej).
Rekomendacja: Dodanie w ust. 3 zapisu, iż kontrola w siedzibie podmiotu kontrolowanego lub w innym miejscu prowadzenia przez niego działalności powinna się odbyć przy udziale upoważnionego reprezentanta podmiotu kontrolowanego, zakończona protokołem pokontrolnym. , Uzasadnienie: podmiot kontrolowany powinien mieć prawo brać czynny udział podczas kontroli przeprowadzanej w jego siedzibie/miejscu prowadzenia działalności.
Wnosimy o doprecyzowanie, poprzez wskazanie katalogu przykładów, o jakie „szczególne okoliczności” chodzi. Pozwoli to zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie.
Wskazujemy również, iż wątpliwości budzi uprawnienie osoby kontrolującej do podjęcia decyzji wskazanej w tym przepisie, szczególnie, że kontrolującym może być również osoba nie będąca pracownikiem Komisji. Z tej przyczyny postulujemy, aby na potrzeby komentowanego przepisu za kontrolującego uznać jedynie pracownika Komisji.
Wnosimy również o doprecyzowanie przepisu w zakresie postępowania odwoławczego jak również w zakresie charakteru decyzji (administracyjna/operacyjna).
Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, co rodzi wysokie ryzyko nadużyć.
W przypadku gdy szczególne okoliczności to uzasadniają (…) może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego – nie wiemy, co to są „szczególne okoliczności to uzasadniające”.
Konieczność określenia zakresu “szczególnych okoliczności” uprawniających do wykonania czynności kontrolnych w siedzibie podmiotu, tj. takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym:
Materiały związane z przedmiotem kontroli nie mogą zostać okazane kontrolerowi w formie cyfrowej Kontrola wymaga oględzin fizycznych urządzeń
Art. 43 ust. 3
Fundacja Poland
FinTech
W związku z brzmieniem art. 43 ust. 3, wskazującym na możliwość przeprowadzenia kontroli w siedzibie podmiotu
195
kontrolowanego lub w miejscu jego działalności, zasadne jest doprecyzowanie, jakie szczególne okoliczności mogą uzasadniać taką decyzję. Rekomendujemy podanie przykładowego (choć otwartego) katalogu takich sytuacji, który mógłby obejmować: przypadki podejrzenia manipulacji danymi lub systemami, konieczność weryfikacji sprzętu fizycznego używanego do działania systemu AI, bądź potrzebę zbadania infrastruktury sieciowej i zabezpieczeń, które mogą być kluczowe dla oceny ryzyka związanego z systemem AI.
Ponadto, wątpliwości budzi kwestia, czy decyzja o wykonaniu kontroli w siedzibie powinna pozostawać w gestii jednej osoby kontrolującej, szczególnie gdy art. 43 ust. 1 pkt 2 zezwala na przeprowadzanie kontroli przez osoby spoza Komisji. Aby zminimalizować ryzyko nadużyć oraz zapewnić obiektywność i rzetelność procesu, zasadne wydaje się ograniczenie uprawnienia do podejmowania takiej decyzji do pracowników Komisji. Kontrolującym w rozumieniu tego przepisu powinna być osoba, która posiada odpowiedni poziom odpowiedzialności i znajduje się pod nadzorem Komisji.
Dodatkowo, niejasne pozostaje, czy decyzja o przeprowadzeniu kontroli w siedzibie jest traktowana jako formalna decyzja administracyjna, czy też jako decyzja operacyjna, która nie podlega formalnym procedurom administracyjnym. Doprecyzowanie tego aspektu zwiększyłoby przejrzystość przepisów oraz pomogłoby podmiotom kontrolowanym zrozumieć, jakie prawa im przysługują w przypadku kwestionowania zasadności przeprowadzenia kontroli na miejscu. Warto rozważyć wprowadzenie wymogu pisemnego uzasadnienia takiej decyzji, aby kontrolowane podmioty miały jasność co do powodów jej podjęcia.
Art. 43 ust. 4
PIIT
Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony.
Art. 43 ust. 4
Osoba fizyczna jk
"1) swobodnego dostępu do środków łączności"
Dobra rada doświadczonego praktyka: kontrolujący powinni unikać jak ognia korzystania z infrastruktury teleinformatycznej podmiotu kontrolowanego.
Dostępne obecnie rozwiązania bez problemu pozwalają kontrolującym na stosowanie własnych urządzeń telekomunikacyjnych i teleinformatycznych do komunikacji. Unikną zarzutu uzasadnionego lub nie - o ingerencję w systemy teleinformatyczne podmiotu kontrolowanego.
196
Proponowany zapis jest reliktem z czasów, gdy nie było telefonii komórkowej i mobilnego internetu. błąd gramatyczny
2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzieałalności podmiotu kontrolowanego
Art. 43 ust. 4
GRAI
Art. 43 ust. 4
KIGEiT
8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781)
Nie ma art. 7 pkt 2a w wymienionej ustawie: https://dziennikustaw.gov.pl/D2019000178101.pdf
Art. 43 ust. 4 zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów.
Niektóre uprawnienia są nieproporcjonalne i nadmiernie ingerujące w prawa przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej: (a) żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; (b) zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6), (c) opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9); (d) wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11).
Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych.
Weryfikacja zakresu uprawnień i pozostawienie tylko tych niezbędnych oraz niezakłócających prowadzenia działalności przez przedsiębiorcę, w szczególności art. 43 ust. 3 pkt 5, 6, 9, 11.
Rekomendacja: Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku
197
Art. 43 ust. 4
Polski związek zarządzania wierzytelnościami
Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony.
Art. 43 ust. 4, 7 i 13 Projektu
Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem mogą nieproporcjonalnie ingerować w swobodę prowadzenia działalności gospodarczej i stabilność obrotu. Nadmierny wydaje się być w tym zakresie poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - biorąc tu zwłaszcza pod uwagę możliwość stosowania oprogramowania wdrożonego z udziałem podmiotów trzecich (przedsiębiorstw z sektora IT) oraz rozległość dokumentacji technicznej systemów informatycznych.
Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na skuteczną komunikację z podwykonawcami, odpowiedzialnymi za tworzenie produktów lub usług wpisujących się w definicję systemów AI na rzecz przedsiębiorstw z branży windykacyjnej (albo stanowiących ich element). W art. 43 ust. 7 dostrzegamy braki dotyczące: maksymalnego czasu trwania kontroli - proponujemy, by w związku z wyżej przytoczonymi argumentami za ochroną stabilności obrotu gospodarczego, kontrole trwały nie dłużej niż 14 dni; terminów, które powinny zostać zachowane, jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 Projektu następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być możliwie jak najkrótszy, aby mógł realizować swoją funkcję.
Art. 43 ust. 4
Związek Polska
Cyfrowa
Zbyt szeroki katalog uprawnień organu kontrolującego. Art. 43 ust. 4 Projektu zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany,
198
przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Należy zauważyć, że tego rodzaju, bardzo szerokie uprawnienia nie są zgodne z przepisami Aktu o sztucznej inteligencji, w szczególności z art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”. W związku z tym warto włączyć taką samą definicję do polskiej ustawy (w brzmieniu. „tylko takie dane, które są absolutnie niezbędne do oceny ryzyka stwarzanego przez systemy sztucznej inteligencji i wykonywania ich uprawnień”), a dokumenty wymienione poniżej uznać za wyłącznie te, które można uzyskać, jeśli mieszczą się w zakresie ich bezwzględnej konieczności.
Dodatkowo, jako nieproporcjonalne i nazbyt ingerujące w prawo każdego przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej należy ocenić uprawnienie do: żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 in fine Projektu) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6 Projektu); opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9 Projektu); wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11 Projektu).
Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych.
Art. 43 ust. 4 pkt 1
GRAI
Nie zawsze będzie możliwość zapewnienia „oddzielnego pomieszczenia”, szczególnie gdy sprawa dotyczy mikro lub małych podmiotów, które wynajmują jeden open-space.
Postuluje się dodanie na końcu zdania „o ile będzie to możliwe”.
Art. 43 ust. 4 pkt 2
Polskie Towarzystwo Informatyczne
2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3.
Czy nie powinno się to odbywać również w obecności przedstawiciela jednostki kontrolowanej, co powinno mieć wówczas odzwierciedlenie w zapisie artykułu.
199
Art. 43 ust. 4 pkt 2
Art. 43 ust. 4 pkt 3
Art. 43 ust. 4 pkt 3
Art. 43 ust. 4 pkt 3
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Związek Polskich
Fundacja Poland
Wskazujemy na konieczność redakcyjnej zmiany wyrazu „dzielności” na wyraz „działalności”. w
w
Banków
FinTech
Wnosimy o wyjaśnienie, czy chodzi o dostęp do nośnika czy do zawartych tam informacji?
Wnosimy również o wyjaśnienie, jak zdaniem Projektodawcy należy udostępnić sam nośnik w postaci np. serwera „chmurowego"?
żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Przepis art. 43 ust. 4 pkt 3) przewiduje możliwość żądania przez kontrolującego udostępnienia nośników danych oraz dostępu do systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce.
Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać,
200
Art. 43 ust. 4 pkt 5
Związek Telewizji Kablowych w Polsce Izba Gospodarcza
Art. 43 ust. 4 pkt 5
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg, oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów zewnętrznych.
Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych.
Aby wyeliminować przedmiotową wadliwość regulacji proponujemy zatem w art. 43 ust. 4 pkt. 5 in principio projektu ustawy o AI po słowach „podmiot kontrolowany”, a przed słowem „kopii” dodanie treści w brzmieniu „na koszt podmiotu przeprowadzającego kontrolę”.
G/ Projektodawca jest niekonsekwentny w swoich zamierzeniach albowiem w art. 44 ust. 1 projektu ustawy o AI wskazuje, że Komisja może zwrócić się o udzielenie pomocy przy przeprowadzaniu kontroli do Policji lub organu kontroli państwowej i ochrony prawa, a także do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji w trzech odrębnych punktach zawartych w art. 44 ust. 2 zd. 2 projektu ustawy o AI opisując w czym ma się zasadzać udzielenie pomocy odpowiednio przez Policję, przez organ kontroli państwowej i ochrony prawa oraz przez jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, tymczasem w art. 44 ust. 2 zd. 1 in principio projektu ustawy o AI wprowadza regulację przewidującą iż jedynie Policja lub organ kontroli państwowej i ochrony prawa zapewnia pomoc w przeprowadzeniu kontroli pomijając w tym zestawieniu pomoc udzielaną przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji, mimo iż w art. 44 ust. 2ust. 2 pkt. 3 projektu ustawy AI opisuje ustawodawca w czym ma się przejawiać udzielenie pomocy kontrolującemu przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji.
Podnosimy, iż uprawnienie do żądania wydruków w sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych, uznać należy za anarchonizm. Rodzi to obawy, że organy będą preferować drukowanie przez podmiot kontrolowany ryz papieru zamiast przekazania kopii na nośniku elektronicznym.
Ponadto żądanie „poświadczania" wydruków/kopii za zgodność uznać należy za nazbyt uciążliwe. Poświadczenie „od podmiotu" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.
„Poświadczenie" mogłoby być zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu kontrolowanego, że przekazywane kopie są zgodne z oryginałami.
W związku z powyższym, postulujemy zmianę treści art. 43 ust. 4 pkt 5 Projektu ustawy na następującą:
„5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o
201
których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;”
Art. 43 ust. 4 pkt 5
e-Izba
Art. 43 ust. 4 pkt 5
Związek Polskich
Art. 43 ust. 4 pkt 5
Fundacja Poland
Banków
FinTech
Rekomendujemy usunięcie tego przepisu. W sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych nie powinno być możliwe żądanie wydruków materiałów, korespondencji oraz informacji. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym.
Na marginesie zwracamy uwagę, że „poświadczanie" wydruków/ kopii za zgodność jest nieżyciowe i bardzo uciążliwe. Poświadczenie „od podmiotu" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.
„Poświadczenie" powinno zostać zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów;
Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Przepis przewidujący prawo kontrolujących do żądania sporządzenia wydruków przez podmiot kontrolowany, gdy istnieje możliwość przekazania kopii elektronicznych, jest archaiczny i odbiega od współczesnych standardów zarządzania dokumentacją. W erze cyfrowej preferowanie wydruków może prowadzić do niepotrzebnego zwiększenia obciążenia administracyjnego oraz marnotrawstwa zasobów, zwłaszcza papieru. Taka praktyka rodzi również ryzyko, że organy kontrolujące będą forsować drukowanie dużych ilości dokumentacji, co jest czasochłonne i nieefektywne w porównaniu do przekazywania danych w formie elektronicznej na nośnikach lub poprzez bezpieczne kanały cyfrowe.
Dodatkowo, wymóg poświadczania każdej strony dokumentów za zgodność z oryginałem przez podmiot kontrolowany jest nadmiernie uciążliwy i mało praktyczny. Proces ten wymaga, aby osoba odpowiedzialna w podmiocie była formalnie umocowana do składania takiego poświadczenia, co wiąże się z dodatkowymi procedurami i komplikacjami prawnymi. Zamiast tego, bardziej adekwatnym rozwiązaniem byłoby zastąpienie poświadczania indywidualnych dokumentów jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, w którym potwierdza się, że
202
Art. 43 ust. 4 pkt 8
Art. 43 ust. 4 pkt 8
Związek Przedsiębiorstw Finansowych w Polsce (ZPF)
Związek Banków Polskich
Art. 43 ust. 4 pkt 8
Fundacja Poland
FinTech
Art. 43 ust. 4 pkt 10
Związek Polskich
Banków
wszystkie przekazywane kopie są zgodne z oryginałami. Taka zmiana uprościłaby proces, zwiększając efektywność i zmniejszając formalne obciążenie kontrolowanego podmiotu.
Postulowane brzmienie przepisu:
Art. 43 ust. 4 pkt 5)
5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;
Wskazujemy, iż oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania.
8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781);
Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Oględziny urządzeń, nośników danych oraz systemów informatycznych w kontekście serwerów dostawców chmurowych mogą napotkać istotne trudności organizacyjne i techniczne. W praktyce, serwery chmurowe są często zlokalizowane poza granicami kraju lub w centrach danych o wysokim poziomie zabezpieczeń, gdzie fizyczne oględziny są albo niemożliwe, albo znacznie ograniczone przez regulacje dostawcy. Ponadto, dostęp do tych serwerów może być zgodny jedynie z polityką bezpieczeństwa i procedurami wewnętrznymi dostawcy, co może obejmować szczególne warunki prawne lub techniczne.
W związku z tym proponujemy rozważenie alternatywnych form przeprowadzania oględzin, takich jak zdalna weryfikacja danych za pomocą bezpiecznych połączeń sieciowych, audyty systemowe.
Takie podejście pozwoli na przeprowadzenie kontroli bez fizycznej obecności przy serwerach, co zwiększy elastyczność działania organów kontrolujących i zminimalizuje ryzyko komplikacji wynikających z międzynarodowych aspektów lokalizacji danych. (…)przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli [uchylenie punktu] Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy.
203
Art. 43 ust. 4 i 6
Związek Polskich
Banków
4. W toku kontroli kontrolujący mają prawo do: (…)
11) Kontrolę należy prowadzić w sposób rzetelny, obiektywny i proporcjonalny do celu kontroli.
Kontroler jest zobowiązany do minimalizowania utrudnień w działalności podmiotu kontrolowanego. (…)
6. Upoważnienie do przeprowadzenia kontroli zawiera: (…)
11) wskazanie praw i obowiązków podmiotu kontrolowanego w trakcie kontroli, w tym prawa do wglądu w akta sprawy i możliwości odwołania.
Przepis szczegółowo określa uprawnienia kontrolerów Komisji oraz procedury przeprowadzania kontroli. Upoważnienie do kontroli może określać ten zakres w sposób ogólny, co pozwala kontrolerom dostosować swoje działania do konkretnej sytuacji. Co oczywiście może wpływać na ustalenie konkretnych uprawnień organu i odpowiadających mu obowiązków kontrolowanego Szczególnym zagadnieniem jest kwestia zabezpieczenia dowodów. Przepisy przyznają kontrolerom szerokie uprawnienia w tym zakresie, takie jak zajmowanie dokumentów czy przeprowadzanie oględzin. Chociaż takie uprawnienia są niezbędne do efektywnego prowadzenia kontroli, to jednocześnie rodzą wątpliwości co do ich granic i wpływu na prawa podmiotów kontrolowanych.
Należy podkreślić, że szeroki katalog uprawnień kontrolerów powinien być równoważony przez odpowiednie zabezpieczenia prawne dla podmiotów kontrolowanych, takie jak prawo do wglądu w akta sprawy, możliwość odwołania od decyzji kontrolera czy jasne określenie przesłanek do zastosowania poszczególnych środków zabezpieczających
Art. 43 ust. 5
Fundacja Poland
FinTech
Art. 43 ust. 6
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Przy kontroli zdalnej kwestia okazania upoważnienia oraz dokumentu tożsamości wymaga doprecyzowania, aby zapewnić transparentność procesu i autentyczność działań kontrolujących.
Obecne postanowienie nie precyzuje, jak kontrolujący powinien okazać te dokumenty w sytuacji, gdy kontrola odbywa się na odległość. Należałoby rozważyć możliwość przedstawienia upoważnienia oraz dokumentu tożsamości w formie elektronicznej.
Tego rodzaju rozwiązanie pozwoliłoby na potwierdzenie tożsamości i uprawnień kontrolującego, jednocześnie dostosowując procedurę do realiów zdalnej współpracy i minimalizując potencjalne trudności oraz ryzyka związane z weryfikacją upoważnienia na odległość.
Postulujemy uzupełnienie przepisu poprzez dodanie obowiązku wskazania przez podmiot kontrolujący – oprócz podstawy prawnej – także podstawy faktycznej.
w
204
Art. 43 ust. 6
Fundacja Poland
Art. 43 ust. 6 pkt 1
e-Izba
Art. 43 ust. 7
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 43 ust. 7
FinTech
Polskie Towarzystwo Informatyczne
w
Należałoby rozważyć uzupełnienie przepisu tak, aby oprócz podstawy prawnej kontroli, upoważnienie zawierało również wskazanie podstawy merytorycznej. Warto, aby upoważnienie precyzowało, czy kontrola jest prowadzona w ramach ogólnego monitorowania przestrzegania rozporządzenia, czy na podstawie powziętej przez Komisję informacji, skargi lub innego rodzaju zgłoszenia.
Taka informacja zwiększyłaby transparentność działań kontrolnych i pozwoliłaby kontrolowanemu lepiej zrozumieć kontekst i przyczynę kontroli. Wprowadzenie tego elementu mogłoby także zapobiec nieporozumieniom oraz wzmocnić zaufanie do procedur kontrolnych, ułatwiając współpracę między podmiotem kontrolowanym, a Komisją Rekomendujemy uzupełnienie treści przepisu o wskazanie także podstawy faktycznej kontroli.
Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi.
W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące:
„wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;”
Wnosimy o doprecyzowanie przepisu w taki sposób, aby wynikało z niego z jakim wyprzedzeniem i w jakiej formie pomiot jest informowany o planowanej kontroli. Przedsiębiorcy powinni wiedzieć również w jakim czasie kontrola powinna się zakończyć.
W związku z powyższym, wnosimy o nadanie art. 43 ust. 7 Projektu ustawy nowej treści w brzmieniu następującym:
„O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.”
O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany czas trwania kontroli.
Propozycja O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany termin rozpoczęcia i przewidywany czas trwania kontroli.
Art. 43 ust. 7
GRAI
Powinien zostać podany termin rozpoczęcia kontroli I. Zbyt wąski zakres informacji przekazywanych kontrolowanemu przed planowaną kontrolą.
II. Brak informacji o terminach, które muszą zostać zachowane, tj. dopuszczalnym terminie zawiadomienia przed planowaną kontrolą, oraz maksymalnym dopuszczalnym czasie trwania kontroli.
205
I. Słowa „przewidywany czas trwania kontroli” zastępuje się słowami “informacje, o których mowa w ust. 6 pkt 1, 2, 8 i 10”.
II. Uzupełnienie brakujących terminów: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany w terminie do 7 dni przed planowaną kontrolą, podając przewidywany czas trwania kontroli, który nie może być dłuższy niż 14 dni kalendarzowych.”
Art. 43 ust. 7
GRAI
Termin rozpoczęcia kontroli powinien być odpowiedni i oscylować w zakresie od 3 dni w przypadkach nagłych do min. 14 dni w przypadkach standardowych.
Warto też wskazać jaki jest ustawowy czas przewidziany standardowo na kontrolę. Chodzi o zapewnienie podmiotów, że kontrola nie będzie trwała nadmiernie długo.
Proponuje się, aby kontrola rozpoczynała się w przypadkach nagłych min. 3 dni od otrzymania powiadomienia, min 14 dni lub więcej w przypadkach standardowej kontroli.
Proponuje się także, aby kontrola była ograniczona ustawowo do 1 miesiąca, chyba, że w następuje uzasadniony przypadek i termin ten można wydłużyć do 3 miesięcy. Uzasadnienie przedłużenia należy dostarczyć kontrolowanemu.
Art. 43 ust. 7
Art. 43 ust. 8
Fundacja Poland
FinTech
Wprowadzenie obowiązku zawiadamiania podmiotu kontrolowanego z wyprzedzeniem przynajmniej 30 dni roboczych, a także ograniczenie czasu trwania kontroli do 1 miesiąca od dnia jej rozpoczęcia, ma na celu zapewnienie przejrzystości i efektywności procesu kontrolnego.
Wyprzedzenie 30-dniowe daje kontrolowanemu podmiotowi odpowiedni czas na przygotowanie się do kontroli, zebranie wymaganych dokumentów i zorganizowanie zasobów, co sprzyja płynnemu przebiegowi kontroli oraz minimalizuje zakłócenia w bieżącej działalności podmiotu.
Określenie maksymalnego czasu trwania kontroli na 1 miesiąc pozwala ograniczyć długotrwałe obciążenia związane z procesem kontrolnym, co jest szczególnie istotne dla firm o ograniczonych zasobach kadrowych i operacyjnych. Taka zmiana zwiększa również przewidywalność procesu oraz zmniejsza ryzyko niepotrzebnego przedłużania działań kontrolnych, co może być obciążające zarówno dla podmiotu kontrolowanego, jak i dla samego organu kontrolującego.
Postulowane brzmienie przepisu:
7. O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.
Liczne usterki językowe w poszczególnych punktach wyliczenia.
206
W pkt 2 słowo „udzielania” zastępuje się słowem „udzielenie”, w pkt 3 skreśla się słowo „umożliwienia” i słowo „wstępu” zastępuje się słowem „wstęp”, w pkt 4 słowa „udostępnienia i wydania” zastępuje się słowami „udostępnienie i wydanie”, w pkt 5 skreśla się słowo „umożliwienia” i słowo „dostępu” zastępuje się słowem „dostęp”.
Art. 43 ust. 8 pkt 5
Związek Polskich
Banków
umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych,
Art. 43 ust. 10
Fundacja Poland
Art. 43 ust. 10 pkt. 1
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 43 ust. 11
FinTech
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
w
Zastosowanie metody zabezpieczenia dowodów przez ich pozostawienie w zamkniętym i opieczętowanym pomieszczeniu może nie być optymalne w kontekście nośników informatycznych. Warto rozważyć alternatywne metody zabezpieczania danych, które pozwolą na skuteczne zabezpieczenie dowodów przy jednoczesnym minimalizowaniu zakłóceń w bieżącej działalności podmiotu kontrolowanego. Fizyczne zabezpieczenie nośników, które mogą być kluczowe dla wielu procesów operacyjnych, nie powinno prowadzić do sytuacji, w której podmiot jest całkowicie pozbawiony dostępu do zasobów niezbędnych do prowadzenia działalności gospodarczej. Rekomendujemy wprowadzenie zabezpieczeń, takich jak tworzenie kopii zabezpieczonych danych lub ograniczenie dostępu w sposób pozwalający na ich monitorowanie, ale nie blokujący funkcjonowania podmiotu Podnosimy, iż warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej.
Wskazujemy, iż przepis powinien precyzować, czym jest „zajęcie informatycznych nośników danych" - czy w skrajnych przypadkach ma to oznaczać, że organizacja musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte?
Uważamy, iż tak intepretowany przepis jest zbyt daleko idący.
207
Art. 43 ust. 11
Fundacja Poland
Art 43 ust.11, 13 i 20
PIIT
FinTech
Przepis dotyczący zajęcia nośników informatycznych wymaga większej precyzji, szczególnie w kontekście jego zastosowania w praktyce. Zajęcie nośników danych, urządzeń oraz systemów informatycznych może mieć poważne konsekwencje dla firmy, zwłaszcza jeśli działalność organizacji jest ściśle związana z przetwarzaniem danych lub korzystaniem z systemów, które zostały zajęte w ramach kontroli.
W skrajnych przypadkach, jeśli zajęcie nośników danych lub urządzeń dotyczy kluczowych elementów infrastruktury firmy, takich jak serwery, bazy danych, komputery czy inne urządzenia wykorzystywane w działalności gospodarczej, może to skutkować paraliżem operacyjnym. Firma mogłaby zostać zmuszona do zaprzestania działalności, jeżeli jej praca jest oparta na systemach informatycznych, które zostały skonfiskowane. Przepis w obecnym brzmieniu nie precyzuje, w jakim zakresie firma może kontynuować działalność po zajęciu takich zasobów, co może prowadzić do nadmiernych trudności w jej funkcjonowaniu.
Aby uniknąć takich sytuacji, należałoby rozważyć dodanie do przepisu postanowień wskazujących, w jakich przypadkach firma może nadal funkcjonować pomimo zajęcia nośników informatycznych, a także jakie środki zaradcze mogą zostać wprowadzone, aby zapewnić firmie możliwość prowadzenia działalności na czas trwania kontroli. Można by też przewidzieć mechanizmy pozwalające na tymczasowy dostęp do danych lub na alternatywne sposoby ich przechowywania, co pozwoliłoby na uniknięcie całkowitego wstrzymania działalności.
Takie postanowienia mogłyby zapewnić równowagę pomiędzy koniecznością przeprowadzenia skutecznej kontroli a zachowaniem ciągłości działalności gospodarczej, co w przeciwnym razie mogłoby prowadzić do nadmiernych trudności gospodarczych i potencjalnych problemów dla firm, szczególnie tych, które są mocno zależne od technologii i danych.
Należy doprecyzować przepis i wyjaśnić intencje ustawodawcy co do relacji przepisów, określonych w ust.11 (postanowienie o zajęciu), 13 (zażalenie na postanowienie o zajęciu), 20. (sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów).
W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Czy wniesienie sprzeciwu, zgodnie z ust.20 wstrzymuje wykonanie zajęcia? (mieści się to w zakresie wykonywania kontroli). Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane.
208
Art. 43 ust. 11, 20
KIGEiT
Art. 43 ust. 12
KIGEiT
Art. 43 ust. 13
KIGEiT
Art. 43 ust. 13
e-IZba
Art. 43 ust. 13
ISSA Polska
Postuluję wskazanie terminu na wniesienie zażalenia oraz momentu rozpoczęcia biegu terminu.
Art. 43 ust. 13
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Skoro zajęcie może trwać do 7 dni (art. 43 ust. 11 Projektu ustawy), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcie upada z mocy prawa.
Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, istnieje ryzyko, iż prawo do zażalenia stanie się fikcją.
Art. 43 ust. 13
Rekomendacja: Wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. , Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie.
Propozycja zapisu: Zmiana na: "Osobę posiadającą przedmioty, o których mowa w ust. 9, kontrolujący wzywa do wydania ich dobrowolnie, w czasie możliwym na ich zgromadzenie bez uszczerbku dla prowadzonej działalności podmiotu kontrolowanego, a w razie odmowy można przeprowadzić ich odebranie w trybie przepisów o postępowaniu egzekucyjnym w administracji." , Uzasadnienie: podmiot kontrolowany powinien mieć czas na odpowiedni zebranie/zgromadzenie dowodów tak aby zachować płynność gospodarczą.
Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. , Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła Art. 42 projektu ustawy. Zastosowanie ma KPA?
- to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika
- nie ma regulacji w zakresie zażaleń choćby w Art. 57 projektu ustawy.
Z uwagi na to, że zajęcie może trwać do 7 dni (zgodnie z art. 43 ust. 11), to termin rozpatrzenia zażalenia powinien być 1 dniowy. W. przypadku braku jego zachowania, zajęcie powinno upadać.
w
PIIT
209
Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia.
Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie?
Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła art. 42 projektu ustawy.
Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU?
- ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w art. 57 projektu ustawy.
Art. 43 ust. 13
GRAI
Postuluje się, aby zażalenie na zajęcie przedmiotów przysługiwało także podmiotowi kontrolowanemu.
Postuluje się, aby zażalenie przysługiwało także podmiotowi kontrolowanemu.
Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów.
Uzupełnienie brakującego terminu, przy czym, jeżeli miałby to być standardowy 7 dniowy termin z KPA, to będzie to nieefektywne w sytuacji, gdy zajęcie przedmiotów następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Powinien więc być to termin krótszy wraz z szybkim rozpatrzeniem zażalenia przez organ kontrolujący.
Art. 43 ust. 13
NRA
Art. 43 ust. 13
Fundacja Poland
FinTech
Podkreśla się, że w art. 43 ust. 13 Projektu nie doprecyzowano organu właściwego do rozpatrywania zażaleń na postanowienie Komisji o zajęciu przedmiotów, pozostawiając ten istotny aspekt w obszarze domysłów interpretacyjnych. Przepis w obecnej formie ogranicza się do stwierdzenia, że zażalenie przysługuje osobom, których prawa zostały naruszone, natomiast nie wskazuje, jaki podmiot miałby kompetencję do rozpoznania złożonego środka odwoławczego. W praktyce oznacza to, że pomimo wydawania postanowień przez Komisję (co wynika z art. 43 ust. 11 Projektu), brak jest wyraźnego określenia trybu weryfikacji prawidłowości przedmiotowych postanowień, co może prowadzić do komplikacji proceduralnych oraz wątpliwości co do skuteczności ochrony interesów stron postępowania. Wprawdzie art. 45 ust. 5 Projektu wskazuje na SOKiK jako organ właściwy do rozstrzygania kwestii zwrotu dokumentów ujawnionych podczas kontroli, niemniej dotyczy to jedynie ograniczonej kategorii dokumentów pozostających na miejscu kontroli. Regulacja ta nie znajduje więc zastosowania do sytuacji wynikających z wydania postanowienia o zajęciu przedmiotów, a więc nie znajduje zastosowania do art. 43 ust. 13.
Skoro zajęcie przedmiotów może trwać maksymalnie do 7 dni (zgodnie z art. 43 ust. 11 Projektu Ustawy), to w celu zapewnienia realnej ochrony praw osób, których interesy zostały naruszone, należałoby wprost wskazać, że zażalenie na postanowienie o zajęciu przedmiotów musi być rozpatrzone w terminie 1 dnia roboczego od jego wniesienia. Brak takiego
210
Art. 43 ust. 13 wz z art. 56
Związek Polska
Art. 43 ust. 14
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 43 ust. 14
Fundacja Poland
Cyfrowa
w
FinTech
mechanizmu, który gwarantuje natychmiastowe rozpatrzenie zażalenia, może prowadzić do sytuacji, w której podmiot kontrolowany nie ma skutecznego środka ochrony swoich praw w czasie, gdy zajęcie trwa. Długi czas oczekiwania na rozstrzygnięcie zażalenia, szczególnie w kontekście ograniczenia dostępu do przedmiotów, mógłby prowadzić do sytuacji, w której samo prawo do zażalenia stanie się fikcją.
Brak zagwarantowania niezbędnych środków zaskarżenia. Rozstrzygnięcia wydawane przez organ kontrolujący nie gwarantują skutecznych procedur zaskarżenia dla przedsiębiorcy, w szczególności:
Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (art. 43 ust. 13 Projektu; w zw. bowiem z art. 56 Projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której ustawodawca przesądził w art. 43 ust. 11 Projektu ustawy, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni”. Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący;
Relacja między ustępem 14 a ust. 11-13 w art. 43 Projektu ustawy jest niejasna, nie jest też omówiona w uzasadnieniu Projektu ustawy - w jakiej sytuacji zajęcie jest niedopuszczalne?
Ustęp 11 w art. 43 Projektu ustawy mówi ogólnie o prawie do zajęcia danych „w toku kontroli", a ust. 14 odnosi się do "zabezpieczenia na miejscu kontroli". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego?
Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie.
Relacja między art. 14 ust. 14 a ust. 11-13 jest niejasna i wymaga precyzyjnego określenia w przepisach ustawy. Aktualne brzmienie Projektu ustawy nie wyjaśnia, w jakich sytuacjach zabezpieczenie jest niedopuszczalne.
Zgodnie z ust. 11, Komisja posiada ogólne prawo do zajęcia danych “w toku kontroli”, co sugeruje szeroki zakres uprawnień do przejmowania dokumentów i danych zarówno w formie fizycznej, jak i elektronicznej. Natomiast ust. 14 wskazuje na zabezpieczenie na miejscu kontroli, wyłączając stosowanie ust. 11-13. Należy zatem doprecyzować, czy wyłączenie stosowania ust. 11-13 w ust. 14 oznacza, że zajęcie danych jest ograniczone do określonych warunków takich jak kontrola zdalna, a nie dotyczy kontroli przeprowadzanej fizycznie na terenie kontrolowanego podmiotu.
211
Art. 43 ust. 15
CHAMBER
Art. 43 ust. 15
Polskie Towarzystwo Informatyczne
Aby uniknąć niejasności interpretacyjnych i potencjalnych sporów, przepisy te powinny zostać przeformułowane w sposób klarowny, tak aby jasno określały, kiedy i w jakich okolicznościach zajęcie danych oraz dokumentów jest dopuszczalne, a kiedy nie. Wprowadzenie szczegółowych definicji i jednoznaczne określenie zakresu stosowania poszczególnych przepisów pozwoliłoby na lepsze zrozumienie ich relacji oraz ich stosowania w praktyce.
Przewidziana w art. 43 ust. 15 instytucja oddania przedmiotów “osobie godnej zaufania” budzi wątpliwości. W ocenie Izby naraża to na niepotrzebne i nadmierne ryzyko uszkodzenia lub utraty przedmiotów lub dostępu do nich osób nieuprawnionych.
Przedmioty podlegające zajęciu, o którym mowa w ust. 11, należy po dokonaniu oględzin i sporządzeniu protokołu zajęcia zabrać albo oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie.
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Czy nie powinien zostać określony sposób postępowania przy przejęciu i przechowania po „zabraniu” (aby odbywało się to w sposób chroniący potencjalne interesy jednostki kontrolowanej), ponieważ mogą wchodzić w grę np. prawa patentowe itp.
Wnosimy o doprecyzowanie, kim ma być taka osoba? Jakie ma spełniać kryteria? Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych.
Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać zasady takie jak: kto to może być i jakie wymagania ma spełnić
Art. 43 ust. 15
Art. 43 ust. 15
w
GRAI
Przedmioty mogą posiadać bardzo wrażliwe informacje, które nie powinny trafić do przypadkowych osób, nawet jeżeli są „godne zaufania” (kto ocenia tą godność?). Powinien to być oficjalny depozyt, zabezpieczony w Biurze Komisji.
Postuluje się, aby przedmioty były deponowane w zabezpieczonym i przeznaczonym do tego pomieszczeniu w budynku Biura Komisji.
Brak definicji osoby “godnej zaufania”, która zapewniałaby zabezpieczenie przedmiotów podlegających zajęciu. W obecnym brzmieniu ustęp ten stwarza szerokie pole do nadużyć.
Definicja osoby, której przedmioty można oddać powinna zapewniać, że osoba ta będzie w stanie je zabezpieczać, ze szczególnym uwzględnieniem bezpieczeństwa własności intelektualnej podmiotu kontrolowanego.
Art. 43 ust. 15
Fundacja Poland
FinTech
W przepisie mowa jest o przekazaniu przedmiotów na przechowanie osobie godnej zaufania, jednak nie precyzuje się, kim ta osoba powinna być ani jakie dokładnie kryteria powinna spełniać.
Z uwagi na charakter przedmiotów, które mogą podlegać zajęciu (np. nośniki informatyczne, urządzenia elektroniczne, dane wrażliwe), konieczne jest, aby osoba ta miała odpowiednie kwalifikacje oraz zapewniała odpowiednie warunki do przechowywania takich przedmiotów.
Powinna to być osoba, która gwarantuje, że przedmioty, w tym dane, będą przechowywane w
212
Art. 43 ust. 16
KIGEiT
Art. 43 ust. 16
KIGEiT
Art. 43 ust. 20
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 43 ust. 20
NRA
sposób bezpieczny, w odpowiednich warunkach fizycznych (np. odpowiednie zabezpieczenia przed uszkodzeniem czy utratą danych) oraz zabezpieczenia dostępu do nich. W przypadku nośników informatycznych powinna to być osoba posiadająca niezbędną wiedzę z zakresu przechowywania danych elektronicznych i zarządzania systemami informacyjnymi.
Ponieważ w Projekcie brak jest delegacji do wydania rozporządzenia, które mogłoby szczegółowo określić wymagania wobec takich osób, sama ustawa powinna precyzować, kto może pełnić tę rolę. Wskazanie takich kryteriów zapewniłoby większą pewność co do rzetelności oraz bezpieczeństwa przechowywania przedmiotów. Należy zatem wprowadzić zapisy precyzujące, że osobą odpowiedzialną za przechowywanie przedmiotów musi być osoba fizyczna lub prawna posiadająca odpowiednie kompetencje, np. doświadczenie w zakresie przechowywania danych, przeszkolenie w zakresie ochrony informacji, oraz odpowiednie zabezpieczenia techniczne lub organizacyjne. Dzięki temu, przechowywanie zajętych przedmiotów będzie miało wystarczającą gwarancję bezpieczeństwa i zgodności z wymaganiami ochrony danych osobowych oraz innych przepisów prawa.
Propozycja zapisu: Dodanie pkt 4) dane osoby kontrolującej oraz dane osoby, która reprezentuje podmiot kontrolowany , Uzasadnienie: kwestie dowodowe.
20. Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. , W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli Art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 Art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 Art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z Art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane.
Wnosimy o doprecyzowanie przepisu poprzez wskazanie, w jakiej formie sprzeciw może zostać wniesiony i jakie są konsekwencje wniesienia sprzeciwu. w
Art. 43 ust. 20 Projektu w obecnym brzmieniu pozostawia niedookreśloną kwestię właściwości organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji, dotyczące rozstrzygnięcia sprzeciwu kontrolowanego wobec podejmowanej kontroli. Przepis ten, wskazując na możliwość wniesienia sprzeciwu przez podmiot kontrolowany w przypadku naruszenia przepisów, nie precyzuje ani trybu rozpoznawania takiego sprzeciwu, ani właściwości organu, który mógłby rozstrzygnąć ewentualne zażalenie na postanowienie Komisji wydane na gruncie tej procedury. Zgodnie z art. 42 Projektu, w zakresie nieuregulowanym kontrola podlegać ma przepisom rozdziału 5 Ustawy Prawo przedsiębiorców, które to przepisy sugerują per analogiam, iż rozstrzygnięcie Komisji miałoby przyjąć formę postanowienia, które mogłoby podlegać zażaleniu. Jednakże nie jest możliwym, aby na podstawie tego przepisu formułować dalej idącą
213
Art. 43 ust. 20
Fundacja Poland
FinTech
Art. 43 ust. 21
Osoba fizyczna jk
Art. 44
CHAMBER
Art. 44
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
w
analogię, która pozwoliłaby jednoznacznie wyjaśnić, czy organem właściwym do rozpoznania zażalenia winna być sama Komisja (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a., w sytuacji braku organu nadrzędnego), czy też może SOKiK, który z uwagi na swoje kompetencje i niezależność mógłby potencjalnie pełnić funkcję w rozstrzyganiu takich spraw. Mając więc na względzie potrzebę skutecznego zabezpieczenia praw podmiotów poddawanych kontroli, wskazanym jest jednoznaczne określenie kognicji w zakresie rozpatrywania sprzeciwu wobec podjęcia i wykonywania kontroli z naruszeniem przepisów.
Przepis stanowi, że podmiot kontrolowany ma prawo wnieść sprzeciw wobec podjęcia i wykonywania kontroli, jeśli ta narusza przepisy prawa. Niemniej jednak, przepis nie precyzuje, w jakiej formie sprzeciw ten powinien zostać wniesiony ani jakie są konsekwencje wniesienia takiego sprzeciwu. W związku z tym, należy wskazać, że dla zapewnienia skuteczności tego środka ochrony prawnej, konieczne jest określenie formy, w jakiej sprzeciw powinien być złożony, np. czy powinien to być dokument pisemny, zgłoszenie elektroniczne, czy może inna forma.
Ponadto, warto wyjaśnić, co dokładnie oznacza wniesienie sprzeciwu – czy wstrzymuje to wykonanie czynności kontrolnych, czy kontrola może być kontynuowana pomimo sprzeciwu, a w jakim terminie oraz w jakiej formie podmiot kontrolujący ma obowiązek odpowiedzieć na wniesiony sprzeciw. Ważnym zagadnieniem jest także określenie, czy wniesienie sprzeciwu skutkuje zawieszeniem kontroli do momentu jego rozpatrzenia, czy też kontrola będzie mogła być kontynuowana bez przeszkód, a ewentualne skutki wniesienia sprzeciwu rozstrzygnie późniejsze postępowanie.
Doprecyzowanie tych kwestii w ustawie zapewniłoby podmiotom kontrolowanym jasność co do ich praw i procedur, jakie mogą podjąć w przypadku stwierdzenia niezgodności działań kontrolujących z przepisami. Ponadto, określenie konsekwencji wniesienia sprzeciwu pomoże uniknąć sytuacji, w której sprzeciw nie miałby rzeczywistego wpływu na przebieg kontroli, co mogłoby skutkować naruszeniem zasady skutecznej ochrony praw podmiotów kontrolowanych.
Zgodnie z art. 2 ust. 1 ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Osoby fizyczne nieprowadzące działalności gospodarczej nie są tam wymienione.
Zapis wymaga uzasadnienia.
Projekt posługuje się w art. 44 pojęciem “organ kontroli państwowej i ochrony prawa”. W polskim systemie prawa pojęcie to pochodzi z IX Rozdziału Konstytucji RP i obejmuje Najwyższą Izbę Kontroli, Rzecznika Praw Obywatelskich i Krajową Radę Radiofonii i Telewizji. Czy istotnie te organy ma na myśli projektodawca? Nie jest jasne, w jaki sposób mogłyby one “ustalić naruszenie przez podmiot kontrolowany przepisów rozporządzenia”.
Przepis art. 44 Projektu ustawy winien zostać usunięty. Komisja jest organem publicznym, a nie policyjnym. Przepis w aktualnym brzmieniu wyraźnie wskazuje, że Komisja, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy.
214
Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym; kontrola Komisji to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce).
Jeżeli podmiot podlegający pod Rozporządzenie 2024/1689 będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów jak ABW, CBŚ, CBA czy inne organy „kontroli państwowej i ochrony prawa" w Polsce
- to te organy mogą prowadzić swoje własne kontrole i postępowania.
W konsekwencji, postulujemy zmianę treści art. 44 Projektu ustawy na następującą:
„Art. 44. Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli.”
Art., 44
Fundacja Poland
FinTech
Zgodnie z art. 44, KRiBSI, może zwrócić się o pomoc do Policji, organów kontroli państwowej i ochrony prawa, a także jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji, jeśli jest to niezbędne do przeprowadzenia kontroli. Tak szerokie uprawnienie w zakresie współpracy z służbami mundurowymi i służbami wywiadowczymi budzi poważne wątpliwości dotyczące zasadności, proporcjonalności oraz zakresu ingerencji w działalność podmiotów kontrolowanych.
Po pierwsze, KRiBSI jest organem publicznym odpowiedzialnym za nadzór nad systemami sztucznej inteligencji, a nie instytucją o charakterze policyjnym czy wywiadowczym. Umożliwienie tej instytucji wnioskowania o pomoc ze strony takich służb, jak Policja, ABW, CBA, CBŚ, a nawet wywiad czy kontrwywiad wojskowy, stwarza ryzyko nadużyć i naraża na bezpodstawne wykorzystywanie sił porządkowych w działaniach nadzorczych. Tego rodzaju ingerencja w działalność podmiotów kontrolowanych może prowadzić do nieuzasadnionych działań w ramach kontroli, wykraczających poza zwykłe czynności administracyjne, w tym stosowania metod operacyjnych służb mundurowych, które są przeznaczone do realizacji celów zupełnie innych niż monitorowanie zgodności z przepisami dotyczącymi sztucznej inteligencji.
Po drugie, przepisy te mogą wprowadzać niepotrzebne ryzyko naruszenia zasady proporcjonalności, ponieważ nie ma jasnego ograniczenia zakresu i charakteru pomocy, którą KRiBSI może uzyskać od służb porządkowych. Takie uprawnienie może prowadzić do sytuacji, w których pomoc ze strony służb mundurowych będzie wykorzystywana w przypadkach, które nie wymagają aż tak drastycznych działań. Współpraca ta może także stwarzać ryzyko nadmiernej ingerencji w prywatność i ochronę danych osobowych podmiotów kontrolowanych, które muszą współpracować z instytucjami mającymi dostęp do wrażliwych informacji.
215
Cyfrowa
Proponujemy usunięcie tego przepisu lub wprowadzenie szczegółowych ograniczeń co do zakresu, trybu oraz warunków, w jakich Komisja może się zwrócić do służb porządkowych o pomoc. Warto wprowadzić jasne zasady dotyczące minimalnych kryteriów, które muszą być spełnione, aby mogło dojść do zaangażowania służb, a także precyzyjnie określić, w jakich przypadkach i w jakim zakresie takie działania będą rzeczywiście uzasadnione. Takie przepisy pozwoliłyby na bardziej przejrzyste i kontrolowane wykorzystanie zasobów państwowych w ramach nadzoru nad systemami sztucznej inteligencji, bez niepotrzebnego wprowadzania elementów działania służb, które mogą być postrzegane jako nadmierne i niewłaściwe w kontekście administracyjnego nadzoru nad nowoczesnymi technologiami.
Zaangażowania Policji oraz organów i jednostek. Przewidziana w Projekcie ustawy (art. 44) potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji jest rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dodatkowo, wątpliwości budzi przyznane w art. 44 ust. 2 pkt 3 Projektu uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne.
Art. 44
Związek Polska
art. 44 ust. 2
Związek Telewizji Kablowych w Polsce Izba Gospodarcza
Należy zatem zaproponować nadanie nowego brzmienia art. 44 ust. 2 zd. 1 projektu ustawy o AI ,, Policja, organ kontroli państwowej i ochrony prawa, jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.”
Art. 44 ust. 2 pkt 3
Polskie Towarzystwo Informatyczne
Niezrozumiała treść – czy chodzi o wsparcie przez jednostki podległe i nadzorowane przez ministra właściwego?
Art. 44 ust. 3
Polska Ubezpieczeń
Art. 45
PWPW
Izba
Propozycja „3) jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji polegające na wsparciu podmiotu kontrolującego w ustaleniu stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.”
Zmiana „pisemnej zgody” w treści projektu ustawy.
Art. 44 ust. 3 projektu ustawy zmianę na „Komisja występuje z wnioskiem opatrzonym kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym o udzielenie pomocy (…)” ust. 1. Przepis dot. korespondencji za radcą prawnym lub adwokatem
216
Ust. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia.
Art. 45
ICC Poland
Art. 45
PIIT
Przepisy w obecnym brzmieniu powodują ryzyko naruszenia tajemnicy radcowskiej lub adwokackiej. Nie gwarantują one ochrony tej informacji lecz mówią jedynie o pozostawieniu dokumentów i nośników w siedzibie kontrolowanego.
Przepis ww. zakresie powinien zostać zmieniony tak aby zapewnić konstytucyjną ochronę tajemnic zawodów zaufania publicznego.
Ponadto w ust. 2 użyto nieprecyzyjnego sformułowania „pobieżnie” zapoznanie się z dokumentacją Przewidziana w art. 45 Projektu procedura – choć wzorowana na art. 105da ustawy o ochronie konkurencji i konsumentów5 (poddawanej zresztą krytyce) – budzi poważne wątpliwości z perspektywy efektywnej i pełnej ochrony tajemnicy adwokackiej i radcowskiej. W szczególności zdaje się ona nie uwzględniać braku zróżnicowania na gruncie polskiego ustawodawstwa zakresu tajemnicy zawodowej w zależności od tego, czy mamy do czynienia z prawnikiem zewnętrznym, czy prawnikiem wewnętrznym zatrudnionym na podstawie umowy o pracę (art. 45 ust. 1 pkt 1 Projektu odnosi się tylko do komunikacji między podmiotem kontrolowanym a „niezależnym od kontrolowanego” adwokatem, radcą prawnym lub prawnikiem zagranicznym). Ponadto przewidziane w art. 45 ust. 2 Projektu upoważnienie kontrolującego do zapoznania się „pobieżnie” z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, rodzi poważne ryzyko naruszenia tajemnicy zawodow strony rodzi ono ryzyko zapoznania się przez kontrolującego „przy okazji” również z innymi informacjami niż wymienione w tym przepisie, nawet nieintencjonalnie, z drugiej zaś strony również sam tytuł lub przedmiot pisma może obejmować informacje objęte tajemnicą zawodową.
W konsekwencji art. 45 Projektu powinien zostać zrewidowany w kierunku uwzględnienia zarówno powyższych uwag, jak i innych uwag krytycznych, formułowanych w literaturze w odniesieniu do art. 105da ustawy o ochronie konkurencji i konsumentów.
Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych
217
nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3:
1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub
2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola
- kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli.
W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to, na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu.
Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym, a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach.
Uprawnienia Komisji nie powinny wykraczać poza uprawnienia Prezesa UOKIK.
Art. 45
KIGEiT
Propozycja zapisu: Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w Art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu Art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w Art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w
218
toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli.
Art. 45
NRA
Art. 45
Polski związek zarządzania wierzytelnościami
Art. 45
CHAMBER
Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu.
Art. 45 Projektu powiela rozwiązania zastosowane w art. 105da Ustawy z 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz.U. z 2024 r. poz. 1616; dalej „u.o.k.k.”). Nowelizacja u.o.k.k. wprowadzająca art. 105da (Ustawa z 9 marca 2023 r. o zmianie ustawy o ochronie konkurencji i konsumentów oraz niektórych innych ustaw, Dz.U. z 2023 r. poz. 852) została krytycznie oceniona przez środowiska prawnicze, o czym informował między innymi Instytut Legislacji i Prac Parlamentarnych Naczelnej Rady Adwokackiej w stanowisku z dnia 27 marca 2023 r., znak NRA.015-23.13.2023. Stąd też negatywnie należy się odnieść do propozycji przeniesienia rozwiązań zastosowanych w art. 105da u.o.k.k. na grunt art. 45 Projektu. Brak zmian w zakresie art. 45 Projektu może doprowadzić do jawnego naruszenia zasad tajemnicy zawodowej, w tym m.in. tajemnicy adwokackiej, co najmniej z kilku powodów, opisanych szczegółowo w dalszej części opinii.
Art. 45 Projektu Wskazany w art. 45 Projektu proces kontroli komunikacji między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej [...] pozostaje dla nas kontrowersyjny z tytułu zagadnień tajemnicy adwokackiej (por. art. 6 ustawy
- Prawo o adwokaturze - Dz.U.2024.1564 t.j.). Bieżące brzmienie nie zakłada wprowadzenia zmian do wyżej wzmiankowanej ustawy (jak ma to miejsce w art. 6. ust. 4 pkt 2 prawa o adwokaturze), a tym samym stworzenia wyjątku od obowiązku zachowania tajemnicy adwokackiej. Brak jednoznacznego ograniczenia budzi wątpliwości w zakresie realizacji samej instytucji tajemnicy zawodowej wymienionych w ustawie osób, a określenie „pobieżnego zapoznania się z pismem lub dokumentem” w ust. 1 pkt 2 tego artykułu Projektu pozostaje nieostre. Postulujemy jasne wskazanie na wyłączenie tajemnicy adwokackiej wraz ze zmianą w ustawie Prawo o adwokaturze, celem uniknięcia niepotrzebnej zwłoki w ramach procedury kontrolnej, włączającej do niej, wynikającej z niniejszego artykułu Projektu, sąd ochrony konkurencji i konsumentów.
Przyjęty w art. 45 tryb przekazania dokumentów mogących podlegać tajemnicy adwokackiej do SOKiK celem ich weryfikacji nie uwzględnia zasięgnięcia opinii samego adwokata, radcy
219
prawnego czy prawnika, który powinien mieć możliwość potwierdzenie, że faktyczne dokumenty są przedmiotem tajemnicy zawodowej.
Projektodawca deklaruje w uzasadnieniu do projektu ustawy, że “do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”. Jednakże już w przepisie art. 51 projektu dokonuje bardzo istotnego odstępstwa od tak podstawowej normy, jak określenie strony postępowania (art. 28 KPA). Uzasadnienie milczy na temat przyczyn tej i innych zmian w stosunku do KPA.
Art. 45
Polskie Towarzystwo Informatyczne
"Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3:
1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem (..", Proponujemy doprecyzować, aby wyjaśnić, o co chodzi
Art. 45
Związek Polskich
Banków
Faktycznie takie oświadczenie powoduje, że niemożliwa staje się sama kontrola, gdyż nośniki zawierające taką korespondencję nie mogą zostać przejęte do kontroli poza miejscem kontroli
Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub
3) zawierają informacje objęte tajemnicą zawodową
- kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli.
220
Aktualne brzmienie art. 45 projektowanej ustawy stwarza poważną możliwość naruszenia tajemnicy zawodowej związanej z wykonywaniem zawodu zaufania publicznego m.in adwokata czy radcy prawnego.
Jednocześnie wskazać należy, że podobne rozwiązanie zostało zaimplementowane do ustawy o ochronie konkurencji i konsumentów, dokładniej w art. 105da, co jednak nie oznacza, że przedmiotowe rozwiązanie jest rozwiązaniem słusznym i poprawnym. Nie ulega wątpliwości, że wprowadzenie powołanego powyżej przepisu doprowadziło do dużego sprzeciwu ze strony środowisk prawniczych. Wskazać należy, że zastosowanie tego typu mechanizmu w jednej ustawie nie przesądza o jego prawidłowości.
Podkreślić należy, że tajemnica zawodowa, w tym adwokacka, jak i radcowska stanowi niezbędny element proceduralnego systemu ochrony praw i wolności. Co więcej, nie ulega wątpliwości, że ochrona tajemnicy zawodowej przedstawicieli wspomnianych zawodów zaufania publicznego wymaga istnienia w obrocie prawnym odpowiednich przepisów, które nie tylko ustanawiają tajemnicę, ale również gwarantują jej ochronę. Poszanowanie tajemnicy zawodowej wymaga także określonych standardów zachowania ze strony władzy publicznej, w tym ze strony organów.
Ochrona tajemnicy zawodowej ma fundamentalne znaczenie z perspektywy relacji prawnikpodmiot kontrolowany.
Przedstawiony przepis budzi poważne wątpliwości dotyczące ochrony poufności informacji, zwłaszcza w kontekście relacji bank-klient. Przepis ten, w obecnym brzmieniu, pozwala na zbyt szeroki dostęp do informacji, które powinny być objęte bankową tajemnicą zawodową.
Główne zastrzeżenia:
Przepis nie precyzuje, jakie informacje powinny być uznane za objęte ochroną. W konsekwencji, może prowadzić do arbitralnej interpretacji i nadmiernego ujawniania informacji o kliencie.
Pozwolenie na pobieżne zapoznanie się z dokumentami może prowadzić do przypadkowego ujawnienia informacji, które powinny być chronione.
W odniesieniu do propozycje rozszerzenia przepisu o chmurę obliczeniową - zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”.
Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje wątpliwości interpretacyjne w zakresie dostępu Komisji do danych znajdujących się w chmurze.
Art. 45
Związek Polska
Cyfrowa
Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45). Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot
221
Art. 45
Związek Pracodawców Technologii Cyfrowych Lewiatan
Art. 45 ust. 1
e-Izba
kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1).
Jednocześnie art. 45 ust 2, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich.
Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu.
Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45
USS)
Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1 USS). Jednocześnie art. 45 ust 2 USS, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 USS przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości.
Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu.
Rekomendujemy usunięcie z treści przepisu „niezależnym od kontrolowanego”. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium „zależności"
222
Art. 45 ust. 1
Fundacja Poland
FinTech
Art. 45 ust. 1 pkt 1
PIRP
Art. 45 ust. 1 pkt 1
Związek Przedsiębiorstw
od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ:
- naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest „niezależny", skoro jest zatrudniony u kontrolowanego;
- radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są „niezależni", bo są finansowo uzależnieni od kontrolowanego;
- równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona „niezależna" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym.
Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej.
Postanowienie zawarte w Projekcie Ustawy, w którym mowa o "niezależnym od kontrolowanego" adwokacie, radcy prawnym czy prawniku z Unii Europejskiej powinno zostać usunięte lub zmodyfikowane. Polskie prawo nie przewiduje podziału ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium "zależności" od klienta. Każdy radca prawny i adwokat jest niezależny. Projektowane postanowienie faktycznie ogranicza prawo kontrolowanego do pomocy prawnej, ponieważ: naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ może wysunąć interpretację, że nie jest "niezależny", skoro jest zatrudniony u kontrolowanego; radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą; organ zawsze może zarzucić, że nie są "niezależni", bo są finansowo uzależnieni od kontrolowanego; równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona "niezależna" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym.
Podsumowując, postanowienie o "niezależnym od kontrolowanego" prawnym przedstawicielu należy usunąć, aby zapewnić pełne prawo do ochrony prawnej, zgodnie z konstytucyjną zasadą praworządności. W przeciwnym razie, interpretacja obecnych przepisów może prowadzić do ograniczenia możliwości korzystania z pomocy prawnej. w katalogu podmiotów korespondujących proponuje się dodać po sformułowaniu „adwokatem, radcą prawnym”, po przecinku, sformułowania „rzecznikiem patentowym”
Postulujemy usunięcie w art. 45 ust. 1 pkt 1 Projektu ustawy fragmentu: „a niezależnym od kontrolowanego”.
223
Finansowych Polsce (ZPF)
Art. 45 ust. 1 pkt 1
ISSA Polska
Art. 45 ust. 1 pkt 1
GRAI
Art. 45 ust. 1 pkt 1 i 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 45 ust. 1 pkt. 1 2
NRA
w
Fragment ten w istocie umniejsza prawo kontrolowanego do uzyskania ochrony prawnej.
Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium "zależności" od klienta, bo każdy radca prawny i adwokat są niezależni.
Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ:
- naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest "niezależny", skoro jest zatrudniony u kontrolowanego;
- radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są "niezależni", bo są finansowo uzależnieni od kontrolowanego;
- równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona "niezależna" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym.
Naszym zdaniem, ten fragment może naruszać zasadę praworządności i faktycznie pozbawić kontrolowanego ochrony prawnej.
Nadmiarowe ograniczenie wprowadzone zwrotem “niezależnym od kontrolowanego adwokatem, radcą prawnym (...)”. Tajemnica zawodowa istnieje bez względu na zależność lub niezależność.
Nie wiadomo również w jaki sposób miałaby zostać określona ta niezależność. Nie ma powodu aby uznawać, że adwokat zatrudniony przez kontrolowanego na umowę o pracę jest zależny, a pracujący na zlecenie lub B2B już nie.
Przepis bezzasadnie różnicuje prawnika zewnętrznego od wewnętrznego (analogiczne rozwiązanie jest mocno krytykowanie na gruncie ustawy o OKiK)
Skreśla się słowa „niezależnym od kontrolowanego”
Podnosimy, iż dokumenty opisane w art. 45 ust. 1 pkt 1 i 2 Projektu ustawy objęte są tajemnicą radcowską/adwokacką, i nie powinny być przedstawiane do wglądu w miejscu kontroli.
w Ponadto wnosimy o doprecyzowane, co, jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty?
Art. 45 ust. 1 pkt 1 Projektu przewiduje ochronę tajemnicy zawodowej jedynie w odniesieniu do pisemnej komunikacji między podmiotem kontrolowanym a „niezależnym” adwokatem, która została sporządzona wyłącznie w celu uzyskania ochrony prawnej w związku z przedmiotem kontroli. Użycie w treści przepisu określenia „niezależny adwokat” budzi poważne wątpliwości.
Konstrukcja ta jest nie tyle zbędna, ile zwyczajnie myląca, bowiem ustawowy obowiązek niezależności jest fundamentem wykonywania zawodu adwokata. Charakter zawodu adwokata
224
zakłada niezależność i swobodę zawodową, a stosowanie sformułowania „niezależny” może sugerować istnienie adwokatów „zależnych”, co pozostaje w sprzeczności z obowiązującymi przepisami oraz etyką adwokacką. Tym samym wprowadzenie tego pojęcia w art. 45 ust. 1 pkt 1 Projektu grozi powstaniem niejasności interpretacyjnych, które mogą podważyć status i autonomię adwokatów. Z tego względu postuluje się, aby przepis ten odnosił się do komunikacji z adwokatem bez wskazywania na jego „niezależność”, co zapobiegnie błędnej interpretacji i będzie zgodne z fundamentalnymi zasadami adwokatury.
Wątpliwości budzi również bardzo wąski zakres ochrony tajemnicy zawodowej przyjęty w art. 45 ust. 1 pkt 1 oraz pkt 2 Projektu. Art. 45 ust. 1 pkt 1 Projektu ogranicza zakres tajemnicy zawodowej do pisemnej komunikacji wytworzonej „w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ”. Na podobnej zasadzie art. 45 ust. 1 pkt 2 Projektu ogranicza zakres tajemnicy zawodowej do pism lub dokumentów sporządzonych „wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej”. Z uwagi na fakt, że rzeczywisty zakres tajemnicy zawodowej jest znacznie szerszy, wskazane regulacje powinny obejmować całą komunikację pomiędzy podmiotem kontrolowanym a osobą, o której mowa w art. 45 ust. 1 pkt 1 Projektu, jeżeli komunikacja ta jest prowadzona w celu realizacji prawa kontrolowanego do uzyskania ochrony lub pomocy prawnej.
Pochylając się szczegółowo nad zasygnalizowanym wyżej zagadnieniem, konieczną pozostaje także analiza wymagania, aby przedmiotowa komunikacja była „wytworzona” a pisma i dokumenty „sporządzone” wyłącznie w celu uzyskania ochrony prawnej. Taka redakcja przepisów sugeruje, że chroniona przed ujawnieniem jest tylko ta komunikacja oraz tylko te pisma i dokumenty, które od początku zostały stworzone (wytworzone) jako część działań prawnych, związanych z ochroną interesów podmiotu kontrolowanego w toku konkretnego postępowania.
Taka interpretacja wyklucza z kolei „materiały”, które powstały wcześniej lub zostały sporządzone w innym celu, lecz mogą być istotne dla ochrony interesów podmiotu kontrolowanego (jego obrony) w danej sprawie i są wykorzystywane na potrzeby danego postępowania. Dodatkowo określenia „wytworzone” i „sporządzone” (wyłącznie w celu realizacji prawa do ochrony prawnej w przedmiotowym postępowaniu) mogą prowadzić do zawężającej interpretacji, która ogranicza ochronę tylko do dokumentów mających bezpośredni związek z bieżącym postępowaniem. W praktyce jednak niektóre dokumenty, choć nie zostały przygotowane wyłącznie na potrzeby konkretnego postępowania, mogą być wykorzystywane w ramach analizy prawnej, związanej z bieżącą kontrolą. W takiej sytuacji kontrolujący mógłby argumentować, że dokumenty te nie spełniają przesłanki wyłącznego celu ochrony prawnej, co naraża podmiot kontrolowany na ujawnienie szerszego zakresu materiałów, niż jest to konieczne. W związku z powyższym wprowadzenie tak ścisłego kryterium „wytworzenia” czy „sporządzenia” wyłącznie dla konkretnego celu może ograniczać ochronę i nie odpowiadać potrzebom praktyki, w której często wykorzystuje się dokumenty powstałe w innym kontekście, ale nadal objęte tajemnicą zawodową (na gruncie innych regulacji). W tej sytuacji korekta wymagałaby jedynie wykreślenia tych limitujących
225
sformułowań. Analiza porównawcza art. 43 ust. 4 pkt 3 z art. 45 ust. 1 i 2 Projektu prowadzi do wniosku, że zakres wyłączenia z art. 45 ust 1 może być niewystarczający by powstrzymać szerokie uprawnienia kontrolującego w toku kontroli. Art. 43. ust. 4 pkt 3 przyznaje kontrolującemu prawo do żądania dostępu do: „akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp”. Natomiast art. 45 ust 1 odnosi się jedynie do:
„ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 […] zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem […] wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola”. Wobec powyższego możliwa zdaje się niekorzystna z perspektywy kontrolowanego interpretacja, że wyłączenie uprawnienia do żądania udostępnienia nie obejmuje wszystkiego tego, co znajduje się w aktach czy na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, a dotyczy jedynie pism i dokumentów. Warto nadmienić, że pojęcie „dokumenty” jest bardzo szerokie i może przykładowo obejmować: notatki własne, materiały dowodowe, dane analityczne itp. W tej sytuacji zasadnym zdaje się rozważenie, czy praktycznym nie byłoby powołanie się wprost na treść przepisu z art. 43 ust. 4 pkt 3.
Mając na uwadze dotychczasowe rozważania, uzasadniona jest konstatacja, że kwestionowane przepisy jawią się jako nadmiernie zawężające. W praktyce może to prowadzić do wykluczenia spod ochrony wszelkich materiałów, które powstały pierwotnie w innym celu, lecz które adwokat lub osoba kontrolowana uznali za przydatne dla obrony prawnej w bieżącym postępowaniu. Co istotne tajemnica adwokacka obejmuje całość komunikacji klienta z adwokatem, a szczególne znaczenie ma tutaj możliwość bezpiecznego korzystania z dokumentów, które mogą być kluczowe dla sprawy, nawet jeśli powstały wcześniej.
Wprowadzenie wąskiej klauzuli ograniczającej ochronę jedynie do dokumentów wytworzonych „wyłącznie” na potrzeby postępowania może prowadzić do sytuacji, w której organ kontrolujący będzie miał dostęp do informacji poufnych, co stoi w sprzeczności z zasadą ochrony tajemnicy zawodowej. Proponuje się zatem rozszerzenie przepisów, aby obejmowały wszelką komunikację między podmiotem kontrolowanym a adwokatem (radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników
226
Art. 45 ust. 2
NRA
Art. 45 ust. 2
e-Izba
zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej lub osobą, o której mowa w art. 2a tej ustawy), prowadzoną w celu realizacji prawa do uzyskania pomocy prawnej, bez względu na pierwotny cel sporządzenia dokumentu. Taka zmiana pozwoli uniknąć nadużyć i zapewni ochronę tajemnicy zawodowej zgodną ze standardami adwokatury.
Warto również odnotować, że przepis art. 45 ust. 1 in fine, zobowiązujący kontrolującego do pozostawienia dokumentów objętych ochroną na miejscu kontroli, może budzić wątpliwości co do zakresu i sposobu przeprowadzania kontroli dokumentów związanych z tajemnicą zawodową.
Jeśli intencją przepisu jest wyłączenie określonych dokumentów spod kontroli, sformułowanie powinno wyraźnie wskazywać, że dokumenty te nie podlegają kontroli (w odróżnieniu od „pobieżnego zapoznania się” z art. 45 ust. 2), ani dalszemu przeglądowi („pobieżnemu zapoznaniu się”), weryfikacji, kopiowaniu, powielaniu, utrwalaniu, czy w ogóle realizowaniu praw przewidzianych w art. 43 ust. 4 (z zastrzeżeniem art. 45 ust. 2) przez kontrolujących. Obecne brzmienie sugeruje jedynie, że dokumenty mają zostać pozostawione na miejscu, ale nie precyzuje kategorycznego zakazu kontroli, od którego odstępstwem mogłoby być ewentualnie zawarte w ust. 2 „pobieżne zapoznanie się”.
W kontekście art. 45 Projektu kluczowe znaczenie mają także przepisy powiązane, w szczególności art. 43, który określa szerokie uprawnienia kontrolne KRiBSI. Art. 43 ust. 1 pkt 2 Projektu przewiduje, że kontrolującymi mogą być osoby „posiadające wiedzę specjalistyczną” w zakresie systemów sztucznej inteligencji, jednak projekt nie precyzuje, kim dokładnie są osoby o takiej „wiedzy specjalistycznej”, jakie mają kwalifikacje i w jaki sposób zapewniona jest ich niezależność. Brak doprecyzowania tej kwestii rodzi ryzyko, że osoby nieuprawnione, niemające odpowiednich kwalifikacji, a być może również powiązane zawodowo z konkurencyjnymi podmiotami, mogłyby uzyskać dostęp do dokumentacji kontrolowanego podmiotu, która zawiera informacje objęte tajemnicą zawodową, w tym adwokacką. Praktyka ta mogłaby prowadzić do naruszenia tajemnicy zawodowej oraz udostępnienia informacji, które są chronione nie tylko ze względu na interes klienta, ale również z uwagi na szczególne zaufanie społeczne, jakim obdarzony jest zawód adwokata. Art. 43 ust. 3 zawiera natomiast sformułowanie „szczególne okoliczności”, które uzasadniają zwiększone uprawnienia kontrolne Komisji. Przepis ten jest jednak zbyt ogólny i nie definiuje, co ustawodawca rozumie przez „szczególne okoliczności”.
Pozostawienie tego terminu bez doprecyzowania otwiera możliwość różnorodnych, arbitralnych interpretacji i uznaniowości ze strony organów kontrolujących, co w kontekście ochrony tajemnicy zawodowej może być szczególnie niebezpieczne. Sugeruje się wprowadzenie katalogu przykładów „szczególnych okoliczności”, które mogłyby uzasadniać takie uprawnienia kontrolne, a jednocześnie zachowanie otwartego charakteru tego katalogu, co umożliwiłoby elastyczność stosowania przepisu bez ryzyka dowolności w jego interpretacji.
Aktualne brzmienie tego przepisu nie gwarantuje pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o sztucznej inteligencji, w tym informacji objętych tajemnicą adwokacką/radcowską. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego
227
Art. 45 ust. 2
Art. 45 ust. 2
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
GRAI
w
przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom.
Z punktu widzenia bezpieczeństwa prawnego kontrolowanych przedsiębiorców istotne jest zapewnienie pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o systemach sztucznej inteligencji. W związku z powyższym, proponujemy wyłączenie z treści aktualnego brzmienia art. 45 ust. 2 projektu ustawy o systemach sztucznej inteligencji możliwości „pobieżnego zapoznania się” przez osobę wykonującą czynności kontrolne z treścią dokumentu.
Wówczas – w przypadku złożenia oświadczenia, o którym mowa w ust. 1 tego przepisu – oraz powzięciu wątpliwości co do jego zasadności – dokument powinien zostać przekazany do Sądu Ochrony Konkurencji i Konsumentów, zgodnie z przewidzianą w aktualnym brzmieniu tego przepisu procedurą.
Prawo organu do „pobieżnego zapoznania się" z dokumentem objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej.
Kontrolowany nie jest w stanie zweryfikować, czy pracownik Komisji rzeczywiście zapoznaje się z dokumentem "pobieżnie", czy też wczytuje się w meritum dokumentu. Czy "pobieżność" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo zażądać zwrotu dokumentu od kontrolującego lub odciąć dostęp elektroniczny do dokumentu?
Podczas tzw. „pobieżnego" zapoznania się z dokumentem Komisja może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu.
Postulujemy zmianę treści art. 45 ust. 2 poprzez usunięcie zdania pierwszego i pozostawienie przepisu w brzmieniu:
„2. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.”
Ust. 2 stanowi naruszenie tajemnicy zawodowej adwokata i radcy prawnego poprzez nawet pobieżne zapoznanie się treścią pism lub dokumentów.
Propozycja usunięcia ust. 2 i zmiany numeracji ustępów w art. 45.
Treść przepisu, jest kalką z ustawy OKiK, ale nie uwzględnia, że zasadą na gruncie ustawy mają być zdalnie, czego nie zauważa przepis.
Art. 45 ust. 2
ISSA Polska
Wskazujemy na ryzyko naruszenia tajemnicy zawodowej. Kontrolujący może zapoznać się z autorem, adresatem, tytułem oraz przedmiotem pisma lub dokumentu zawierającego m.in. tajemnicę zawodową oraz datą jego sporządzenia. Wydaje się, że przepis ten nadaje kontrolującemu większe prawa niż w podobnej sytuacji art. 225 par. 1 Kodeksu postępowania karnego: Jeżeli kierownik instytucji państwowej lub samorządowej albo też osoba, u której dokonano zatrzymania rzeczy lub u której przeprowadza się przeszukanie, oświadczy, że wydane
228
Art. 45 ust. 2
Art. 45 ust. 3
Art. 45 ust. 3
Fundacja Poland
FinTech
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Fundacja Poland
w
FinTech
lub znalezione przy przeszukaniu pismo lub inny dokument zawiera informacje niejawne lub wiadomości objęte tajemnicą zawodową lub inną tajemnicą prawnie chronioną albo ma charakter osobisty, organ przeprowadzający czynność przekazuje niezwłocznie pismo lub inny dokument bez jego odczytania prokuratorowi lub sądowi w opieczętowanym opakowaniu.
Prawo organu do „pobieżnego zapoznania się” z dokumentem objętym tajemnicą radcowską lub adwokacką budzi istotne wątpliwości i powinno zostać wyeliminowane, ponieważ narusza ochronę tajemnicy zawodowej i prawo do pomocy prawnej.
Kontrolowany nie ma praktycznej możliwości nadzorowania, czy pracownik KRiBSI rzeczywiście ogranicza się jedynie do „pobieżnego” wglądu, czy też nie przekracza tej granicy, wchodząc w meritum dokumentu. Pojęcie „pobieżności” jest niewystarczająco precyzyjne, co prowadzi do pytania, czy oznacza to np. krótki czas patrzenia, po którym kontrolowany miałby prawo przerwać dostęp do dokumentu, czy też istnieją inne, nieokreślone kryteria. Tzw. „pobieżne” zapoznanie się z dokumentem stwarza realne ryzyko, że pracownik KRiBSI uzyska dostęp do informacji objętych tajemnicą, co jest sprzeczne z zasadami ochrony takich informacji i wykracza poza uprawnienia kontrolujących.
Tego rodzaju praktyki mogą naruszać prawa chronione konstytucyjnie, w tym prawo do rzetelnej pomocy prawnej (art. 42 ust. 2 i art. 51 Konstytucji RP).
Postulowane brzmienie przepisu:
Art. 45 ust. 2 Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.
Wnosimy o doprecyzowanie przepisu, albowiem aktualnie nie jest wiadomym w jaki sposób ma dojść do przekazania dokumentu, skoro z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów.
Treść przepisu powoduje wątpliwości w jaki sposób kontrolujący ma przekazać pismo lub dokument sądowi, skoro zgodnie z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli”) nie ma dostępu do takich dokumentów po ich pozostawieniu w miejscu kontroli. Taka sytuacja stwarza problem praktyczny – kontrolujący nie może efektywnie spełnić obowiązku przekazania dokumentów sądowi, jeśli wcześniej nie ma możliwości ich fizycznego zabezpieczenia lub zabrania.
229
Art. 45 ust. 5
Związek Przedsiębiorstw Finansowych Polsce (ZPF)
Art. 45 ust. 5
Fundacj Poland
Art. 46.
PWPW
Art. 46 ust. 1 i 4
PIIT
w
FinTech
Ustawa powinna jednoznacznie precyzować, jak kontrolujący może postąpić w przypadku wystąpienia wątpliwości, aby zachować zgodność z regulacjami dotyczącymi ochrony dokumentów, a jednocześnie umożliwić skuteczne wykonanie obowiązku ich przekazania.
Sąd drugiej instancji powinien być związany takim samym terminem jak Sąd Ochrony Konkurencji i Konsumentów, żeby prawo do złożenia zażalenia było realne.
W konsekwencji, postulujemy zmianę treści art. 45 ust. 5 Projektu ustawy na następującą:
„5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.
Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne.
Postulowane brzmienie przepisu:
Art. 45 ust. 5 Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania.
Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia Projekt ustawy nie wskazuje trybów doręczeń np. na adres do doręczeń elektronicznych lub inny wskazany adres elektroniczny przez kontrolowanego itp. Ma to istotne znaczenie w kontekście liczenia terminów np. na wniesienie uwag do wystąpienia pokontrolnego.
Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (…) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia
230
zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego.
Czy "wystąpienie pokontrolne" nie może się po prostu nazywać "protokołem" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO.
Ust. 4 jest kalką np. przepisów uodo i uokk, ale nieuzasadnioną - skoro w ust. 1 przewiduje się "projekt" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie "aneksu do wystąpienia", bo samo "wystąpienie" jeszcze nie powstało.
Art. 46 ust. 1 i 4
KIGEiT
art. 46 ust. 8
SKwP
Art. 47
PIIT
Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (…) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. , Czy "wystąpienie pokontrolne" nie może się po prostu nazywać "protokołem" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO.
Ust. 4 jest kalką np. przepisów UODO i UOKiK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się "projekt" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie "aneksu do wystąpienia", bo samo "wystąpienie" jeszcze nie powstało.
W naszej ocenie, powinna być możliwość odwołania.
1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne.
2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze.
3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń.
Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)?
Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF
- ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA.
Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać
231
zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu powszechnego (SOKiK?).
Art. 47
KIGEiT
Art. 47 ust. 1.
PWPW
art. 47 ust. 2
SKwP
art. 47 ust. 3
Związek Przedsiębiorstw
Propozycja zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. , Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)?
Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF
- ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do
WSA.
Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu.
Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne.
2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze.
3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń.
Należy doprecyzować jakie są skutki prawne zaleceń pokontrolnych jeżeli nie można się od nich odwołać? Jest to szczególnie istotne z punktu widzenia następnego przepisu, tj. art. 48 projektu
– który wprost wskazuje na wykrycie naruszeń AI act. Należy zatem przyjąć, że zalecenia pokontrolne mogą wskazywać na kwestie, które nie stanowią naruszenia AI act. Przyjmując natomiast ten punkt widzenia należy zadać pytanie co się stanie jeżeli zalecenia nie zostaną zrealizowane (np. w części).
Tak nie powinno być. Każda kontrola musi mieć przewidzianą możliwość odwołania się od jej ustaleń, mogą przecież pojawić się błędy czy zwyczajne pomyłki w dokonanych ustaleniach, zatem odwołanie musi być przewidziane.
Wnosimy o zmianę treści art. 47 ust. 3 Projektu ustawy na następującą:
232
Finansowych Polsce (ZPF)
w
„3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń.”
Art. 47 ust. 3
Związek Polskich
Banków
Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne.
2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze.
3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 60 dni, informuje Komisję o sposobie wykonania zaleceń.
Wydaje się, że w interesie podmiotów objętych zakresem projektowanej ustawy zasadnym jest wskazanie minimalnego terminu na wypełnienie ciążącego na nich obowiązku. Przedmiotowy projekt ustawy powinien nie tylko obejmować ochroną prawa użytkowników, ale jak również obejmować ochroną podmioty wykonujące działalność w związku z rozporządzeniem 2024/1689 m.in. dla celów rozwoju innowacyjności.
Art. 47 ust. 3
Inne druki w tej sprawie
Źródło: Kancelaria Sejmu RP, plik druku nr 2443. Odczyt automatyczny z 2026-08-05.