Sektor nowych technologii pozytywnie odbiera prace ws. ustawy o AI; wskazuje zagrożenia - ZCP
Sektor nowych technologii pozytywnie odbiera prace nad projektem ustawy o systemach sztucznej inteligencji. Wskazuje jednocześnie na kilka niespójności i możliwych zagrożeń dla rozwoju AI w Polsce – wynika z pisma, złożonego przez ZCP do ministra cyfryzacji Krzysztofa Gawkowskiego.
"Zastrzeżenia organizacji w znacznej mierze dotyczą spójności nowego prawa z unijnymi regulacjami, mechanizmu nakładania ewentualnych sankcji karnych na dostawców technologii, a także sposobu nadzoru i przeprowadzania kontroli nad podmiotami oferującymi produkty lub usługi oparte o AI" - napisano w komunikacie.
Pismo do resortu cyfryzacji ze Związku Cyfrowa Polska trafiło w ramach drugiej tury konsultacji nad projektem ustawy o systemach sztucznej inteligencji.
W ocenie prezesa ZCP Michała Kanownika, proponowana ustawa jest dokumentem kluczowym dla odpowiedniego rozwoju AI w Polsce.
"Obecna propozycja stara się chronić prawa obywatelskie, jednocześnie umożliwiając postęp innowacji. A to jest dziś kluczowe dla polskiej gospodarki, bo żadna technologia nie jest dziś tak perspektywiczna, jak sztuczna inteligencja" – powiedział Kanownik, cytowany w komunikacie.
Eksperci Cyfrowej Polski zgłosili do projektu ustawy szereg poprawek, których wprowadzenie - w ich ocenie - jest niezbędne dla wyeliminowania ryzyka niepewności regulacyjnej czy utrudnień w rozwoju AI na polskim rynku.
"Cyfrowa Polska zwraca uwagę, że ustawa w żaden sposób nie precyzuje kwalifikacji osób kontrolujących i nie nakłada też na nich zobowiązań dotyczących poufności informacji uzyskanych podczas kontroli. Stwarza również ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub nawet osobą, która ma osobisty interes w wydaniu niekorzystnego protokołu kontrolnego" - napisano.
ZCP zwróciło uwagę na ochronę prywatności danych.
"Proponowane obecnie zapisy są – w ocenie organizacji – na tyle szerokie, że wyznaczeni inspektorzy mogliby zażądać od dostawców sztucznej inteligencji dostępu do treści klientów przechowywanych np. w kontach chmurowych. A to nie tylko grozi oddaniem naszej prywatności w nieznane ręce, ale też wykazuje potencjalną niespójność z intencjami unijnego Aktu w sprawie AI – przestrzega branża" - napisano.
"Zdaniem Cyfrowej Polski, przepisy muszą też umożliwić przedsiębiorcom dostarczającym AI na oznaczanie informacji jako tajemnicy handlowej, podobnie jak dzieje się to w procedurach kontrolnych prowadzonych przez UOKiK" - dodano.
Według organizacji konieczne jest wprowadzenie również bardziej rygorystycznych zabezpieczeń dotyczących ujawniania przez dostawców AI informacji podmiotom takim jak policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora.
"Dane związane ze sztuczną inteligencją często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji” – napisano w piśmie do resortu cyfryzacji.
Eksperci branżowi podnoszą też kwestię ewentualnych sankcji karnych na dostawców technologii AI.
"Przede wszystkim Cyfrowa Polska zwraca uwagę, że przepis przyznający Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować różne obszary zastosowania AI w kraju, uprawnienie do nakazania operatorowi systemu AI zaprzestania korzystania z tego rozwiązania lub wycofania z rynku jest zbyt niejasny" - napisano.
"Umożliwia bowiem on wydawanie daleko idących decyzji, egzekwowanych w trybach natychmiastowych, bez realnej możliwości odwołania się do sądu" - dodano.
Branża uważa, że brak konkretnych kryteriów podejmowanej decyzji przez członków Komisji jest sprzeczny z zasadami pewności i przewidywalności prawnej.
W ocenie organizacji, nowe przepisy umożliwiają również finansowanie tej Komisji z wpływów z kar pieniężnych nakładanych przez ten podmiot, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej tego podmiotu.
"Stoimy na stanowisku, że to rozwiązanie może być bardzo szkodliwe dla rozwoju sztucznej inteligencji w Polsce. Organ państwowy nie powinien być systemowo zachęcany do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji" – powiedział prezes ZCP Michał Kanownik.
Jego zdaniem, przepisy tego typu mogą w zasadzie przekreślić proponowane rozwiązania sprzyjające rozwojowi sztucznej inteligencji, takie jak chociażby tzw. piaskownice regulacyjne (umożliwiające podmiotom gospodarczym działanie w bezpiecznym środowisku testowym).
Związek Cyfrowa Polska proponuje poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować różne obszary zastosowania sztucznej inteligencji.
W opinii branży, by zachować transparentność i zrównoważone podejście do rozwoju AI, powinni w niej zasiadać także przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców.
"Państwo powinno zagwarantować spójność ustawy z literą prawa, jak i duchem unijnego Aktu w sprawie sztucznej inteligencji. W naszej ocenie, jeśli wskazane wątpliwości i uwagi nie zostaną rozwiązane, mogą prowadzić do znacznej niepewności regulacyjnej, a w efekcie utrudniać rozwój sztucznej inteligencji" – powiedział prezes Związku Cyfrowa Polska, Michał Kanownik. (PAP Biznes)
gaw/ osz/