KE opublikowała wytyczne ws. zakazanych praktyk w zakresie sztucznej inteligencji
Komisja Europejska opublikowała we wtorek wytyczne dotyczące zakazanych praktyk w zakresie sztucznej inteligencji wynikających z unijnej ustawy o AI. Mowa tu m.in. o systemach punktowania społecznego, biometrii czy technikach manipulujących odbiorcą.
Unijny akt w sprawie sztucznej inteligencji, który wszedł w życie w sierpniu 2024 r. (jego wdrażanie potrwa do 2026 r.), to pierwszy w historii dokument, który podzielił wykorzystanie technologii AI na cztery kategorie ryzyka w zależności od tego, jaki wpływ i jakie ewentualne zagrożenie mogą one stanowić dla użytkowników. Mowa tu o oprogramowaniu wysokiego ryzyka, ograniczonego ryzyka, o minimalnym wpływie i nieakceptowalnym, które w UE ma być zakazane.
We wtorek KE opublikowała listę wytycznych dotyczących tych właśnie zakazanych praktyk. Chodzi tu o technologie w wyraźny sposób naruszające prawa obywateli UE. Wśród nich wymieniono osiem grup, w tym systemy wykorzystywane do manipulowania ludzkim zachowaniem, czyli skłaniające ludzi do określonych zachowań, w tym zakupów w sieci. Na liście znalazły się też technologie wykorzystujące słabości użytkowników, w tym ich wiek, sytuację ekonomiczną czy niepełnosprawność. Jako przykład podano zabawki łączone z internetem, które mogą nakłaniać dzieci do ryzykownych zachowań.
Zakazane są też systemy tzw. scoringu, czyli punktowania społecznego, gdzie obywatele oceniani są na podstawie swoich zachowań społecznych lub cech, na które nie mają wpływu, jak rasa czy pochodzenie. Chodzi tu o wyeliminowanie sytuacji, gdzie np. urzędy mogłyby wykorzystywać AI do prognozowania ewentualnych zachowań petentów na podstawie takich cech, jak ich kolor skóry. Podobnie niedopuszczalne jest stosowanie AI do profilowania obywateli w celu przewidywania ich skłonności przestępczych.
Unijne przepisy zakazują też ściągania wizerunków ludzi z internetu lub monitoringu miejskiego w celu stworzenia bazy danych do rozpoznawania twarzy oraz stosowania systemów AI monitorujących emocje ludzi w miejscach pracy, szkołach lub na uczelniach – na ich podstawie można monitorować choćby gotowość pracowników do strajku czy niepokojów.
Na „czarnej liście” znalazły się też zdalna identyfikacja biometryczna w czasie rzeczywistym, czyli stosowanie przez służby systemów rozpoznawania twarzy w czasie rzeczywistym i w miejscach publicznych (tu przepisy wprowadzają pewne wyjątki w przypadku walki z przestępczością) oraz stosowanie systemów biometrii wykorzystujących dane wrażliwe obywateli np. płeć, wiek, orientację seksualną czy religię. Chodzi o uniknięcie sytuacji, gdy obywatel byłby obserwowany np. przez służby tylko dlatego, że jest muzułmaninem.
Opublikowane przez KE wytyczne nie są wiążące prawnie, ale mają pomóc państwom członkowskim w skutecznym wdrażaniu ustawy. Ta daje krajom Wspólnoty czas do 2 sierpnia 2025 r. na wyłonienie podmiotów, które odpowiedzialne będą za monitorowanie przestrzegania unijnych przepisów o AI – część państw już nominowała odpowiednie organy – oraz ustanowienia zasad dotyczących kar za naruszenie regulacji.
W wakacje też ruszyć ma unijna platforma zawierająca dokładne informacje o nowych przepisach, za jej pośrednictwem przedsiębiorstwa i inne zainteresowane strony będą mogły m.in. składać zapytania co do regulacji.
Z Brukseli Jowita Kiwnik Pargana (PAP)
jowi/ kar/ gor/
