Podsumowanie unijnej ustawy o sztucznej inteligencji (AI Act)

Ustawa UE o sztucznej inteligencji (AI Act) stanowi kompleksowe podejście Unii Europejskiej do regulowania sztucznej inteligencji, balansując między innowacjami a bezpieczeństwem i standardami etycznymi. Celem legislacji jest stworzenie godnej zaufania sztucznej inteligencji przy wspieraniu europejskiej konkurencyjności.

Ramy regulacyjne stosują system klasyfikacji oparty na ryzyku. Systemy AI sklasyfikowane jako stwarzające "niedopuszczalne" ryzyko podlegają zakazowi, w szczególności te stosujące techniki manipulacyjne lub wykorzystujące podatne populacje. Systemy AI "wysokiego ryzyka" – te wpływające na bezpieczeństwo i prawa podstawowe w obszarach takich jak egzekwowanie prawa, edukacja, zatrudnienie i infrastruktura krytyczna – muszą przejść oceny zgodności i zostać zarejestrowane w bazie danych UE przed wdrożeniem.

Systemy "ograniczonego ryzyka", takie jak chatboty i generatory deepfake, wymagają obowiązków przejrzystości, zapewniających, że użytkownicy wiedzą, że wchodzą w interakcję z AI. Systemy "niskiego/minimalnego ryzyka" nie podlegają dodatkowym wymogom prawnym, choć zachęca się do dobrowolnego przestrzegania.

Dostawcy AI wysokiego ryzyka muszą wdrożyć protokoły zarządzania ryzykiem, przeprowadzać testy, zapewnić nadzór ludzki, utrzymywać cyberbezpieczeństwo i właściwie zarządzać danymi. Generatywne systemy AI muszą ujawniać treści generowane przez AI i zapobiegać tworzeniu nielegalnych materiałów.

Ustawa kładzie nacisk na zasady zorientowane na człowieka: systemy AI powinny priorytetowo traktować bezpieczeństwo, przejrzystość, identyfikowalność, niedyskryminację i odpowiedzialność środowiskową. Nadzór ludzki jest obowiązkowy, aby zapobiec szkodliwym skutkom.

Egzekwowanie obejmuje wyznaczone organy państw członkowskich i Europejską Radę ds. AI. Naruszenia niosą ze sobą poważne konsekwencje: kary administracyjne do 30 milionów euro lub 6% obrotu. Jednak krytycy zauważają, że ramy nie przyznają osobom fizycznym praw do egzekwowania, co uniemożliwia obywatelom i organizacjom cywilnym bezpośrednie kwestionowanie niezgodności.

Nadzór ludzki pozostaje centralnym elementem przez cały czas, zapobiegając autonomicznemu podejmowaniu decyzji prowadzącemu do szkód.