Podsumowanie unijnej ustawy o sztucznej inteligencji (AI Act)

Ustawa UE o sztucznej inteligencji (AI Act) stanowi kompleksowe podejście Unii Europejskiej do regulowania sztucznej inteligencji, łącząc wspieranie innowacji z dbałością o bezpieczeństwo i standardy etyczne. Celem legislacji jest stworzenie godnej zaufania sztucznej inteligencji przy wspieraniu europejskiej konkurencyjności.

Ramy regulacyjne stosują system klasyfikacji oparty na ryzyku. Systemy AI sklasyfikowane jako stwarzające "niedopuszczalne" ryzyko podlegają zakazowi, w szczególności te stosujące techniki manipulacyjne lub wykorzystujące grupy szczególnie narażone na krzywdę. Systemy AI "wysokiego ryzyka" – te wpływające na bezpieczeństwo i prawa podstawowe w obszarach takich jak egzekwowanie prawa, edukacja, zatrudnienie i infrastruktura krytyczna – muszą przejść oceny zgodności i zostać zarejestrowane w bazie danych UE przed wdrożeniem.

Systemy "ograniczonego ryzyka", takie jak chatboty i generatory deepfake, podlegają obowiązkom przejrzystości, dzięki którym użytkownicy wiedzą, że wchodzą w interakcję z AI. Systemy "niskiego/minimalnego ryzyka" nie podlegają dodatkowym wymogom prawnym, choć zachęca się do dobrowolnego przestrzegania.

Dostawcy AI wysokiego ryzyka muszą wdrożyć protokoły zarządzania ryzykiem, przeprowadzać testy, zapewnić nadzór człowieka, utrzymywać cyberbezpieczeństwo i właściwie zarządzać danymi. Generatywne systemy AI muszą ujawniać treści generowane przez AI i zapobiegać tworzeniu nielegalnych materiałów.

Ustawa kładzie nacisk na zasady zorientowane na człowieka: systemy AI powinny priorytetowo traktować bezpieczeństwo, przejrzystość, identyfikowalność, niedyskryminację i odpowiedzialność środowiskową. Nadzór człowieka jest obowiązkowy, aby zapobiec szkodliwym skutkom.

Egzekwowanie obejmuje wyznaczone organy państw członkowskich i Europejską Radę ds. AI. Naruszenia niosą ze sobą poważne konsekwencje: kary administracyjne do 30 milionów euro lub 6% obrotu. Jednak krytycy zauważają, że ramy nie przyznają osobom fizycznym praw do egzekwowania przepisów, co uniemożliwia obywatelom i organizacjom społeczeństwa obywatelskiego bezpośrednie kwestionowanie niezgodności.

Nadzór człowieka pozostaje centralnym elementem przez cały czas, zapobiegając autonomicznemu podejmowaniu decyzji prowadzącemu do szkód.