Parlament Europejski przegłosował przepisy regulujące technologie oparte na AI. Pionierskość łączy się jednak z brakiem gwarancji, że przepisy nadążą za galopującym postępem.
“Zaczyna się nowy świat i AI będzie w nim grała główną rolę. Naszym obowiązkiem jest nawiązanie współpracy z innymi rządami i opracowanie wspólnych ram prawnych. Jednocześnie musimy mieć na uwadze, że pewnego dnia technologie mogą zaskoczyć nas swoimi zdolnościami i organy rządowe będą zmuszone stawić czoła etycznym i moralnym wyzwaniom, jakie będą związane się z tą ewolucją” — powiedział Dragos Tudorache z ugrupowania Odnówmy Europę, współsprawozdawca przegłosowanej ustawy.
Za ustawą opowiedziało się 523 posłów, przeciw było 46, a 49 wstrzymało się od głosu. Dokument trafi teraz do ministerialnej Rady UE, ale zatwierdzenie go będzie formalnością.
Ustawa o AI klasyfikuje różne zastosowania sztucznej inteligencji według poziomu ryzyka, szczegółowo określając, które praktyki będą zabronione, jakie są wymogi dla użytkowania AI o wysokim ryzyku i jakie będą stosowane kary za nieprzestrzeganie nowych przepisów.
W dokumencie wymienione są także przykłady zastosowań AI, które mogą wiązać się z wysokim ryzykiem. Chodzi między innymi o systemy używane w krytycznej infrastrukturze, edukacji, zatrudnieniu, kluczowych usługach prywatnych i publicznych (jak opieka zdrowotna czy bankowość), a także w egzekwowaniu prawa, zarządzaniu migracją i granicami, oraz w procesach demokratycznych, takich jak wpływanie na wybory.
Kluczowym postanowieniem ustawy jest również wymóg informowania użytkowników o interakcjach z chatbotami oraz obowiązek ujawniania przez systemy AI, generujące lub manipulujące treścią tekstową, obrazem, dźwiękiem lub wideo, faktu sztucznej kreacji lub modyfikacji treści, co dotyczy na przykład narzędzi typu deep-fake.
Wysokość kar za niestosowanie się do przepisów jest uzależniona od poziomu zagrożenia, jaki stwarza dana funkcja AI — będzie sięgać do 35 mln EUR lub 7 proc. rocznego światowego obrotu firmy. Aplikacje, takie jak systemy kategoryzacji biometrycznej oparte na wrażliwych cechach, scoring społeczny lub służące do manipulowania ludzkim zachowaniem, będą w Europie zakazane.
Federacja Europejskich Wydawców z zadowoleniem przyjęła informację o przegłosowaniu ustawy. “UE ma teraz przepisy, które będą wzorem dla reszty świata. Ustawa AI przypomina podstawowe, ale fundamentalne zasady, które firmy zajmujące się sztuczną inteligencją muszą szanować. Muszą one przestrzegać unijnego prawa autorskiego i aktywnie to zapewniać, nawet jeśli sztuczna inteligencja została wyszkolona poza Europą. W końcu będą musiały być przejrzyste w zakresie danych wykorzystywanych do szkolenia ich sztucznej inteligencji, która, jak same przyznają, opiera się na wykorzystaniu treści chronionych prawem autorskim.
Będą musieli być przejrzyści. Ta przejrzystość jest niezbędna, aby wydawcy wiedzieli, że ich prace nie będą wykorzystywane nielegalnie do szkolenia sztucznej inteligencji” – czytamy w oświadczeniu. “Szybki rozwój sztucznej inteligencji opiera się na nielegalnym korzystaniu z utworów chronionych prawem autorskim, braku wynagrodzeń dla posiadaczy praw i braku przejrzystości. Wdrożenie generatywnej sztucznej inteligencji już zdestabilizowało rynek, zalewając go treściami AI, często bez informowania konsumentów” – wskazano. “Komisja Europejska musi teraz zapewnić posiadaczom praw ich uzasadnione miejsce w kluczowych dyskusjach, które będą miały miejsce w celu przygotowania wdrożenia AI Act”.
Ricardo Franco Levi, przewodniczący FEP, oświadczył: “Sztuczna inteligencja jako technologia ma ogromny potencjał, w tym dla naszej branży, ale jej grzechu pierworodnego nie można było przeoczyć, a UE zapewniła teraz, że można go naprawić. Nadużycia firm zajmujących się sztuczną inteligencją zostały szeroko udokumentowane; nadszedł najwyższy czas, aby przypomnieć im, że technologia i innowacje muszą być zawsze zgodne z prawami innych i w pełni je szanować”.
