AI Act to skrótowa nazwa rozporządzenia unijnego – aktu w sprawie sztucznej inteligencji (Dz.U.UE.L.2024.1689). Ta regulacja może szczycić się mianem pierwszej na świecie, która w sposób całościowy reguluje zasady wykorzystania sztucznej inteligencji. Stała się wiec niejako Konstytucją dla AI, której znajomość jest niezbędna we wszystkich procesach wykorzystujących tę technologię.
Ideą, która przyświecała unijnemu ustawodawcy w procesie tworzenia tego aktu, była ochrona człowieka w momencie zderzenia ze sztuczną inteligencją. Skutkiem tego podejścia, jest takie zbudowanie przepisów rozporządzenia, które nakłada konkretne ograniczenia w wykorzystaniu sztucznej inteligencji, szczególne w tych procesach, w których występuje największe ryzyko naruszenia praw człowieka.
Podział systemów AI
To właśnie pojęcie ryzyka stanowiło podstawę dla tej regulacji. Zastosowano w niej bowiem podejście oparte właśnie o ryzyko (ang. Risk based approach). Podzielono tym samym mechanizmy oparte o technologię sztucznej inteligencji na trzy grupy:
- Zakazane systemy AI
- Systemy AI wysokiego ryzyka
- Dopuszczalne systemy AI
Zakazane systemy AI
Zakazane systemy AI to takie, których wykorzystanie zostało przez AI act surowo zabronione.
Do tej kategorii zaliczamy m.in.:
- Systemy stosujące techniki podprogowe
- Systemy stosujące techniki manipulacyjne
- Systemy wykorzystujące słabości ludzkie celem zmiany ich zachowania
- Systemy służące do tzw. scoringu społecznego
- Systemy predykcyjne, oceniające możliwość popełnienia przestępstwa
Chodzi więc o tego typu działania, które uderzają w najbardziej osobiste obszary życia człowieka, wykorzystując je do osiągnięcia konkretnego celu.
Systemy AI wysokiego ryzyka
Systemy AI wysokiego ryzyka to takie, co do których ustawodawca unijny zdecydował się wprowadzić pewne ograniczenia. Zostały one dokładnie zdefiniowane w rozdziale III AI actu, a ich dokładny spis swoje miejsce znalazł w załączniku III.Zalicza się do nich systemy, które w sposób znaczący mogą zagrażać zdrowiu, bezpieczeństwu, prawom podstawowym, środowisku, demokracji lub praworządności. Ich wykorzystywanie jest możliwe tylko po spełnieniu szeregu wymogów dokładnie określonych przepisami przedmiotowego aktu.
Czy to koniec regulacji AI?
Akt ws. Sztucznej inteligencji można określić jako pewnego rodzaju preludium dla innych działań ustawodawczych.
Już teraz na horyzoncie mamy polską ustawę wdrażającą przepisy tego aktu, a w ramach struktur unijnych trwają prace nad dyrektywą w sprawie odpowiedzialności za sztuczną inteligencję. Wiele zagadnień jednak pozostaje jeszcze nie uregulowanych, więc w przyszłości należy spodziewać się kolejnych działań.
Patrycja Tiuryn
Product Manager
Dział Zarządzania Produktami
