AI Act porządkuje systemy sztucznej inteligencji, biorąc pod uwagę ryzyka związane z korzystaniem z nich. Do jednej z grup zaliczają się systemy zakazane przez AI Act pod rygorem surowych kar.
Przepisy dotyczące zakazanych praktyk wchodzą w życie już 2 lutego 2025 r.
Zakazane Systemy AI: Zagrożenia i Przykłady
Zakazane systemy AI to takie, które mogą zagrażać m.in. bezpieczeństwu, prawom podstawowym, demokracji czy wartościom, którymi kieruje się UE.
Przykłady zakazanych systemów AI:
- prowadzące social scoring na podstawie cech osobistych czy zachowań społecznych,
- manipulujące zachowaniem, stosujące techniki podprogowe,
- wykorzystujące ludzkie słabości związane np. z wiekiem czy niepełnosprawnością,
- pobierające wizerunki twarzy z Internetu i tworzące bazy danych, które mają rozpoznawać twarze,
- oceniające stan emocjonalny w miejscu pracy.
Sankcje za Stosowanie Zakazanych Praktyk
Stosowanie zakazanych praktyk podlega karze:
- do 35 000 000 EUR, lub
- do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego, jeśli podmiot naruszający zakaz jest przedsiębiorcą.
Przepisy dotyczące kar zaczną obowiązywać od 2 sierpnia 2025 r. Przy ustalaniu wysokości kary organy będą brały pod uwagę m.in.:
- czas trwania naruszenia,
- wielkość podmiotu, który narusza zakaz,
- liczbę poszkodowanych osób i rozmiar poniesionej przez nie szkody,
- to, czy kara za to samo naruszenie została już nałożona przez inne państwo członkowskie.
Potrzebujesz wsparcia w ocenie, czy wdrażane lub wykorzystywane przez Twoją organizację systemy AI stanowią zakazaną praktykę? Zapraszamy do kontaktu.
Aleksander Zieliński, radca prawny, manager: a.zielinski@dsk-kancelaria.pl
