Dostawcy/potencjalni dostawcy systemów AI wysokiego ryzyka mogą testować je w rzeczywistych warunkach poza piaskownicami regulacyjnymi, zgodnie z planem testów i przepisami AI Act. Szczegóły tego planu określa Komisja Europejska, za pomocą aktów wykonawczych. Testy mogą być przeprowadzane przed wprowadzeniem systemu AI na rynek lub do użytku, samodzielnie lub we współpracy z innymi podmiotami.

Jakie są wymogi dla firm testujących systemy AI w rzeczywistych warunkach?

  • Dostawca systemu AI musi przygotować plan testów i przedstawić go odpowiednim organom w kraju, w którym testy mają  być przeprowadzane.
  • Organ nadzoru rynku musi zatwierdzić testy oraz ich plan. Jeśli nie odpowie w ciągu 30 dni, testy i plan uznaje się za zatwierdzone, chyba że  krajowe przepisy nie przewidują milczącego zatwierdzenia – wtedy przeprowadzenie testów w rzeczywistych warunkach wymaga uzyskania zezwolenia.
  • Dostawca musi mieć siedzibę w Unii Europejskiej lub posiadać na terenie UE swojego przedstawiciela prawnego.
  • Testy mogą trwać maksymalnie 6 miesięcy, z możliwością przedłużenia o kolejne 6 miesięcy, pod warunkiem wcześniejszego zgłoszenia tego do organu nadzoru. 
  • Testy muszą być przeprowadzane pod nadzorem dostawcy oraz podmiotów korzystających z tych systemów, z udziałem osób posiadających odpowiednie kwalifikacje, umiejętności oraz uprawnienia do wykonywania swoich zadań.
  • Trzeba zapewnić możliwość skutecznego cofnięcia i zignorowania prognozy, zalecenia lub decyzji podejmowanych przez system AI. 

Jakie prawa mają uczestnicy testów?

Uczestnicy testów mogą w każdej chwili zrezygnować z udziału bez podawania przyczyny i bez żadnych konsekwencji. Mają również prawo zażądać natychmiastowego usunięcia swoich danych osobowych. Rezygnacja nie wpływa na działania już wykonane.

Kontrola testów w rzeczywistych warunkach: obowiązki dostawców i nadzór organów rynku

  • Organy nadzoru rynku (państwowe urzędy kontrolujące) mogą żądać od dostawców informacji o testach, przeprowadzać niezapowiedziane kontrole oraz nadzorować cały proces testów.
  • W przypadku poważnych incydentów dostawca musi natychmiast podjąć działania naprawcze lub zawiesić testy. 
  • Dostawcy mają obowiązek informować organy nadzoru o zakończeniu testów i są odpowiedzialni za ewentualne szkody powstałe podczas testów.

Potrzebujesz wsparcia przy wdrożeniu AI Act w Twojej organizacji? Zapraszamy do kontaktu!

Aleksander Zieliński, radca prawny, manager: a.zielinski@dsk-kancelaria.pl

DSK AI Act Weekly #13