Dostawcy/potencjalni dostawcy systemów AI wysokiego ryzyka mogą testować je w rzeczywistych warunkach poza piaskownicami regulacyjnymi, zgodnie z planem testów i przepisami AI Act. Szczegóły tego planu określa Komisja Europejska, za pomocą aktów wykonawczych. Testy mogą być przeprowadzane przed wprowadzeniem systemu AI na rynek lub do użytku, samodzielnie lub we współpracy z innymi podmiotami.
Jakie są wymogi dla firm testujących systemy AI w rzeczywistych warunkach?
- Dostawca systemu AI musi przygotować plan testów i przedstawić go odpowiednim organom w kraju, w którym testy mają być przeprowadzane.
- Organ nadzoru rynku musi zatwierdzić testy oraz ich plan. Jeśli nie odpowie w ciągu 30 dni, testy i plan uznaje się za zatwierdzone, chyba że krajowe przepisy nie przewidują milczącego zatwierdzenia – wtedy przeprowadzenie testów w rzeczywistych warunkach wymaga uzyskania zezwolenia.
- Dostawca musi mieć siedzibę w Unii Europejskiej lub posiadać na terenie UE swojego przedstawiciela prawnego.
- Testy mogą trwać maksymalnie 6 miesięcy, z możliwością przedłużenia o kolejne 6 miesięcy, pod warunkiem wcześniejszego zgłoszenia tego do organu nadzoru.
- Testy muszą być przeprowadzane pod nadzorem dostawcy oraz podmiotów korzystających z tych systemów, z udziałem osób posiadających odpowiednie kwalifikacje, umiejętności oraz uprawnienia do wykonywania swoich zadań.
- Trzeba zapewnić możliwość skutecznego cofnięcia i zignorowania prognozy, zalecenia lub decyzji podejmowanych przez system AI.
Jakie prawa mają uczestnicy testów?
Uczestnicy testów mogą w każdej chwili zrezygnować z udziału bez podawania przyczyny i bez żadnych konsekwencji. Mają również prawo zażądać natychmiastowego usunięcia swoich danych osobowych. Rezygnacja nie wpływa na działania już wykonane.
Kontrola testów w rzeczywistych warunkach: obowiązki dostawców i nadzór organów rynku
- Organy nadzoru rynku (państwowe urzędy kontrolujące) mogą żądać od dostawców informacji o testach, przeprowadzać niezapowiedziane kontrole oraz nadzorować cały proces testów.
- W przypadku poważnych incydentów dostawca musi natychmiast podjąć działania naprawcze lub zawiesić testy.
- Dostawcy mają obowiązek informować organy nadzoru o zakończeniu testów i są odpowiedzialni za ewentualne szkody powstałe podczas testów.
Potrzebujesz wsparcia przy wdrożeniu AI Act w Twojej organizacji? Zapraszamy do kontaktu!
Aleksander Zieliński, radca prawny, manager: a.zielinski@dsk-kancelaria.pl