Czym jest system zarządzania ryzykiem?
To proces identyfikacji, oceny i minimalizacji ryzyka związanego z systemem AI. Jest przede wszystkim obowiązkiem dostawców systemu AI wysokiego ryzyka.
System zarządzania ryzykiem powinien być procesem:
- ciągłym,
- iteracyjnym,
- planowanym,
- realizowanym przez cały cykl życia systemu AI wysokiego ryzyka,
- regularnie przeglądanym i aktualizowanym.
Etapy zarządzania ryzykiem
System zarządzania ryzykiem składa się z 4 etapów:
- Identyfikacji i analizy ryzyka, jakie system AI może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem,
- Oszacowania i oceny ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem, ale też w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania,
- Oceny innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu systemu AI do obrotu,
- Wdrożenia środków zaradczych zaprojektowanych w celu przeciwdziałania zidentyfikowanemu ryzyku.
Środki zarządzania ryzykiem
Przy określeniu najodpowiedniejszych środków zarządzania ryzykiem należy zapewnić:
- eliminację lub ograniczenie ryzyka (o ile jest technicznie możliwe), poprzez odpowiedni projekt i rozwój systemu AI,
- wdrożenie odpowiednich środków służących kontroli ryzyka, którego nie można wyeliminować,
- transparentne informowanie (w instrukcji obsługi) m.in. o:
- możliwych ryzykach,
- przeznaczeniu,
- możliwościach technicznych,
- poziomie dokładności i solidności,
- środkach nadzoru.
- przeszkolenie podmiotów stosujących.
Potrzebujesz wsparcia przy wdrożeniu AI Act w Twojej organizacji? Zapraszamy do kontaktu!
Aleksander Zieliński, radca prawny, manager: a.zielinski@dsk-kancelaria.pl
DSK AI Act Weekly #9
