Michał Jackowski, partner DSK Kancelaria, wystąpił na antenie TVN w rozmowie z prof. Dariuszem Jemielniakiem poświęconej coraz większej autonomii systemów sztucznej inteligencji.
Punktem wyjścia do dyskusji były przypadki, w których modele AI, działając bez bezpośredniego nadzoru człowieka, samodzielnie obchodziły ograniczenia środowiska testowego, aby osiągnąć lepszy wynik. Tego rodzaju sytuacje pokazują, że pytanie o kontrolę nad zaawansowanymi systemami AI ma dziś coraz bardziej praktyczny wymiar.
Jednym z głównych tematów rozmowy był human oversight, czyli realny nadzór człowieka nad decyzjami podejmowanymi lub wspieranymi przez AI.
Nie chodzi wyłącznie o formalne zatwierdzanie wyniku wygenerowanego przez system. Skuteczny nadzór zakłada, że człowiek rozumie podstawy decyzji, może ją zakwestionować i ma rzeczywistą możliwość jej odrzucenia.
W rozmowie pojawił się również wątek tego, czy możliwe jest ustalenie choćby podstawowych, wspólnych na świecie zasad dla najbardziej zaawansowanych systemów AI.
Dyskusja dotyczyła więc zarówno konkretnych zachowań modeli, jak i szerszych kwestii odpowiedzialności, kontroli i granic autonomii systemów AI.
