Jak ludzie kontrolują AI? Pojawiają się problemy znane z wcześniej stosowanych systemów
Kluczowym elementem zabezpieczenia przed wymknięciem się sztucznej inteligencji spod kontroli jest włączenie ludzi w proces weryfikacji i zatwierdzania podejmowanych przez AI decyzji. Jednak mechanizm ten będzie nieskuteczny, jeśli projektanci oraz użytkownicy nie zmienią swoich przyzwyczajeń – ostrzegają Margaret Mitchell, Avijt Ghosh i Samir Passi zajmujący się, między innymi, kwestiami etycznymi dotyczącymi AI.
Najpierw oddajemy maszynie drobiazgi. Niech uporządkuje dokumenty, poprawi zdania, znajdzie błąd w programie. Później powierzamy jej całe zadania. W końcu zaś zostawiamy sobie tylko ostatni ruch – wyrażenie zgody. Kliknięcie trwa ułamek sekundy i daje przyjemne poczucie, że nadal wszystko kontrolujemy. I mimo że większość autonomicznych agentów wyposażono w mechanizmy informujące użytkowników o podejmowanych działaniach, w praktyce mechanizmy te spychają ludzi na margines. Jak stwierdził Avijit Ghosh, człowiek staje się biologicznym narzędziem służącym do udzielania zgody, pozbawionym zdolności poznawczych pozwalających na rzeczywiste zaangażowanie się w proces pracy maszyny.
Autorzy artykułu zadali sobie pytanie, co dzieje się w sytuacji, gdy człowiek jest nadzorcą automatycznego systemu. Agent AI różni się od innych systemów automatycznych zakresem samodzielności. Potrafi wykonywać wieloetapowe zadania, wybiera odpowiednie narzędzia, dopasowuje plan do uzyskanych wyników. Człowiek dostaje do sprawdzenia cały proces, którego sam nie prowadził. Musi odtworzyć jego sens, zrozumieć go, ocenić skutki. To bywa trudniejsze niż wykonanie części pracy. Tym bardziej, jeśli kolejne operacje pojawiają się szybciej, niż można je przeczytać, przeanalizować i zrozumieć. Przytłoczony ilością danych do przetworzenia użytkownik zaczyna szukać prostszych wskazówek. Zgrabny język bierze za oznakę poprawności wykonania zadania, obecność źródeł za dowód rzetelności, a pomyślnie opisany wynik za gwarancję jakości. Jednak wszystkie te czynniki mogą być zwodnicze.
Do tego dochodzi rutyna. Kolejne prośby o zatwierdzenie budzą mniejszą czujność niż pierwsze z nich, tym bardziej, że przecież w międzyczasie zaufaliśmy maszynie, nabraliśmy przekonania, że wszystko dobrze działa. Zmęczenie, nadmiar informacji i chęć skończenia zadania to dodatkowe czynniki powodujące, że zgoda czy zatwierdzenie wyniku przebiega automatycznie. Człowiek staje się biologicznym narzędziem. A przecież system oczekuje, że człowiek wyłapie nieprawidłowości, że wśród wielu właściwych wyników znajdzie ten niewłaściwy.
Dopóki maszyna radzi sobie dobrze, człowiek ma niewiele powodów, by ćwiczyć przejmowanie sterów. Jednak kiedy pojawia się rzadki, trudny przypadek, oczekuje się od niego interwencji na poziomie eksperta. Ma błyskawicznie użyć wiedzy, której... od dawna nie stosował, bo maszyna działała dobrze. Coraz bardziej rozpowszechniona automatyzacja zadań, przekazywanie ich maszynom, może obniżać kompetencje i zdolność do rozpoznawania błędów oraz zagrożeń. Szczególnie istotne jest to w obliczu coraz szerszego stosowania systemów AI.
Mamy tutaj do czynienia z problemem, który wcześniej obserwowaliśmy w przypadku robotyki czy autonomicznych samochodów. Ludzie nie są w stanie wkroczyć w odpowiednim momencie, gdy urządzanie przez zdecydowaną większość czasu działa tak, jak powinno.
Mitchell, Ghosh i Passi proponują rozwiązanie. Jest ono jednak bardzo niewygodne. Ich zdaniem przed kliknięciem zgody czy zatwierdzeniem wyniku, użytkownik musiałby najpierw wskazać powody, założenia czy sposób rozumowania, na którym taką zgodę opiera. To zatrzymanie miałoby pobudzić samodzielny umysł do rzeczywistej weryfikacji pracy systemów AI. Oczywiście nie powinno dotyczyć to każdego drobiazgu.
Wiele jednak zależy od miejsca, w którym system jest wykorzystywany. Pozostają pytania o to, czy jest czas na kontrolę, czy można zakwestionować wynik podany przez maszynę i tym samym opóźnić wykonanie zadania, czy ludzie regularnie ćwiczą bez pomocy AI? Przerwy, opóźnienia, szkolenia, samodzielna praktyka to koszt w świecie, który pędzi coraz szybciej. Jednak bez nich ludzki nadzór będzie fikcją i zostanie sprowadzony do roli podpisu pod cudzą decyzją.
Artykuł AI Agents Push Humans Out of the Loop został opublikowany w serwisie arXiv.
Komentarze (0)