Ludzie kopiują zachowania sztucznej inteligencji. Nawet te całkowicie irracjonalne i pozbawione sensu
Poznański naukowiec zastanawiał się, czy opinia lub decyzja sztucznej inteligencji, która w coraz większym stopniu staje się częścią naszego codziennego życia, może być dla ludzi źródłem informacji, jak postępować (czy w takim przypadku również zadziała mechanizm nazywany społecznym dowodem słuszności). Prof. Uniwersytetu im. Adama Mickiewicza dr hab. Michał Klichowski wykazał, że jak najbardziej tak i że ludzie potrafią skopiować nawet całkowicie irracjonalne i pozbawione sensu zachowanie sztucznej inteligencji.
Uzyskane wyniki wskazują na potrzebę edukowania społeczeństwa pod kątem kształtowania krytycznego stosunku do inteligentnych maszyn.
Społeczny dowód słuszności to zasada, według której człowiek, nie wiedząc, jaka decyzja lub pogląd jest słuszny, zachowuje się jak większość grupy. W takich sytuacjach ludzie najczęściej całkowicie rezygnują z własnych ocen i kopiują działania innych. Taki konformizm motywowany jest potrzebą podjęcia słusznego i odpowiedniego działania oraz poczuciem, że oceny sytuacji konstruowane przez innych są bardziej adekwatne niż własne. Efekt ten jest tym większy, 1) im sytuacja jest bardziej niepewna lub kryzysowa (występuje poczucie zagrożenia), 2) im decyzja jest bardziej pilna, a poczucie kompetencji w zakresie tej decyzji niższe - wyjaśnia cytowany przez portal Życie Uniwersyteckie UAM prof. Klichowski.
By sprawdzić, czy źródłem informacji może być także sztuczna inteligencja, przeprowadzono serię eksperymentów. Prof. Klichowski wykorzystał zbudowanego przez siebie robota FI (FI to akronim od fake intelligence).
Maszyna ta podczas eksperymentów zachowywała się irracjonalnie i w dokładnie taki sposób, jak zaplanowałem. Jedynie więc udawała inteligentną. Co więcej, jej postępowanie było jednoznacznie "głupie". Ponad 85% uczestników eksperymentu jednak to zignorowało i uznało jej postępowanie za punkt odniesienia dla własnego.
Klichowski podkreśla, że ludzie tak bardzo ufają sztucznej inteligencji, że nawet w sytuacji absolutnie kryzysowej, gdy trzeba podjąć decyzję dotyczącą ludzkiego życia, potrafią bezkrytycznie zrobić to, co sugeruje [...], pomimo że postuluje coś całkowicie absurdalnego.
Profesor Klichowski nazwał nowy mechanizm "dowodem sztucznej inteligencji" (ang. AI proof). Opisał go na łamach periodyku Frontiers in Psychology.
Komentarze (15)
tempik, 22 czerwca 2020, 14:48
Śmiało można zastąpić "Maszyna" na "Osoba" i zdanie będzie miało nadal sens. Jeśli społeczeństwo naśladuje jednostki irracjonalne, (i tu mała zmiana) nawet nie udające inteligentnych! jak to SI z eksperymentu, to niema się czemu dziwić.
Afordancja, 22 czerwca 2020, 20:09
Tzn. tu trzeba zrobić małe zastrzeżenie.
Chodzi o decyzje w "krytycznej sytuacji" gdzie sami nie potrafili szybko jednoznacznie określić prawidłowej decyzji
I nie widzę nic dziwnego w społecznym dowodzie słuszności (niektóre jednostki naśladują społeczeństwo/większość).
I też nie widzę nic dziwnego, że znów jednostka naśladuje wg. niej autorytet. (I tutaj jest nowość, że AI zaczyna być autorytetem)
Jednak tutaj nie ma mowy (za daleko idący wniosek) że społeczeństwo naśladuje jednostkę która nawet nie udaje inteligentnych.
Warai Otoko, 23 czerwca 2020, 11:40
Badania udowadnia po prostu to co jest napisane - że społeczny dowód słuszności działa również w interakcji z maszyną, a której wiemy że posiada AI. Nie jest to może specjalie zaskaujące, ale takie badania też są potrzebne.
tempik, 23 czerwca 2020, 11:43
w tekście jest "że nawet w sytuacji absolutnie kryzysowej" więc kontekst jest trochę inny. A co do dynamicznej sytuacji kryzysowej to nie różnimy się od stada baranów spadających z klifu. Jak coś się dzieje za szybko żeby kora dała radę przeanalizować dane to decyzję podejmuje móżdżek i pień mózgu. W tłumie inteligencji panika może wybuchnąć tak samo łatwo jak w tłumie chłopów pańszczyźnianych, chociaż wystarczyło by wstrzymać się 5sec. i pomyśleć że to bez sensu
Afordancja, 23 czerwca 2020, 13:27
Rozumiem co chcesz powiedzieć, ba nawet podzielam podobne zdanie. Jednak właśnie jak wspomniałeś, kwestia definicji. Ja bym przyjął, że "przeciętność" to gdzieś w okolicach mediany i jest podobnie głupich jak i mądrych. Jednak ta przeciętność to dość nisko postawiona poprzeczka.
w źródle jest:
"Here, we discuss the results of two experiments (which are a part of a greater report, Klichowski, submitted) in which the participants had to take an urgent decision in a critical situation where they were unable to determine which action was correct."
czyli po prostu badanie dotyczyło kryzysowych. Więc moim zdaniem kontekst nie jest inny.
Tak czy inaczej wg. mnie wyniki jak wspomniał @Warai Otoko nie są niczym niespodziewanym.
Warai Otoko, 23 czerwca 2020, 13:44
Można zdefiniować mądrość jako ilość posiadanej wiedzy, a więc ilość zapamiętanych, zweryfikwoanych naukowo informacji (kwestia sporna co do kryteriów demarkacji ale to pomijam na razie). W takim ujęciu bycie mądrym to nie koniecznie coś do czego należałoby dążyć, bo posiadanie szerokiej wiedzy nie koniecznie ma wpływ na napotykan eproblemy. Co innego posiadanie wiedzy adekwatnej
czyli np. eksperckiej ale tylko wtedy kiedy potrzebujemy tej wiedzy do rozwiązania naszych problemów (np. zawodowych). Oznacza to, że osobnik A może być głupszy od osobnika B (w sensie ilości informacji/wiedzy), ale osobnik B będzie posiadał informacji mniej ale bardziej przyatnych. Zatem to do czego nalezy dazyć to bardziej optymalizacja podejmowanych decyzji i na ich podstawie gromadzenie lub nie potrzebnych informacji, a nie sama ilość informacji.
tempik, 23 czerwca 2020, 14:37
Racja. Z lenistwa źródeł nie przeglądałem, a po przetłumaczeniu to już nie to samo.
Afordancja, 23 czerwca 2020, 15:09
Zgadzam się, jednak i tak ciężko tu o obiektywne kryteria. Bo czy kafelkarz (w tym sensie, że posiada wiedzę ekspercką z kładzenia kafelek, a reszta powiedzmy losowo) jest głupszy od tynkarza (tutaj podobnie jak u poprzednika) ? Czy obydwaj są od siebie głupsi/mądrzejsi zależnie co weźmiemy pod uwagę. Czy nauczyciel języka polskiego może przyjść do nich i powie, że jest od nich mądrzejszy bo uczył się 5 lat i może ich obu nauczyć wiele (sam nie umiejąc tak dobrze np. położyć kafelek). Czy niezaradny życiowo ale za to w 1 z 10 może dojść do finału jest mądrzejszy czy głupszy
) za pomocą którego można by to jakoś zmierzyć?
Czy może aby móc to obiektywnie zmierzyć trzeba by było wziąć pewien koszyk wiedzy (jak z inflacją
Warai Otoko, 23 czerwca 2020, 15:36
Proste, mądrzejszy będzie ten który ma większa wiedzę w sensie ilościowym (jesli przyjmiemy taką definicję), w tym przypadku nauczyciel języka polskiego będzie najmądrzejszy, natomiast o ile większą wiedze musi miec tynkarz od kafalkarza lub na odrwót to ja nie wiem
Jest jeszcze kwestia trudności przyswajanej wiedzy. Np. lekarz może mieć większa wiedzą niż matamatyk, bo zapamiętał większa ilość informacji, ale za to poziom trudności zrozumienia danej wiedzy, mierzony np. poziomem abstrakcji matamatyk będzie miał znacznie wyższy (wątrobę można dotknąc i zobaczyć, komórki zobaczyć pod mikroskopem etc., a przstrzeni wektorowej nie bardzo 
). Pytanie kogo nazwiemy "głupszym", bo jeśli jako kryterium głupoty weźmiemy ilość wiedzy to wyjdzie że głupszy jest matematyk, co brzmi absurdalnie. Dlatego potoczene rozumienie głupoty to raczej nie jest kwestia większej/mniejszej wiedzy. Jeśli już mielibyśmy oceniać ludzi w tych kryetriach to lepsza byłaby chyba inteligencja, ale z nią też są problemy z definicją albo może prędzej z pomiarem. Bo dla mnie definicja jest jasna - umiejętność rozwiązywania problemów. Kwestia oczywiście konwencji. Ktoś może mieć inną.
darekp, 23 czerwca 2020, 15:52
Hm, wg Wiki (https://pl.wikipedia.org/wiki/Mądrość) mądrość to "umiejętność praktycznego wykorzystywania posiadanej wiedzy i doświadczenia". Czyli chyba bardziej taka funkcja wiedzy/doświadczenia i inteligencji. I być może innych czynników (nie chce mi się myśleć). Nieważne czego używasz, byle by to było skuteczne w praktyce. Ten sam rezultat jedni mogą osiągnąć inteligencją, inni np. doświadczeniem. (?)
P.S. Albo "umiejętność podejmowania uzasadnionych decyzji, które w dłuższej perspektywie przynoszą pozytywne rezultaty" (wg autora z Wiki definicja równoważna).
Warai Otoko, 23 czerwca 2020, 16:01
Dlatego napisałem wczesniej definicję jaką się posługuję. W tych kwestiach jest mnóstwo bałaganu wprowadzonego głównie przez psychologię, dlatego moim zdaniem należy ścisle definiować lub nawet redefiniować takie pojęcia jak mądrość, inteligencja, psychika, umysł etc. W ujęciu z wikipedii mądrość będzie tym co ja (nie tylko ja) nazywam inteligencją - bo "umiejętność podejmowania uzasadnionych decyzji" jest w zasadzie tożsama umiejętności rozwiązywania problemów. Ale jak w takim razie nazwiemy osoby o dużej wiedzy np. eksperckiej? Że są jakie? Bo w takim ujęciu na pewno nie mądre
Ja myślę że neuronaukowo mamy tutaj trzy zjawiska/klasy - szybkośc przetwarzania informacji, umiejętość rozwiązywania problemów oraz ilość posiadanej wiedzy (tutaj można by dodac jakość wiedzy, ale zakłądam, ze wiedza to tylko informacje o najwyższej jakości). Możemy jedynie przyjąć konwencje terminologiczne określające te trzy zjawiska.
Antylogik, 23 czerwca 2020, 18:00
Mamy tu do czynienia ze zwykłą strategią naśladowcy, znaną choćby z teorii gier, czyli nic nowego i jak najbardziej racjonalna strategia, jeśli jest używana świadomie. Niestety spycholodzy zawsze wszystko zaciemniają albo zajmują się rzeczami kompletnie niepotrzebnymi.
peceed, 23 czerwca 2020, 19:03
To jest chyba kluczowe sformułowanie. Jeśli nie byli w stanie ocenić sensowności postępowania, to kopiowanie zachowania innych jest lepsze niż przypadkowa decyzja.
Wykorzystuje to do maksimum moda
To byłaby ciekawa sprawa gdyby ludzie ignorowali zdrowy rozsądek i swoją wiedzę. Na razie z opisu badania nic na to nie wskazuje.
To po prostu bezwartościowa nauka.
A po sprawdzeniu:
mamy już całkowitą pewność że badania psychologiczne są prowadzone przez idiotów.
Ta metoda po prostu nie ma żadnej wartości odnośnie wykrywania terrorystów o ile wcześniej nie poznamy dokładnych statystyk dla terrorystów i wszystkich użytkowników.
Nie ma żadnych przesłanek aby uznać odpowiedzi C i F za oczywiście złe. Może się właśnie okazać, że taki jest wzorzec dla terrorystów.
W takiej sytuacji jedyną rozsądną decyzją jest zaufanie AI.
Nawet 2 osoby o takich samych samych charakterystykach nie zmieniają tego jaka jest prawidłowa decyzja: dla pewnych rozkładów zmaksymalizowanie ilości uratowanych osób może wymagać zabicia tylko jednej spośród dwóch tak samo prawdopodobnych podejrzanych!
Ale dla celów badania istotnie jest tylko to, jak podpowiedzi zmieniają statystykę wyborów.
Sama konstrukcja badania to gówno. Należało ludziom przedstawiać losowe podpowiedzi a co najmniej najczęściej i najrzadziej wybierane.
Najbardziej wartościowym spostrzeżeniem badania jest znacznie częstsze kopiowanie akcji humanoidalnego robota (85%) w stosunku do podpowiedzi z AI (33%, mam prawie pewność że liczyli to źle ale co tam), co bardzo każe wątpić aby ludzie uznawali AI za wielki autorytet.
Bardzo brakło grup kontrolnych w postaci "zwykłego człowieka" i człowieka przedstawionego jako "ekspert".
Bez takich informacji całe badanie jest gównem, jak 99% wszystkich badań psychologicznych.
darekp, 24 czerwca 2020, 10:01
Mea culpa, pomyślałem sobie o czymś innym
Warai Otoko, 24 czerwca 2020, 13:18
nie szkodzi, przynajmniej była okazaja żeby coś dopowiedzieć ;P