Jak król Obama planował komunistyczny zamach stanu
Co najmniej od czasu wygranej Donalda Trumpa jednym z ważniejszych zagadnień związanych ze współczesnym internetem stała się kwestia fałszywych informacji rozpowszechnianych za pośrednictwem ogólnoświatowej sieci. Ponoć to właśnie fałszywe informacje umożliwiły zwycięstwo Trumpa nad jego bardziej uczciwymi przeciwnikami. Teraz o przekazywanie fałszywych informacji zostało oskarżone Google, a konkretnie Google Home.
To niewielki „inteligentny” głośnik, który rozpoznaje wydawane polecenia i odpowiada na nie. Obecnie Google Home pozwala m.in. na robienie zakupów w internecie oraz przeszukiwanie sieci. W tym drugim przypadku korzysta z usługi featured snippets obecnej w wyszukiwarce Google. Usługa ta wyświetla na górze wyników wyszukiwania szybką odpowiedź na zadane pytanie.
Jeśli np. wpiszemy w Google'u „who is the richest man in the world” zobaczymy listę kilku najbogatszych osób na świecie. Featured snippets może być przydatną funkcją, o ile całkowicie ufamy wyszukiwarce i nie mamy zamiaru zbytnio drążyć tematu. Na wiele prostych pytań rzeczywiście otrzymamy prawidłowe odpowiedzi. Nawet jeśli jednak wyświetlone odpowiedzi nie będą prawdziwe, otrzymamy pewne wskazówki mogące to sugerować. W przeglądarce zobaczymy przecież adres witryny, z której informacje pochodzą, możemy też rzucić wzrokiem na niżej umieszczone wyniki wyszukiwania. Takiej możliwości nie ma w Google Home. Głośnik udziela nam jednej odpowiedzi i nie mamy możliwości jej zweryfikowania za pomocą głośnika. Dlatego też Google Home zaliczył kilka spektakularnych wpadek.
W miniony weekend zadając Google'owi pytanie „czy Obama planuje zamach stanu” otrzymywaliśmy odpowiedź pochodzącą z witryny Secrets of the Fed: Z informacji zawartych w materiale wideo organizacji Western Centre for Journalism wynika, że Obama nie tylko dogadywał się z komunistycznymi Chinami, ale że pod koniec swojej kadencji planuje przeprowadzenie komunistycznego zamachu stanu. I o ile w przeglądarce zobaczymy, że informacja pochodzi z witryny miłośników teorii spiskowych, to już Google Home wygłosi nam tę kwestię z pełną powagą.
To jednak nie jedyna sytuacja tego typu, a szybkie i proste odpowiedzi – tak lubiane przez współczesne społeczeństwa i media – mogą zaprowadzić nas na manowce. Z featured snippets oraz Google Home mogliśmy bowiem dowiedzieć się, że 5 prezydentów USA było członkami Ku-Klux-Klanu. Jeśli dokładniej przyjrzymy się źródłom Google'a okaże się, że informacja ta pochodzi z artykułu w nigeryjskiej gazecie Trent Oline, która z kolei powołuje się na witrynę iloveblackpeople.net. Ta z kolei jako źródło swej informacji wymienia pseudohistoryka Davida Bartona i witrynę KKK.org.
Niestety, problem nie ogranicza się tylko do fatalnego działania featured snippets i Google Home. Znaczna część ludzi bezkrytycznie podchodzi do informacji znalezionych w internecie. Przekonał się o tym profesor historii Peter Shulman z Case Western Reserve University, który prowadził wykłady dotyczące ponownego wzrostu w siłę KKK w latach 20. ubiegłego wieku (tzw. drugi Klan). W czasie zajęć jeden ze studentów zapytał, czy prezydent Harding był członkiem KKK. Zaskoczony uczony odpowiedział, że nic mu o tym nie wiadomo, ale jako że Harding popierał ustawę znoszącą prawo do linczu, wątpi, by prezydent był w Klanie. Na to odezwał się inny student, który stwierdził, że w KKK był zarówno Harding jak i czterech innych prezydentów USA (McKinley, Wilson, Coolidge, Truman).
Rzeczywistość jest bardziej skomplikowana, a jej nadmierne uproszczenie powoduje, że ludzie coraz więcej ludzi wierzy w oczywiste bzdury. Wydatnie przyczynia się do tego internet, dzięki któremu są one z łatwością rozpowszechniane. Kwestia przynależności Hardinga do KKK nie jest bowiem nowa. Już w czasach jego prezydentury Klan twierdził, że Harding jest jego członkiem. Prezydent zaprzeczał, a biografowie jego i jego żony nigdy nie znaleźli najdrobniejszego dowodu, by prezydent należał do rasistowskiej organizacji. Profesor Shulman mówi, że nie ma też powodów, by wierzyć, że McKinley, Coolige czy Wilson – który był rasistą – należeli do KKK. Wiadomo, że Harry Truman – również rasista – spotkał się z członkiem Klanu, jednak nie ma dowodu, by sam był członkiem KKK. Wiadomo za to, że zwalczał KKK i sprzymierzył się z jego wrogami.
Historia prezydentów USA, którzy mieli rzekomo być członkami Klanu, pokazuje, że nie można ufać algorytmom. Lepiej ufać zdrowemu rozsądkowi. Tym bardziej, gdy Google Home pytany o glutamininan sodu twierdzi, że uszkadza on mózg, z Baracka Obamy robi króla USA, a pytany o to, dlaczego samochody strażackie są czerwone cytuje skecz Monty Pythona.
Komentarze (10)
wilk, 7 marca 2017, 00:39
Proszę nie być stronniczym. :>
darekp, 7 marca 2017, 07:00
Swoja drogą, jeśli wziąć na serio te zapowiedzi niektórych forumowiczów, że Skynet nadciąga, to aż strach pomyśleć, co będzie się działo, gdy komputery wezmą się za rządzenie światem z taką znajomością realiów. Toż to będzie totalna masakra!
Mariusz Błoński, 7 marca 2017, 11:05
@Wilk: to zdecydowanie zdecydowana ironia była
rahl, 7 marca 2017, 20:18
Bzdury, o tym że ktoś tam należał do KKK bledną przy pladze wyznawców pseudoteorii płaskiej Ziemi i tym podobnych idiotyzmach.
radar, 7 marca 2017, 21:03
A może to już jest Skynet i to właśnie pokazuje bardzo dobrą znajomość realiów. "Sprawmy, że wybrani zostaną najwięksi (...), a ludzie sami się zniszczą" (w końcu wiadomo co było celem Skynetu)
thikim, 7 marca 2017, 21:25
W społeczeństwie informacyjnym sieci AI mogłyby sporo namieszać
Zapewne różnego rodzaju narzędzia (ale jeszcze nie AI) już mieszają.
Póki roboty nie potrafią się "rozmnażać" ani same zdobywać energii to generalnie wszystko to są tylko strachy.
Ergo Sum, 7 marca 2017, 21:50
O znacznym upośledzeniu dostępnych informacji pisałam już dawno w kontekście zagrożeń ogólnoświatowych. Fake-news są coraz bardziej wyspecjalizowane i coraz bardziej wiarygodne. Odpowiednio wiarygodnie newsy tego typu mogą doprowadzić do globalnego krachu, masowych zamieszek czy wręcz scenariuszy zagłady. Gdy za fake-news - tzn za ich pisanie i śledzenie weźmie się AI stracimy kontrolę nad rzeczywistością. Pojedynczy news nie jest w stanie nas skutecznie przekonać, ale już powtarzane kłamstwo w końcu zmieni nasze poglądy - choćby np. na temat stosunku do terroryzmu. Wysoko inteligentne AI spowoduje że nie będziemy potrafili odróżnić prawdy od kłamstwa i po której stronie jest prawda.
Obecnie na facebooku działają fałszywe grupy trolli publikujące obleśne posty. Grupy te występują pod pozorem grup prawicowych. Konta trolli są ewidentnie trollowe, ale dodawane są one do administracji przez jakieś konto udające osobę o poglądach prawicowych. Jest to prawdopodobnie osoba, która ukrywa się w grupie walczących z trollizmem - ma więc duże zaufanie społeczne. Powstaje totalny chaos i nikt nie wie komu ufać. Jeśli za takie działanie weźmie się AI i zacznie produkować fake-news i grupy z takimi działaniami - będziemy przegrani. A jest to jak widać tuż za progiem.
thikim, 7 marca 2017, 22:01
A bez AI potrafimy?
Grunt to reklama
Tak sobie myślę w swojej beztrosce że nie bardzo wiem co możemy przegrać
darekp, 8 marca 2017, 08:25
Jak na razie to raczej ta AI potrafi bardzo skutecznie dezinformować samą siebie;) Pomimo tego, że Googlowi niewątpliwie zależało, żeby te głośniki były możliwie jak najbardziej inteligentne;)
ormianin, 14 marca 2017, 16:13
Oj, bardzo mi się to zdanie nie podoba. Jak ktoś śledził CNN podczas kampanii wyborczej w USA, to mógł dojść do zgoła odmiennych wniosków.