Sztuczna inteligencja wygrywa z cenzurą
Na University of Maryland powstał Geneva (Genetic Evasion), system sztucznej inteligencji, który uczy się omijania cenzury w sieci. Podczas testów w Chinach, Indiach i Kazachstanie Geneva opracował dziesiątki sposobów na ominięci cenzury i dotarł do informacji, których samodzielne odnalezienie było niemożliwe.
Geneva to pierwszy krok w kierunku rozpoczęcia nowego wyścigu zbrojeń, w którym konkurowały będą systemy sztucznej inteligencji opracowane przez cenzorów i ich przeciwników, mówi profesor Dave Levin, główny autor badań. Zwycięstwo w tym wyścigu będzie oznaczało wolność słowa i swobodną komunikację dla milionów ludzi na całym świecie, którzy obecnie nie mogą z niej korzystać.
Działanie większości systemów internetowej cenzury opiera się na monitorowaniu pakietów wysyłanych przez wyszukiwarki. Blokowane są pakiety zawierające niewłaściwe słowa lub adresy. Geneva w inny sposób dzieli pakiety, przez co systemy cenzurujące nie są w stanie rozpoznać zakazanych treści. Program jest ewoluującym algorytmem, który w każdej swojej generacji identyfikuje te strategie antycenzorskie, które najlepiej działały, wykorzystuje je do dalszej pracy i przestaje używać tych źle działających.
Testy Genevy przeprowadzono w Chinach, gdzie użytkownik komputera z zainstalowaną Genevą był w stanie wyszukiwać informacje zawierające zakazane słowa, w Indiach, gdzie władze blokują konkretne witryny i w Kazachstanie, gdzie w czasie testów władze blokowały niektóre serwisy społecznościowe. We wszystkich przypadkach Geneva wygrała z cenzurą.
Naukowcy z Maryland chcą udostępnić swoje dane i kod źródłowy, by inni mogli z nich korzystać i rozwijać Genevę. Jeśli Genevę możnaby zainstalować po stronie serwera i po stronie klienta, to miliony ludzi zyskałyby dostęp do informacji. W tym właśnie kierunku zmierzamy, mówi Levin.
Komentarze (20)
riyader, 18 listopada 2019, 12:16
Z PDFu wynika, że rozwiązanie nie polega na szyfrowaniu połączenia jak robi to VPN, tylko manipulowaniu protokołem TCP żeby zmylić algorytm nasłuchujący połączenia. Nie są wymagane implementacje po stronie serwera.
Warai Otoko, 18 listopada 2019, 14:56
Bardzo dobry projekt! Cenzura czegokolwiek to po prostu jawny atak rządu na obywatela. Na coś takiego każdy szanujący się człowiek powinien reagować kontratakiem i stanowczym sprzeciwem (oczywiście w miarę swoich możliwości :).
Ergo Sum, 19 listopada 2019, 09:53
Wolność nieograniczona jest atakiem na społeczeństwo. Cenzura powinna istnieć. Nie powinna być ona jednak skierowana na polityczne cele grupy opartej o ideologie niewolnictwa. Wiem że nie dostanę "lajków" za ten komentarz bo w opinii wielu internautów wolność powinna być absolutna - jak w stadzie małp ... choć w zasadzie przecież u małp nawet nie ma takiej absolutnej wolności. która jest ograniczana przez normy społeczne - to stan dostępny jedynie prymitywnym drobnoustrojom. Blokada cenzury - tzn każdej cenzury - jest antywychowawcza i destrukcyjna społecznie. Blokada cenzury niewolniczej jest słuszna. Obawiam się że Geneva będzie też wykorzystywana np. przez patostreamerów.
Jajcenty, 19 listopada 2019, 10:55
Autorytaryzm lubi to. Jak już przyzwyczaimy ludzi, że można zakazać tego i owego, to zupełnie naturalny będzie zakaz jedzenia pierogów, bo aktualnie panujący nam watażka nie lubi pierogów.
gooostaw, 19 listopada 2019, 10:58
Zależy w jakim społeczeństwie chcesz żyć. Jeśli chcesz żyć w scentralizowanym systemie to zgadza się. Cenzura jest atakiem na taki ład. Jednak jeśli chcesz żyć w społeczeństwie wolnym i tworzonym przez wszystkich jego członków to żadna cenzura nie jest pożyteczna, ani potrzebna.
rozan, 19 listopada 2019, 11:00
Kiedyś słyszałem, że ludzie wcale nie wiedzą czego chcą i trzeba ich nakierować na ich realne potrzeby. Nie wierzyłem w to, ale z biegiem lat chyba zaczynam się do tego przekonywać. Spójrzmy na media. Robią z nami co chcą jeśli nie ma cenzury i wcale nie oznacza to, że poszukują prawdy, jak można to z biegiem czasu zrozumieć. Z resztą politycy robią to samo.
gooostaw, 19 listopada 2019, 11:05
Nawet jeśli to prawda to cenzura w tym raczej nie pomoże, wręcz przeciwnie. Wiele osób ma problemy ze zrozumieniem siebie i swojego miejsca na świecie. Tak właściwie to kto nie ma? Raczej wątpię żeby ktoś kiedykolwiek stosował cenzurę żeby uszczęśliwić ludzi którzy nie potrafią sami tego zrobić
rozan, 19 listopada 2019, 11:09
Jakoś nie widzę, żeby ogólnie Rosjanie bardzo narzekali na swoje życie, to samo w Niemczech. Są bardziej stabilni niż my, chociaż tam w telewizji nie można pokazywać negatywnych rzeczy. Dzięki temu jest mniej zamieszania o pieniądze, protestów, a chociaż postawione są pewne granice to ludziom żyje się tam lepiej niż u nas w sensie mentalnym i poczucia bezpieczeństwa.
gooostaw, 19 listopada 2019, 11:19
Rosja raczej nie jest krajem w którym chciałbym żyć. Bardzo sobie cenię brak cenzury. Świadomość że mam całkiem niezły dostęp do informacji jest dla mnie przyjemna. Nie wyobrażam sobie jak mógłbym być bez tego naprawdę szczęśliwy. Może wielu Rosjan nie wie że jest nieszczęśliwa?
Jeśli na tym ma polegać szczęście to ja podziękuję. Natomiast w Niemczech to wygląda raczej śmiesznie, prawda? Trochę jak gry komputerowe do 18 roku życia, albo filmy po 22. Nie ma znaczenia.
rozan, 19 listopada 2019, 11:23
ale prawda jest taka, że z jednej strony masz więcej informacji (to źródło wybiera te informacje i niekoniecznie pełne) z drugiej strony denerwujesz się tym, że ktoś zarabia więcej niż powinien i poddajesz się emocjom sprzyjającym rosnącemu popytowi na źródło informacji niekoniecznie z korzyścią dla twojego portfela
gooostaw, 19 listopada 2019, 11:34
Nie zrezygnuję z wolności tylko dlatego że nie zawsze potrafię ją dobrze wykorzystać. Nie zrezygnuję z prawa do własnej oceny tylko dlatego że może być błędna. Nie zrezygnuje z myślenia tylko dlatego że mogę się pomylić. Może niektórzy wolą ignorować problemy i udawać że ich nie ma. Jestem szczęśliwszy ze świadomością że jestem chociaż o krok bliżej prawdy, mimo tego że czasami może być gorzka.
radar, 19 listopada 2019, 14:48
hmmm, niestety jest to najgorszy rodzaj "niewolnictwa", "niewolnicy nie wiedzą, że są niewolnikami", w tym przypadku cenzury.
To tak a propos tego, kto z czego (nie)zrezygnuje.
O ile zgadzam się z Tobą gooostaw, o tyle zastanawia mnie, co jest gorsze, żyć ze świadomością cenzury i w razie czego próbować ją obchodzić, czy żyć w nieświadomości i... w związku z czym być manipulowanym?
gooostaw, 19 listopada 2019, 23:45
Niektórzy pragną poznać nawet najgorszą prawdę, a dla innych tak jak przytoczył @Astro "niewiedza jest błogosławieństwem".
Warai Otoko, 20 listopada 2019, 09:57
Możesz to rozwinąć? Podać jakiś przykład ?
cyjanobakteria, 27 listopada 2019, 12:38
Klient przed pobraniem treści jej nie zna i nie jest w stanie podyktować fragmentacji przez TCP. Dlatego komponent po stronie serwera jest potrzebny. Moim zdaniem ciężko będzie wygrać cenzurą w Chinach ze względu na nieograniczone zasoby ich rządu. Ale na pewno pomoże to w innych przypadkach.
gooostaw, 27 listopada 2019, 12:45
Mam nadzieję że jednak się mylisz. Mam nadzieję że mimo tego że mają praktycznie nieograniczone środkim, to nie będą ich w stanie wykorzystać tak dobrze jak ludzie walczący o swoją wolność. Historia pokazuje że jest to możliwe. Może nawet prawie nieuniknione? Już teraz do pewnego stopnia się to udaje.
cyjanobakteria, 27 listopada 2019, 13:11
Chiny mają bardzo dobre AI, które stoi za GFW (Great Firewall). Kilka lat temu czytałem artykuł i moją uwagę zwróciło to, że ich AI jest w stanie rozpoznać SSL/TLS handshake - zestawienie nowego szyfrowanego połączenia - w już zaszyfrowanym tunelu. Wszystko na podstawie algorytmów i charakterystycznego timingu pakietów, mimo to, że były zaszyfrowane.
Moim zdaniem to będzie zawsze zabawa kotka i myszkę, przy czym to rząd jest w znacznie lepszej sytuacji.
gooostaw, 27 listopada 2019, 13:23
Nie jestem taki pewien. W końcu do szyfrowania nie potrzebujemy wielkich zasobów. Natomiast do łamania szyfrów potrzeba gigantycznej mocy. Być może matematyka jest po stronie kryptografii. Mam taką nadzieję, bo nawet Chiny nie wygrają z matematyką
cyjanobakteria, 27 listopada 2019, 13:35
Problem w tym, że oni nie muszą nic łamać, wystarczy, że zablokują
W Chinach VPN jest blokowane, ale jest szereg dostawców VPN, którzy działają bez problemów. Daje to do myślenia. Pamiętam, że w zeszłym roku (?) przynajmniej jeden z nich używał jeszcze 1024 bitowego klucza. To bardzo mało bitów i 1024 jest z zasięgu, ale atakowanie kryptografii nadal jest zbyt drogie i są prostsze metody.
gooostaw, 27 listopada 2019, 13:42
Niestety to może być prawda. Na szczęście pozostaje jeszcze możliwość tworzenia zdecentralizowanych sieci. Wydajność takich rozwiązań jest kiepska, ale do swobodnej komunikacji wystarczy. Poza tym, jestem ciekawy czy "kosmiczny internet" Elona Muska coś zmieni
Pewnie zakażą jego używania na terenie Chin i będą polowali na nielegalnych użytkowników.