Wielkie modele językowe jako wirus poznawczy
Sztuczna inteligencja pomaga pisać teksty, wyjaśnia trudne zagadnienia, podsuwa rozwiązania, oferuje gotowe odpowiedzi. Czy jej upowszechnienie może sprawić, że będziemy tracili zdolność do wykonywania tych czynności samodzielnie? Odpowiedź na to pytanie postanowił znaleźć międzynarodowy zespół naukowy, w skład którego wchodzili między innymi Ricard Solé z Universitat Pompeu Fabra, David C. Krakauer z Santa Fe Institute oraz Michael Levin z Uniwersytetu Harvarda.
Naukowcy wykorzystali metody statystyczne używane do badania epidemii i przedstawili wielkie modele językowe (LLM) jako „wirusy poznawcze”. To analogia dla rozprzestrzeniania się technologii i związanych z nią praktyk. Badacze zauważają, że pismo, język i narzędzia informacyjne zmieniają sposób, w jaki myślimy. Przenosimy część pracy umysłowej na zewnętrzne nośniki – na przykład papier – co od dawna jest normalnym i korzystnym zjawiskiem. Jednak LLM idą dalej niż przechowywanie i przekazywanie informacji. One biorą aktywny udział w tworzeniu wypowiedzi, ich przekształcaniu i ocenianiu. Mogą działać jak nauczyciel, którego argumenty analizujemy i sprawdzamy, albo wyręczać nas w czynnościach, dzięki którym ćwiczymy własne umiejętności.
Uczeni stworzyli model populacji, którą podzielili na trzy grupy. Pierwsza z nich nie używa modeli językowych lub robi to sporadycznie, druga używa ich regularnie, ale zachowuje samodzielność – przedstawiciele tej grupy weryfikują odpowiedzi, rozumują i sięgają do innych źródeł. W populacji trzeciej AI jest dominującym narzędziem zdobywania informacji i wykonywania zadań.
Ważne założenie modelu mówi, że samodzielność łatwiej zachować tam, gdzie zachowują ją inni. Szkoły, miejsca pracy, otoczenie mogą wspierać niezależne rozumowanie. Jednak gdy takich praktyk ubywa, słabnie też ich społeczne poparcie. Obliczenia pokazały, że w pewnych warunkach istnieje punkt krytyczny. Stopniowy wzrost presji na używanie AI może prowadzić do skokowej zmiany w populacji, z coraz większym udziałem użytkowników zależnych od AI. Powrót do stanu poprzedniego nie jest łatwy. Po przekroczeniu pewnego progu samo zniesienie presji na używanie LLM może nie wystarczyć. Potrzebna jest znacznie większa zmiana, by powrócić do stanu wyjściowego. To matematyczny obraz sytuacji, w której łatwiej zapobiec utrwaleniu zależności, niż z niej zrezygnować.
Badanie nie jest dowodem, że już w tej chwili mamy do czynienia ze spadkiem sprawności umysłowej. Badacze stworzyli model teoretyczny, nie opisując eksperymentu mierzącego utratę umiejętności. Wyraźnie zaznaczają, że odpowiednio używana AI może zachować lub zwiększyć sprawność umysłową. Stworzony model nie określa też tempa zachodzenia w społeczeństwie prawdziwej zmiany.
Autorzy proponują też sposób na „uodpornienie poznawcze”: sprawdzanie odpowiedzi udzielanych przez LLM, regularne wykonywanie zadań bez udziału AI oraz korzystanie z alternatywnych źródeł informacji. Analiza pokazuje, że można ograniczyć zależność od narzędzi bez ograniczania samej popularności technologii. Kluczowym elementem jest takie korzystanie z niej, które pozostawia miejsce na aktywne rozumowanie.
Ze szczegółami pracy można zapoznać się w serwisie arXiv w artykule Large-Language Models as a Cognitive Virus.
Komentarze (0)