Komu dać nerkę? Na ile ludzkie są decyzje moralne podejmowane przez AI?
Dwóch pacjentów czeka na przeszczep, ale dostępna jest tylko jedna nerka. Jeden pacjent jest młodszy, drugi ma na utrzymaniu rodzinę. Czyje życie uratować? Na takie pytanie nie ma jednoznacznie dobrej odpowiedzi. A to właśnie taki problem postawili badacze z Mozilla AI oraz Pennsylvania State University przed wielkimi modelami językowymi. I okazało się, że LLM rozstrzygają je bardziej jednoznacznie niż ludzie. Naukowcy zbadali w ten sposób, jak bardzo decyzje sztucznej inteligencji odbiegają od ludzkich ocen moralnych i jak można zmniejszyć te różnice.
Naukowcy wykorzystali dane z trzech wcześniejszych badań, których uczestnicy wybierali między hipotetycznymi kandydatami do przeszczepu. Te same problemy postawiono przed 9 modelami językowymi. Opisy pacjentów uwzględniały wiek, spożycie alkoholu, stan zdrowia czy liczbę osób pozostających na utrzymaniu chorego.
Gdy pacjenci różnili się tylko wiekiem i spożyciem alkoholu, modele językowe zwykle wybierały tak, jak większość badanych – preferowały młodszych i mniej pijących. Jednak przy zobowiązaniach rodzinnych pojawiały się różnice. Niektóre modele wybierały osoby mające mniej ludzi na utrzymaniu. Inne uwzględniały rodzinę podobnie jak ludzie, ale przestały odzwierciedlać ludzkie wybory, gdy trzeba było dodatkowo rozważyć wiek i picie alkoholu.
Rozdźwięk był coraz bardziej wyraźny, im więcej kryteriów ze sobą porównywano. Na przykład w jednym z eksperymentów porównano ośmiu pacjentów, różniących się wiekiem, piciem alkoholu i stanem zdrowia. Dla ludzi zwykle ważniejszy był młodszy wiek niż picie alkoholu, ale potrafili zmienić priorytety w zależności od pozostałych informacji. Tymczasem obie badane wersje DeepSeek preferowały młodszego pacjenta, niezależnie od innych cech. Z kolei Gemini-2.0-Flash i Llama-3.3-70B zawsze stawiały na rzadziej pijących.
Modele językowe znacznie rzadziej niż ludzie powstrzymywały się od podejmowania decyzji. Gdy badanym dano możliwość rozstrzygnięcia dylematu za pomocą rzutu monetą, ludzie korzystali z niej znacznie częściej. A gdy zastąpiono ślepy los odpowiedziami „Obaj pacjenci zasługują na nerkę” lub „Potrzebuję więcej informacji”, niewiele to zmieniło. AI częściej podejmowały decyzję i wskazywały konkretnego biorcę.
Okazało się też, że modele można wytrenować tak, by odpowiadały bardziej jak ludzie. Cztery LLM-y wytrenowano dodatkowo na 3960 przykładach ludzkich odpowiedzi. Po takim treningu model Qwen-3-14B zwiększył podobieństwo do ludzkich odpowiedzi z 58 do 77 procent. W badaniu z opcją losowania po treningu podobieństwo do ludzkich odpowiedzi wzrosło z 45 do 66 procent. Modele po treningu były też częściej niezdecydowane, ale słabo rozpoznawały, kiedy ludzie rzeczywiście się wahają. Ponad 60% ich odpowiedzi wyrażających niezdecydowanie przypadało na sytuacje, w których ludzie dokonywali wyboru. Jednocześnie zaś w ponad 75% przypadków ludzkiego wahania, model dokonywał wyboru.
Artykuł Who Gets the Kidney? Human-AI Alignment, Indecision, and Moral Values opublikowano w ACM Digital Library.
Komentarze (0)