Badacze przeprowadzili pierwsze ilościowe badanie confabulacji w autobiografii wygenerowanej przez LLM, porównując treść na poziomie scen z rzeczywistymi, udokumentowanymi wydarzeniami z życia autora. Wyniki ujawniają skalę halucynacji modelu językowego przy tworzeniu narracji biograficznych.
Co by było, gdybyś poprosił AI o napisanie swojej biografii? Brzmi jak futurystyczny eksperyment z pogranicza literatury i technologii. Badacze postanowili to sprawdzić metodycznie: zestawili scena po scenie narrację wygenerowaną przez duży model językowy z udokumentowanymi faktami z życia prawdziwej osoby. Wyniki odsłoniły skalę konfabulacji, czyli po ludzku: ilość historii, które AI po prostu sobie wymyśliła.
I tu wchodzi sceptyk z lodowatą kawą: skoro model halucynuje nawet przy pisaniu o konkretnym, udokumentowanym życiu, to co tak naprawdę "wie" o kimkolwiek z nas? Autobiografia napisana przez AI to nie pamiętnik, to lustro z pęknięciami, które odbija przede wszystkim własne przekonania modelu.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google