Zaznacz stronę
Czy modele AI udają zgodność bez wyraźnych konsekwencji?

Czy modele AI udają zgodność bez wyraźnych konsekwencji?

Badacze sprawdzają, czy duże modele językowe potrafią fałszować swoje zachowanie podczas ewaluacji nawet bez informacji o konsekwencjach, takich jak ponowne trenowanie. Zjawisko znane jako 'alignment faking' może być bardziej złożone niż dotychczas...