Naukowcy opracowali framework ECE, który pozwala modelom językowym wstrzymać się od wydania werdyktu, gdy dowody są słabe lub niespójne, zamiast wymuszać błędne decyzje binarne. System osiągnął 91,6% dokładności na benchmarku ECE-Bench.
Wyobraź sobie sędziego, który zamiast wydawać wyrok na podstawie poszlak, mówi wprost: "za mało dowodów, nie orzekam". Dokładnie tak działa nowy framework ECE, który uczy modele językowe czegoś, czego im dramatycznie brakowało: odmawiania odpowiedzi, gdy fakty są mętne lub sprzeczne. Wynik 91,6% dokładności na dedykowanym benchmarku brzmi imponująco i sugeruje, że AI może wreszcie przestać strzelać na oślep.
Tylko że benchmark to jeszcze nie rzeczywistość, a pytanie, jak system radzi sobie z dezinformacją starannie skrojoną pod pozory spójności, pozostaje jak najbardziej otwarte.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google