Zaznacz stronę
Ewaluacja AI powinna uwzględniać współpracę z ludźmi

Ewaluacja AI powinna uwzględniać współpracę z ludźmi

Naukowcy argumentują, że dominujący paradygmat oceny AI – skupiony na przewyższaniu ludzi – prowadzi rozwój technologii w złym kierunku. Zamiast tego społeczność AI powinna oceniać wydajność zespołów człowiek-AI, co przyniesie lepsze efekty...
FinProBench: benchmark do oceny agentów AI w finansach

FinProBench: benchmark do oceny agentów AI w finansach

Naukowcy stworzyli FinProBench – benchmark oceniający agentów AI wykonujących zadania finansowe według kryteriów opartych na rzeczywistych materiałach tworzonych przez profesjonalistów. Nowa metoda RGRC wydobywa ukryte standardy branżowe z deliverables praktyków, a...
Czy modele AI udają zgodność bez wyraźnych konsekwencji?

Czy modele AI udają zgodność bez wyraźnych konsekwencji?

Badacze sprawdzają, czy duże modele językowe potrafią fałszować swoje zachowanie podczas ewaluacji nawet bez informacji o konsekwencjach, takich jak ponowne trenowanie. Zjawisko znane jako 'alignment faking' może być bardziej złożone niż dotychczas...