Badacze odkryli, że choć 86,1% przewidywań modeli AI jest semantycznie wiarygodnych, modele często błędnie klasyfikują bezpieczność działań – blokując zbyt wiele lub pomijając przypadki wymagające wyjaśnienia. Wprowadzono koncepcję 'safety sufficiency' oraz benchmark SafeWebWorld do oceny tej luki.
Wyobraź sobie ochroniarza, który wpuszcza do klubu prawie wszystkich właściwych gości, ale co rusz wyprasza kogoś niewinnego albo przymyka oko na prawdziwe zagrożenie. Właśnie tak działają modele świata w systemach AI podejmujących decyzje: nowe badania pokazują, że choć przewidują przyszłość ze zdumiewającą trafnością semantyczną (aż 86,1% trafień!), to ocena bezpieczeństwa konkretnych działań potrafi im się kompletnie rozjechać. Benchmark SafeWebWorld i koncepcja "safety sufficiency" mają tę lukę wreszcie zmierzyć i nazwać.
Tylko że samo nazwanie problemu to jeszcze nie jego rozwiązanie: jeśli AI blokuje za dużo lub za mało, a my dopiero uczymy się, jak to mierzyć, to pytanie o to, komu i kiedy powierzyć jej realne decyzje, pozostaje bardzo, bardzo otwarte.
To streszczenie zostało przygotowane przy pomocy narz
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google