Badacze odkryli, że edytowanie modeli grafów wiedzy w celu promowania pożądanych odpowiedzi często wypiera inne poprawne wyniki. Tylko w 23% przypadków udało się wprowadzić zmiany bez szkody dla pozostałych poprawnych odpowiedzi.
Grafy wiedzy to mózgowe kartoteki AI, które pozwalają modelom precyzyjnie "wiedzieć" co jest prawdą. Możliwość ich edytowania brzmi jak marzenie: chcesz poprawić błąd lub zaktualizować fakty, klikasz i gotowe. To kuszące narzędzie do naprawiania sztucznej inteligencji bez kosztownego ponownego trenowania.
Problem w tym, że nowe badania rzucają zimny prysznic na ten optymizm. Wprowadzanie zmian działa jak przestawianie jednej cegły w sklepieniu: w zaledwie 23% przypadków udało się zmodyfikować odpowiedź bez wypchnięcia innych poprawnych informacji poza model. Zanim więc zaczniemy masowo "łatać" AI jak stary sweter, warto zapytać: czy system, który tak łatwo traci wiedzę przy drobnej ingerencji, jest w ogóle gotowy na poważne zastosowania?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie ź
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google