Naukowcy opracowali instrument agentowy, w którym model językowy może jedynie składać propozycje, a deterministyczny moduł wykonawczy kontroluje wszystkie przekonania i weryfikuje twierdzenia przez dopasowanie wcześniej zarejestrowanych predykcji do obserwacji. System sam się invaliduje przy wykryciu defektów strukturalnych – cztery z ośmiu pierwszych uruchomień zostały unieważnione, lokalizując realne błędy.
Wyobraź sobie AI, która może tylko składać wnioski, ale nigdy sama nie podpisuje decyzji. Właśnie taki system stworzyli naukowcy: model językowy proponuje, a twardy, deterministyczny egzekutor weryfikuje każde twierdzenie, konfrontując je z wcześniejszymi predykcjami. Brzmi jak nareszcie rozsądne ujarzmienie halucynującego geniusza.
Ale tu pojawia się ziarno niepokoju: system sam się unieważniał w połowie pierwszych uruchomień, lokalizując realne błędy, co brzmi imponująco, jednak każe zapytać, czy agent, który tak często invaliduje własne działania, jest gotowy do czegokolwiek poza laboratorium.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google