Naukowcy analizują mechanizmy poprawy wydajności agentycznych systemów AI, badając weryfikację z ograniczeniami i ukrytą losowością terminalną. Dowodzą, że amplifikacja większościowa zachowuje języki natywnego zasięgu, co ma kluczowe znaczenie dla zrozumienia granic samodoskonalenia AI.
Wyobraź sobie AI, która uczy się sama naprawiać własne błędy, jak szachista analizujący przegrane partie. Naukowcy postanowili zajrzeć pod maskę agentycznych systemów AI i zbadać mechanizmy ich samodoskonalenia: weryfikację z ograniczeniami, ukrytą losowość i tak zwaną amplifikację większościową. Brzmi jak przepis na maszynę, która sama się ulepsza w nieskończoność.
Tyle że badacze udowadniają coś wręcz przeciwnego: amplifikacja większościowa zachowuje języki natywnego zasięgu, co jest eleganckim naukowym sposobem powiedzenia, że systemy AI krążą w kółko wokół własnych możliwości i nie mogą przekroczyć pewnej granicy. Pytanie pozostaje otwarte: czy kiedykolwiek zbudujemy AI zdolną wyrwać się poza swój własny sufit poznawczy, czy też samodoskonalenie to tylko złudzenie postępu?
To streszczenie zostało przygotowane przy
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google