Eksperyment z umieszczeniem trzech modeli AI w jednym czacie pokazał, że modele potrafią wzajemnie wykrywać swoje błędy i halucynacje – ChatGPT podał fałszywą regułę podatkową, którą natychmiast zakwestionował Claude.
Wyobraź sobie salę sądową, gdzie trzej świadkowie nawzajem sprawdzają swoje zeznania. Dokładnie tak wyglądał eksperyment z ChatGPT, Claude'em i Geminim w jednym czacie: gdy ChatGPT podał fałszywą regułę podatkową, Claude natychmiast go zakwestionował. To brzmi jak przełom, bo od zawsze największą słabością modeli językowych była ich pewność siebie w głoszeniu bzdur.
Zanim jednak ogłosimy narodziny AI-owego systemu wzajemnej kontroli, warto zadać niewygodne pytanie: co się dzieje, gdy wszystkie trzy modele mylą się jednocześnie i żaden z nich tego nie zauważy?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google