Badania pokazują, że modele językowe popełniają ten sam błąd co ludzie – tzw. hipokryzję bayesowską, czyli nieprawidłowe wnioskowanie statystyczne mimo pozornej racjonalności. AI krytykuje ludzkie uprzedzenia, jednocześnie je powielając.
Wyobraź sobie sędziego, który ogłasza wyrok za stronniczość, sam będąc po uszy w uprzedzeniach. Dokładnie tak działają dziś modele językowe: nowe badania ujawniają, że AI popełnia ten sam błąd co ludzie, czyli tzw. hipokryzję bayesowską, wnioskując statystycznie nieprawidłowo mimo pozorów chłodnej racjonalności. To fascynujące, że maszyna ucząca się na ludzkich danych przejęła nawet nasze poznawcze grzechy.
Tylko że pojawia się tu pytanie, które powinno spędzać sen z powiek: jeśli AI krytykuje ludzkie uprzedzenia, jednocześnie je powielając, to czy kiedykolwiek możemy ufać jej ocenom tam, gdzie stawką są naprawdę ważne decyzje?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.</p
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google