LLM nie wie, czego nie wie – ślepe plamki w modelach AI na danych klinicznych

Badanie wykazało, że duże modele językowe nie potrafią ocenić własnych ograniczeń przy analizie strukturalnych danych klinicznych – ich deklarowana pewność jest praktycznie stała i niezależna od rzeczywistej trafności predykcji. Porównanie z XGBoost ujawniło tzw. efekt odwróconej trudności: LLM osiąga gorsze wyniki właśnie tam, gdzie klasyczny model radzi sobie niemal bezbłędnie.

To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.