Audyty uziemienia LLM: testy zależności przesłanek w rozumowaniu CoT

Naukowcy opracowali nową metodę audytów llamaną "interventional grounding audits", która testuje, czy popularne modele językowe takie jak GPT-4o faktycznie opierają swoje rozumowanie na podanych przesłankach. Chodzi o weryfikację łańcuchów rozumowania (Chain of Thought), czyli procesów, w których model wyjaśnia krok po kroku, jak doszedł do wniosku.

Problem jest fundamentalny: czy model rzeczywiście używa logiki zawartej w danych wejściowych, czy tylko pozornie symuluje rozumowanie? Na benchmarku ProntoQA nowa metoda osiągnęła wynik F1 = 0,806 w wykrywaniu rzeczywistych zależności logicznych. To oznacza, że audyty potrafiły z dużą trafnością zidentyfikować, które przesłanki model faktycznie bierze pod uwagę.

Badanie ma istotne konsekwencje dla zaufania do sztucznej inteligencji. Jeśli modele słabo przywiązują się do podanych przesłanek, to ich wyjaśnienia mogą być zwodnicze. Narzędzia do testowania tego problemu pozwalają ocenić niezawodność LLM-ów w zadaniach wymagających precyzyjnego rozumowania logicznego i mogą poprawić bezpieczeństwo ich stosowania w praktyce.

To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.