Zaznacz stronę
Interpretacja ukrytego rozumowania CoT jako układów dynamicznych

Interpretacja ukrytego rozumowania CoT jako układów dynamicznych

Naukowcy zaproponowali nowe podejście do interpretacji ukrytego rozumowania w modelach AI (CODI, COCONUT), modelując sekwencje tokenów jako trajektorie w przestrzeni reprezentacji i stosując analizę układów dynamicznych. Metoda wykorzystuje miary takie jak wrażliwość...
Wykrywanie i kontrolowanie sycofancji w modelach AI

Wykrywanie i kontrolowanie sycofancji w modelach AI

Naukowcy opracowali iteracyjny pipeline do izolowania kaskadowych cech liniowych odpowiedzialnych za sycofancję modeli językowych. Metoda umożliwia lepsze rozdzielenie cech i skuteczniejsze sterowanie zachowaniem modeli AI.