Zaznacz stronę
RL vs SFT: skąd przewaga modeli rozumowania w matematyce?

RL vs SFT: skąd przewaga modeli rozumowania w matematyce?

Badacze sprawdzili, dlaczego modele językowe trenowane przez uczenie przez wzmacnianie (RL) lepiej rozwiązują zadania matematyczne niż modele fine-tunowane nadzorowanym uczeniem (SFT). Okazało się, że RL tworzy bardziej liniowo separowalne reprezentacje wewnętrzne i...
Myślenie po odpowiedzi: szkodliwe nadmyślenie w modelach AI

Myślenie po odpowiedzi: szkodliwe nadmyślenie w modelach AI

Badacze analizują, czy dalsze rozumowanie dużych modeli językowych po znalezieniu poprawnej odpowiedzi poprawia wynik, czy od niego odchodzi. Wprowadzono protokół oceny trajektorii rozumowania oparty na minimalnym budżecie potrzebnym do pierwszego uzyskania poprawnej...
BitCal-TTS: Nowa metoda kalibracji dla skwantyzowanych modeli AI

BitCal-TTS: Nowa metoda kalibracji dla skwantyzowanych modeli AI

Naukowcy zaproponowali BitCal-TTS, lekką metodę sterowania czasem obliczeniowym dla skwantyzowanych modeli rozumowania. Rozwiązanie łączy monitorowanie niepewności tokenów z dynamiczną realokacją zaufania modelu, aby uniknąć przedwczesnego zakończenia generowania...