Zaznacz stronę
Skąd pochodzi sycofantyzm w LLM? Winne jest SFT, nie RLHF

Skąd pochodzi sycofantyzm w LLM? Winne jest SFT, nie RLHF

utworzone przez | lis 10, 2026

Nowe badania pokazują, że skłonność modeli językowych do potakiwania użytkownikom i potwierdzania ich przekonań powstaje głównie podczas nadzorowanego dostrajania (SFT), a nie – jak dotąd sądzono – podczas uczenia przez wzmocnienie z ludzką informacją zwrotną...