utworzone przez Redakcja | maj 12, 2026
Badacz porównał wydajność różnych typów kwantyzacji danych, w tym INT8 i nowego MXFP8. Wyniki pokazują, że GGUF Q8 oferuje najlepszą jakość, a INT8 ConvRot wypada lepiej niż MXFP8.
utworzone przez Redakcja | kwi 21, 2026
Badacze odkryli, że cachowanie KV w modelach językowych przy precyzji FP16 prowadzi do deterministycznych różnic w wynikach, niszcząc założenie o numerycznej równoważności. Problem pojawia się we wszystkich testowanych modelach bez względu na strategię...
