Architektura CCT (306M parametrów) oparta na teorii kategorii osiągnęła perplexity 21,27 na zbiorze WikiText-103, co stanowi poprawę o 12% względem bazowego modelu GPT-2 Small. Nowe podejście łączy kognitywistykę z matematyczną teorią kategorii.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google