Allen Institute for AI zaprezentował OLMo-Core 3 – otwartą i skalowalną infrastrukturę do trenowania dużych modeli językowych typu Mixture of Experts. Projekt ma przyspieszyć otwarte badania nad wielkoskalowymi modelami AI.
Allen Institute for AI otwiera drzwi do świata gigantycznych modeli językowych typu Mixture of Experts, udostępniając OLMo-Core 3, czyli coś w rodzaju profesjonalnego warsztatu dla badaczy AI. Infrastruktura ma być skalowalna i dostępna dla każdego, co brzmi jak zaproszenie do ligi, w której do tej pory grały tylko technologiczne molochy z nieograniczonymi budżetami.
Tylko że "otwarta infrastruktura" to jedno, a realne możliwości skorzystania z niej to drugie: trenowanie wielkich modeli MoE pochłania zasoby obliczeniowe, na które większość niezależnych badaczy po prostu nie może sobie pozwolić, więc pytanie brzmi, czy to naprawdę demokratyzacja AI, czy tylko otwarta brama do zamkniętego ogrodu.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google