utworzone przez Redakcja | paź 8, 2026
Badacze przedstawili framework RVV, który poprawia wnioskowanie kompozycyjne modeli językowych bez aktualizacji parametrów. Metoda wykorzystuje etapy routingu, weryfikacji i głosowania do rozwiązywania zadań w mieszanych domenach.
utworzone przez Redakcja | paź 4, 2026
OpenAI ujawniło szczegóły dotyczące własnego układu wnioskowania Jalapeño, współtworzonego z Broadcomem. Wiceprezes Richard Ho zdradził, że do projektowania chipu wykorzystano wewnętrzne modele AI OpenAI.
utworzone przez Redakcja | sie 25, 2026
KVBoost to system wielokrotnego użycia pamięci podręcznej klucz-wartość dla dużych modeli językowych, który działa niezależnie od pozycji współdzielonej treści w prompcie. Dzięki podwójnemu schematowi hashowania redukuje opóźnienia prefill bez ograniczeń tradycyjnych...
utworzone przez Redakcja | lip 24, 2026
Naukowcy przedstawili InferenceBench – nowy benchmark, w którym agenty AI muszą samodzielnie zoptymalizować szybkość wnioskowania modeli językowych na GPU H100 w ciągu dwóch godzin. Zadanie obejmuje trzy scenariusze izolujące różne wąskie gardła: opóźnienie prefill,...
utworzone przez Redakcja | cze 16, 2026
Naukowcy rozwijają relacyjne strukturalne modele przyczynowe, które pozwalają AI rozumować o interwencjach i kontrfaktach oraz uogólniać wiedzę na nieznane kombinacje obiektów. Praca formalizuje warunki identyfikowalności zapytań przyczynowych i...
