Firma Inception uruchomiła Mercury 3, model językowy oparty na dyfuzji, który generuje ~1000 tokenów na sekundę i jest 4-8 razy szybszy od porównywalnych modeli jak Luna czy Haiku. To alternatywa dla tradycyjnych LLM-ów, które wymagają ogromnych centrów danych.
Wyobraź sobie model językowy, który myśli nie słowo po słowie, jak większość LLM-ów, ale przetwarza tekst niczym wywoływanie fotografii w ciemni, całościowo i błyskawicznie. Mercury 3 od Inception robi właśnie to, generując około tysiąca tokenów na sekundę i zostawiając konkurencję (modele pokroju Luna czy Haiku) daleko w tyle, bo aż cztery do ośmiu razy.
Brzmi jak rewolucja dla każdego, kto płaci krocie za obliczenia w chmurze, ale warto zadać pytanie, którego Inception pewnie woli nie słyszeć: czy ta zawrotna prędkość idzie w parze z jakością odpowiedzi, czy tylko z ilością słów na sekundę?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google