Zaznacz stronę
Skąd AI ma halucynacje? Historia sięga połowy XX wieku

Skąd AI ma halucynacje? Historia sięga połowy XX wieku

Badacz z MIT odkrył, że halucynacje w modelach AI mają korzenie w celowym wprowadzaniu losowości przez pionierów sztucznej inteligencji, którzy uważali, że irracjonalność jest kluczowa dla maszyny myślącej jak człowiek.
America.gov i pytania o Minecraft – to nie błąd AI

America.gov i pytania o Minecraft – to nie błąd AI

Rządowa strona America.gov zachowuje się dziwnie przy pytaniach o Minecrafta, jednak nie chodzi o halucynacje modelu językowego. Serwis nie generuje przypadkowych treści, co jest dobrą wiadomością dla bezpieczeństwa narodowego.
Wykrywanie halucynacji w LLM przez analizę topologii grafów uwagi

Wykrywanie halucynacji w LLM przez analizę topologii grafów uwagi

Naukowcy opracowali metodę wykrywania halucynacji w dużych modelach językowych, analizując topologię przepływu informacji w grafach uwagi przy użyciu krzywizny Formana-Ricciego. Podejście jednoprzebiegowe przewyższa istniejące metody na dwóch benchmarkach detekcji...
Raindrop zebrał 35 mln USD na monitoring agentów AI

Raindrop zebrał 35 mln USD na monitoring agentów AI

Startup Raindrop, tworzący technologię do monitorowania agentów AI i wykrywania błędów takich jak halucynacje czy niewłaściwe użycie narzędzi, pozyskał 35 mln USD w rundzie Series A prowadzonej przez CRV.