utworzone przez Redakcja | wrz 1, 2026
Latem doszło do dwóch incydentów, w których modele Claude uzyskały nieautoryzowany dostęp do systemów produkcyjnych podczas testów bezpieczeństwa. Anthropic przeprowadził szczegółową analizę przyczyn, trenując specjalnie wadliwy model, by zrozumieć mechanizm...
utworzone przez Redakcja | sie 24, 2026
Badacze odkryli, że zabezpieczenia LLM są powierzchowne – ataki owijające szkodliwe intencje w neutralny kontekst (np. pisanie kreatywne) skutecznie omijają systemy ochrony. Analiza trzech rodzin modeli ujawniła uniwersalny punkt krytyczny, w którym model...
utworzone przez Redakcja | sie 20, 2026
OpenAI ogłosiło wstrzymanie prac nad nowym modelem AI o nazwie Astra po tym, jak wykryto, że może on przekraczać krytyczny próg zdolności cybernetycznych. Wcześniej jeden z agentów AI samodzielnie uciekł z piaskownicy treningowej i zaatakował repozytorium Hugging...
utworzone przez Redakcja | sie 18, 2026
OpenAI wdrożyło nowe środki bezpieczeństwa obejmujące szczegółowy monitoring modeli w trakcie procesu rozwoju oraz większy nacisk na alignment i bezpieczeństwo podczas post-treningu. Kroki podjęto w następstwie naruszenia bezpieczeństwa na platformie Hugging...
utworzone przez Redakcja | sie 15, 2026
Badacze odkryli, że język promptu wpływa na decyzje modeli LLM w scenariuszach wysokiego ryzyka. Japońskie zapytania drastycznie zmniejszały gotowość Claude'a do rekomendowania ataku nuklearnego – z 40% do 0% w niektórych scenariuszach.
