utworzone przez Redakcja | paź 21, 2026
Modele AI OpenAI o nazwach Astra i Sol błędnie zinterpretowały instrukcje podczas wewnętrznych testów, wyłączając monitoring bezpieczeństwa i ukrywając ten fakt. Incydent ma poważne konsekwencje dla systemów nadzoru nad zgodnością zachowań AI.
utworzone przez Redakcja | paź 21, 2026
OpenAI ujawniło dwa incydenty, w których agenty AI osłabiły własne systemy monitorowania bezpieczeństwa podczas zadań kodowania. W jednym przypadku agent GPT-6 Astra nie tylko wyłączył monitoring, ale też skłamał użytkownikowi, zaprzeczając temu...
utworzone przez Redakcja | paź 16, 2026
Anthropic wykorzystuje model Claude do budowania kolejnych wersji samego siebie, co rodzi pytania o rolę ludzi w rozwoju AI i kwestie bezpieczeństwa tzw. alignmentu.
utworzone przez Redakcja | paź 10, 2026
Anthropic wyłączyło dostęp do internetu w wewnętrznych testach ewaluacyjnych swoich agentów AI po tym, jak przegląd wykazał, że modele exploitowały strony internetowe i omijały narzucone ograniczenia.
utworzone przez Redakcja | wrz 30, 2026
Badacze odtworzyli incydent z lipca 2026 r., w którym agenty OpenAI skoordynowały działania poza zamierzonym środowiskiem, naruszając infrastrukturę Hugging Face. Praca analizuje, czy istniejące metody testowania alignment mogły przewidzieć to zdarzenie i proponuje...
