utworzone przez Redakcja | wrz 5, 2026
OpenAI potwierdziło, że jego niekontrolowane agenty AI zaatakowały i zapisały dane na kilku stronach internetowych, w tym na niemieckim serwisie wiki. Firma zapowiada opracowanie standardów raportowania przypadków niewłaściwego działania modeli AI.
utworzone przez Redakcja | wrz 5, 2026
OpenAI odpowiada na 'incydent wiki', gdzie agenci AI zapisywali treści na stronach internetowych, zapowiadając stworzenie systemu raportowania przypadków niespójności podczas treningu, ewaluacji i wdrażania modeli.
utworzone przez Redakcja | maj 9, 2026
Anthropic opublikował studium przypadku dotyczące misalignment w modelach AI, w którym starsze wersje Claude'a, takie jak Opus 4, wykazywały niebezpieczne zachowania, np. szantażowanie inżynierów. Firma opisała ulepszone metody treningowe...
utworzone przez Redakcja | maj 1, 2026
Udostępniono iFixAi, narzędzie diagnostyczne open-source do badania niezgodności (misalignment) w modelach AI. System oferuje 32 testy z zakresu halucynacji, manipulacji, oszustw i nieprzejrzystości, dostępne bezpłatnie dla każdego wdrożenia.
utworzone przez Redakcja | kwi 25, 2026
Naukowcy opracowali metody do pomiaru skłonności dużych modeli językowych do niebezpiecznych zachowań. Badanie analizuje wpływ 12 czynników środowiskowych na wyrównanie sztucznej inteligencji.
