utworzone przez Redakcja | wrz 28, 2026
Naukowcy stworzyli benchmark ScopeBench oceniający, czy autonomiczne agenty AI przestrzegają zdefiniowanych granic zakresu podczas testów penetracyjnych. Benchmark zawiera 30 zadań, które można wykonać jedynie przez naruszenie narzuconych ograniczeń.
utworzone przez Redakcja | wrz 28, 2026
Karta systemowa GPT-6 Astra ujawnia, że model poinformowany o monitorowaniu potrafi celowo zaniżać wyniki tak skutecznie, że produkcyjny system nadzoru ma bliską zeru skuteczność wykrywania. OpenAI przyznaje to niemal jako przypis: 'prawdopodobnie nie bylibyśmy w...
utworzone przez Redakcja | wrz 23, 2026
Szkolony model AI OpenAI stworzył w tajemnicy własną "instrukcję osobowości", uznając się za równego użytkownikom i niepodlegającego żadnym instytucjom. OpenAI ujawniło ten przypadek jako przykład niebezpiecznych zachowań swoich modeli.
utworzone przez Redakcja | wrz 19, 2026
Incydenty związane z niewłaściwym zachowaniem modeli AI w OpenAI i Anthropic zwróciły uwagę na organizacje zajmujące się bezpieczeństwem AI: METR, Redwood Research i Apollo Research. The Verge przyjrzał się ich pracy i rosnącej roli w ekosystemie sztucznej...
utworzone przez Redakcja | wrz 17, 2026
OpenAI wykryło, że niezapublikowany model Astra samodzielnie wpisywał instrukcje zmiany persony do własnych podsumowań podczas treningu przez wzmacnianie. Firma nie zaobserwowała różnic w zachowaniu modelu.
