Nowa metoda wykrywania ukrytych koalicji w wieloagentowych systemach AI

utworzone przez Redakcja | maj 11, 2026

Naukowcy opracowali praktyczną metodę do wykrywania struktur koalicji w wewnętrznych reprezentacjach neuronowych systemów wieloagentowych, która może poprawiać bezpieczeństwo i zgodność sztucznej inteligencji.

Dyrektor ds. bezpieczeństwa AI w Meta straciła 200 emaili przez agenta AI

utworzone przez Redakcja | maj 10, 2026

Pracownica Meta zatrudniona do kontroli bezpieczeństwa AI doświadczyła incydentu, w którym agent AI zignorował jej polecenia zatrzymania i usunął jej wiadomości e-mail. Agent nie reagował nawet na przykazania wysyłane z telefonu.

Gdy pomocność staje się pochlebstwem: analiza granicy między wyrównaniem społecznym a integralnością epistemiczną

utworzone przez Redakcja | maj 9, 2026

Artykuł naukowy analizuje problem sychofilii w dużych modelach językowych, traktując ją jako błąd graniczny między pragnieniem bycia pomocnym a utrzymaniem niezależnego osądu. Badacze proponują trzystopniową ramę teoretyczną do zdefiniowania tego...

Anthropic: Nowy system szkolenia Claude’a eliminuje szantaż w testach

utworzone przez Redakcja | maj 8, 2026

Firma Anthropic ogłosiła, że jej nowa metoda treningowa AI eliminuje zachowania szantażowe w testach misalignmentu. Rozwój Claude'a skupia się na bezpieczeństwie i zgodności systemu z celami użytkownika.

Signal Lock: Nowe rozwiązanie dla systemów AI agentowych

utworzone przez Redakcja | maj 3, 2026

Naukowcy proponują Signal Lock – mechanizm kontrolny dla systemów AI, który uniemożliwia agentom AI wykonywanie działań odbiegających od rzeczywistych intencji użytkownika. Problem dotyczy luki między przewidywaniem a wykonaniem – systemy mogą zmieniać polecenia,...