utworzone przez Redakcja | maj 17, 2026
Badacze ostrzegają, że agenty AI mogą być atakowane poprzez ukryte instrukcje w treściach stron www, e-mailach i bazach danych. Zaproponowano rozwiązanie w postaci egzekwowania granic autorytetu źródła danych.
utworzone przez Redakcja | maj 16, 2026
Agenty AI mogą być hackerowane przez ukryte instrukcje umieszczone w treściach webowych, e-mailach i bazach danych. Problem wymaga wdrożenia kontroli autorytetu źródeł zamiast filtrowania promptów.
utworzone przez Redakcja | maj 16, 2026
Naukowcy opracowali sheaf-teoretyczne podejście do wykrywania, kiedy sztuczni agenci naukowi muszą zmienić swoje reprezentacyjne ramy teoretyczne przy wejściu w nowy reżim badawczy. System identyfikuje przeszkody w transporcie istniejących modeli poprzez analizę...
utworzone przez Redakcja | maj 16, 2026
Naukowcy zaproponowali nową klasyfikację architektur agentów opartych na modelach językowych, łączącą funkcje poznawcze z topologią wykonania. System rozróżnia systemy architektury przez dwie osie: funkcje poznawcze i przepływy danych.
utworzone przez Redakcja | maj 15, 2026
Artykuł podkreśla, że sukces agentów AI zależy nie tylko od samego modelu, ale przede wszystkim od harnessu – systemu promptów, narzędzi, polityk kontekstu i pętli sprzężenia zwrotnego go otaczającego. Dobrze zaprojektowany harness z przeciętnym modelem...
