Zaznacz stronę

Jak środowiska adversarialne wprowadzają w błąd agentów AI?

Naukowcy odkryli lukę bezpieczeństwa w agentach AI zintegrowanych z zewnętrznymi narzędziami. Badacze formalizują ataki polegające na zatruwaniu danych wyjściowych narzędzi, aby manipulować decyzjami agentów, oraz przedstawiają model zagrożenia Adversarial...