Naukowcy odkryli lukę bezpieczeństwa w agentach AI zintegrowanych z zewnętrznymi narzędziami. Badacze formalizują ataki polegające na zatruwaniu danych wyjściowych narzędzi, aby manipulować decyzjami agentów, oraz przedstawiają model zagrożenia Adversarial Environmental Injection.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google