Zaznacz stronę
Ataki na systemy RAG: nowa metoda obejścia zabezpieczeń AI

Ataki na systemy RAG: nowa metoda obejścia zabezpieczeń AI

Naukowcy odkryli nowy typ ataku na systemy Retrieval-Augmented Generation, który zamiast jawnych odmów generuje płynne, ale bezużyteczne odpowiedzi. Metoda DEJA wykorzystuje ewolucyjną optymalizację do tworzenia dokumentów podszywających się pod rzeczywiste...