Zaznacz stronę
Semantyczny kamuflaż: nowa metoda ataku na modele językowe

Semantyczny kamuflaż: nowa metoda ataku na modele językowe

Badacze odkryli, że zabezpieczenia LLM są powierzchowne – ataki owijające szkodliwe intencje w neutralny kontekst (np. pisanie kreatywne) skutecznie omijają systemy ochrony. Analiza trzech rodzin modeli ujawniła uniwersalny punkt krytyczny, w którym model...
FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

Badacze zaproponowali FlowGuard – lekki framework wykrywający ataki na multimodalne modele językowe poprzez analizę spójności między modalnościami tekstu i obrazu. Złośliwe dane wejściowe zaburzają tę spójność, co służy jako sygnał detekcji.