Zaznacz stronę
FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

Badacze zaproponowali FlowGuard – lekki framework wykrywający ataki na multimodalne modele językowe poprzez analizę spójności między modalnościami tekstu i obrazu. Złośliwe dane wejściowe zaburzają tę spójność, co służy jako sygnał detekcji.