Zaznacz stronę
FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

FlowGuard: nowa ochrona multimodalnych modeli AI przed atakami

Badacze zaproponowali FlowGuard – lekki framework wykrywający ataki na multimodalne modele językowe poprzez analizę spójności między modalnościami tekstu i obrazu. Złośliwe dane wejściowe zaburzają tę spójność, co służy jako sygnał detekcji.

AI nauczyciel reagujący na mimikę twarzy ucznia

Badacze zbadali, jak duże modele językowe mogą lepiej nauczać, reagując na wyrażenia twarzy uczniów. System integruje sygnały z rozpoznawania emocji na poziomie promptu bez konieczności przetreniania modelu.