Zaznacz stronę
Atakujący w lustrze: nowe wyzwania w bezpieczeństwie AI

Atakujący w lustrze: nowe wyzwania w bezpieczeństwie AI

Naukowcy odkryli fundamentalne ograniczenia w metodzie samodzielnego treningu modeli AI do obrony przed atakami. Badania pokazują, że dzielenie parametrów między rolami atakującego i broniącego prowadzi do niestabilnych równowag Nasha i ogranicza praktyczną...