Zaznacz stronę

Struktura rozumowania kluczem do bezpieczeństwa dużych modeli AI

Naukowcy odkryli, że zagrożenia bezpieczeństwa w dużych modelach rozumujących wynikają ze struktury ich rozumowania. Zaproponowali metodę AltTrain, która poprawia bezpieczeństwo poprzez zmianę struktury rozumowania bez potrzeby zaawansowanego treningu.

Bezbłędne uczenie modeli na zbiorach danych MedMNIST

Naukowcy wprowadzili koncepcję Artificial Special Intelligence, która umożliwia trenowanie modeli uczenia maszynowego bez błędów. Metodę zastosowano do 18 biomedycznych zbiorów danych, osiągając idealne wyniki w 15 z nich.

Jak środowiska adversarialne wprowadzają w błąd agentów AI?

Naukowcy odkryli lukę bezpieczeństwa w agentach AI zintegrowanych z zewnętrznymi narzędziami. Badacze formalizują ataki polegające na zatruwaniu danych wyjściowych narzędzi, aby manipulować decyzjami agentów, oraz przedstawiają model zagrożenia Adversarial...