Zaznacz stronę

Nowa metoda wykrywania skażenia danych w dużych modelach językowych

Naukowcy badają ataki wnioskowania przynależności (MIA) do wykrywania dokumentów chronionych prawem autorskim w zbiorach treningowych LLM. Opracowano nową metodę o nazwie Familiarity Ranking, która umożliwia czarne pudełko MIA bez konieczności manipulacji dużą ilością...

DT2IT-MRM: Nowa metoda trenowania multimodalnych modeli nagród

Naukowcy zaproponowali nową metodę DT2IT-MRM do trenowania multimodalnych modeli nagród, które wyrównują duże modele językowe z preferencjami użytkowników. Rozwiązanie zmniejsza błędy w danych treningowych i poprawia jakość zbiorów danych...

SimDiff: Nowa metoda przycinania głębi modeli językowych

Naukowcy zaproponowali SimDiff, innowacyjną metodę do optymalizacji dużych modeli językowych poprzez analizę podobieństwa i różnic między warstwami. Podejście łączy dwie perspektywy – podobieństwo reprezentacji i różnice transformacji – aby uniknąć...