utworzone przez Redakcja | sie 15, 2026
Badanie pokazuje, że modele językowe często zgadzają się z ludzkimi ocenami etycznymi, lecz opierają swoje wnioski na zupełnie innych przesłankach moralnych. Analiza uzasadnień ujawnia systematyczne rozbieżności między rozumowaniem człowieka a LLM, co podważa...
utworzone przez Redakcja | sie 15, 2026
Naukowcy ostrzegają, że metody alignmentu modeli AI – stworzone dla bezpieczeństwa – są technologiami podwójnego zastosowania, które mogą być wykorzystywane przez autorytarne reżimy do cenzury i manipulacji informacją. Ryzyko rośnie wraz z rosnącą rolą AI jako...
utworzone przez Redakcja | lip 11, 2026
Duże modele językowe stają się dostawcami wsparcia psychicznego, lecz ich bezpieczeństwo wymaga głębszej reformy. Naukowcy proponują trzypoziomowy system wyrównania wartości wzorowany na standardach klinicznych.
utworzone przez Redakcja | lip 7, 2026
Naukowcy badają, jak wewnętrzny pluralizm preferencji użytkowników podważa skuteczność lokalnych porównań parami stosowanych w projektowaniu systemów decyzyjnych i dopasowywaniu AI. Opracowali formalny model pluralistycznych preferencji, który ujawnia dwa rodzaje...
utworzone przez Redakcja | cze 20, 2026
Naukowcy opracowali metodę, w której duże modele językowe samodzielnie wykrywają i korygują nieetyczne odpowiedzi, używając zamrożonej kopii siebie jako sędziego. Technika wykorzystuje Direct Preference Optimization i działa m.in. przy adversarial prompting oraz...
