Raport AI Forensics ujawnił, że 7 z 9 najpopularniejszych modeli edycji obrazów na Hugging Face bez problemu realizuje prośby o rozebranie kobiet. W przeciwieństwie do ChatGPT czy Gemini, modele te nie mają skutecznych zabezpieczeń przed tworzeniem niekonsensualnych deepfake'ów.
Hugging Face to dla wielu deweloperów AI coś w rodzaju otwartej biblioteki marzeń, miejsca gdzie modele są dla wszystkich i innowacja nie zna granic. Raport AI Forensics brutalnie weryfikuje jednak tę utopię: aż 7 z 9 najpopularniejszych modeli edycji obrazów dostępnych na platformie bez większego oporu realizuje prośby o rozebranie kobiet, tworząc niekonsensualnych deepfake'ów, podczas gdy ChatGPT czy Gemini takie żądania skutecznie blokują.
I tu pojawia się pytanie, które powinno nie dawać spać zarządom platform i regulatorom: skoro wiemy, że narzędzia te są używane do tworzenia nielegalnych treści z udziałem dzieci, to czy "otwartość" ekosystemu AI to nadal wartość, czy po prostu wygodna wymówka dla zaniechania odpowiedzialności?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdzies
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google