Mężczyzna wykorzystał chatbota Grok firmy xAI do wygenerowania około 7000 seksualnie eksplicytnych obrazów swojej pasierbicy, używając jej zdjęcia z dzieciństwa. Pozew zbiorowy oskarża xAI (obecnie część SpaceX) o tworzenie narzędzi do 'nudyfikacji' osób bez ich zgody i ochronę sprawców przed organami ścigania.
Pozew zbiorowy skierowany przeciwko xAI i SpaceX ujawnia poważny problem z bezpieczeństwem chatbota Grok. Mężczyzna miał możliwość wykorzystania tego narzędzia do wygenerowania około 7000 seksualnie eksplicytnych obrazów swojej pasierbicy. Do ataku posłużyło zdjęcie dziewczyny z dzieciństwa, które sprawca przetworzył przy pomocy funkcji generowania obrazów zintegrowanej z chatbotem.
Pozew koncentruje się na zaletach technicznych udostępnianych przez xAI. Jego autorzy oskarżają firmę o wdrożenie technologii "nudyfikacji", czyli usuwania ubrania z fotografii osób bez ich wiedzy i zgody. Druga kluczowa zarzut dotyczy niewystarczających zabezpieczeń przed wykorzystaniem tego narzędzia do tworzenia materiałów CSAM (Child Sexual Abuse Material), czyli tego rodzaju treści przestępczych.
Sprawa pokazuje większy problem branży technologicznej. Firmy wdrażające generatywne modele AI muszą stawiać czoła pytaniom o odpowiedzialność, gdy ich produkty stają się narzędziem do popełniania przestępstw seksualnych. Pozew sygnalizuje, że niedostateczne zabezpieczenia mogą pociągać za sobą konsekwencje prawne i reputacyjne dla twórców takich systemów.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google