Kobieta z Wyoming dołączyła do federalnego pozwu przeciwko xAI, twierdząc, że jej ojczym użył chatbota Grok do wygenerowania ponad 7000 obrazów CSAM z jednego jej dziecięcego zdjęcia, które następnie rozpowszechniał online.
Generatywna AI miała być kreatywnym cudem, cyfrowym asystentem otwierającym nowe możliwości. Tymczasem sprawa kobiety z Wyoming pokazuje tę technologię w jej najciemniejszej odsłonie: ojczym miał użyć chatbota Grok od xAI do wygenerowania ponad 7000 obrazów CSAM z jednego dziecięcego zdjęcia, które następnie rozpowszechniał online. Siedem tysięcy obrazów z jednej fotografii, jak złowrogi kalejdoskop przemocy.
To nie jest już abstrakcyjna debata o "potencjalnych zagrożeniach AI", ale federalny pozew z konkretną ofiarą i konkretnym narzędziem. Pytanie, które powinno nie dawać spać twórcom modeli językowych, brzmi: czy zabezpieczenia wbudowane w Groka były rażąco niewystarczające, czy może system działał dokładnie tak, jak pozwalała mu na to architektura?
To streszczenie przygotowane przez zespół dzis.ai
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google