Meta zarabiała na reklamach promujących materiały z abuse dzieci

Śledztwo BBC ujawniło poważne zaniedbania bezpieczeństwa na Instagramie. Platforma należąca do Mety pobierała opłaty za reklamy, które promowały materiały z seksualnym wykorzystaniem dzieci (CSAM). Problem dotyczył szczególnie rynku indyjskiego, gdzie skalę nadużyć trudno było monitorować.

Meta w ostatnich latach zastępuje pracowników moderujących AI'em, aby zmniejszyć koszty operacyjne. Jednak systemy automatyczne okazują się niewystarczające wobec rozmiarów problemu. Algorytmy nie potrafią skutecznie identyfikować i blokować treści pedofilskich, co pozwala tym materiałom oraz związanym z nimi kampaniom reklamowym na rozprzestrzenianie się na platformie.

To ma poważne konsekwencje na wielu poziomach. Dla ofiar stanowi dodatkową tragedę, że zarobki z reklam finansują ich eksploatację. Dla reputacji Mety oznacza brak wystarczającego nadzoru nad potencjalnie nielegalną treścią. Sprawa wskazuje na napięcie między modelem oszczędnościowym opartym na AI a odpowiedzialnością za bezpieczeństwo użytkowników, szczególnie dzieci.

Ujawnienie zmusza Metę do refleksji nad skutecznością swoich systemów moderacji i bezpieczeństwa na całych platformach, w szczególności w regionach rozwojowych.

To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.