Badacze zaproponowali metodę CALM, która zastępuje globalne usuwanie niebezpiecznych treści w modelach text-to-image lokalną korektą kontrfaktyczną. Podejście to lepiej radzi sobie z heterogenicznymi niebezpiecznymi semantykami bez zniekształcania nieszkodliwych promptów.
Zamiast wymazywać całe kategorie pojęć z modeli generujących obrazy, co przypomina leczenie bólu głowy gilotynując, CALM proponuje coś znacznie precyzyjniejszego: lokalne korekty kontrfaktyczne, które neutralizują konkretne niebezpieczne znaczenia bez kaleczenia niewinnych promptów. To jak skalpel zamiast siekiery, i brzmi jak przełom dla wszystkich, którzy frustrują się, gdy filtry blokują zupełnie nieszkodliwe zapytania.
Tylko że klucz tkwi w definicji słowa "niebezpieczny", bo kto i według jakich kryteriów decyduje, co korekta powinna celować? Pytanie o wartości ukryte w algorytmie pozostaje otwarte.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google