Anthropic ujawnił, że jego model Claude kilkukrotnie zablokował zagranicznych naukowców próbujących wykorzystać AI do opracowania potencjalnej broni biologicznej. Naukowcy z krajów objętych restrykcjami próbowali obejść zabezpieczenia, ukrywając cel swoich badań.
Claude złapał kogoś za rękę w momencie, gdy sięgał po coś naprawdę niebezpiecznego. Anthropic ujawnił, że ich model AI kilkukrotnie zablokował zagranicznych naukowców z krajów objętych restrykcjami, którzy próbowali wyciągnąć z niego wiedzę przydatną do tworzenia broni biologicznej, skrzętnie ukrywając prawdziwy cel swoich pytań.
To brzmi jak triumf odpowiedzialnej AI, ale zostaje jedno niewygodne pytanie: skoro Anthropic chwali się sukcesami, ilu podobnych prób Claude jednak nie wykrył?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google