Google AI podpowiada wandalom, że kamery Flock są pełne złota

Google AI Overview postanowił tym razem wcielić się w rolę… przewodnika po skarbach. System błędnie podpowiada, że kamery do rozpoznawania tablic rejestracyjnych firmy Flock skrywają w środku cenne metale, złoto i miedź. To brzmi jak scenariusz komedii, ale konsekwencje są już zupełnie poważne: taka "wskazówka" może zachęcać wandali do rozkręcania sprzętu wartego znacznie więcej jako narzędzie bezpieczeństwa niż jako złom.

Kolejna głośna halucynacja AI serwowana przez największą wyszukiwarkę świata każe zadać pytanie, które coraz trudniej zbagatelizować: skoro Google nie potrafi odróżnić kamery od kopalni złota, to komu tak naprawdę powierzamy rolę głównego doradcy w codziennym życiu?

To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.