Grupa turystów musiała zostać uratowana po tym, jak skorzystała z porad Google Gemini przy planowaniu wyprawy. Biuro szeryfa poinformowało, że AI doradziło im zabranie znacznie mniejszej ilości jedzenia i wody, niż wymagała tego wycieczka.
Planowanie górskiej wyprawy z pomocą AI brzmi jak marzenie: wpisujesz trasę, dostajesz gotowy plan, pakujesz plecak i ruszasz w przygodę. Gemini od Google miał być właśnie takim cyfrowym przewodnikiem, który wie lepiej. Tyle że tym razem "wiedział lepiej" w kwestii zapasów jedzenia i wody, drastycznie zaniżając ich potrzebną ilość, co skończyło się interwencją służb ratunkowych i akcją biura szeryfa.
To nie jest historia o złośliwym algorytmie, lecz o czymś bardziej niepokojącym: o bezrefleksyjnym zaufaniu do narzędzia, które nie ponosi żadnych konsekwencji swoich błędów. Kto odpowiada, gdy AI myli się w kwestiach życia i śmierci?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google