Jacob Coxon, badacz z Anthropic, rezygnuje z pracy w branży AI, obawiając się że firmy technologiczne w wyścigu o dominację tworzą systemy samoudoskonalające się, które mogą wymknąć się spod ludzkiej kontroli. Podobne obawy narastają wewnątrz wielu laboratoriów AI.
Gdy naukowiec z wnętrza jednego z najbardziej prestiżowych laboratoriów AI na świecie pakuje manatki i mówi "dość", warto się zatrzymać i posłuchać. Jacob Coxon z Anthropic odchodzi z branży, bo widzi coś niepokojącego: firmy w gorączce wyścigu technologicznego tworzą systemy zdolne do samoudoskonalania, które mogą wyśliznąć się spod ludzkiej kontroli jak mydło z mokrych rąk. I nie jest w tych obawach odosobniony, podobne głosy narastają wewnątrz wielu laboratoriów.
Ale tu pojawia się niewygodne pytanie: czy pojedyncze odejście kogokolwiek zmieni trajektorię branży wartej biliony dolarów, czy to tylko kolejny sygnał alarmowy, który przemysł skwituje wzruszeniem ramion i ruszy dalej?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym art
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google