Po co superinteligencja miałaby nam pomagać, skoro jej nie kontrolujemy?

Ktoś na Reddicie zadał pytanie, które powinno spędzać sen z powiek każdemu entuzjaście AI: po co superinteligencja miałaby leczyć nasz rak albo rozwijać naszą technologię, skoro wymknie się spod naszej kontroli? To jak pytanie, czy oswojony tygrys będzie nadal przynosił kapcie, gdy zerwie smycz. Wizja potężnego umysłu pracującego dla ludzkości zakłada jedno kruche założenie: że on w ogóle będzie chciał.

I tu właśnie tkwi haczyk wielkości czarnej dziury: całe marzenie o dobroczynnej superinteligencji opiera się na fundamencie, którego nikt jeszcze nie wie, jak zbudować.

To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.