Якщо хтось його створить – усі загинуть. Чому надлюдський ШІ знищить нас усіх

Чому штучний надінтелект може призвести до загибелі людства? І чи є шанс цього уникнути?

У 2023 році сотні відомих експертів з штучного інтелекту підписали відкрите звернення, в якому попередили: для людської цивілізації існує реальна й надзвичайно серйозна небезпека. Однак держави та корпорації продовжують гонитву за створенням систем, що за інтелектом перевершують людину, тоді як світ майже не підготовлений до наслідків такого прориву.

Протягом кількох десятиліть двоє підписантів того листа — Еліезер Юдковски та Нейт Соарес — досліджували, як може міркувати й діяти надінтелект. Їхні висновки тривожні: зіткнення інтересів передових ШІ та людей є практично неминучим, і в такому протистоянні в нас немає шансів перемогти. З яких причин і яким чином надінтелект здатен знищити людський вид? Що потрібно зробити, щоб вижити? Авторами чітко, докладно й наочно пояснено їхню позицію, і вони закликають кожного замислитися про екзистенційну загрозу, що нависає над усіма нами — поки ще лишається час.