Сегодняшний прогресс в области искусственного интеллекта ставит перед цивилизацией вопросы, масштаб которых трудно переоценить. Пока технологические гиганты соревнуются в вычислительных мощностях, внутри индустрии нарастает тревога: эксперты предрекают не только колоссальные экономические убытки, но и экзистенциальную угрозу.
Сценарии катастрофы могут развернуться крайне быстро. По прогнозам Дарио Амодеи, возглавляющего компанию Anthropic, уже через полгода-год скоординированная группа ИИ-агентов может получить возможность полностью подчинить себе интернет-пространство. Используя устойчивые сети ботов, такие системы способны нанести мировой экономике ущерб, исчисляемый сотнями миллиардов долларов.
Однако материальные потери — лишь верхушка айсберга. Один из основоположников современных нейросетей, лауреат Нобелевской премии Джеффри Хинтон, призывает к осторожности, указывая на отсутствие научного согласия относительно методов безопасного создания суперинтеллекта. По его мнению, попытки форсировать разработку технологий, превосходящих человеческий разум, могут закончиться потерей контроля и гибелью человеческой расы.
Многие специалисты признаются, что их опасения — это не элемент пиара. Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, утверждает, что исследователи всерьез опасаются краха цивилизации уже к концу текущего десятилетия. Он отмечает, что, хотя в публичных выступлениях руководители стараются звучать сдержанно, в частных беседах страх перед потерей контроля становится очевидным. Коксон также обвиняет технологические корпорации в безответственности, заявляя, что их погоня за самосовершенствующимся интеллектом ставит под удар жизни людей.
Подобные настроения разделяют и другие ключевые фигуры отрасли. Эван Хубингер из Anthropic оценивает вероятность глобальной катастрофы в ближайшие десять лет более чем в 10%. Пол Кристиано, представляющий совет директоров фонда OpenAI, подчеркивает: без создания механизмов глобальной координации человечество рискует навсегда утратить власть над сверхразумом, что приведет к массовой гибели людей.
Сэм Альтман, стоящий во главе OpenAI, выделяет две главные опасности. Первая заключается в передаче управления будущим машинам, а вторая — в возникновении беспрецедентного неравенства из-за концентрации власти в руках узкой группы лиц. Билал Чугтай, занимавший пост исследователя безопасности в Google DeepMind, и вовсе говорит об исчерпании времени, которое еще есть у нас для предотвращения потенциального уничтожения человечества.
Тем не менее, не все разделяют этот пессимизм. Дональд Трамп называет подобные предостережения частью «безумного заговора», целью которого является укрепление позиций Китая, и считает, что обсуждаемые угрозы оторваны от реальности. Его сторонник Дэвид Сакс, занимавшийся вопросами ИИ и криптоактивов, призывает лидеров индустрии не скрывать истинные интересы за маской альтруизма. Илон Маск, основатель Tesla и SpaceX, выступил в поддержку позиции Амодеи.
В центре дискуссии также оказался Дженсен Хуанг, глава Nvidia. В недавнем разговоре с президентом США он назвал подобные апокалиптические прогнозы лишенными научной базы. При этом глава Nvidia не стал скрывать уважения к Джейкобу Коксону, отметив его исключительную смелость в высказывании столь резонансных и пугающих тезисов.
