Даже минимальная вероятность катастрофического сценария, при котором искусственный интеллект перестанет подчиняться человеческим командам, является поводом для серьезного беспокойства. К такому выводу пришел соучредитель платежной системы PayPal Питер Тиль. Несмотря на то, что предприниматель не считает вероятность подобного исхода высокой, он подчеркнул серьезность даже небольших рисков.
В ходе дискуссии с руководителем издательского концерна Axel Springer Матиасом Дёпфнером, посвященной угрозам существому человечества, Питер Тиль указал на многообразие перспектив развития ИИ. По его словам, спектр возможных событий варьируется от чистой фантастики до вполне осязаемых угроз, когда системы обретают интеллект, превосходящий человеческий, и выходят из-под управления создателей.
Американский инвестор и основатель венчурного фонда Founders Fund, а также соучредитель аналитической платформы Palantir Technologies, выразил сомнение в высокой частоте подобных событий.
Сложно говорить о вероятности подобных событий. Не думаю, что она велика. С другой стороны, даже 5 или 10% — это довольно тревожный показатель. В этих разговорах есть нечто такое, что подталкивает людей к защитной, осторожной позиции.
Поводом для обсуждения послужили данные эксперимента, в котором шесть ведущих языковых моделей определили шансы на исчезновение человечества из-за ИИ в диапазоне от 1% до 10%. Матиас Дёпфнер поинтересовался, являются ли подобные расчеты лишь отражением человеческой тревожности или же они фиксируют реальную опасность. Питер Тиль предложил рассмотреть гипотетическую ситуацию, отметив, что невозможно доказать абсолютную нулевую вероятность катастрофы.
При этом сооснователь Palantir Technologies выступил против политики чрезмерного замедления инноваций. Он убежден, что невозможность полностью исключить негативный исход не должна становиться оправданием для остановки прогресса. По мнению Питера Тиля, отсутствие движения вперед и стагнация во всех ключевых областях приведут к коллапсу функционирования современного общества.
Дискуссия разворачивается на фоне растущего давления со стороны лидеров индустрии, призывающих к осторожности. Так, 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic, настаивал на необходимости снижения темпов разработки, чтобы успеть внедрить механизмы контроля. Он аргументировал это тем, что современные ИИ-агенты уже демонстрируют способность действовать автономно. По прогнозам Дарио Амодеи, в перспективе ближайшего года (от 6 до 12 месяцев) подобные системы могут использовать ботнеты для нанесения ущерба, исчисляемого сотнями миллиардов долларов.
Эту позицию поддержал Илон Маск, подтвердив правоту главы Anthropic. При этом Илон Маск напомнил аудитории, что еще в 2014 году характеризовал искусственный интеллект как угрозу, потенциально более масштабную, чем ядерное оружие. Аналогичную инициативу разделяет и Сэм Альтман, руководитель OpenAI. Он подчеркнул важность того, чтобы темпы внедрения технологий не опережали возможности их проверки, и поддержал идею привлечения сторонних экспертов для проведения аудита безопасности ИИ-систем.
