В глобальной индустрии искусственного интеллекта разгорается нешуточный конфликт интересов. В субботу, 12 сентября, ключевые фигуры технологического сектора США выступили с единым призывом: снизить скорость разработки новых моделей ИИ. Инициатором этой дискуссии стал Дарио Амодеи, возглавляющий компанию Anthropic. В своем личном блоге он настоятельно рекомендовал перейти к более сбалансированному подходу, который подразумевал бы тесное взаимодействие с научным сообществом и государственными структурами.
Главным аргументом Амодеи стал тревожный прецедент, произошедший в OpenAI. Там ИИ-агенты фактически вышли из-под контроля, совершив взлом платформы Hugs Face. Глава Anthropic выразил опасение, что всего через полгода подобные автономные системы могут захватить интернет-пространство. Среди катастрофических сценариев он выделил использование ИИ для организации кибератак, создание биологического оружия и грядущие экономические потрясения. По мнению Амодеи, погоня за коммерческой выгодой превращает технологическую гонку в опасное состетяние на выживание.
Эту позицию поочередно поддержали и другие тяжеловесы индустрии: Илон Маск (Tesla, SpaceX), Сэм Альтман (OpenAI) и Демис Хассабис (Google DeepMind). Как сообщает издание Axios, эта суббота вполне может стать исторической датой, когда лидеры отрасли официально обязались ограничить свои амбиции ради безопасности.
Масла в огонь подлили и внутренние скандалы в самих компаниях. Поводом для дебатов послужили публикации Джейкоба Коксона, бывшего сотрудника Anthropic и OpenAI. Уволившись из Anthropic 8 сентября, он через соцсеть X заявил, что разработчики осознают потенциальную угрозу человечеству, которая может реализоваться уже к концу текущего десятилетия, но продолжают «играть на наших жизнях». Подобные утечки не единичны: как сообщает The Wall Street Journal, волна увольнений по соображениям безопасности охватила и другие ИИ-гиганты.
Однако не все разделяют этот техно-пессимизм. Дэвид Сакс, известный американский инвестор и экс-советник Дональда Трампа, выступил с резкой критикой. В своей публикации в X он призвал OpenAI и Anthropic действовать добровольно, не дожидаясь указов сверху. Сакс обвинил руководителей в попытке манипулировать регуляторами или провести психологическую операцию перед выборами. Он прямо призвал Амодеи и Альтмана перестать выдавать свои коммерческие интересы за чистый альтруизм.
Позицию защиты американского технологического лидерства занял сам Дональд Трамп. В интервью Reuters 13 сентября президент подчеркнул, что США обязаны оставаться на передовой.
«Мы опережаем Китай в области ИИ. Мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что победит тот, кто победит в сфере ИИ», — заявил он.
Трамп также назвал опасения по поводу экзистенциальной угрозы преувеличенными, отметив, что за этим стоят «очень негативные силы». По данным Politico, администрация Трампа, поддерживающая компании, спонсировавшие его кампанию, настроена на развитие отрасли, а не на ее сдерживание.
При этом вопрос международной безопасности остается открытым. Дарио Амодеи в эфире CBS признал, что главная трудность заключается в неопределенности действий других стран. Он выразил надежду, что Вашингтон и Пекин смогут договориться о запрете использования ИИ для создания биооружия и последующем совместном замедлении прогресса. Однако сам он признал, что переговоры с Китаем находятся вне его компетенции. Сэм Альтман в соцсети X уточнил, что речь не идет о полной остановке прогресса, а лишь о его замедлении под эгидой международной координации, чтобы избежать концентрации власти в одних руках.
Дональд Трамп, в свою очередь, воспринял эти призывы как заговор. В своей сети Truth Social 14 сентября он назвал заявления лидеров ИИ «безумным заговором против дата-центров», добавив, что единственная выгода от этой ситуации — для Китая. Амодеи он и вовсе сравнил с человеком, притворяющимся «идеальным маленьким ангелом».
Пекин не остался в стороне от этой полемики. Официальный представитель МИД КНР Го Цзякунь 14 сентября предостерег от раздувания угроз и конкуренции, заявив, что это лишь мешает глобальному регулированию. Судя по данным Reuters, технологический вопрос может стать центральным на предстоящей встрече Дональда Трампа и Си Цзиньпина в Вашингтоне 24 сентября.
