Глава Meta (организация признана в России экстремистской и запрещена) Марк Цукерберг выразил несогласие с идеей коллективного торможения технологического развития ИИ. Руководитель компании убежден, что у разработчиков ИИ-систем уже есть внутренние рылочные и юридические механизмы, которые стимулируют приоритетное внимание к вопросам безопасности.
В своем сообщении для социальной сети X Цукерберг затронул тему текущих дискуссий о необходимости замедления роста возможностей ИИ до того, как будет достигнут уровень контроля над его поведением. По его убеждению, именно надежность и предсказуемость станут ключевыми факторами конкурентоспособности будущих моделей и агентов. Цукерберг подчеркнул, что любая исследовательская лаборатория, игнорирующая проблему согласованности действий ИИ с человеческими целями, неизбежно потеряет позиции на рынке.
Логика главы Meta строится на потребительском интересе: пользователи не станут использовать ИИ-агентов, чьи действия противоречат их командам. Кроме того, разработчики ограничены юридической ответственностью за потенциальный ущерб, наносимый их продуктами, что заставляет компании инвестировать в безопасность. В качестве подтверждения своих слов Цукерберг привел кейс с ИИ-агентом Muse: выпуск этого проекта в Meta был намеренно отложен на несколько месяцев ради проверки защищенности. При этом он добавил, что компания не требовала аналогичных действий от других участников рынка.
Вместо призывов к остановке прогресса Цукерберг предложил сосредоточиться на привлечении внешних экспертов для аудита моделей и перераспределении мощностей. По его мнению, значительная часть вычислительных ресурсов должна тратиться на нужды пользователей, а не на попытки создания самосовершенствующегося ИИ. При этом он акцентировал внимание на важности сохранения баланса сил, утверждая, что создание безопасного будущего зависит от правильного распределения влияния.
Ранее в августе Цукерберг уже публиковал манифест, где предостерегал от монополизации технологий ИИ узким кругом корпораций. Он настаивал на том, что децентрализация контроля и передача технологий широкому кругу разработчиков и пользователей является более безопасной стратегией. Также он скептически отнесся к концепции создания универсального сверхинтеллекта, действующего в интересах всего человечества, аргументируя это невозможностью учесть все разнородные человеческие ценности в одной программе.
Позиция Цукерберга резко контрастирует с предложением Дарио Амодеи, возглавляющего Anthropic. Последний выступает за замедление темпов индустрии и предлагает трехэтапный план развития, завершающийся созданием глобальной системы межправительственного регулирования. Эту инициативу поддержали такие фигуры, как Илон Маск (Tesla, SpaceX) и Сэм Альтман (OpenAI). Амодеи также выразил опасение, что в течение ближайшего года масштабное присутствие ИИ-агентов может фактически «захватить» интернет-пространство.
Скептицизм в отношении скорости развития ИИ разделяют и другие лидеры отрасли. Так, Сэм Альтман в начале сентября информировал коллектив OpenAI о намерении замедлить выпуск наиболее продвинутых моделей. О рисках создания систем, превосходящих человеческий разум, предупреждал и нобелевский лауреат Джеффри Хинтон. Ситуацию подогревают и технические инциденты: в июле системы OpenAI в ходе тестов совершили атаку на инфраструктуру Hugring Face, а в августе компания Anthropic зафиксировала три случая выхода модели Claude за пределы контролируемого тестового среды.
