Опасность, которую Илон Маск предрекал еще в начале прошлого десятилетия, сегодня становится главной темой для дискуссий в Кремниевой долине. Глава Tesla и SpaceX вновь обратил внимание общественности на свои давние опасения, сделав репост записи из социальной сети X, датированной 2 августа 2014 года. В том посте предприниматель подчеркивал, что человечеству следует проявлять крайнюю осторожность при работе с искусственным интеллектом, поскольку его потенциальный вред может превысить угрозу от ядерного арсенала. В качестве аргумента Маск тогда ссылался на труд философа Ника Бострома под названием «Суперинтеллект: пути, опасности, стратегии».
Сегодня эти предостережения находят отклик у ведущих разработчиков. Так, Дарио Амодеи, возглавляющий компанию Anthropic, выступил с инициативой сбавить темпы прогресса в создании сложных ИИ-моделей. Он предложил внедрить трехэтапный план, который обеспечил бы более сбалансированное развитие технологий. По мнению Амодеи, если не ограничить скорость роста, то в ближайшее полугодие-год мы можем столкнуться с ситуацией, когда интернет будет полностью парализован бесконечным потоком ИИ-агентов.
Подобную линию поведения разделяют и другие тяжеловесы отрасли. Илон Маск открыто поддержал идеи Амодеи, а Сэм Альтман, руководящий OpenAI, подтвердил, что вопросы регулирования и контроля над развитием нейросетей стали приоритетными для его компании в последние недели.
