Развитие искусственного интеллекта достигло той точки, когда игнорировать потенциальные угрозы становится невозможно. Дарио Амодеи, возглавляющий компанию Anthropic, в своем недавнем общении с журналистами CBS News выступил с резкой критикой технологического сектора. По его убеждению, крупнейшие игроки рынка долгое время намеренно вводили общественность в забму, замалчивая реальные проблемы, связанные с прогрессом нейросетей.
«Я не стану скрывать правду: угрозы вполне осязаемы. Считаю, что индустрия слишком долго умалчивала о рисках, которые несет в себе эта технология», — прямо заявил Амодеи.
По мнению сооснователя Anthropic, разработчики намеренно фокусировались исключительно на преимуществах ИИ, стараясь выставить его в самом благоприятном свете. При этом сам Амодеи подчеркнул, что его компания старалась придерживаться более честной позиции. Признался он и в том, что масштаб и скорость текущего технологического рывка стали для него неожиданностью. Глава Anthropic отметил, что не мог в полной мере спрогнозировать, насколько стремительным окажется этот прогресс.
Однако призыв к осторожности не означает требования немедленно прекратить исследования. Амодеи предостерегает от массовой паники и не настаивает на полной остановке работ. Для него текущая ситуация — это прежде всего серьезный сигнал к тому, что темпы гонки нужно сбавить ради безопасности.
«Это не повод для паники или прекращения всех разработок. Это тревожный звонок, напоминающий нам о необходимости замедлиться», — пояснил он.
Для решения проблемы Амодеи предложил конкретную стратегию, состоящую из трех этапов. Его план подразумевает введение независимого аудита моделей, создание единого правового поля для разработчиков в демократических государствах и заключение глобальных соглашений, охватывающих даже Китай. Спешка в этом вопросе опасна: по расчетам Амодеи, уже в ближайшие полгода или год автономные ИИ-агенты, лишенные должной защиты, способны сформировать устойчивые ботнеты. Ущерб от подобных атак может исчисляться сотнями миллиардов долларов.
Инициатива главы Anthropic нашла отклик у других лидеров отрасли. Сэм Альтман, возглавляющий OpenAI, поддержал необходимость контроля, пообещав предоставить независимым специалистам расширенные возможности для проверки безопасности своих систем. Илон Маск, основатель SpaceX, также выразил согласие с позицией коллеги, кратко написав: «Дарио прав».
Тем не менее, в политических кругах звучат и противоположные мнения. Так, спикер Палаты представителей США Майк Джонсон предупредил, что чрезмерное замедление темпов создания языковых моделей может привести к тому, что Соединенные Штаты уступят технологическое лидерство Китаю.
