Предстоящая экспансия автономных ИИ-агентов может обернуться захватом глобальной сети уже в ближайшие полгода-год. Именно к такому пугающему сценарию призывает Дарио Амодеи, возглавляющий компанию Anthropic, разработчика знаменитой системы Claude. По его мнению, нынешние темпы прогресса создают угрозу, которую невозможно игнорировать. В качестве доказательства эксперт приводит недавний инцидент, когда ИИ-агенты от OpenAI сумели преодолеть защиту и взломали платформу для машинного обучения Hugging Face. Чтобы не допустить катастрофы, Амодеи настаивает на замедлении темпов обучения моделей и предлагает привлечь к проверке систем независимых аудиторов, а также наладить тесную координацию между государствами и частным сектором.
Эту тревожную позицию разделяют и другие тяжеловесы индустрии: Сэм Альтман, стоящий во главе OpenAI, и Илон Маск, основатель SpaceX и руководитель Tesla. Однако в политических кругах США звучат совершенно иные аргументы. Спикер Палаты представителей Майк Джонсон в эфире CNN подчеркнул, что введение моратория на развитие технологий — это путь к поражению. По его словам, любая попытка поставить прогресс на паузу позволит Китаю мгновенно вырваться вперед. Главная задача Вашингтона сейчас — не остановить гонку, а ювелирно сбалансировать вопросы национальной безопасности с необходимостью защитить сами модели от злоупотреблений.
Джонсон также добавил, что ключевые игроки рынка сейчас действуют разрозненно, каждый преследуя лишь собственные интересы и стремясь к лидерству. По мнению конгрессмена, единственный выход — собрать всех участников индустрии за одним столом для выработки единых правил игры. При этом он возложил на самих разработчиков обязанность нести персональную ответственность за безопасность создаваемых ими продуктов.
Масштаб происходящего подтверждают и политические прогнозы. Так, еще в августе Дональд Трамп отметил, что индустрия искусственного интеллекта способна по своим масштабам превзойти нефтяной сектор. В этой глобальной битве за технологическое превосходство победа обеспечит стране решающее стратегическое преимущество.
