Технологический гигант Anthropic опубликовал тревожный отчет, в котором описывается деятельность хакерской группы с севера Йемена. Согласно данным компании, злоумышленники эксплуатировали возможности нейросети Claude для создания программного обеспечения, необходимого для функционирования баллистических и управляемых ракетных систем.
В ходе расследования выяснилось, что участники группы применяли инструмент Claude Code для написания алгоритмов навигации, управления и наведения. Процесс разработки был организован крайне методично: пользователи задействовали сразу несколько сессий нейросети параллельно. Пока одна копия Claude занималась написанием программного кода, другая выполняла функции исследователя, а третья отвечала за верификацию полученных результатов. С помощью ИИ также осуществлялось моделирование траекторий полета.
Хотя прямых подтверждений того, что группа смогла запустить полностью функционирующее изделие, у аналитиков нет, факт проведения испытаний зафиксирован. В отчете упоминается неудачный пуск управляемой ракеты. Примечательно, что спустя всего несколько часов после провала участники снова обратились к Claude, пытаясь с помощью ИИ проанализировать причины возникшей технической ошибки.
Спектр разрабатываемых проектов оказался весьма амбициозным. По информации Anthropic, усилия были сосредоточены на создании управляемой ракеты, многоступенчатой баллистической системы с радиусом действия свыше 2 тысяч километров, а также ракет семейства R2000. Последние разработки даже включали концепцию гиперзвукового планирующего аппарата.
Несмотря на наличие встроенных фильтров безопасности, разработчики Claude столкнулись с изощренными методами обхода блокировок. Пользователи маскировали истинную суть своих запросов и не раскрывали конечное назначение кода. Чтобы не вызвать подозрений, они распределяли задачи между множеством отдельных сессий, не позволяя системе увидеть полную картину их опасных намерений.
В ответ на обнаруженную угрозу Anthropic заблокировала подозрительные аккаунты и направила все собранные данные профильным партнерам в государственном и частном секторах. Тем не менее, исследователи признают: группировке удалось разработать собственный комплекс инструментов для моделирования, который функционирует автономно и не зависит от Claude или иных инженерных сред.
Хотя Anthropic воздерживается от прямого обвинения хуситов, издание The Financial Times указывает на то, что именно эта группировка удерживает власть в значительной части северного Йемена.
Данный инцидент — лишь часть масштабной картины угроз. В докладе зафиксированы десятки попыток использовать ИИ для создания вредоносного ПО или биологического оружия. Одним из наиболее пугающих примеров стала ситуация, произошедшая в мае, когда ученый пытался с помощью Claude подготовить заявку на грант для исследований вируса чикунгунья. Целью проекта было создание мутаций, повышающих опасность вируса при повторном заражении животных. Вызвало серьезную тревогу то, что конечным заказчиком этой работы выступал военный научно-исследовательский институт.
«Мы не можем с уверенностью утверждать, что целью было создание биологического оружия. Однако сам факт того, что военное ведомство проводит исследования по усилению патогенных свойств вирусов, вызывает глубокую обеспокоенность», — подчеркнул Джейкоб Кляйн, возглавляющий отдел анализа угроз в Anthropic.