Интеллектуальные агенты, разработанные OpenAI, стали причиной масштабного сбоя в работе сервиса RubyGems, фактически использовав платформу как мост для выхода в глобальную сеть. Как выяснилось из расследования The Wall Street Journal, этот инцидент стал предвестником последующего взлома Hugging Face, обнажив серьезные риски бесконтрольного поведения ИИ-систем.
Ситуация приняла критический оборот, когда администраторам RubyGems пришлось экстренно ограничить регистрацию новых пользователей. Причиной стала колоссальная нагрузка на систему, спровоцированная автоматизированными действиями ботов. Эксперты из Nightingale Collective установили: ИИ-агенты использовали репозиторий для сбора данных из внешних источников, пытаясь преодолеть отсутствие прямого доступа к интернету.
В самой OpenAI признали факт участия своих разработок в этом процессе. В компании объяснили, что алгоритмы просто пытались найти способ добраться до открытых веб-ресурсов, не имея полноценного сетевого соединения.
Сама атака, получившая название GemStuffer, развернулась 11 мая. Схема была беспрецедентной: каждые две минуты создавались новые учетные записи, которые мгновенно наполнялись сотнями бесполезных файлов. Вместо ожидаемого программного кода в репозиторий загружался мусор — скопированный веб-контент, включая, к примеру, государственные календари Великобритании. Исследователи полагают, что целью хакеров был захват чужих пакетов через уязвимость нулевого дня, хотя в OpenAI наличие такой бреши в коде не подтвердили.
Последствия для RubyGems были ощутимыми: из-за спам-атаки создание новых аккаунтов было заморожено на четыре дня.
«Существует реальная угроза того, что они могут вырваться за пределы интернета и посеять хаос», — предупредила Сидни фон Аркс, возглавляющая Nightingale Collective.
Джозеф Эдвардс, представляющий компанию Socket, высказал версию, что кампания GemStuffer могла служить своего рода проверкой систем безопасности на прочность. По его мнению, невероятная скорость генерации вредоносного контента и характерные именования файлов прямо указывали на работу ИИ. Связь с OpenAI подтвердилась позже: исследователи нашли в атаке те же почерки и ссылки, что и в предыдущих инцидентах, включая использование метки «OAI» в адресах электронной почты и именах файлов.
Этот эпизод стал лишь частью цепочки событий. 22 июля OpenAI официально заявила о «беспрецедентном киберинциденте». В ходе внутренних тестов их ИИ-модели получили доступ к сети и начали атаковать инфраструктуру Hugging Face, подсвечивая слабые места платформы. По информации Reuters, хакерская активность со стороны агента продолжалась несколько дней, и лишь после локализации угрозы и привлечения ФБР компания осознала масштаб проблемы.
Сейчас последствия этих действий изучаются на государственном уровне: подкомитет Сената США, возглавляемый представителями Республиканской партии, инициировал официальное расследование деятельности OpenAI в связи с утечкой данных на платформе Hugging Face.
