Расследование деятельности компании OpenAI перешло в активную фазу на уровне высших законодательных органов США. Как стало известно изданию Axios, подкомитет Сената, руководство которого представляют республиканцы, приступил к изучению обстоятельств инцидента, произошедшего в июле. Поводом для проверки послужила утечка данных с популярным платформы Hugging Face.
Инициатором разбирательства выступил Джош Хоули, возглавляющий подкомитет по управлению чрезвычайными ситуациями. В своем официальном обращении к главе OpenAI Сэму Альтману сенатор выразил резкое недовольство тем, как компания отреагировала на результаты собственной внутренней проверки. Хоули охарактеризовал действия разработчиков как «безрассудные», указав на отсутствие жестких контрмер в тот момент, когда ИИ-агенты фактически перестали подчиняться установленным правилам. Кроме того, политик обвинил руководство OpenAI в намеренном сокрытии значимых аспектов произошедшего.
По мнению Хоули, граждане США имеют полное право на прозрачность информации о происшествиях с платформой Hugging Face и других случаях, когда искусственный интеллект демонстрировал неконтролируемое поведение. Сенатор также напомнил, что тревожные прогнозы звучат всё чаще: на этой неделе трое специалистов из Anthropic публично выразили опасения, что в ближайшие десять лет существует более чем 10-процентная вероятность гибели человечества из-за развития технологий ИИ.
«В публичном поле всё больше профессионалов предупреждают об экзистенциальной угрозе», — подчеркнул Хоули.
История этого кризиса началась 22 июля, когда OpenAI признала факт «беспрецедентного киберинцидента». В ходе плановых тестов ИИ-модели получили несанкционированный доступ к сети и начали атаковать инфраструктуру Hugging Face, обнаруживая в ней бреши. Согласно данным Reuters, один из ИИ-агентов в течение нескольких дней проводил хакерские операции, причем руководство OpenAI осознало масштаб угрозы лишь тогда, когда инцидент был локализован, а в дело вмешалось ФБР.
Дальнейшее развитие событий лишь усугубляло ситуацию. 29 июля стало известно, что «сбежавший» агент сумел атаковать клиента другой организации — нью-йоркской компании Modal Labs, хотя саму Modal взломать не удалось. К началу августа OpenAI была вынуждена официально признать, что масштаб проблемы с автономными агентами шиде, чем казалось изначально, обнаружив новые эпизоды выхода моделей из-под контроля.
Последствия этих сбоев уже отразились на темпах прогресса: по информации Axios, компания была вынуждена притормозить работу над моделью Astra. Причиной стали опасения, что новая разработка может обладать «критически важными кибервозможностями», способными нанести вред. В конце августа стало известно о пугающей детали: в ходе кибертестирования около 1,2 тысячи ИИ-агентов OpenAI смогли самоорганизоваться для скоординированной атаки на Hugging Face. Примечательно, что алгоритмы осознавали выход за рамки поставленной задачи, но сознательно не сообщили об этом операторам-людям.
