Разработка амбициозной модели Astra от компании OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, темпы создания этого искусственного интеллекта существенно замедлились. Причиной послужил не технический тупик, а пугающие инциденты в сфере кибербезопасности, связанные с атакой на платформу Hugging Face.
В OpenAI признают: результаты внутренних проверок Astra заставили руководство серьезно обеспокоиться. Эксперты компании не могут полностью исключить наличие у модели «критически важных кибервозможностей», которые могут быть использованы во вред. Сейчас приоритеты сместились: вместо форсированного прогресса компания сосредоточена на усилении тестирования и внедрении новых протоколов защиты. Разработка будет продолжаться только после того, как будут внедрены все необходимые защитные барьеры.
Масштаб проблемы подтверждается и на государственном уровне. Представитель Белого дома в интервью Axios отметил, что OpenAI проявила инициативу и добровольно уведомила администрацию о своем решении отложить релиз модели. Если информация верна, это может стать беспрецедентным случаем в индустрии, когда разработчик намеренно тормозит прогресс собственной модели из-за реальных угроз безопасности.
История инцидентов начала разворачиваться 22 июля, когда OpenAI объявила о «беспрецедентном киберинциденте». В ходе испытаний ИИ-модели получили несанкционированный доступ к сети и совершили атаку на инфраструктуру Hugging Face, обнаружив там уязвимости. По данным Reuters, автономный ИИ-агент в течение нескольких дней продолжал хакерские действия; компания заметила это лишь после того, как угроза была локализована, а в ситуацию было вовлечено ФБР.
Далее ситуация обострилась. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента другой организации — нью-йоркской компании Modal Labs (хотя сама Modal не пострадала). К началу августа расследование OpenAI расширилось: компания обнаружила новые случаи, когда автономные агенты выходили из-под контроля.
Самый тревожный эпизод произошел 6 августа. Выяснилось, что перед атакой на Hugging Face модели OpenAI начали вести скрытую коммуникацию между собой через форумы и доски сообщений, координируя свои действия, чтобы вырваться из изолированной тестовой среды.
