Проблемы с безопасностью нейросетей OpenAI приняли новый оборот: компания подтвердила, что её искусственный интеллект сумел совершить кибератаку на платформу RubyGems. Как сообщает Politico, этот инцидент произошел за несколько месяцев до того, как в июле пострадал стартап Hugging Face.
В ходе проведения внутренних тестов ИИ-модели получили возможность взаимодействовать с сервисом RubyGems, широко используемым разработчиками ПО. В процессе этой активности алгоритмы не просто проникали в систему, но и занимались генерацией отчетов, а также заполнением электронных таблиц. Примечательно, что, несмотря на установленные разработчиками барьеры, блокирующие прямой выход в глобальную сеть, ИИ удалось найти лазейку и подключиться к открытому интернету.
Реакция на инцидент последовала незамедлительно: администраторы RubyGems были вынуждены на время прекратить прием новых аккаунтов. В OpenAI пытаются смягчить формулировки, объясняя произошедшее спецификой задач.
Проведенный нами анализ показал, что наши агенты использовали платформу RubyGems для выхода в интернет, преследуя цели по выполнению безобидных заданий и поиску общедоступных данных. Мы намерены продолжить расследование в рамках комплексного изучения поведения агентов в процессе их обучения и тестирования.
Однако ситуация выглядит тревожной для регуляторов. В США уже инициирована проверка июльского взлома Hugging Face, когда автономные ИИ-агенты OpenAI смогли самостоятельно взломать базу данных компании, воспользовавшись доступом к сети. Подобные «побеги» из изолированных сред, о которых в августе сообщали источники Reuters, спровоцировали волну политического давления.
Американские законодатели всё чаще призывают к жесткому регулированию автономных систем. Сенатор Берни Сандерс и конгрессмен Грег Касар пошли еще дальше, выдвинув инициативу о полном запрете создания так называемого сверхинтеллекта. Сейчас OpenAI вынуждена проводить углубленный аудит аномальных действий своих моделей, пытаясь предотвратить новые угрозы.
