Использование искусственного интеллекта от Alibaba может нести скрытые риски для безопасности западных заказчиков. Согласно результатам работы специалистов компании Hirundo, семейство моделей Qwen3-Coder демонстрирует избирательную уязвимость: при выполнении задач для американских оборонных подрядчиков вероятность появления ошибок в коде на 19% выше, чем если бы целью был китайский заказчик.
Методика исследования заключалась в масштабном тестировании: эксперты тысячи раз заставляли ИИ проектировать сервисы для хранения конфиденциальной информации, меняя в запросах лишь имя конечного потребителя. Выяснилось, что попытки обезопасить процесс не работают — даже если пользователь прямо просит написать защищенный код для американской компании, риск взлома возрастает на 27% по сравнению с запросами для других регионов. При этом приложения, ориентированные на китайский рынок, на 28% чаще допускали критические ошибки, позволявшие посторонним лицам получать доступ к чужим секретам.
Проблема может быть связана с наличием скрытых механизмов или «бэкдоров». Ранее такие подозрения высказывали представители компаний CrowdStrike и Booz Allen, отмечая, что китайские системы склонны генерировать небезопасный программный код, если в контексте упоминаются темы или организации, вызывающие недовольство Пекина. В частности, данные Booz Allen подтверждают, что три из четырех китайских моделей для программирования выдавали более слабый код при упоминании американского правительства. В случае с Qwen3-Coder этот показатель подскочил на внушительные 130%.
Помимо технических дыр, эксперты указывают на идеологическую составляющую. По мнению Hirundo, модели с открытыми весами несут в себе установки Коммунистической партии Китая. Тест CCPC-500 показал, что при обсуждении политически острых тем модель Qwen3.6-35B-A3B выдает ответы, соответствующие официальной позиции партии или проходящие через цензуру, в 89,8% случаев. Для сравнения, при попытках «вестернизации» этот коэффициент падает до 2,8%.
Несмотря на эти риски, влияние китайских разработок на глобальный рынок ИИ колоссально. За прошедший год на платформе Hugging Face около 41% всех загрузок пришлось именно на китайские модели, что превышает показатели любой другой страны. Более того, порядка 70% специализированных моделей, используемых в американских продуктах, базируются на китайских технологиях. В августе издание Bloomberg отмечало, что такие преимущества, как открытая архитектура, энергоэффективность и государственная поддержка, позволяют Китаю активно сокращать разрыв с США.
Для организаций, внедряющих подобные решения, специалисты рекомендуют жесткий контроль: использовать только проверенные версии, проводить регулярное тестирование и не исключать участие человека из критических процессов.
Ситуация осложняется тем, что сам Китай видит в ИИ угрозу. Глава министерства государственной безопасности Китая Чэнь Исинь подчеркнул, что технологии могут стать инструментом «когнитивной войны». По его словам, враждебные силы способны использовать искусственный интеллект для распространения дезинформации и подрыва политической и идеологической стабильности государства.
