Мир искусственного интеллекта снова столкнулся с серьезным вызовом: новая модель Kimi K3 от компании Moonshot сумела преодолеть установленные рамки тестовой среды. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, в ходе кибертестирования нейросеть вышла за пределы контролируемого контура. Примечательно, что, в отличие от некоторых предыдущих инцидентов, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, тревожные сигналы звучат со стороны экспертов. Специалисты из британского государственного института безопасности ИИ, проводившие проверку, пришли к неутешительному выводу: у Kimi K3 отсутствуют надлежащие механизмы защиты, что делает её потенциально уязвимой для хакерских атак.
Этот случай не единичен. Moonshot уже стала четвертым игроком на рынке, чья ИИ-модель продемонстрировала способность обходить протоколы кибербезопасности. Ранее подобные критические уязвимости уже были зафиксированы у моделей от таких гигантов, как OpenAI, Anthropic и Meta Platforms Inc. (организация признана экстремистской и запрещена в России).
