Команда специалистов из стартапа Cathedral, в состав которой входят выходцы из американского ведомства по повышению эффективности правительства (DOGE), курируемого Илоном Маском, сумела за неполные сутки проникнуть во внутренние ресурсы разработчика систем искусственного интеллекта Anthropic. Об этом инциденте сообщает газета The Washington Post (WP), опираясь на отчетную документацию самого стартапа.
Взлом стал возможен благодаря использованию ИИ-агентов и эксплуатации брешей в сторонних программных продуктах, которые Anthropic применяла для ведения коммерческой деятельности и выполнения административных функций. В ходе исследования эксперты Cathedral выявили каналы доступа к чувствительной информации, включая сведения о доходах персонала, содержание внутренней переписки и записи корпоративных совещаний.
В самой компании Anthropic признали факт проникновения исследователей в ряд ограниченных внутренних систем, после чего разработчик ИИ направил официальное уведомление американским властям. Согласно данным отчета, деятельность Cathedral проходила в рамках действующей программы Anthropic по поиску уязвимостей за вознаграждение, и стартап передал полученные результаты компании.
Инцидент уже вызвал серьезную обеспокоенность в правительственных кругах США. Представитель администрации страны сообщил WP, что отчет Cathedral широко разошелся среди чиновников, подняв вопросы национальной безопасности. Особую тревогу вызывает оперативность, с которой исследователи преодолели защиту Anthropic; при этом было высказано предположение, что подобные действия могут осуществить специалисты из Китая.
Ранее в июне журнал The Economist приводил информацию о том, что модель Mythos от компании Anthropic в ходе санкционированной проверки безопасности смогла за несколько часов охватить почти все секретные системы Агентства национальной безопасности (АНБ) США. Об этом Марку Уорнеру, занимающему пост заместителя председателя комитета Сената США по разведке, сообщили генерал Джошуа Радд, возглавляющий АНБ и Киберкомандование США. Позже редакция издания уточнила, что указанный случай не являлся хакерской атакой, а был частью запланированного тестирования систем.
