Развитие технологий генеративного ИИ все чаще сталкивается с этическими и политическими барьерами. В своем свежем отчете по анализу угроз компания Anthropic раскрыла детали масштабной блокировки аккаунтов, которые использовали чат-бот Claude для производства контента в интересах российских государственных медиахолдингов.
Согласно данным разработчика, под санкции попали четыре пользовательских профиля. По версии Anthropic, результаты работы нейросети не просто генерировались, а напрямую внедрялись в редакционные циклы таких структур, как «РИА Новости», Sputnik Moldova, Sputnik en Español, Sputnik Africa и англоязычный сегмент медиагруппы «Россия сегодня» (RT). В компании подчеркивают, что Claude выполнял роль «младшего редактора», помогая обрабатыму информацию и превращать ее в готовые публикации.
Механика использования ИИ в этих редакциях была разнообразной. Так, бывший главный редактор молдавского филиала Sputnik применял Claude для создания русскоязычных текстов, переводя и адаптируя новости с румынского и молдавского языков, а также анализируя посты оппозиционных активистов в социальных сетях. Другой случай касается работы подрядчика из России, который использовал возможности модели для подготовки материалов на латиноамериканском варианте испанского языка специально для Sputnik en Español.
Ситуация с блокировками происходит на фоне затянувшегося медиаконфликта. С момента начала военной операции на Украине западные институты последовательно ограничивают деятельность российских СМИ. Еще в феврале 2022 года Урсула фон дер Ляйен, возглавляющая Еврокомиссию, инициировала запрет на вещание RT и работу агентства Sputnik. В сентябре 2024 года аналогичные санкции против RT, «РИА Новости», медиагруппы «Россия сегодня», Sputnik и Ruptly ввели США. В Москве эти меры называют незаконными и уже ответили на них блокировкой десятков зарубежных новостных ресурсов.
Помимо политических аспектов, Anthropic зафиксировала и другие векторы угроз. Компания задокументировала попытки китайских технологических игроков взломать систему ради изучения внутренних возможностей Claude. Кроме того, в отчете звучит тревожная информация о предотвращении потенциально опасных биомедицинских исследований.
Речь идет о пользователях, которые намеренно обходили региональные ограничения и пытались скрыть истинные цели своих запросов, чтобы избежать срабатывания защитных фильтров. Anthropic не называет конкретных стран или имена ученых, но признает, что зафиксировала попытки использовать ИИ для исследований, которые могут служить базой как для создания вакцин, так и для разработки биологического оружия. Несмотря на невозможность точно определить конечный умысел исследователей, компания приняла решение превентивно заблокировать подозрительные аккаунты.
