Разработчики искусственного интеллекта из Anthropic взяли на себя роль цифрового щита, заблокировав ряд попыток использовать свои технологии для потенциально опасных биологических изысканий. Как сообщает издание The New York Times, в текущем году компании удалось пресечь несколько инцидентов, когда пользователи пытались манипулировать моделями для целей, граничащих с созданием биологического оружия.
Главная проблема заключается в невозможности провести четкую черту между научным прогрессом и угрозой. Исследовательские данные, которые могут послужить основой для создания новых вакцин, одновременно являются ключом к синтезу опасных патогенов. По данным отчета Anthropic, некоторые пользователи намеренно обходили региональные ограничения и применяли тактики маскировки, чтобы скрыть истинную подоплеку своих запросов от систем безопасности.
Джейкоб Кляйн, возглавляющий подразделение по анализу угроз в Anthropic, подчеркивает сложность этической дилеммы. По его словам, никто не заявляет о намерениях создать биологическую угрозу в стиле злодеев из комиксов. Ситуация гораздо более зыбкая и неоднозначная. Из-за невозможности точно определить намерения, компания сохраняет в тайне личности участников, их страны и конкретные биологические объекты, ограничившись лишь превентивной блокировкой подозрительных аккаунтов.
Одним из наиболее тревожных прецедентов стал случай, произошедший в мае. Тогда один из ученых задействовал нейросеть Claude для подготовки заявки на грант. Предмет исследования — вирус чикунгунья, переносимый комарами и вызывающий тяжелые лихорадочные состояния, боли в суставах и тошноту. Целью проекта было создание мутаций, повышающих вирулентность вируса при повторных заражениях животных. Особую тревогу вызвал тот факт, что конечным заказчиком работ выступал военный научно-исследовательский институт.
«Мы не можем с уверенностью утверждать, что целью было создание оружия. Однако сам факт того, что военное ведомство изучает методы усиления функций вирусов, вызывает серьезную обеспокоенность», — резюмировал Кляйн.
Несмотря на то, что предыдущие поколения моделей Anthropic не обладали достаточной мощностью для проведения полноценных биологических экспериментов, новые системы становятся значительно умнее. Это вынуждает компанию постоянно ужесточать протоколы безопасности и ограничивать доступ к информации, имеющей двойное назначение.
На фоне этих событий индустрия переживает внутренний кризис. Из Anthropic недавно покинулся исследователь Джейкоб Коксон. Его уход связан с глубоким убеждением, что темпы развития самосовершенствующихся систем ИИ становятся неуправляемыми. Коксон считает, что без государственного регулирования или глобального соглашения о замедлении гонки вооружений в сфере ИИ, создание систем, превосходящих человеческий разум, может привести к потере контроля.
К этой же дискуссии присоединился и Джеффри Хинтон, признанный «крестный отец» современного ИИ и лауреат Нобелевской премии. Он открыто предупреждает о катастрофических рисках, связанных с созданием суперинтеллекта — системы, чьи когнитивные способности значительно превышают человеческие. По мнению Хинтона, современная индустрия пока не готова к безопасному развертыванию технологий такого уровня.
