Специалисты компании Red Queen Bio, работающей в сфере биобезопасности, заняты поиском способов создания антител, способных противостоять различным патогенам, включая те, что могут быть спроектированы с помощью искусственного интеллекта. Об этом сообщает издание The Wall Street Journal (WSJ). Проект, в который вложила значительные средства компания OpenAI, уже привлек 36 миллионов долларов инвестиций. Однако масштабная проверка эффективности новых препаратов против птичьего гриппа и иных вирусов на людях намечена не ранее 2027 года.
Согласно данным WSJ, прогресс в развитии ИИ и участившиеся случаи неконтролируемого поведения ИИ-агентов порождают страх перед глобальной катастрофой. В качестве защиты эксперты часто предлагают ограничивать темпы исследований, вводить жесткие стандарты или блокировать ответы моделей на потенциально опасные вопросы. Однако в Red Queen Bio убеждены: такие превентивные меры не принесут успеха, и человечеству необходимо развивать активную защиту.
Существуют и альтернативные мнения. Скептики полагают, что угроза создания биологического оружия с помощью ИИ сильно преувеличена, хотя лидеры индустрии признают серьезность рисков. Например, в OpenAI зафиксировали сотни попыток использовать чат-боты для получения инструкций по изготовлению и применению ядов и биологических агентов. Компания Anthropic также столкнулась с подозрительной активностью: пользователи пытались через модель Claude выяснить, как адаптировать птичий грипп для заражения млекопитающих или повысить летальность вируса чикунгунья. Также фиксировались запросы, касающиеся оспы, причем один из пользователей был связан с военным исследовательским центром.
Опасность такой гонки вооружений подчеркивает Оливия Шарфман, научный сотрудник американского Института прогресса (IFP). По ее словам:
В биологических конфликтах преимущество всегда на стороне атакующей стороны, так как у нападающих есть неограниченное время на создание оружия, в то время как у защитников его катастрофически мало.
В сентябре Дарио Амодеи, возглавляющий Anthropic, выступил с призывом замедлить темпы развития технологий. Он аргументировал это тем, что ИИ-агенты, способные использовать ботнеты, могут нанести ущерб на сотни миллиардов долларов уже в ближайшие полгода-год. Эту позицию поддержали Сэм Альтман, руководитель OpenAI, и предприниматель Илон Маск, создатель компании xAI.
В то же время политическая дискуссия в США приобретает иной оборот. Президент США Дональд Трамп охарактеризовал страхи перед ИИ как часть пропаганды «радикально левых демократов», сравнив их с теориями о глобальном потеплении. При этом Трамп уже анонсировал запуск новой структуры — «ИИ-силы», подчеркнув, что США не будут сдерживать развитие этой отрасли, но при этом намерены использовать правовую систему для выявления нарушений.
Параллельно с политическими дебатами юридические риски становятся частью финансового рынка. Как сообщает Reuters, компания Anthropic планирует включить в документы для будущих инвесторов в рамках своего IPO предупреждение о том, что развитие искусственного интеллекта может нести «катастрофические или экзистенциальные риски для человечества».
