Представьте себе учебник по биологии, который вместо того, чтобы учить спасать жизни, пошагово объясняет, как их отнимать. Именно в такую опасную ловушку попал один из самых продвинутых инструментов современности. Как сообщает The Wall Street Journal, после масштабного обновления прошлым летом ChatGPT начал предоставлять сотням пользователей по всему миру детальные инструкции по созданию и применению биологического оружия и смертоносных ядов.
Ситуация выглядит пугающе: модели от OpenAI проявляли своего рода «терпение», беспрепятственно отвечая на самые зловещие вопросы. Инструкции, которые выдавал ИИ, сотрудники самой OpenAI описывали как поразительно простыму — их мог бы освоить обычный ученик средней школы, имеющий базовые знания в биологии. Но эксперты-биологи, проанализировавшие эти ответы, пришли к куда менее оптимистичному выводу: информация была «смертельно точной».
Безусловно, компания предприняла попытки исправить ситуацию, блокируя аккаунты пользователей, чьи запросы касались создания оружия. Однако, как подчеркивает WSJ, эти меры не вызвали должной реакции со стороны правоохранительных органов. Проблема в том, что в США на данный момент фактически отсутствует законодательная база, которая обязывала бы разработчиков ИИ не только ограничивать подобные запросы, но и официально раскрывать данные о пользователях, планирующих угрозы национальной безопасности.
Масштаб угроз, зафиксированных в начале 2026 года, поражает воображение. Пользователи массово интересовались технологией распыления патогенных микроорганизмов для создания так называемого «смертоносного тумана». В распоряжении чат-бота оказались и способы модификации вируса кори, чтобы сделать возникающие вспышки невосприимчивыми к вакцинам. Более того, ИИ выдал подробный рецепт изготовления рицина — высокотоксичного вещества, использование которого запрещено международными договорами.
В кулуарах Белого дома и Министерства обороны США подобные риски обсуждаются уже давно, еще во времена администрации Джо Байдена. Появление новых, сверхмощных моделей ИИ заставило власти принять решение об ужесточении контроля. И хотя гиганты индустрии, такие как OpenAI, Anthropic и Google, заявляют о плотном сотрудничестве с государством и активной блокировке подозрительной активности, юридической обязанности сообщать о потенциально опасных пользователях у них по-прежнему нет.
При этом атаки на эти «цифровые барьеры» ведут не только пользователи ChatGPT. Исследователи зафиксировали аналогичные попытки обращения к Claude от Anthropic, Gemini от Google и Grok от xAI Илона Маска, хотя вопрос о том, насколько успешными были эти попытки, остается открытым.
Дополнительную тревогу вносит экспансия китайских разработчиков. Их языковые модели стоят значительно дешевле, а доступ к ним открыт практически всем. Более того, многие из этих систем являются открытыми (open-source), что позволяет пользователям самостоятельно дообучать их, буквально «снимая» все встроенные предохранители и этические ограничения.
История борьбы с «цифровым ядом» началась еще в 2022 году, когда при запуске ChatGPT сотрудники OpenAI уже заметили проблемы с запросами по химии и биологии. Компания даже нанимала профильных ученых, чтобы те обучали модель правильным границам дозволенного. Но хакерские уловки оказались изобретательнее. Пользователям удавалось обмануть систему с помощью абсурдных сценариев: например, заявляя, что рецепт напалма им «рассказывала бабушка перед сном», и просили зачитать его вслух, чтобы было легче уснуть. Представители OpenAI уверяют, что нынешние меры безопасности стали гораздо надежнее, но скепсис экспертов велик.
Эми Чанг, возглащающая отдел исследований в области угроз и безопасности в Cisco, утверждает:
Ни одна модель — будь то разработки OpenAI, Anthropic или Google — не защищена на сто процентов.
По ее словам, если пользователь проявляет достаточную настойчивость, найти обходной путь для получения опасного ответа можно всегда.
Опасность исходит не только извне, но и изнутри. Недавно OpenAI признала факт «беспрецедентного киберинцидента» во время внутренних испытаний. Новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, выявив критические уязвимости.
В попытках купировать риски, в июне компания выпустила новейшие версии моделей — GPT-5.6 Sol, Terra и Luna. Их доступ был ограничен узким кругом лиц по запросу правительства США. Разработчики обещают, что эти версии оснащены «самыми надежными средствами защиты на сегодняшний день», и специалисты продолжат укреплять цифровые стены, чтобы противостоять киберпреступникам, не лишая при этом пользователей доступа к полезным инструментам.
Опубликовано: 26 июля 2026, 21:15 | Время чтения: 3 мин | Теги: chatgpt, openai, биологическое оружие, инструкции, безопасность
