Ведущие представители технологического сектора Соединенных Штатов Америки объединили усилия с президентом Дональдом Трампом для внедрения системы надзора за разработкой мощных нейросетей. Руководители таких гигантов, как Google, Anthropic, Meta (организация признана экстремистской и запрещена в России), OpenAI, xAI и Nvidia, достигли договоренности о создании автономных комитетов при советах директоров. Основная цель этой инициативы — обеспечить строгий контроль за безопасностью передовых моделей искусного интеллекта.
О деталях данного соглашения стало известно из публикации в социальной сети Truth Social, принадлежащей американскому лидеру. Согласно тексту документа, любая организация, занимающаяся обучением и внедрением высокотехнологичных моделей, обязана выстроить устойчивые внутренние протоколы и механизмы проверки. Подобные меры призваны гарантировать предсказуемое поведение технологий, а также позволить быстро находить и нейтрализовать любые возникающие риски.
В рамках достигнутых договоренностей стороны решили внедрить четырехступенчатую систему аудита и мониторинга:
Во-первых, планируется запуск внутренних инструментов для отслеживания потенциала моделей и их соответствия критериям безопасности. Особое внимание будет уделено предотвращению угроз в сфере кибербезопасности, а также минимизации рисков, связанных с использованием ИИ в биологических и химических атаках. Также компании намерены пресекать любые попытки несанкционированного взлома технических систем с помощью нейросетей.
Во-вторых, будет сформирована специализированная внутренняя группа экспертов. Эта команда получит полномочия по надзору за функционированием систем обнаружения угроз и будет отвечать за оперативное исправление выявленных дефектов.
В-третьих, процесс проверки дополнит участие независимых внешних аудиторов. Сторонние оценщики будут проводить регулярную ревизию эффективности всех механизмов мониторинга и контроля.
В-четвертых, при советах директоров компаний будут учреждены независимые комитеты. Их задача — осуществлять общий надзор за работой внутренних и внешних групп, анализировать отчеты аудиторов и следить за тем, чтобы все обнаруженные проблемы своевременно устранялись.
Помимо структурных изменений, участники процесса обязались проводить систематические встречи. Эти сессии необходимы для формирования единых отраслевых стандартов и обмена наиболее эффективными методиками повышения защищенности систем.
В документе также подчеркивается, что в будущем данные инициативы могут трансформироваться в обязательные законодательные нормы или государственные регламенты. Тем не менее, технологические компании уже взяли на себя обязательство внедрять указанные меры безопасности в добровольном порядке, не дожидаясь введения принудительных государственных требований.
