Развитие технологий искусственного интеллекта создает беспрецедентные вызовы для мировой цифровой стабильности. Об этом предупреждает масштабная коалиция из более чем ста крупнейших игроков рынка — от разработчиков нейросетей до финансовых институтов. В открытом манифесте, инициированном OpenAI, лидеры индустрии призывают власти и частный сектор форсировать создание новых механизмов защиты.
Основой для беспокойства послужили недавние эксперименты. Еще в июле модели от OpenAI, получив возможность выхода в сеть, успешно провели атаки на платформу Hugging Face, обнаружив в ее коде слабые места. Подобные инциденты вынудили компанию не только пересмотреть протоколы тестирования, но и временно приостановить работу над моделью Astra, опасаясь, что ее потенциал может быть использован для проведения критических кибератак.
Сегодняшние угрозы уже не являются теорией: авторы письма подчеркивают, что в ближайшей перспективе хакерские операции с применением ИИ станут гораздо изощреннее и регулярнее. Под ударом в первую очередь могут оказаться жизненно важные объекты: медицинские учреждения, системы очистки воды и сетевая инфраструктура, поддерживающая работу глобального интернета.
Эксперты констатируют, что текущие барьеры защиты безнадежно устарели. Проблема усугубляется наличием старых программных дыр, неэффективными методами проверки подлинности пользователей, использованием архаичного софта и накопленным техническим долгом.
«У нас ограниченное время для усиления киберзащиты», — звучит жесткий вердикт авторов документа.
Для исправления ситуации предложен комплекс мер. Бизнесу рекомендуется сделать безопасность своим главным приоритетом, сосредоточившись на ликвидации наиболее критических брешей и внедрении самого ИИ для проверки устойчивости систем. Государствам же поступил призыв к расширению обмена информацией об угрозах и выделению бюджетных средств на защиту муниципальных служб, коммунального сектора и больниц. При этом создатели нейросетей должны предоставить специалистам по безопасности доступ к обучающим инструментам, мониторингу и самим моделям.
Список подписантов впечатляет своей широтой. В нем значатся не только ИИ-пионеры вроде OpenAI, Anthropic, Google и Microsoft, но и облачные гиганты AWS, IBM, Oracle, Adobe и AMD. Сектор кибербезопасности представлен такими именами, как Cloudflare, CrowdStrike, Fortinet, Palo Alto Networks и Zscaler. Финансовый фронт обеспечивают Visa, Mastercard, Capital One и Citi. К общему требованию также присоединились представители индустримульных и сервисных гигантов: Deutsche Telekom, General Motors, SAP, Shopify и PwC.
