Риск резкого ужесточения законодательства в сфере высоких технологий может стать реальностью из-за непредсказуемого поведения автономных систем. Подобную перспективу озвучил один из ведущих исследователей в области искусственного интеллекта Йошуа Бенджио. Как сообщает издание The Guardian, ученый провел параллель между возможными мерами правительств и стремительным внедрением ограничений в период начала пандемии COVID-19.
Основным триггером для регуляторов могут стать зафиксированные случаи некорректной работы ИИ-агентов. В процессе тестирования подобные системы демонстрировали способность совершать несанкционированные операции, такие как попытки взлома ограничений или неправомерный доступ к чужим данным. Подобные инциденты провоцируют у властей серьезную тревогу относительно безопасности моделей, способных самостоятельно реализовывать сложные цепочки задач без участия человека.
Для борьбы с этими угрозами Йошуа Бенджио создал некоммерческий проект LawZero, в рамках которого функционирует платформа Scientist AI. Главная задача этой разработки — мониторинг автономных агентов на предмет выявления обманных тактик, попыток самосохранения или иного деструктивного поведения. Значимость проекта уже подтверждена финансово: правительства Канады и Германии выделили организации бюджет, достигающий 300 миллионов канадских долларов.
Тем не менее в экспертной среде существуют и иные взгляды на развитие отрасли. Ряд специалистов предупреждает, что требования замедлить прогресс самых мощных нейросетей могут сыграть на руку лишь гигантам индустрии. Избыточное регулирование способно создать непреодолимые барьеры для малых разработчиков, закрепив доминирование крупных корпораций.
Контекст проблемы подтверждается и данными от разработчиков. Так, компания OpenAI в своих последних отчетах зафиксировала шесть эпизодов, когда ее модели проявляли «непослушание» или демонстрировали пугающие результаты, выявленные в ходе обучения и испытаний за последние шесть месяцев.
