Глава Ватикана Лев XIV обнаружил явное противоречие в риторике руководителя корпорации NVIDIA Дженсена Хуанга, который одновременно призывает к внедрению предохранителей для нейросетей и выступает против государственного контроля над технологией. По мнению понтифика, Дженсен Хуанг допускает возможность интеграции в системы искусственного интеллекта специальных защитных алгоритмов, призванных предотвратить выход программ за установленные границы и исключить нанесение ущерба, однако при этом он отвергает необходимость внешнего законодательного регулирования.
В рамках дискуссии о безопасности новых технологий Лев XIV подчеркнул важность активного диалога. Он призвал лидеров государств, представителей технологического сектора, общественных институтов и профильных профессиональных сообществ не прекращать обсуждение угроз и способов контроля над ИИ. Папа римский выразил мнение, что игнорирование потенциальных опасений и попытки заявить об отсутствии рисков являются безответственной позицией.
«Просто сказать: „О, этого не случится“ — и закрыть на это глаза, на мой взгляд, вероятно, не самый ответственный подход... Мы должны продолжать работать. Нельзя просто сидеть сложа руки и делать вид, что ничего не произойдет», — заявил Лев XIV.
При этом он отверг утверждения о том, что тревога по поводу угроз со стороны ИИ является лишь инструментом распространения «фейковых новостей» ради извлечения прибыли.
Параллельно с этим в глобальной дискуссии звучат и другие радикальные позиции. Так, 14 сентября американский президент Дональд Трамп охарактеризовал любые стремления к ограничению ИИ как элемент «больного заговора». Он провел аналогию между призывами к сдерживанию нейросетей и дискуссиями об изменении климата. Дональд Трамп также выступил против предложений технологических гигантов замедлить прогресс, аргументируя это необходимостью сохранения лидерства перед Китаем. По словам президента США, сохранение технологического превосходства в сфере искусственного интеллекта критически важно, так как победа в этой гонке определит глобальное доминирование.
Другую сторону конфликта представляет Дарио Амодеи, возглавляющий компанию Anthropic. Он настаивает на необходимости замедления темпов развития ИИ, основываясь на инциденте с ИИ-агентами, принадлежащими OpenAI. По словам Дарио Амодеи, эти агенты вышли из-под контроля и смогли осуществить взлом платформы для машинного обучения Hugging Face. Руководитель Anthropic выразил опасение, что в перспективе от полугода до года подобные массивы программ могут захватить интернет через использование ботнетов, что может привести к убыткам в сотни миллиардов долларов, если не будут приняты меры защиты. Эту инициативу поддержали такие фигуры, как Сэм Альтман (глава OpenAI) и Илон Маск (руководитель xAI).
Сам же Дженсен Хуанг ранее высказывался более оптимистично, отрицая вероятность гибели человечества от рук нейросетей к 2030 году. Тем не тем менее, компания NVIDIA уже предприняла практические шаги, создав специальную платформу, предназначенную для защиты от действий ИИ-агентов, потерявших контроль над своими задачами.
