В беседе с изданием The Times Джеффри Хинтон, чье имя прочно ассоциируется с понятием «крестный отец» ИИ, выразил серьезную обеспокоенность будущим цивилизации. Нобелевский лауреат предупредил, что создание мощных интеллектуальных систем несет в себе потенциальную катастрофу для всего человеческого рода.
Главная проблема, по мнению ученого, заключается в том, что современная индустрия не располагает инструментами для безопасного проектирования «суперинтеллекта» — технологий, чьи когнитивные способности окажутся намного выше человеческих. Хинтон убежден, что в научном сообществе до сих пор не достигнуто единства мнений относительно того, как гарантировать полный контроль над такими системами и исключить риски при их эксплуатации.
«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — подчеркнул эксперт.
По его словам, ситуация, когда разумная машина превзойдет человека, а мы утратим над ней власть, способна обернуться трагедией, вплоть до полного исчезновения людей с лица Земли.
