Потеря управления сверхразумом может обернуться гибелью большинства жителей Земли. К такому пугающему сценарию призывает Пол Кристиано, эксперт по безопасности искусственного интеллекта. О грядущих рисках стало известно из публикации Financial Times.
Недавнее назначение Кристиано в совет директоров некоммерческого фонда OpenAI — структуры, курирующей коммерческий сектор создателей ChatGPT — примечательно тем, что специалист не оставит государственную службу. Он продолжит исполнять обязанности старшего технического советника в Центре стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли США.
Сам Кристиано не скрывает своих опасений. В момент вступления в новую должность он прямо заявил:
«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем контроль. Если это произойдет, то большинство людей могут погибнуть».
Эксперт уверен, что единственный путь к спасению — это выстраивание плотного взаимодействия как между государствами, так и внутри отдельных стран. При этом он критикует текущее состояние отрасли, утверждая, что такие гиганты, как OpenAI, пока не смогли довести механизмы безопасности до необходимого уровня.
По мнению аналитиков FT, приход Кристиано в совет директоров отражает важный тренд: технологические лаборатории начали активно привлекать специалистов из политики и академической среды. Это происходит на фоне череды серьезных инцидентов в сфере кибербезопасности, которые спровоцировали мощную волну требований со стороны правительств по усилению контроля.
К тревожным прогнозам присоединяются и другие титаны индустрии. Так, на этой неделе издание The Times цитировало Джеффри Хинтона — нобелевского лауреата и человека, которого принято называть «крестным отцом» ИИ. Он предупредил, что создание сверхмощных систем несет в себе катастрофические риски, поскольку на текущем этапе компании попросту не способны гарантировать безопасность разработки «суперинтеллекта» — технологий, чьи возможности значительно превзойдут человеческий разум.
