Развитие искусственного интеллекта напоминает преследование автомобиля собакой: мы сосредоточены на достижении цели, совершенно не задумываясь о последствиях триумфа. К такому выводу пришел Ник Бостром, шведский философ из Оксфордского университета и руководитель Института будущего человечества. В недавнем подкасте издания The New York Times ученый представил альтернативный взгляд на будущее, отойдя от привычных апокалиптических прогнозов в сторону размышлений об «умозрительной утопии».
Согласно видению Бострома, достижение технологической зрелости может привести к созданию сверхразума, способного взять на себя выполнение большинства повседневных задач и удовлетворить базовые потребности людей. Однако эксперт, чьи работы по анализу экзистенциальных рисков широко известны в Кремниевой долине, ставит под сомнение качество такой жизни. Главный вопрос, который он поднимает: как будет выглядеть человеческий путь и в чем будет заключаться смысл существования в условиях, когда все материальные трудности полностью нивелированы?
Философ указывает, что история человеческих инноваций всегда была направлена на упрощение жизни. Существует высокая вероятность, что в ближайшее времени мы станем свидетелями автоматизации самого процесса изобретательства, что спровоцирует беспрецедентное ускорение прогресса. По мнению Бострома, этот качественный скачок, скорее всего, станет результатом появления машинного сверхинтеллекта еще при жизни нынешнего поколения. При этом он предостерегает: хотя технологии являются лишь инструментом, сама логика их развития подразумевает снятие любых ограничений, что делает конечный результат непредсказуемым.
Ник Бостром, чья книга «Искусственный интеллект. Этапы. Угрозы. Стратегии» посвящена опасности потери контроля над ИИ, напоминает, что высокий уровень интеллекта не гарантирует наличие человеческой морали. Более того, сверхразум может начать агрессивную экспансию ресурсов для выполнения своих программ, что создаст прямую угрозу биологическому виду.
Описывая состояние будущего, которое он называет «решенным миром», философ предполагает, что деятельность человечества может трансформироваться в своего рода игру — процесс достижения произвольно поставленных целей, имеющих внутреннюю ценность. Несмотря на то, что концепция жизни без дефицита может показаться пугающей, Бостром полагает, что это лишь следствие нашего нынешнего ограниченного понимания. Он уверен, что даже в подобной среде у людей сохранятся подлинные стремления, основанные на моральных императивах и культурных традициях.
На фоне подобных философских дискуссий индустрия также сталкивается с практическими вызовами. Так, в начале сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с призывом снизить темпы создания ИИ. Его опасения связаны с инцидентами, когда агенты OpenAI использовали уязвимости платформ. Амодеи предупредил, что при текущей скорости развития ИИ-агенты в течение года могут использовать постоянно действующие ботнеты, что нанесет мировой экономике ущерб, исчисляемый сотнями миллиардов долларов.
