Американский сенатор Берни Сандерс выступил с резкой критикой в адрес крупнейших представителей Кремниевой долины, обвинив их в разработке крайне опасной стратегии по созданию новой формы жизни, превосходящей биологического человека. В своей статье для издания The Atlantic политик подчеркнул, что идеи трансгуманизма, продвигаемые богатейшими людьми планеты, несут в себе угрозу самому существованию человечества в его нынешнем виде.
В качестве аргумента Сандерс приводит высказывания руководителя компании OpenAI Сэма Альтмана. В 2017 году этот предприниматель допускал, что развитие искусственного интеллекта (ИИ) даст людям возможность стать первым видом, способным самостоятельно проектировать своих потомков, хотя последствия подобного вмешательства в биологию остаются неопределенными. Сэм Альтман также обозначил жесткую дилемму: человечество либо исчезнет после запуска цифрового разума, либо интегрирует его в себя. По мнению главы OpenAI, процесс слияния человека с машиной уже замучен.
Подобные размышления разделяет и руководитель компании Anthropic Дарио Амодей. Он не исключает, что в будущем ИИ-модели могут получить определенные юридические права, поскольку вопрос наличия сознания у таких систем остается открытым.
Сенатор также обратил внимание на позицию владельца компании SpaceX Илона Маска. Предприниматель проводил аналогию между людьми и программным кодом, который служит лишь базовой операционной системой. Маск выразил убежденность, что использование человечества как «биологического загрузчика» для экспансии сверхинтеллекта к далеким звездам является отличным показателем успеха. С точки зрения Берни Сандерса, такие заявления фактически превращают людей в промежуточное звено на пути к господству цифрового разума.
К списку спорных фигур Сандерс добавил сооснователя компании Palantir Питера Тиля. В прошлом году этот бизнесмен не смог дать однозначного ответа на вопрос о желании сохранить человеческую расу, сославшись на сложность стоящих перед ним вопросов.
По мнению сенатора, фундаментом взглядов лидеров ИИ-индустрии является трансгуманизм — концепция, стремящаяся преодолеть биологические пределы человека через создание новых видов или симбиоз с технологиями. Сандерс задается вопросом, зачем вообще нужно выходить за рамки человеческой природы, и иронично описывает мотивы сторонников «постлюдей», которые стремятся к бессмертию, отсутствию ошибок и покорению Вселенной.
Политик подчеркнул, что если бы подобные идеи высказывали подростки, это вызвало бы лишь смех. Однако сейчас речь идет об убеждениях сверхбогатых людей, которые инвестируют триллионы долларов в реализацию своих амбиций. По словам Сандерса, эти вложения уже трансформируют реальность: машины начинают вытеснять людей, а видение будущего, предлагаемое олигархами, выглядит абсурдным и безответственным, поскольку оно не находит поддержки у большинства населения за пределами Кремниевой долины.
Контекст проблемы дополняется заявлениями других мировых лидеров. Глава МВФ Кристалина Георгиева ранее отмечала неизбежность глобального внедрения ИИ и необходимость подготовки к сопутствующим рискам. В то же время в конце августа Дарио Амодей из Anthropic призывал замедлить темпы прогресса в сфере ИИ, чтобы избежать потери контроля над технологией, что поддержали Сэм Альтман и Илон Маск.
О серьезности угроз также предупреждает нобелевский лауреат по физике Джеффри Хинтон, известный как «крестный отец ИИ». Он заявляет, что на текущем этапе у разработчиков нет инструментов для безопасного создания суперинтеллекта — системы, чьи когнитивные способности значительно превышают человеческие.
