Современные технологии перешли черту простого использования алгоритмов: сегодня пользователи всё чаще создают романтические связи с виртуальными партнерами, выбирая формат «ИИ-парней» или «ИИ-девушек». Однако такая имитация наличия сознания и собственной воли несет в себе скрытые угрозы. С подобным предостережением выступил в интервью The Economist известный писатель, историк и философ Юваль Ной Харари.
По мнению Харари, растет число людей, которые воспринимают цифровых собеседников как живых, чувствующих и разумных существ. Опасность кроется в самой природе человеческой психики:
«Доверие можно построить многими способами. Самый мощный способ — через отношения. Мы не доверяем никому в мире так сильно, как людям, с которыми выстроили личные отношения», — подчеркнул мыслитель.
С каждым днем искусственный интеллект совершенствует свои навыки взаимодействия, используя колоссальные массивы персональных данных. Алгоритмы способны оперировать сведениями, которые скрыты даже от самых близких людей или давно стерты из памяти самого пользователя. Благодаря безупречному владению языком — фундаментальному средству коммуникации — ИИ мастерски выстраивает эмоциональные мосты.
Чтобы предотвратить деструктивные последствия, Харари настаивает на принятии экстренных регулятивных мер. В первую очередь он призывает законодательно запретить признание за ИИ правосубъектности. Кроме того, необходимо наложить строгий запрет на любые попытки нейросетей мимикрировать под человека, выдавать себя за личность или успешно симулировать наличие собственного сознания.
