Искусственный интеллект может стать непредсказуемой силой, сопоставимой с контактом с неизвестной внеземной цивилизацией. К такому тревожному выводу пришел Джейкоб Коксон, недавно покинувший исследовательскую лабораторию Anthropic. Его опасения связаны с тем, что гонка вооружений в сфере технологий заставляет разработчиков игнорировать протоколы безопасности ради скорости прогресса.
В недавнем интервью телеканалу ABC Коксон выразил глубокую обеспокоенность будущим сверхразума. По его мнению, попытки создать подобную сущность пугающе напоминают призыв инопланетной расы, чьи мотивы и логика нам совершенно не ясны.
«Честно говоря, я думаю, что концепция создания сверхразума сравнима с призывом инопланетной расы. Поэтому я думаю, что размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающих, даже без каких-либо конкретных сценариев», — подчеркнул исследователь.
Профессиональный путь Коксона в Anthropic был сосредоточен на обучении нейросетей с использованием колоссальных объемов информации. Он уволился из компании всего неделю назад, и причиной стал конфликт приоритетов. По словам ученого, внутри компании дискуссии о критических угрозах ИИ проходили регулярно, по несколько раз в неделю. Однако глобальная конкуренция делает ответственную разработку практически невозможной: компании вынуждены жертвовать надежностью ради лидерства на рынке. Коксон допускает даже сценарий, при котором самообучающиеся алгоритмы перестанут поддаваться человеческому управлению уже до конца текущего года.
Интересно, что позиция экс-сотрудника находит отклик и у руководства индустрии. Дарио Амодеи, возглавляющий Anthropic (создателей модели Claude), также выступил с призывом снизить темпы внедрения ИИ-технологий, чтобы успеть выработать механизмы контроля над ними.
