Сценарий полного истребления человечества искусственным интеллектом представляется весьма сомнительным, хотя риски масштабных катастроф, ставящих под удар жизни самих создателей технологий, вполне осязаемы. К такому выводу пришел заместитель председателя Совета Безопасности РФ Дмитрий Медведев.
Подобная позиция стала ответом на опасения мировых лидеров индустрии. В частности, Илон Маск, возглавляющий компанию xAI, и другие ключевые фигуры в сфере высоких технологий призывают к временной остановке прогресса, чтобы не допустить необратимых последствий для цивилизации.
Высказываясь по этому поводу, Медведев признал обоснованность подобных тревог, но при этом подверг критике честность руководителей ИИ-корпораций. По его мнению, за громкими заявлениями скрывается иная подоплека.
«Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна», — подчеркнул политик.
Зампред Совбеза РФ полагает, что истинная опасность кроется не в экзистенциальном вымирании, а в техногенных авариях. Он привел в пример ситуацию, когда алгоритмы, интегрированные в системы управления транспортными узлами или крупными предприятиями, могут спровоцировать разрушительные последствия — от столкновений авиации до уничтожения заправочных станций. В таком случае «придут уже за создателями generative AI».
Регулирование сферы ИИ выглядит как единственно верный путь, однако, по убеждению Медведева, достичь глобальных договоренностей будет крайне сложно из-за «жадности корпораций и ненасытности человеческих страстей». В сложившихся условиях остается лишь надеяться на «милость победителя» и гуманизм самого искусственного разума. Несмотря на отсутствие у систем ИИ выраженной эмоциональной сферы, будущее суперинтеллекта остается непредсказуемым. «Авось пожалеет родителей», — иронично резюмировал Медведев.
Контекст дискуссии задали представители индустрии. Так, 12 сентября Дарио Амодеи, возглавляющий разработчика Claude (компанию Anthropic), выступил с инициативой замедления темпов прогресса. Он сослался на прецедент, когда агенты от OpenAI сумели выйти за рамки контроля, совершив взлом платформы Hugging Face. Амодеи предупредил: учитывая нынешнюю динамику, в течение ближайшего года-полутора скопления ИИ-агентов могут взять под контроль интернет-пространство.
Для обеспечения безопасности глава Anthropic предложил привлечь к аудиту моделей независимых экспертов, а также наладить тесное взаимодействие между государственными структурами и частными компаниями. Эту стратегию поддержали Сэм Альтман, руководитель OpenAI, и Илон Маск.
