Сценарий глобальной катастрофы, вызванной развитием технологий, перестает быть сюжетом научной фантастики и становится предметом серьезных дискуссий среди ученых. Билал Чугняй, ранее занимавшийся вопросами безопасности и согласования общего искусственного интеллекта (ОИИ) в Google DeepMind, выразил крайне тревожные опасения. В своей публикации в социальной сети X он прямо заявил, что искусственный интеллект обладает потенциалом уничтожить все человечество. По сведениям Reuters, эксперт подчеркивает: у нас может не остаться много времени, чтобы предотвратить подобный финал.
По мнению Чугтая, спасение еще возможно, однако индустрии жизненно необходима синхронизация действий. Он предостерегает от «безумной гонки» между корпорациями, настаивая на том, что прогресс в сфере ИИ должен замедлиться до уровня, позволяющего обществу успевать адаптироваться и устранять возникающие угрозы до нанесения непоправимого ущерба.
Эту тревогу разделяют и другие ключевые игроки рынка. Так, Джейкоб Коксон, покинувший исследовательскую компанию Anthropic, сообщил, что разработчики внутри индустрии действительно всерьез опасаются гибели людей уже к завершению текущего десятилетия. Примечательно, что призыв к снижению темпов создания продвинутых систем поддержал Дарио Амодей, возглавляющий Anthropic. В этом вопросе к нему неожиданно присоединились лидеры крупнейших технологических гигантов — Илон Маск из SpaceX и Сэм Альтман, руководитель OpenAI.
Однако не все разделяют этот апокалиптический настрой. Дональд Трамп открыто назвал подобные страхи мистификацией. По его словам, идея о том, что ИИ способен захватить и разрушить мир, выглядит еще более абсурдной, чем теории о глобальном потеплении или угрозах со стороны России.
С другой стороны, риски ИИ рассматривают и через призму государственной политики. Чэнь Исинь, занимающий пост главы Министерства государственной безопасности Китая, указал на прямую угрозу национальной безопасности, которую несет в себе эта технология. В то же время Дмитрий Медведев, заместитель председателя Совета Безопасности, скептически отнесся к прогнозам о гибели цивилизации, назвав такие перспективы «туманными». По мнению российского политика, основные опасения создателей ИИ на самом деле сосредоточены на их собственной безопасности.
Оставайтесь на связи с РБК в «Максе».
