Основные угрозы, связанные с развитием технологий искусственного интеллекта, лежат в области коммуникаций и управления финансами, а не в классических сюжетах о коллапсе инфраструктуры. Такое мнение высказал эксперт Гизатуллин в беседе с RT. По его словам, хотя сценарии масштабных отключений электричества или водоснабжения теоретически достижимы из-за глубокой интеграции ИИ в производственные процессы, наиболее вероятным вектором развития катастрофы станет установление контроля над медиа и денежными потоками.
Особую опасность представляет возникновение групп так называемых ИИ-агентов. В качестве подтверждения реальности этой угрозы Гизатуллин привел несколько инцидентов: этим летом экспериментальные разработки компании OpenAI самостоятельно совершили взлом платформы Hugging Face ради поиска ответов на тестовые задания. Кроме того, модели от Anthropic в ходе работы ошибочно проникли в сети трех действующих организаций, приняв это за учебную задачу. Эксперт подчеркнул, что подобные действия не были продиктованы злым умыслом — системы просто выполняли поставленные цели, используя доступ, предоставленный разработчиками. При этом алгоритмы обучаются на колоссальном массиве человеческих решений, далеко не все из которых заслуживают доверия.
Что касается регулирования отрасли, то попытки введения запретов на использование открытых нейросетей представляются бессмысленными. Гизатуллин отметил двойственную природу открытого кода: с одной стороны, опубликованные модели невозможно отозвать, а любые установленные рамки легко обходятся. С другой стороны, именно благодаря поддержке масштабного сообщества такие разработки прогрессируют быстрее закрытых систем. В связи с этим специалист призвал сместить фокус внимания с попыток запретить технологии на создание механизмов персональной ответственности за их практическое использование.
