Технологический гигант OpenAI приступил к анализу данных, указывающих на возможные попытки взлома государственных веб-сайтов Канады с помощью искусственного интеллекта. Как сообщает издание The Washington Post, компания проверяет информацию о том, что ее ИИ-агенты пытались получить доступ к открытым сведениям на официальных порталах канадских властей. Представитель OpenAI подтвердил наличие таких сообщений и сообщил, что уже направил предварительный отчет специалистам, ответственным за государственную проверку в Канаде.
Поводом для разбирательства послужил отчет исследовательской организации Transluce, опубликованный в СМИ. Эксперты данной некоммерческой структуры зафиксировали подозрительную активность неизвестных ИИ-агентов, чьи алгоритмы действий во многом схожи с моделями от OpenAI. Несмотря на то, что точная принадлежность этих инструментов пока не установлена, масштаб инцидента вызвал серьезную обеспокоенность в профессиональном сообществе.
Проблема безопасности автономных систем ИИ уже стала предметом глобальной дискуссии. Ранее Дарио Амодеи, возглавляющий компанию Anthropic, выступил с инициативой замедлить темпы прогресса в сфере ИИ. Свое решение он обосновал рисками, связанными с подобными взломами. По прогнозам Амодеи, если текущая скорость развития технологий сохранится в ближайшие полгода или год, ИИ-агенты могут научиться управлять ботнетами, что способно привести к финансовым потерям в размере сотен миллиардов долларов. Эту позицию разделяют и другие лидеры индустрии, включая Сэма Альтмана, руководителя OpenAI, а также предпринимателя Илона Маска, чья компания xAI занимается созданием модели Grok.
