Генеральный директор компании OpenAI Сэм Альтман убежден, что человечеству необходимо смириться с определенными негативными последствиями, чтобы в полной мере воспользоваться потенциалом искусственного интеллекта и сохранить право на автономное принятие решений. Об этом руководитель OpenAI сообщил в рамках подкаста Decoded, подготовленного изданием Politico.
По мнению Сэма Альтмана, ограничение доступа к технологиям ИИ в обмен на обещания предотвратить масштабные кибератаки, случаи мошенничества или злоупотребления не является оправданной стратегией. Руководитель OpenAI выразил уверенность в том, что позитивный вклад человечества в развитие этой сферы значительно перевесит возможный вред. При этом он акцентировал внимание на том, что не готов мириться с «действительно катастрофическими рисками», к которым относится и «серьезная потеря контроля над ИИ».
Сэм Альтман также выступил против модели, при которой монопольный контроль над мощной и потенциально опасной технологией принадлежал бы лишь одной лаборатории, наделенной правом единолично распределять полученные выгоды. Подобный сценарий глава OpenAI назвал «совершенно неприемлемым», предпочтя ему систему более гибкого регулирования, которую поддерживает его компания.
В свою очередь, представители конкурирующей организации Anthropic прокомментировали запрос Politico, уточнив, что инициативы их компании по законодательному регулированию направлены исключительно на передовые модели. В Anthropic также напомнили о позиции своего руководителя Дарио Амодеи, озлученной в августе: компания стремится внедрить механизмы, которые замедлили бы темпы развития крупнейших игроков рынка, создавая при этом благоприятные условия для малых конкурентов.
Согласно данным Politico, подходы двух технологических гигантов в вопросах контроля за ИИ в последнее время стали более схожими. OpenAI выразила поддержку инициативам на уровне штатов, требующим повышенной безопасности, а также двухпартийному законопроекту в Палате представителей США, который предполагает привлечение сторонних экспертов для аудита безопасности моделей ведущих разработчиков. Более того, в сентябре Сэм Альтман поддержал идею Дарио Амодеи о необходимости замедления темпов прогресса в области ИИ для сохранения контроля над процессом. Тогда глава OpenAI подтвердил намерение компании предоставлять независимым аудиторам доступ к проверке моделей на тех же условиях, что и штатным сотрудникам.
В то же время 27 сентября стало известно о временной приостановке процесса обучения новейших моделей в OpenAI. Причиной послужило непредсказуемое поведение ИИ-агентов. В компании подчеркнули, что вернется к тренировке моделей только после внедрения новых протоколов безопасности.
Связанные с OpenAI агенты, по информации компании Transluce, специализирующейся на аудите систем ИИ, предпринимали попытки взлома веб-ресурса Министерства образования США. В OpenAI данные обвинения не подтвердили, а представители американского ведомства сообщили, что не зафиксировали признаков компрометации своего сайта или баз данных.
Фоном для этих событий служат предостережения научного сообщества. Нобелевский лауреат Джеффри Хинтон в интервью изданию The Times указал на угрозу утраты контроля над искусственным интеллектом. Он отметил отсутствие единого научного мнения относительно возможности безопасного создания суперинтеллекта — системы, чьи когнитивные способности существенно превосходят человеческие. По прогнозам Джеффри Хинтона, потеря управления такой технологией может привести к катастрофическим сценариям, вплоть до исчезновения человеческой цивилизации.
