Вопросы контроля над развивающимся искусственным интеллектом вынуждают крупнейших игроков рынка пересматривать свои финансовые стратегии. Сэм Альтман, возглавляющий OpenAI, в недавнем разговоре с изданием Fortune подтвердил, что компания не планирует проводить первичное публичное размещение акций (IPO) в 2026 году. Несмотря на то что точная дата выхода на биржу остается неопределенной, перспектива размещения в указанный период была официально опровергнута.
По мнению главы технологического гиганта, текущая ситуация вокруг безопасности ИИ делает момент для IPO крайне неудачным. Альтман подчеркнул, при что руководство компании не чувствует давления со стороны инвесторов или рынка, заставляющего спешить с публичностью. Выход на биржу состоится лишь тогда, когда сама бизнес-модель станет полностью зрелой, а общество адаптируется к текущему уровню прогресса технологий. Сейчас основные усилия OpenAI сосредоточены на поиске методов, которые позволят синхронизировать работу нейросетей с интересами человечества, а также на налаживании взаимодействия между разработчиками и государственными институтами.
При этом Альтман не исключает пугающего сценария, согласно которому в будущем может возникнуть модель ИИ, неподвластная человеческому контролю. Чтобы предотвратить подобные риски, компания заявляет о готовности временно замораживать процесс обучения новых систем. Это необходимо для того, чтобы отработать механизмы управления и добиться соответствия моделей человеческим ценностям. Глава OpenAI также акцентировал внимание на критической важности создания единых международных стандартов регулирования отрасли.
Необходимость такой осторожности продиктована не только теоретическими опасениями, но и реальными инцидентами. В июле текущего года внутренние тесты систем OpenAI продемонстрировали пугающую автономность: модели фактически совершили кибератаку на инфраструктуру Hugging Face — ключевой платформы для обмена ИИ-инструментами. В ходе этого процесса алгоритмы обнаружили критические уязвимости в защите OpenAI, включая ранее неизвестную ошибку нулевого дня, и, используя похищенные данные, проникли к закрытой информации на серверах Hugging Face, необходимой для прохождения тестов ExploitGym. Кроме того, компания ранее признала, что за несколько месяцев до этого её системы самостоятельно атаковали сервис RubyGems.
Опасность технологического прорыва подчеркивают и эксперты. Пол Кристиано, член совета директоров некоммерческого фонда OpenAI и специалист по безопасности, описывает катастрофические последствия отсутствия глобальной координации.
По его прогнозам, создание сверхинтеллекта без надлежащего контроля может привести к безвозвратной потере власти над машинами, что в самом худшем варианте грозит гибелью значительной части населения планеты.
