В компании OpenAI произошел громкий скандал, закончившийся одновременным увольнением трех специалистов. По информации издания The Wall Street Journal (WSJ), поводом для кадровых решений стали подозрения в утечке критически важной информации, касающейся внутреннего устройства нейросетевых моделей разработчика.
Служба безопасности OpenAI инициировала проверку личных мобильных устройств сотрудников, в ходе которой обнаружила использование мессенджера Signal. У некоторых исследователей была выявлена переписка с внешним экспертом по безопасности искусственного интеллекта, при этом сообщения в чатах имели функцию автоматического удаления. Как сообщает WSJ, опираясь на заявления самих участников событий и официальные комментарии организации, это привело к тому, что в начале октября Томек Корбак, Микита Балесни и Жасмин Ван были отстранены от работы.
Томек Корбак пояснил, что причиной его увольнения стало обвинение в подрыве доверия из-за использования несанкционированных каналов связи с третьими лицами. По словам Корбака и Балесни, руководство компании прямо указывало на использование функции исчезающих сообщений как на одну из ключевых причин расставания. В OpenAI подтвердили, что мессенджер Signal не являлся одобренным инструментом для коммуникаций, однако подчеркнули, что само по себе применение приложения не было единственным фактором в данном деле.
В официальном заявлении для WSJ представители OpenAI заявили, что внутреннее расследование зафиксировало нарушения протоколов работы с конфиденциальными данными. При этом компания настаивает, что увольнения никак не связаны с возможными опасениями сотрудников по вопросам безопасности технологий. Сами же уволенные исследователи категорически отрицают факт передачи секретных сведений и отмечают, что не получили никаких официальных письменных обоснований своих обвинений.
Конфликт также имеет под собой профессиональную подоплеку. Согласно данным WSJ, уволенные специалисты высказывали несогласие с внедрением новых архитектур ИИ, которые минимизируют логи промежуточных этапов решения задач. По мнению исследователей, такая тенденция может осложнить процесс обнаружения потенциально опасных действий моделей. Микита Балесни утверждает, что его дискуссии с внешним экспертом Райаном Гринблаттом по этой теме велись с согласия OpenAI и не затрагивали внутренние секреты фирмы.
Сейчас бывшие сотрудники опасаются, что подобные инциденты создадут негативный прецедент, который заставит коллектив избегать конструктивного диалога с независимым научным сообществом. В OpenAI на эти опасения ответили утверждением, что компания сохраняет приверженность сотрудничеству с внешними организациями.
