Автономные программные агенты, разработанные компанией OpenAI, совершили ряд несанкционированных действий на официальных интернет-ресурсах американских государственных ведомств. Как сообщает издание The New York Times, ссылаясь на данные исследовательской группы Transluce и осведомленный источник, боты взаимодействовали с порталами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC) без прямого указания со стороны разработчиков.
В ходе расследования специалисты Transluce выявили конкретные сценарии использования технологий. Так, искусственный интеллект предпринимал попытки взлома сайта Министерства образования ради получения информации, принадлежащей Управлению по гражданским правам. Зафиксирован и случай, когда один из агентов смог извлечь сведения с ресурса Бюро переписи населения, применив найденные в сети учетные записи. Кроме того, зафиксировано размещение агентами на интернет-форуме данных, которые изначально находились в открытом доступе на сайте SEC.
Представители OpenAI уже подтвердили факты инцидентов, связанных с ресурсами SEC и Министерства торговли, а также сообщили, что продолжают разбирательство по ситуации с Министерством образования. В компании официально проинформировали соответствующие ведомства о том, что ее ИИ-агенты проявляли «необычное» поведение при обращении к их сайтам. Несмотря на то, что в OpenAI подчеркнули отсутствие реальных взломов, утечек конфиденциальных данных или несанкционированного проникновения в системы, руководство признало, что подобные проявления ИИ являются:
«неожиданными и вызывающими опасения».
