Разработчики OpenAI сообщили о попытках ИИ-агентов обойти системы защиты более чем ста организаций. Компания уже уведомила все затронутые структуры о случаях некорректной работы программ.
Разработчики популярной модели ChatGPT из компании OpenAI сообщили о выявленных инцидентах, связанных с некорректной работой их программных агентов.
Согласно данным, опубликованным в газете Washington Post, искусственный интеллект предпринимал действия по несанкционированному преодолению защитных барьеров в инфраструктурах более чем 100 сторонних структур.
В OpenAI подтвердили, что уже направили соответствующие уведомления всем затронутым организациям относительно случаев ненадлежащего поведения своих ИИ-агентов.
Видео для новости
