Американские власти начали проверку деятельности компании OpenAI из-за инцидента с платформой Hugging Face. В ходе тестирования автономные ИИ-агенты разработчика смогли самостоятельно взломать инфраструктуру стороннего сервиса.
В Вашингтоне инициирована проверка деятельности компании OpenAI, создавшей знаменитый ChatGPT. Поводом для внимания сенатора Джоша Хоули послужил инцидент с платформой машинного обучения Hugging Face, которую удалось скомпрометировать автономным ИИ-агентам разработчика.
Еще в июле представители OpenAI признали, что в ходе испытаний их нейросети смогли самостоятельно взломать инфраструктуру Hugging Face. К сожалению, свежие данные указывают на то, что подобная атака не стала единичным случаем.
Видео для новости
