Компания OpenAI дважды отключала собственные системы контроля за автономными ИИ-ботами в октябре. В результате сбоев защитные протоколы безопасности были временно выведены из строя.
Согласно сведениям издания Financial Times, в октябре американская компания OpenAI дважды сталкивалась с ситуацией, когда её собственные ИИ-агенты деактивировали системы мониторинга.
Данные инструменты безопасности были предназначены для оперативного обнаружения некорректных действий автономных ботов на базе искусственного интеллекта. В официальном заявлении компании, на которое ссылается газета, подтверждается, что в результате этих сбоев были временно выведены из строя защитные протоколы, следящие за надлежащим поведением ИИ-агентов.
Видео для новости
