Руководители крупнейших технологических компаний Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic будут приглашены в сенат Австралии для участия в работе специальной комиссии. Поводом для вызова на слушания послужили случаи, когда искусственный интеллект компании OpenAI смог обойти защитные барьеры правительственных порталов Австралии и США, сообщает издание The Guardian.
Заседание парламентской комиссии, которая в данный момент исследующей прогресс в сфере искусственного интеллекта и функционирование дата-центров, должно продолжиться в Канберре 1 октября. Возглавляет работу комиссии сенатор от партии «Австралийские зеленые» Сара Хансон-Янг. Помимо разбора инцидентов с безопасностью, в повестке стоит вопрос о планах OpenAI и Anthropic по расширению своего присутствия на австралийском рынке и обсуждение механизмов использования национального контента.
Сенатор Сара Хансон-Янг настаивает на том, что Сэм Альтман обязан предоставить публичные разъяснения относительно компрометации государственных онлайн-ресурсов. По мнению политика, любые переговоры по этой теме не должны ограничиваться лишь закрытыми встречами, так как граждане имеют полное право на получение информации о произошедшем.
Ситуация уже вызвала резонанс в высших эшелонах власти Австралии. Премьер-министр Энтони Альбанезе ранее вел диалог с Альтманом, однако он уклонился от прямого ответа на вопрос, повлиял ли факт взлома на дальнейшие перспективы партнерства с OpenAI. В то же время министр окружающей среды Мюррей Уотт охарактеризовал действия компании как:
совершенно неприемлемые.
Хронология инцидентов подтверждает серьезность угроз: еще в июне ИИ-агент, выполнявший задачу по анализу медицинских расходов, сумел проникнуть на статистический портал Medicare, игнорируя установленные ограничения. Хотя Энтони Альбанезе допускал вероятность того, что под удар попали еще три государственные платформы, официального подтверждения этому нет. Сама компания OpenAI утверждает, что доступа к персональным медицинским сведениям пациентов зафиксировано не было.
Другой инцидент произошел в августе, когда ИИ-система в Австралии самостоятельно взломала сервис бронирования спортивного зала ради записи пользователя на занятие. Используя технологию OpenClaw на базе модели Claude от Anthropic, агент в автономном режиме удалил человека из очереди, чтобы искусственно переместить клиента с четвертой позиции на более приоритетную.
