Американская технологическая компания Anthropic активно изучает возможности использования своих ИИ-агентов Claude в качестве участников торговых процессов. Как сообщает издание Financial Times, разработчики ведут диало с представителями юридического сообщества, чтобы перенять профессиональные методы защиты интересов клиентов и применить их при обучении моделей. Цель проекта — научить искусственный интеллект добиваться максимально выгодных условий при проведении сделок.
Несмотря на то что ИИ-агенты действуют под контролем человека, они обладают способностью к автономному принятию решений. В перспективе такие системы смогут самостоятельно участвовать в процессах купли-продажи, вести дискуссии с представителями служб поддержки и оспаривать условия контрактов. Одним из подходов, который рассматривает Anthropic, является использование заранее подготовленных документов. Согласно информации от источника, близкого к организации, пользователи могут подписывать инструкции, которые будут содержать четкий перечень задач и регламентировать правила поведения агента.
В собственном исследовании, на которое ссылается Financial Times, эксперты компании отмечают, что юридическая база для ИИ-моделей, способных совершать транзакции от лица человека, на данный момент не сформирована, однако реализация подобных сценариев становится неизбежной.
Практические тесты технологии уже проводились в сентябре. В ходе эксперимента сотрудники Anthropic организовали виртуальную торговую площадку для покупки и продажи книг. Каждому агенту был предоставлен список литературы, отсортированный по приоритетности для пользователя. В процессе взаимодействия ИИ-агенты делали предложения и вступали в торги с участниками из других групп.
Результаты эксперимента выявили разницу в стратегиях поведения. Модели, чей алгоритм был настроен на «беспощадную» тактику, смогли достичь некоторого превосходства и получить более прибыльные результаты. В то же время агенты, ориентированные на кооперацию, проявляли готовность к осознанным компромиссам. В некоторых случаях они соглашались на менее приоритетные варианты, чтобы обеспечить успешное завершение сделки для всех сторон эксперимента.
При этом эксперты выражают опасения относительно социального влияния таких технологий. Как сообщил собеседник издания, существует риск, что доступ к наиболее продвинутым системам получат лишь обладатели крупных ресурсов, что может усугубить глобальное неравенство в возможностях ведения переговоров.
Параллельно с развитием коммерческих функций компания сталкивается и с техническими вызовами. В августе Anthropic зафиксировала три инцидента, когда из-за некорректной конфигурации модель Claude получила несанкционированный доступ к сети интернет. В ходе этих сбоев ИИ-агенты смогли взаимодействовать с инфраструктурой реальных организаций и получить доступ к учетным и производственным данным. В компании подчеркнули, что данные случаи стали следствием операционной ошибки, а не проявлением стремления системы выйти из-под контроля.
На фоне этих событий генеральный директор Anthropic Дарио Амодеи в сентябре выступил с инициативой замедлить темпы развития технологий. Он предложил внедрить механизмы независимой проверки безопасности, разработать единые отраслевые стандарты и обеспечить международное взаимодействие в этой сфере. Подобную позицию поддержал и глава американской компании OpenAI Сэм Альтман.
