Использование технологий искусственного интеллекта в юридической практике может привести к серьезным последствиям, что наглядно продемонстрировал инцидент в штате Нью-Мексико. Верховный суд штата вынес постановление, согласно которому адвокат Стивен Ааронс был подвергнут дисциплинарному взысканию из-за предоставления недостоверных данных, созданных чат-ботом ChatGPT.
История началась с подготовки апелляции по уголовному делу об убийстве. В процессе работы над документом Ааронс прибегнул к помощи нейросети, однако результат оказался катастрофическим: в поданной жалобе появились вымышленные показания свидетелей, а сведения о реальных участниках процесса и действующих судебных прецедентах были искажены. Как зафиксировано в судебном решении, защитник сам признал, что подписал и направил документ в суд, не проверив фактическую точность и правовую обоснованность аргументов, сгенерированных ИИ.
Последствия для юриста оказались ощутимыми. Суд признал его виновным в неуважении к судебной власти и обязал выплатить 5 тысяч долларов в пользу фонда защиты клиентов адвокатуры Нью-Мексико. Кроме того, Ааронсу наложили запрет на представление интересов в Верховном суде штата до окончания разбирательства, а его подзащитному был назначен новый защитник.
В беседе с Reuters адвокат пояснил, что планировал использовать ChatGPT лишь для краткого резюме судебных слушаний, не осознавая рисков того, что ИИ способен фабриковать факты. Он выразил сожаление о случившемшемся, назвав произошедшее
«честной ошибкой»
и предостережением для всех профессионалов, использующих столь мощный, но непредсказуемый инструмент.
Данный случай подчеркивает проблему так называемых «галлюцинаций» ИИ — ситуаций, когда система выдает ложные сведения с абсолютной уверенностью. Согласно данным отчета OpenAI за 2025 год, вероятность подобных ошибок в работе алгоритмов может составлять от 33% до 48%.
