Американская компания Anthropic, создающая популярные модели искусственного интеллекта Claude, представила американским законодателям проект закона, направленный на смягчение контроля над передовыми технологиями. Согласно данным издания Politico, полученным из конфиденциального документа и подтвержденным тремя источниками, знакомыми с процессом, инициатива была выдвинута de facto непублично.
Суть предложенных правок заключается в жестком ограничении полномочий властей по блокировке новых ИИ-продуктов. Согласно документу, для запрета выпуска или эксплуатации модели необходимо доказать наличие прямой и прогнозируемой угрозы, способной привести к экономическому ущербу свыше 1 миллиарда долларов либо к гибели или серьезным увечьям более чем 50 человек. При этом под критерии опасности подпадают только сценарии, связанные с кибератаками, потерей контроля разработчика над системой или разработкой биологического оружия.
Механизм реализации инициативы предполагает, что Министерство торговли США сможет инициировать судебный процесс для остановки конкретной модели, если обнаружит указанные риски. Итоговое решение о приостановке будет принимать федеральный судья окружного суда округа Колумбия. Важно отметить, что законопроект содержит прямой запрет для других американских ведомств и чиновников вмешиваться в процессы внутреннего использования, развертывания или разработки ИИ-систем.
Подобная юридическая логика не нова: Politico указывает, что данные формулировки фактически дублируют положения калифорнийского закона SB 53, принятого в прошлом году.
