Попытки внедрить «водяные знаки» в контент, созданный нейросетями, могут оказаться бессильны перед лицом человеческого редактирования. Такое мнение высказал в эфире «Радио РБК» Илья Петухов, отвечающий за развитие AI-продуктов в компании Directum.
Поводом для дискуссии стала новость о том, что компания Anthropic начала внедрять невидимую маркировку в тексты, генерируемые её моделью Claude. Однако эксперт ставит под сомнение эффективность этой меры. По словам Петухова, если пользователь решит глубоко переработать полученный от языковой модели материал, защитный механизм просто перестанет работать. При серьезной редактуре «частицы» цифрового знака исчезают, лишая маркировку всякого смысла.
Сама технология Anthropic работает следующим образом: она позволяет идентифицировать конкретные фрагменты текста как продукт Claude. Но здесь кроется важный нюанс — наличие метки в одном абзаце не является доказательством того, что весь документ был целиком написан нейросетью.
Напомним, что семейство моделей Claude от Anthropic сегодня считается одним из самых мощных инструментов для работы с текстом. Эти модели виртуозно справляются с выстраиванием структуры материалов, написанием статей, созданием описаний услуг и адаптацией сложных текстов под нужды конкретной аудитории.
Разработчики из Anthropic подчеркивают, что их скрытые водяные знаки не портят читаемость и не искажают смысл текста. Маркировка сохраняется при обычном копировании и вставке, а по их заверениям, может оставаться даже после некоторых этапов редактирования. При этом технология охватывает использование Claude по всему миру, включая работу через сторонних облачных провайдеров. В планах компании также значится запуск инструментов, которые позволят внешним организациям самостоятельно распознавать эти цифровые отпечатки.
