Новые требования европейского законодательства в сфере искусственного интеллекта вынудили компанию OpenAI внедрить систему скрытой маркировки контента. Как сообщили в пресс-службе OpenAI, в ближайшие недели текстовые ответы, созданные через сервисы ChatGPT и Codex, для пользователей в Европейском Союзе будут снабжаться невидимыми водяными знаками.
Основной причиной таких изменений стал Закон ЕС об искусственном интеллекте. Данный нормативный акт обязывает разработчиков обеспечивать возможность автоматического распознавания материалов, сгенерированных нейросетями. Для реализации этой задачи компания использует технологию под названием textGrain. Механизм работы системы заключается в модификации статистических параметров при выборе слов моделью в процессе генерации. Это создает едва уловимый сигнал, который остается незаметным для человеческого глаза. При этом в текст не внедряются лишние пробелы, специальные символы или иные знаки препинания. Для проверки наличия метки предусмотрен специализированный аналитика инструмент.
Тем не менее, использование textGrain сопряжено с определенными техническими трудностями. В OpenAI подчеркивают, что точность детекции напрямую зависит от длины текста. Кроме того, если материал подвергается глубокому редактированию, переводу на другие языки или значительной переработке, сигнал может стать неразборчивым.
Для корпоративного сектора и разработчиков, работающих через API OpenAI, функционал уже частично функционирует на ряде моделей. В настройках интеграции разработчики могут активировать эту опцию самостоятельно, так как по умолчанию система остается выключенной.
Подобный путь развития рынка демонстрирует и компания Anthropic, которая еще в августе интегрировала аналогичные невидимые метки в свои модели Claude. Представители Anthropic заявляли, что маркировка сохраняет читаемость и не искажает смысл, оставаясь устойчивой к копированию и частичным правкам.
Однако экспертное сообщество призывает к осторожности в оценках эффективности таких методов. Илья Петухов, отвечающий за развитие AI-продуктов в компании Directum, в интервью Радио РБК указал на уязвимость технологии.
Масштабная переработка текста может полностью уничтожить или существенно ослабить водяной знак.
Эксперт добавил, что наличие такой метки лишь подтверждает использование нейросети на определенном фрагменте, но не является неопровержимым доказательством того, что весь объем материала был произведен искусственным интеллектом.
