OpenAI внедряет текстовые водяные знаки в ChatGPT и Codex — пока только в ЕС

OpenAI начинает встраивать невидимые, читаемые машиной водяные знаки в текст, который выдают ChatGPT и Codex. В ближайшие недели функция под названием textGrain станет доступна пользователям всех тарифов — но исключительно в Евросоюзе. Делать её глобальной по умолчанию компания пока не намерена: региональный запуск нужен, чтобы собрать отклики и понять, как технология ведёт себя на практике.

Причина такого шага — требования европейского AI Act. По той же логике ещё в августе о своих водяных знаках объявила Anthropic. Любопытно, что обе компании опираются на одну основу — разработку SynthID for text от Google DeepMind. При этом OpenAI утверждает, что её собственный textGrain «сравнялся или превзошёл» другие подходы, включая SynthID.

Что метка умеет, а что нет

Компания приложила результаты тестов, показывающие, что текст с водяным знаком и без него работает в бенчмарках примерно одинаково — на качестве генерации метка не сказывается. Однако OpenAI тут же оговаривается: textGrain «не гарантирует надёжного распознавания». Водяной знак не подтверждает достоверность написанного, не устанавливает, кому принадлежит текст, не измеряет вклад человека и не доказывает авторство.

Для API всё устроено иначе: с сегодняшнего дня клиенты по всему миру смогут по желанию включать водяные знаки для избранных моделей. Так заказчики сами решают, как метка вписывается в их обязательства по прозрачности. Параллельно OpenAI договаривается с облачными партнёрами, чтобы знаки работали и при доступе к моделям через их сервисы.

Детектор — не для всех

Инструмент распознавания OpenAI не выкладывает в открытый доступ. Подать заявку с сегодняшнего дня могут одобренные исследователи и профильные организации — в согласии с Кодексом практик доступ дают точечно, по каждому случаю отдельно. Детектор сообщает лишь о том, обнаружен ли водяной знак OpenAI, не раскрывая ни личности пользователя, ни его запросов и переписок. Причина осторожности прозаична: метку можно и пропустить, и ложно «увидеть» там, где её нет.

Новость, как отмечает The Verge, встретили без всеобщего восторга — не все обрадовались такому нововведению.

Источник: The Verge