Anthropic запустила инструмент проверки файлов на «происхождение от Claude»

Anthropic выложила на своём сайте инструмент, позволяющий проверить, причастен ли Claude к созданию того или иного файла. Работает он прямо в браузере: пользователь перетаскивает файл в окно, и проверка происходит локально — по заверению компании, файл не покидает устройство, не сохраняется и не используется для каких-либо иных целей. Инструмент лишь считывает встроенные метаданные, но не сам контент.

Что именно проверяется

Anthropic маркирует создаваемое содержимое двумя способами. Тексты — например, черновик письма или эссе — получают водяной знак в самой ткани написанного. Файлы же (изображения, аудио, видео) при скачивании снабжаются так называемым content credential: небольшой криптографически подписанной пометкой в метаданных о том, что файл был сделан или обработан с участием Claude.

Представленный инструмент распознаёт только этот content credential. Он показывает, был ли задействован Claude при производстве файла, но не способен определить, участвовал ли Claude в создании самого содержания, и не раскрывает никакой информации о пользователе.

Отраслевой стандарт C2PA

В основе лежит открытый стандарт C2PA — тот же, что используют производители фотокамер и разработчики программ для редактирования изображений, чтобы фиксировать происхождение снимка. Прочитать такую пометку способен любой инструмент, поддерживающий C2PA; если она указывает на Claude, сайт сообщит об этом.

Поддерживается широкий набор форматов: изображения (JPG, PNG, GIF, WEBP, TIFF, HEIC, AVIF, SVG, DNG, JXL), видео (MP4, MOV, AVI) и аудио (WAV, MP3, M4A, FLAC) — размером до 100 МБ. Anthropic отмечает, что аналогичные инструменты уже предлагают и другие поставщики моделей, включая OpenAI и Google DeepMind.

А как с текстом

Для обнаружения водяных знаков в тексте у компании есть отдельный Detection API. Пока он доступен лишь в закрытом превью для отдельных организаций — как того, по словам Anthropic, требует законодательство ЕС.

Появление подобных инструментов вписывается в общую тенденцию: по мере распространения генеративных моделей вопрос о происхождении контента становится всё острее, и вендоры пытаются предложить хоть какие-то средства его отслеживания. При этом стоит понимать ограничения: метаданные C2PA привязаны к файлу и легко теряются, стоит, например, сделать скриншот или пересохранить изображение сторонним редактором.

Источник: Lobsters