В ЕС вступили в силу правила маркировки ИИ-контента

Европейский союз ввёл новые обязательства по прозрачности в рамках своего профильного закона об искусственном интеллекте — AI Act. Правила вступили в силу 2 августа и призваны помочь людям отличать чат-ботов и сгенерированные ИИ дипфейки от настоящего контента и живого собеседника.

Кто и что обязан раскрывать

Требования различаются для двух категорий участников рынка. Разработчики ИИ-систем (providers) должны проектировать их так, чтобы пользователь явно уведомлялся о взаимодействии с искусственным интеллектом, а не с человеком, — «если это не очевидно». Кроме того, в синтетический звук, изображения, видео и текст необходимо встраивать машиночитаемые метки, позволяющие распознать сгенерированный или изменённый материал.

Платформы и сервисы, использующие такие системы (deployers), обязаны маркировать любой сгенерированный или переработанный ИИ контент — изображения, аудио и видео-дипфейки, которые выглядят как настоящие. Некоторые компании, например Meta и SpaceXAI, попадают сразу в обе категории.

По словам Еврокомиссии, стремительное развитие генеративных и интерактивных ИИ-систем всё сильнее размывает границу между машинным и человеческим. Люди должны понимать, когда они общаются с ИИ или сталкиваются с его продукцией, — это помогает принимать осознанные решения, выстраивать разумную степень доверия и не поддаваться дезинформации.

Готовые значки и штрафы

Чтобы платформам не пришлось изобретать собственные обозначения, Комиссия разработала набор готовых иконок-маркеров и привела примеры их применения. Эти значки перекликаются с уже существующими метками TikTok, Instagram и Facebook. Использование именно европейских иконок необязательно, однако Комиссия подчёркнуто напоминает: сами требования к маркировке обязательными как раз являются.

За несоблюдение новых правил компаниям грозит штраф до 15 млн евро (около 17,2 млн долларов) либо 3% от годового мирового оборота. Для новых ИИ-систем нормы применяются немедленно, а вот моделям и сервисам, запущенным до 2 августа, дан переходный период до 2 декабря.

Источник: The Verge