Meta размещала рекламу со сгенерированными ИИ материалами о насилии над детьми

Издание WIRED со ссылкой на данные исследовательской группы Tech Transparency Project (TTP) сообщает, что за последние девять месяцев Meta пропустила к показу десятки платных рекламных объявлений с материалами о сексуальном насилии над детьми, включая изображения, сгенерированные искусственным интеллектом. Реклама крутилась на Facebook, Instagram, Messenger и Threads и была нацелена на пользователей из США, Великобритании и более чем десятка европейских стран.

В рекламной библиотеке Meta — инструменте прозрачности, который каталогизирует показанные объявления, — исследователи нашли свыше 50 изображений и видеороликов с недопустимым содержанием. Часть из них вела на так называемые nudify-приложения, «раздевающие» людей на фотографиях. Как подчёркивает директор TTP Кэти Пол, речь идёт не о пользовательском контенте, а именно о рекламе, которую Meta проверила, одобрила и допустила к показу, получив за это деньги.

Как это работало

По описанию исследователей, одно из видео использовало кадр с ребёнком и подпись с предложением «воплотить фантазии» с помощью ИИ; при нажатии лицо ребёнка подставлялось в сцену полового акта. Другое объявление многократно публиковалось с изображением девочки в откровенной позе. Большинство роликов уже не показывались активно, но месяцами оставались доступны в библиотеке. При этом как минимум одно объявление охватило более 2,5 тысячи аккаунтов в Европе, а полные данные по США компания не раскрывает.

Реакция и масштаб

После обращения WIRED компания удалила объявления как нарушающие её правила. Представитель Meta заявил, что охват большинства из них был минимальным, многие были отключены заранее, а часть предшествовала недавно внедрённым ИИ-инструментам для блокировки нарушений при загрузке. Компания также напомнила, что за прошлый год удалила более 36 миллионов единиц контента с сексуальной эксплуатацией детей и подавала иски против разработчиков nudify-приложений.

Однако новые инструменты сработали не полностью: пока готовилась публикация, TTP обнаружила ещё около 30 объявлений, многие из которых появились уже после запроса WIRED и были активны. Пол отмечает, что среди них попадались ранее удалённые ролики — то есть системы Meta способны опознавать идентичные объявления, но не всегда их снимают.

Большинство объявлений размещали аккаунты почти без подписчиков; там, где рекламодатель был указан, следы вели к китайским компаниям. Часть роликов рекламировала приложение MaskAI из App Store, которое Apple удалила после обращения журналистов. Ранее, в июле, BBC находила в Instagram рекламу продажи подобных материалов в Индии.

Эксперт Алексиос Мандзарлис, отчитавшийся о более чем 25 тысячах объявлений nudify-сервисов на площадках Meta, называет причиной живучести этой индустрии «робкое правоприменение» платформ: злоумышленники быстро создают новые аккаунты и домены, действуя по схемам мошеннических сетей.

Источник: Hacker News