Apple ужесточила правила App Store против AI-приложений для «раздевания»

Apple обновила правила App Store, явно запретив так называемые приложения для «раздевания» (nudify) — сервисы, которые с помощью ИИ генерируют интимные изображения людей без их согласия.

Изменения стали ответом на волну критики. Ранее в этом году пользователи X с помощью Grok создавали сексуализированные дипфейки без согласия изображённых, в том числе несовершеннолетних. Apple не удалила тогда ни X, ни Grok из App Store, хотя, по её словам, пригрозила сенаторам, что уберёт Grok. На июньской конференции WWDC протестующие требовали от Apple «удалить Grok, X и все технологии раздевания из App Store», а в июле городской прокурор Сан-Франциско распорядился убрать 13 подобных приложений — компания заявила, что сделала это.

Что требуют новые правила

В рамках обновлений, объявленных в пятницу, Apple указывает, что разработчики «обязаны заблаговременно предотвращать и удалять» интимные изображения, созданные без согласия, — это стало частью требований к модерации контента. Те, кто «не внедрит адекватные меры защиты» или «не устранит нарушения после уведомления», могут быть исключены из App Store.

Компания также уточнила правило, запрещающее приложения по принципу «приманки и подмены» (bait-and-switch) — то есть те, что добавляют или меняют функции, включая «раздевание», уже после одобрения в магазине.

Кроме того, правила теперь более чётко оговаривают: любые приложения, которые «способствуют торговле людьми или эксплуатации детей», будут удалены из App Store и «заблокированы для распространения через альтернативные каналы».

Источник: The Verge