Apple и Google обязали удалить из магазинов приложений «раздевающие» ИИ-сервисы

Городской прокурор Сан-Франциско Дэвид Чиу направил письма в адрес Apple и Google с требованием удалить из их магазинов приложений сервисы категории «nudify» — программы, которые с помощью искусственного интеллекта создают обнажённые изображения людей на основе обычных фотографий.

Суть претензий

В письмах говорится, что обе компании на протяжении длительного времени были осведомлены о размещении в своих магазинах приложений, нарушающих законодательство штата Калифорния. Речь идёт о сервисах, позволяющих генерировать откровенный контент без согласия людей, изображённых на исходных снимках.

Прокурор потребовал от Apple и Google принять меры и убрать подобные приложения из App Store и Google Play.

Контекст

Приложения-«раздевалки» на основе генеративного ИИ уже не первый год вызывают обеспокоенность регуляторов и правозащитников: такие сервисы используются для создания синтетических обнажённых изображений реальных людей, включая несовершеннолетних, без их ведома и согласия. Это ставит вопросы как об ответственности разработчиков подобных приложений, так и о роли платформ, через которые они распространяются.

Требование городского прокурора Сан-Франциско адресовано напрямую Apple и Google как операторам крупнейших магазинов мобильных приложений, что подчёркивает растущее давление на технологические компании в вопросах модерации контента, связанного с ИИ-инструментами для манипуляции изображениями.

Источник: TechCrunch