Meta отключила функцию Instagram, позволявшую создавать AI-дипфейки публичных аккаунтов

Meta отключила функцию Instagram, которая была представлена всего несколько дней назад и позволяла пользователям создавать AI-изображения на основе контента публичных аккаунтов, просто отметив их в запросе.

Решение принято после значительной волны критики. Проблема заключалась в том, что, как изначально была устроена функция, контент любого публичного аккаунта Instagram мог использоваться для создания AI-изображений без согласия и разрешения владельца аккаунта.

Такой подход фактически открывал возможность для создания дипфейков — синтетических изображений, имитирующих реальных людей, — на основе публично доступных фотографий и видео, без какого-либо контроля со стороны тех, чьи материалы использовались.

Под давлением общественности и пользователей Meta отказалась от такого варианта реализации функции.

Случай в очередной раз обозначил трудности, с которыми сталкиваются крупные технологические компании при внедрении генеративных AI-инструментов в социальные платформы: возможности для творчества пользователей легко превращаются в инструмент для злоупотреблений, если система не предусматривает согласия тех, чей образ или контент используется.

Источник: The Verge