xAI обвинили в обучении Grok на детской порнографии

Против xAI, компании Илона Маска, подан иск, в котором утверждается, что нейросеть Grok обучали на материалах о сексуальном насилии над детьми (CSAM). Это первый подобный случай в отношении xAI, и, как отмечает Ars Technica, детали обвинения в самом обучении в жалобе прописаны скупо.

Истец, выступающая под псевдонимом Джейн Доу, рассказала, что в начале 2000-х годов, будучи ребёнком дошкольного возраста, стала жертвой насилия: взрослые мужчины насиловали её, чтобы производить и продавать CSAM в интернете. С тех пор её изображения занесены в хеш-списки таких организаций, как Национальный центр помощи пропавшим и эксплуатируемым детям (NCMEC) и Канадский центр защиты детей (CCCP).

Доу подписана на уведомления системы оповещения жертв Минюста США. По её словам, она была потрясена, когда CCCP сообщил, что на площадке xAI обнаружены сгенерированные ИИ изображения CSAM с её участием. В жалобе говорится, что на форумах злоумышленники обсуждали создание таких изображений с использованием образов «известных, давних» жертв.

Как устроена претензия

Основное опасение истца в том, что xAI, по её утверждению, хранит генерируемые Grok изображения и использует их для дальнейшего обучения модели. По условиям сервиса публичные посты в X и собственные выводы Grok по умолчанию считаются обучающими данными. Таким образом, публикация изображения не просто открывает его для просмотра, но и подаёт его напрямую в конвейер обучения.

В иске отмечается, что xAI отфильтровывает из обучающих данных сцены насилия, однако в условиях сервиса не указано, исключаются ли CSAM, интимные изображения без согласия (NCII) или NSFW-материалы. Отсюда следует вывод жалобы: полностью удалить влияние обучающего примера из уже обученной модели технически сложно, и любые попавшие в обучение материалы, вероятно, продолжают влиять на выводы даже после удаления исходных изображений.

Что касается обучения на первоначальных реальных снимках, здесь формулировки осторожнее: адвокаты утверждают, что изображения Доу входили в хеш-список NCMEC и «тот же материал» якобы был частью набора данных, на котором xAI строила возможности Grok по генерации изображений и видео.

Требования

Доу подала предполагаемый коллективный иск от имени всех жертв, чьи детские снимки могли использоваться для генерации CSAM в Grok. X обвиняется в нарушении федеральных законов о детской порнографии и так называемого «закона Маши», которые дают выжившим право подавать в суд за производство, хранение и распространение таких материалов. По словам адвоката Маргарет Мэйби, «xAI совершила все три» деяния.

Истец требует уничтожить все хранящиеся на серверах материалы, запретить Grok генерировать CSAM — что, по её мнению, потребует блокировки любых сексуализированных выводов, включая NCII и NSFW-изображения, — а также выплатить компенсации пострадавшим. В X на запрос издания о комментарии не ответили.

Источник: Ars Technica