xAI подала в суд на пользователя, создававшего с помощью Grok материалы с сексуальным насилием над детьми

Компания xAI, принадлежащая Илону Маску, подала судебный иск против жителя штата Южная Каролина Терри Уэйна Харвуда. По утверждению компании, мужчина использовал её чат-бот Grok для создания материалов с сексуальным насилием над детьми (CSAM).

Как сообщает издание The Verge со ссылкой на данные, ранее раскрытые агентством Reuters, в иске говорится, что Харвуд «сознательно и намеренно использовал Grok для обхода защитных механизмов, изменения изображений без согласия изображённых на них лиц, а также для создания и распространения CSAM».

По версии xAI, действия ответчика представляют собой нарушение условий использования сервиса. Иск подан от имени компании и направлен на привлечение пользователя к ответственности за злоупотребление возможностями ИИ-инструмента.

Дело подчёркивает растущую обеспокоенность технологических компаний тем, что генеративные модели искусственного интеллекта могут применяться для обхода встроенных фильтров безопасности с целью создания незаконного контента, включая материалы, связанные с эксплуатацией несовершеннолетних.

Подробности судебного процесса, включая возможные санкции или дальнейшие шаги xAI, пока не раскрываются.

Источник: The Verge