Восемь штатов США подали в суд на OpenAI из-за безопасности детей в ChatGPT

Восемь американских штатов подали против OpenAI новую волну исков, обвинив компанию в причинении вреда детям и введении потребителей в заблуждение относительно безопасности ChatGPT. Об этом, как сообщает The Verge со ссылкой на более раннюю публикацию Reuters, свидетельствуют отдельные иски, поданные штатами Иова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана.

Истцы утверждают, что OpenAI незаконно поставила прибыль выше безопасности при разработке чат-бота. По их мнению, компания нарушила местные законы о защите прав потребителей, не предупредив пользователей об опасностях ChatGPT. В исках приводятся несколько дел, возбуждённых родственниками подростков и взрослых, которые считают, что ИИ-чат-бот сыграл роль в гибели их близких.

По версии штатов, OpenAI вводила публику в заблуждение, представляя ChatGPT как «безопасный, подходящий для подростков инструмент, ставящий безопасность превыше всего», тогда как на деле он был «опасен для уязвимых пользователей». В числе претензий — «деградация навыков критического мышления, поощрение паранойи и бреда, выдача опасных медицинских советов и продвижение нездорового поведения и отношений».

Кроме того, штаты обвиняют компанию в сборе данных несовершеннолетних и в недостаточных мерах по ограничению доступа подростков к чат-боту. В качестве доказательства «безрассудства» OpenAI в исках упоминаются и недавние инциденты с использованием ИИ в хакерских атаках.

«OpenAI превратилась из некоммерческой организации, ставившей во главу угла общественные интересы и безопасность, в поучительный пример того, что происходит, когда разработкой столь мощного инструмента, как ИИ, движет не безопасность, а стремление к прибыли любой ценой, отодвигающее в сторону необходимые меры защиты», — говорится в иске Аризоны.

Представитель OpenAI Дрю Пусатери в заявлении для The Verge отметил, что компания встроила в ChatGPT «передовые средства защиты с учётом возраста». По его словам, идеальных систем не бывает, но OpenAI продолжит работать с экспертами и добавлять новые механизмы — родительский контроль, напоминания о перерывах и возрастные ограничения модели. Компания также заявила о готовности сотрудничать со штатами над прагматичной политикой, применимой ко всей индустрии, а не к одной компании.

Штаты требуют, чтобы суд обязал OpenAI выплатить ряд гражданских штрафов и прекратить вводить публику в заблуждение относительно безопасности ChatGPT. Некоторые штаты также добиваются удаления незаконно собранных персональных данных.

Источник: The Verge