Samsung Health пригрозила пользователям удалением данных при отказе от обучения ИИ

Приложение Samsung Health оказалось в центре внимания после сообщений о том, что оно предупреждает пользователей об удалении их данных в случае отказа от участия в обучении моделей искусственного интеллекта.

Речь идёт о формулировке в интерфейсе приложения, которая ставит пользователей перед выбором: согласиться на использование персональных данных для обучения ИИ-систем Samsung или столкнуться с последствиями в виде удаления накопленной информации о здоровье.

Новость получила широкий резонанс в технологическом сообществе. На платформе Hacker News публикация набрала 225 баллов и вызвала 62 комментария — пользователи обсуждают этичность подобной практики и то, насколько она соответствует принципам добровольного согласия на обработку персональных данных.

Приложения для мониторинга здоровья собирают чувствительную информацию — от показателей сна и физической активности до данных о сердечном ритме. Подобные сведения представляют особую ценность для обучения алгоритмов, но их использование традиционно требует особой осторожности со стороны компаний из-за деликатного характера медицинских данных.

Ситуация поднимает вопрос о том, насколько корректно формулировать выбор пользователя как «согласие на обучение ИИ или потеря данных», поскольку подобная постановка вопроса может восприниматься как форма принуждения, ограничивающая реальную свободу выбора.

Подробности того, как именно Samsung планирует использовать собранные данные и в каких масштабах будет применяться подобная политика, пока остаются предметом обсуждения в сообществе.

Источник: Hacker News