Публичные чаты Claude оказались в поисковой выдаче Google

Брюс Шнайер обратил внимание на историю, которую нельзя назвать редкой для эпохи чат-ботов: часть разговоров с ассистентом Claude компании Anthropic оказалась доступна через обычный поиск Google. Проблема не столько в утечке в техническом смысле, сколько в том, что именно попало в открытый доступ.

Что именно всплыло

Среди проиндексированных материалов — приложение-психотерапевт, судя по всему собранное на скорую руку в стиле «vibe coding», заметки с рабочих встреч и дашборд, который кто-то сделал для анализа данных о медицинских счетах. В отдельных диалогах, по сообщениям, обнаружились приватные ключи от криптовалютных кошельков и такая личная информация, как домашние адреса людей. То есть данные, публичность которых способна обернуться прямыми финансовыми потерями и утечкой чужой приватности.

Корень проблемы — пользовательская настройка, отвечающая за публикацию переписки. Когда человек включает функцию «поделиться», диалог получает ссылку и фактически становится общедоступной веб-страницей.

Позиция Anthropic

Компания заняла подчёркнуто отстранённую позицию: это не её беда. В заявлении говорится, что пользователям даётся контроль над публичным доступом к своим беседам, а сама Anthropic, «следуя принципам приватности», не передаёт поисковикам вроде Google каталоги чатов или карты сайта. Ссылки, по словам компании, невозможно угадать или обнаружить — если только владелец сам ими не поделится. А коль скоро человек нажал «поделиться», он делает содержимое публичным, и, как и любой другой открытый веб-контент, оно может быть заархивировано сторонними сервисами.

Логика, безусловно, юридически стройная. Проблема лишь в том, что средний пользователь, судя по содержимому всплывших диалогов, плохо представляет себе последствия одного клика. Между «поделиться ссылкой с коллегой» и «выложить приватный ключ в поисковый индекс» для многих пролегает пропасть, которую интерфейс, очевидно, не сумел обозначить.

Шнайер сопровождает заметку короткой ремаркой и ссылкой на инструкцию, как отключить нежелательную публикацию. Вывод из истории простой и уже привычный: прежде чем доверять чат-боту ключи, адреса или медицинские сведения, стоит помнить, что кнопка «поделиться» иногда означает «поделиться со всем интернетом».

Источник: Schneier on Security