OpenAI отвечает Anthropic сервисом мониторинга без хранения данных

Разработчики больших языковых моделей оказались в неудобном положении: чем мощнее становятся системы, тем громче звучит требование следить за их использованием — и тем острее конфликт этого надзора с приватностью корпоративных клиентов. OpenAI решила превратить это противоречие в конкурентное преимущество.

Компания анонсировала для избранных заказчиков предварительную версию сервиса Private Safety Processing. Это автоматизированная система, которая отслеживает возможные злоупотребления, но при этом не сохраняет ни байта пользовательских данных. Выпад направлен против Anthropic, чья июльская политика хранения вызвала недовольство части клиентов: лаборатория оставляет у себя все сессии и переписки на 30 дней — правда, только для «покрываемых моделей», к которым относятся системы класса Mythos и «будущие модели с похожими возможностями».

От сессии к длинной дистанции

Большинство разработчиков ИИ, включая саму OpenAI, уже придерживаются принципа Zero Data Retention: агенты внутри API следят за нарушениями в пределах одной сессии, не сохраняя данные и не привлекая людей. Anthropic тоже в основном соблюдает ZDR — за исключением тех самых «покрываемых моделей» вроде Fable.

Private Safety Processing, по словам OpenAI, расширяет этот подход. Речь идёт о «долгосрочном» мониторинге, который анализирует входные и выходные данные не одной, а нескольких бесед сразу. Логика проста: злоумышленник — например, тот, кто пытается собрать вредоносный код для кибератаки, — может размазать свои запросы по разным сессиям, чтобы не попасться. Новый агент способен сопоставить эти разговоры и распознать признаки злоупотребления, не показывая переписку живым сотрудникам.

Если система срабатывает, она отправляет в OpenAI «узко определённый сигнал» о конкретном типе активности. На его основании компания решает, нужны ли меры. При необходимости OpenAI связывается с клиентом за уточнениями, а тот уже сам решает, делиться ли данными.

Для контраста OpenAI напоминает, как устроен процесс у конкурента: Anthropic допускает просмотр данных людьми, но только через «контролируемый канал доступа» с узким кругом одобренных проверяющих, а каждая такая сессия фиксируется в защищённом от подделки журнале, который ревьюеры не могут стереть или изменить.

Ставки высоки

За техническими деталями — жёсткое соперничество двух лабораторий. По недавним данным, выручка OpenAI во втором квартале росла медленнее, чем у Anthropic, чей годовой темп доходов оценивают уже в 65 миллиардов долларов. Инвесторы Anthropic говорят о возможном IPO при оценке в 2 триллиона, а OpenAI тоже готовит собственный выход на биржу. В такой обстановке приватность заказчиков становится не только этическим вопросом, но и полем битвы за корпоративного клиента.

Источник: TechCrunch