Гибридные агенты: думают в скрытом пространстве, действуют текстом

Современные LLM-агенты рассуждают и взаимодействуют с внешней средой через текст. Это удобно для прозрачности и доступа к инструментам, но затратно по токенам и вычислениям. Альтернатива — рассуждение в «скрытом» (латентном) пространстве: оно эффективнее как внутренняя среда, но лишено прямого доступа к инструментам и непрозрачно для наблюдателя.

Команда из восьми авторов во главе с Цзяру Цзоу предложила способ объединить оба подхода. Работа «Hybrid Reasoning Agents» опубликована на arXiv 13 октября 2026 года.

Как это устроено

Предложенные гибридные агенты (HybridAgents) в рамках единого процесса генерации динамически переключаются между латентным рассуждением и текстовым взаимодействием. За плавные переходы между двумя режимами отвечает облегчённый компонент HybridLink, а непрерывная рабочая память агента сохраняет контекст без потерь на протяжении нескольких ходов диалога.

По замыслу авторов, такая конструкция сохраняет способность работать с инструментами и при этом делает скрытые «мысли» агента доступными для проверки — то есть снимает главное возражение против латентного рассуждения, его непрозрачность.

Для обучения разработаны отдельные алгоритмы. HybridSFT стабилизирует гибридную генерацию с использованием инструментов, обучая базовую модель согласованно работать с HybridLink. HybridRL масштабирует рассуждение, обучая агента решать, когда думать в скрытом пространстве, а когда действовать через текст.

Что показали измерения

Авторы проверили подход на трёх масштабах моделей и на одиннадцати наборах тестов, охватывающих математику, естественные науки, медицину, поиск и агентные сценарии. Сравнение велось с передовыми LLM-агентами и фреймворками — как текстовыми, так и латентными.

По их данным, HybridAgent стабильно улучшает качество на 10,4%, сокращая при этом расход токенов на 35,5–54,7%, ускоряя вывод в 1,8–2,6 раза и снижая стоимость в 2,7–3,7 раза. Код и данные выложены в открытый доступ.

Препринт объёмом 45 страниц с 12 иллюстрациями пока не прошёл рецензирование, так что заявленные цифры стоит воспринимать как результаты авторов, а не независимо подтверждённые.

Источник: Hacker News