Исследование: Claude Code расходует до 33 тысяч токенов ещё до чтения запроса пользователя

На агрегаторе Hacker News широкое обсуждение вызвала публикация, посвящённая сравнению накладных расходов на токены у двух инструментов для разработки на основе ИИ — Claude Code и OpenCode.

Согласно приведённым данным, Claude Code отправляет модели порядка 33 тысяч токенов ещё до того, как начинает обрабатывать непосредственно запрос, введённый пользователем. Для сравнения, OpenCode в аналогичной ситуации ограничивается примерно 7 тысячами токенов.

Публикация набрала 265 баллов и вызвала оживлённую дискуссию — под материалом оставлено уже 140 комментариев. Такой интерес сообщества свидетельствует о том, что тема эффективности использования токена в ИИ-инструментах для разработчиков остаётся чувствительной: от объёма служебных данных, передаваемых модели при каждом запросе, напрямую зависят как скорость отклика, так и стоимость использования подобных сервисов.

Авторы исследования не раскрывают полную методологию измерений в доступном описании, однако сам факт значительной разницы — более чем в четыре раза — между двумя инструментами, решающими схожие задачи, поднимает вопрос об архитектурных решениях, лежащих в основе системных промптов и контекста, которые эти инструменты формируют перед передачей запроса языковой модели.

Обсуждение на Hacker News указывает на то, что вопросы оптимизации накладных расходов становятся всё более значимыми по мере роста числа пользователей, ежедневно работающих с ИИ-ассистентами для написания кода. Чем больше токенов уходит на служебную информацию, тем выше итоговая стоимость работы и тем заметнее задержка перед получением ответа.

Источник: Hacker News