C
ChaoBro

rtk: один Rust-бинарник, сокращающий расходы токенов при AI-программировании на 60–90%

rtk: один Rust-бинарник, сокращающий расходы токенов при AI-программировании на 60–90%

Вы когда-нибудь задумывались, сколько это стоит, когда ежедневно пишете код с помощью Claude Code, Codex или Cursor?

Эти, казалось бы, «безобидные» команды — ls, grep, find, git status — каждый раз расходуют токены LLM. Модель не знает, что вам нужен лишь список файлов; она поглощает весь вывод как контекст, а счётчик расходов бешено крутится.

rtk делает всё просто и радикально: перехватывает команду до того, как она попадёт в LLM, сжимает её и оставляет только то, что модели действительно необходимо.

Что такое rtk

rtk (rtk-ai/rtk) — это CLI-прокси, написанный на Rust. Более 51 300 звёзд, свыше 3 100 форков.

Он состоит всего из одного файла — бинарника, скомпилированного из Rust. Нулевые зависимости. Скачал и запустил.

Принцип работы: rtk встраивается как прокси-слой между вашим инструментом AI-программирования и API LLM. Когда вы выполняете ls -la /some/deep/path, rtk перехватывает результат выполнения команды, анализирует, какая информация действительно ценна для LLM, и отправляет только сжатое резюме.

Сколько можно сэкономить

Официальные данные: экономия токенов на 60–90% для стандартных команд разработки.

Это не магия. По сути, инструмент занимается «дистилляцией информации»:

  • Десятки строк с именами файлов из ls → сжимаются до краткого резюме ключевых файлов и структуры каталогов
  • Сотни строк изменений из git diff → выделяются основные паттерны изменений
  • Множество совпадений из grep → дубликаты удаляются, результаты группируются, извлекается ключевой контекст

LLM не нужен полный список каталогов, чтобы понять структуру проекта. Ей достаточно знать: «В этом проекте три основных модуля, и у каждого есть своя директория с тестами».

Технические особенности

  • Реализация на Rust: один бинарный файл, запуск за миллисекунды, крайне низкое потребление памяти
  • Нулевые зависимости: не требует установки Python, Node.js или других сред выполнения
  • Прозрачный прокси: полностью прозрачен для ваших инструментов AI-программирования, не требует изменения конфигураций
  • Плагин OpenClaw: уже поддерживает прозрачную перезапись выполнения для OpenClaw
  • Интеграция с Hermes: недавно добавлена поддержка интеграции с Hermes Agent
  • 960 коммитов: проект активно развивается, ещё вчера был принят новый PR

Реальная ценность

Подсчитать это легко: если вы тратите 8 часов в день на инструменты AI-программирования и расходуете 500 тыс. токенов ежедневно, rtk поможет сократить расход до 50–200 тыс. токенов. За месяц сэкономленные средства могут хватить на чашку кофе, а если команда побольше — то и на полноценный обед.

Но ценность rtk не только в экономии. Он решает более глубокую проблему: контекстное окно LLM тратится на массу бесполезной информации. Когда бюджет токенов забит выводом ls и grep, для действительно важного кода остаётся меньше контекста.

rtk делает информацию, которую видит LLM, более концентрированной, что в каком-то смысле делает саму модель «умнее».

Кому подойдёт

  • Разработчики, активно использующие инструменты AI-программирования
  • Частные лица и команды, чувствительные к стоимости API
  • Энтузиасты Rust, любящие экспериментировать с тулчейном

Не подойдёт: пользователям, которые лишь изредка запускают ChatGPT, чтобы написать пару строк кода — экономия будет незаметной.