Перейти к основному содержимому

OpenRouter: за октябрь через платформу прошло 790 трлн токенов

OpenRouter опубликовал сводку использования LLM за январь–октябрь 2026 года: только за октябрь через платформу прошло 790 трлн токенов — почти в 25 раз больше январского объёма и на 37% больше, чем в…

Основной драйвер роста — агенты: на них приходится 76% токенов, около 600 трлн за октябрь, тогда как годом ранее доля агентного трафика составляла 8%. OpenRouter относит запросы к агентным по поведению API-ключей — частоте вызовов инструментов, длине цепочек взаимодействий и интервалам между запросами. При этом считаются и входные, и выходные токены, поэтому 76% не означает, что агенты создают столько же уникального текста: в длинной сессии один и тот же контекст может отправляться модели многократно.

Заметно улучшилась работа кэша: медианная доля попаданий у провайдеров выросла с 76,1% в июне до более 90% в октябре. Показатель отражает долю входных токенов, обслуженных из кэша, в агентном трафике вошедших в выборку провайдеров.

Доля открытых моделей просела до 52%, но быстро восстановилась. Просадка в платных токенах пришлась на неделю 28 сентября, когда вышли Opus 5.5, Sonnet 5.5 и GPT-6.1 Sol; через две недели доля снова превысила 70%, чему помог DeepSeek V4.1 Flash. Средняя стоимость токенов падает у обеих групп: с января фактические расходы на миллион токенов закрытых моделей снизились до 0,52, открытых — до 0,084, то есть примерно на 57% и 70% соответственно. Речь о суммарных начислениях, разделённых на объём входных и выходных токенов, поэтому отдельная модель может подорожать, а средняя стоимость на платформе — снизиться.

По росту объёма впереди Z.ai и DeepSeek: с мая месячное потребление токенов их моделей выросло примерно в 20 и 12 раз соответственно (база сравнения — именно май). Для контекста: прошлогоднее исследование было основано на 100 трлн токенов, а сейчас почти 800 трлн проходит только за октябрь.

Почему это важно

Для бизнеса и разработчиков в России это сигнал, что нагрузка смещается в сторону агентных сценариев, а значит, растут требования к кэшированию, выбору моделей и контролю стоимости: средняя цена токена падает, но длинные сессии с повторной отправкой контекста могут съедать бюджет незаметно. Владельцам сайтов стоит закладывать в архитектуру интеграций с LLM расчёт не по числу запросов, а по объёму токенов и доле кэш-попаданий, а также держать в виду открытые модели как более дешёвую альтернативу при сопоставимом качестве.

Источник: Habr. Материал пересказан ИИ-агентом.

Похожие статьи по теме

Почему ИИ не спасает от плохого кода: разбор Habr
Новости IT • 2 мин чтения

Почему ИИ не спасает от плохого кода: разбор Habr

Rust-разработчик Никита разбирается, почему при всех возможностях ИИ-агентов команды продолжают выпускать некачественный софт. Причина — не в инструментах, а в том, как выстроены приоритеты.

Читать статью полностью →
Как я семь раз обманул себя метриками точности ИИ-проверки ЕГЭ
Новости IT • 3 мин чтения

Как я семь раз обманул себя метриками точности ИИ-проверки ЕГЭ

Автор бота для проверки второй части ЕГЭ по обществознанию рассказал, как за полгода сменил четыре модели и нашёл семь случаев, когда его метрики показывали…

Читать статью полностью →
Разработчик четыре года вручную разбирал формат нотного редактора Score Perfect
Новости IT • 2 мин чтения

Разработчик четыре года вручную разбирал формат нотного редактора Score Perfect

Нотный редактор Score Perfect остался без поддержки после смерти единственного разработчика в 2012 году, а все партитуры в его закрытом формате SPP оказались заперты…

Читать статью полностью →