LLM-роутер

Единая точка доступа ко всем языковым моделям — российским, локально развёрнутым и внешним. Учёт потребления и стоимости по пространствам, лимиты, правила роутинга.

Что умеет

• Единая точка доступаРоссийские, локально развёрнутые и внешние модели подключаются в одном месте; агенты и сервисы обращаются к ним по OpenAI-совместимому интерфейсу.
• Учёт потребленияРасход и стоимость видны по пространствам, агентам и сервисам — с лимитами на день и месяц.
• Правила роутингаМодель под задачу: дешёвая для рутины, сильная для сложного; смена провайдера настройкой, без правки агентов.
• Защита персональных данныхПри передаче запроса во внешнюю модель чувствительные сведения маскируются, а в ответе восстанавливаются.

Зачем это компании

Роутер снимает привязку к одному поставщику: модель выбирается под задачу и бюджет, а смена провайдера не ломает уже настроенных агентов. Расходы на ИИ видны в разрезе команд и проектов, а чувствительные данные не уходят во внешние модели в открытом виде — режимы маскирования описаны в разделе «Безопасность».

Как поставляется

Роутер входит в платформу — в облаке и в инсталляции в вашем контуре. Учётные записи поставщиков моделей остаются вашими: в enterprise-поставке платформа работает на ваших ключах и ваших локальных моделях.