AIRouter

LiteLLM · OpenAI-compatible

LiteLLM и AIRouter: OpenAI-compatible provider

LiteLLM можно использовать с OpenAI-compatible endpoints. Для AIRouter задайте api_base, api_key и model id из каталога.

Прямая настройка Документация LiteLLM: OpenAI-compatible providers

Короткий ответ

LiteLLM можно использовать с AIRouter как OpenAI-compatible endpoint.

В конфиге задайте api_base https://api.ai-router.app/v1, api_key <AIROUTER_API_KEY> и model id из каталога.

Если LiteLLM работает в серверном режиме, AIRouter ключ хранится на сервере.

Routing и budgets LiteLLM проверяйте после короткого одиночного запроса.

Что понадобится

Начните с регистрации AIRouter, проверьте модели и цены, пополните баланс от 100 ₽, а базовый OpenAI‑compatible quickstart держите под рукой в документации.

  • AIRouter аккаунт, подтверждённый email и положительный баланс.
  • LiteLLM в версии с поддержкой OpenAI-compatible/custom provider.
  • AIRouter API‑ключ, сохранённый как секрет.
  • Model id из публичного каталога AIRouter.

Quick test

Быстрая проверка перед рабочим сценарием

Начните с пополнения от 100 ₽ и короткого тестового запроса.

  1. Создайте аккаунт AIRouter.Создайте аккаунт и откройте кабинет.
  2. Выберите модель.Возьмите id из публичного каталога и начните с короткого текстового prompt.
  3. Пополните баланс от 100 ₽.Пополните баланс в кабинете и проверяйте итоговый статус в истории платежей.
  4. Отправьте короткий запрос.Например: «Проверь подключение и ответь коротко», затем проверяйте более сложные agent flows.

Пошаговая настройка

  1. Добавьте model_list entryОпишите AIRouter как OpenAI-compatible endpoint в конфиге LiteLLM.
  2. Передайте api_base и api_keyapi_base: https://api.ai-router.app/v1, api_key: <AIROUTER_API_KEY>.
  3. Проверьте один completionСначала проверьте короткий prompt, затем подключайте routing или budgets LiteLLM.

Пример конфига

В публичных примерах используйте <AIROUTER_API_KEY>, <AIROUTER_MODEL> или переменную AIROUTER_API_KEY.

config.yaml

model_list:
  - model_name: airouter-default
    litellm_params:
      model: openai/<AIROUTER_MODEL>
      api_base: https://api.ai-router.app/v1
      api_key: <AIROUTER_API_KEY>

environment

export AIROUTER_API_KEY=<AIROUTER_API_KEY>

Проверка

  • Отправьте короткий prompt без доступа к приватным данным.
  • Проверьте, что endpoint указывает на https://api.ai-router.app/v1.
  • Если клиент сообщает об ошибке модели, auth или баланса, сначала проверьте model id, API‑ключ и состояние платежа.

Частые ошибки

  • Указать корень https://ai-router.app вместо канонического API base URL.
  • Скопировать реальный API‑ключ в публичный конфиг.
  • Использовать model id, которого нет в каталоге AIRouter.
  • Включить сложные agent tools до проверки простого ответа.

FAQ

Какой api_base нужен?

https://api.ai-router.app/v1.

Что писать в model?

Используйте актуальный model id из каталога AIRouter; формат зависит от режима LiteLLM.

Можно ли использовать LiteLLM с AIRouter?

Да, если ваш режим LiteLLM поддерживает OpenAI-compatible endpoint, но сначала проверьте одиночный запрос.

Ограничения

Поля LiteLLM зависят от режима запуска; сверяйте конфиг с вашей версией.

AIRouter model id берите из публичного каталога.

Если используете серверный режим LiteLLM, храните AIRouter ключ на сервере.

Официальные источники

Документация LiteLLM: OpenAI-compatible providers

  • Официальная документация LiteLLM по OpenAI-compatible providers описывает api_base и api_key для совместимых endpoint.

← Все инструкции · Модели и цены · Начать