RU ▾
Получить API-ключ

Эндпоинт, совместимый с OpenAI, для клиентов OpenRouter

Эндпоинт openrouter openai compatible — это просто базовый URL, который поддерживает формат чата OpenAI, поэтому замена его на другой занимает несколько строк. Ниже приведены точные значения, формы запросов и ошибки, с которыми вы можете столкнуться.

Обновлено

Один кабель, подключенный терминалом к светящемуся кубу модели, символизирующий замену API-эндпоинта

Ключевые моменты

  • Базовый URL — https://api.openrouteralternativeapi.com/v1, а идентификатор модели — uncensored.
  • Аутентификация — стандартный заголовок Bearer; доступны только POST /v1/chat/completions и GET /v1/models.
  • Потоковая передача, инструменты и JSON-режим работают, но специфичные для роутера поля не поддерживаются.
  • При HTTP 429 прочитайте код ошибки, чтобы различить лимит запросов и лимит параллельных запросов.

Необходимые значения

Любой инструмент, позволяющий редактировать эндпоинт в стиле OpenAI, требует трех значений. Скопируйте их из таблицы, и в типичной настройке больше ничего не изменится.

НастройкаЗначение
Базовый URLhttps://api.openrouteralternativeapi.com/v1
API-ключСоздается на странице API-ключ
ID моделиuncensored
Заголовок авторизацииAuthorization: Bearer YOUR_API_KEY
Маршрут чатаPOST /v1/chat/completions
Маршрут списка моделейGET /v1/models

Базовый URL уже заканчивается на /v1. Большинство SDK самостоятельно добавляют /chat/completions, поэтому не добавляйте его дважды. Некоторые инструменты запрашивают полный маршрут чата; в этом случае используйте базовый URL, за которым следует /chat/completions.

Что представляет собой эндпоинт и чем не является

За этим URL работает одна модель с открытыми весами от независимого провайдера, настроенная на ответы без отказов по контенту при законном использовании взрослыми. Это не роутер, поэтому запросы никогда не перенаправляются другому поставщику. Это также не официальный API создателя модели. Это важно для конфигурации: нет списка идентификаторов моделей на выбор, нет поля предпочтения провайдера и нет цепочки резервных вариантов. Вы отправляете uncensored и получаете именно эту модель.

Сервис работает только с текстом. Генерация изображений, аудио, видео, эмбеддинги и дообучение не предлагаются, поэтому клиент, вызывающий /v1/embeddings или маршрут для изображений, выдаст ошибку на этом базовом URL. Оставьте эти вызовы на том сервисе, который вы уже используете, и настраивайте базовый URL для каждой функции отдельно, если приложение их смешивает.

Еще один момент совместимости касается списка моделей. Клиент, который вызывает GET /v1/models при запуске, чтобы заполнить выпадающий список или проверить настройку, получит одну модель. Это ожидаемое поведение. Если ваш код проверяет, что имя настроенной модели присутствует в списке, установите имя как uncensored, и проверка пройдет успешно. Если ваше приложение жестко задает имя модели вендора где-то глубоко в файле конфигурации, найдите его в репозитории перед первым запуском, так как оставшаяся строка — самая частая причина сбоев перенесенного приложения даже после изменения URL.

Первый запрос тремя способами

Начните с запроса из терминала. Это подтвердит ключ, URL и идентификатор модели до подключения любого фреймворка.

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

Тот же вызов с Python SDK. Обратите внимание, что ничто, кроме base_url и api_key, не отличается от стандартного кода OpenAI.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

И с Node, чтение ключа из переменной окружения:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

Многие инструменты читают переменные окружения, а не аргументы конструктора. Официальные SDK обычно поддерживают OPENAI_BASE_URL и OPENAI_API_KEY, что позволяет перенаправить неизменный скрипт. Проверьте документацию вашей версии SDK, чтобы подтвердить имена.

Потоковая передача, инструменты и JSON-режим

Функции, на которые опираются большинство клиентов, присутствуют. Установите stream: true для получения событий, отправляемых сервером; использование сообщается в конце потока. Вызов инструментов принимает tools и tool_choice, потоково передает дельты tool_calls и ожидает результаты обратно как сообщения с role: "tool". JSON-режим включается с помощью response_format: {"type":"json_object"}. Поля сэмплирования temperature, top_p, stop, seed и штрафы за частоту и наличие передаются как есть.

Пример потоковой передачи на Python:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

И JSON-режим, который стоит сочетать с инструкцией в промпте, указывающей ожидаемые ключи:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

Всегда разбирайте результат в блоке try. JSON-режим повышает вероятность корректного вывода, но ваш код все равно должен обрабатывать некорректный ответ, например, повторив попытку один раз.

Многотуровые чаты и вызовы инструментов

Эндпоинт не имеет состояния, как маршрут чата OpenAI. Он не запоминает предыдущие вызовы, поэтому каждый запрос должен содержать диалог, который модель должна увидеть. Ведите список сообщений, добавляйте ответ ассистента после каждого хода и отправляйте весь список снова. Следите за общим объемом: окно в 100 000 токенов охватывает промпт и генерацию, а длинные истории также являются причиной роста стоимости промпта.

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

Для вызова инструментов опишите свои функции в tools, выполните то, что запросит модель, и отправьте результат обратно как сообщение с role: "tool", содержащее соответствующий tool_call_id. Минимальное определение выглядит так:

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

Проверяйте аргументы перед выполнением чего-либо. Модель предлагает вызов; ваш код решает, безопасно ли его выполнять, особенно если функция затрагивает деньги, файлы или данные других людей.

Поля, которые нужно удалить из запросов в стиле OpenRouter

Клиенты, написанные для роутера, часто добавляют лишние данные в тело запроса или заголовки. Типичные примеры — порядок провайдеров, массивы резервных моделей, предпочтения маршрутизации и заголовки атрибуции. Этот API их не использует. Неизвестные поля могут быть проигнорированы или вызвать ошибку в зависимости от поля, поэтому удаляйте их, а не полагайтесь на какой-либо из исходов.

  • Замените любой идентификатор модели с префиксом вендора на uncensored.
  • Удалите списки резервных вариантов. Если единственная модель недоступна, обработайте это в собственной логике повторных попыток.
  • Не отправляйте части контента с изображениями или аудио. Модель читает только текст.
  • Общий размер тела запроса должен быть менее 8 МБ.

На странице docs показаны поддерживаемые параметры, и это место для проверки, когда поле ведет себя иначе, чем ожидает ваш клиент.

Лимиты и ответы 429

Полный ключ позволяет 8 одновременных запросов и 300 запросов в минуту; пробный ключ позволяет 2 и 60. Каждый ответ содержит X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency. Логируйте идентификатор запроса при каждой ошибке, так как это первое, о чем спросит поддержка.

Существует три вида HTTP 429. Код ошибки rate_limited означает, что вы превысили лимит запросов в минуту: замедлитесь. Код concurrency означает, что слишком много запросов выполняется одновременно: поставьте их в очередь. 429 с заголовком Retry-After: 5 означает временную перегрузку: подождите пять секунд и попробуйте снова. Помните, что потоковый запрос удерживает слот параллельного запроса до конца потока, поэтому застрявший клиент, который никогда не читает до конца, будет потреблять емкость.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

Также установите семафор со значением 8 или меньше вокруг вызовов, если вы запускаете воркеры параллельно. Это дешевле, чем узнавать лимит из ошибок. Добавьте небольшую случайную задержку к ожиданию, чтобы несколько воркеров, потерпевших неудачу одновременно, не повторяли попытку в ту же секунду. Если вы видите повторяющиеся ответы 429 при низкой нагрузке, ищите потоки, которые открыты, но никогда не закрываются, или цикл повторных попыток, который срабатывает без ожидания, так как любой из этих вариантов может заполнить доступные слоты самостоятельно.

Проверка стоимости перед выводом в продакшн

Тарификация: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов из предоплаченного баланса. Возьмите запрос с 2 000 входными токенами и 500 выходными токенами. Входные данные стоят 2 000 / 1 000 000 x $0,15 = $0,0003. Выходные данные стоят 500 / 1 000 000 x $0,50 = $0,00025. Запрос стоит $0,00055, поэтому 1 000 таких запросов стоят $0,55. Неудачные или отклоненные запросы не оплачиваются. См. страницу тарифов для сумм пополнения и бонусов; пробный баланс в $0,50 покрывает около 900 запросов такого размера (0,50 / 0,00055).

Вопросы и ответы

Какой базовый URL у эндпоинта, совместимого с OpenAI?

Используйте https://api.openrouteralternativeapi.com/v1 в качестве базового URL и отправляйте ваш ключ в качестве токена Bearer. Идентификатор модели — uncensored.

Какие маршруты доступны?

POST /v1/chat/completions для генерации и GET /v1/models для списка моделей. Маршрутов для эмбеддингов, изображений, аудио или дообучения нет.

Нужно ли мне менять код, кроме URL и ключа?

Обычно только строку модели. Удалите из тел запросов поля, специфичные для роутера, такие как предпочтения провайдеров или списки резервных вариантов.

Почему возникает HTTP 429?

Проверьте код ошибки. rate_limited означает слишком много запросов в минуту, concurrency означает слишком много запросов одновременно, а заголовок Retry-After: 5 означает временную перегрузку.

Ваш ключ — всего в одном шаге

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.