RU ▾
Получить API-ключ

Альтернатива OpenRouter с моделью с открытыми весами

Если вы ищете альтернативу OpenRouter с открытым исходным кодом, полезный вопрос в том, что именно вам нужно открыть: веса, сервер или маршрутизацию. На этой странице разобраны варианты и показано, где подходит API с одной моделью с открытыми весами.

Обновлено

Множество кабелей, расходящихся от хаба, в контрасте с одной прямой линией к одному светящемуся кубу модели

Ключевые моменты

  • OpenRouter маршрутизирует ваш запрос к моделям от многих поставщиков; этот API обслуживает одну модель с открытыми весами, поэтому один и тот же промпт всегда попадает в одну и ту же модель.
  • Открытые веса не являются тем же самым, что и открытый исходный код. Проверьте лицензию любой модели, от которой вы зависите.
  • Собственный хостинг дает наибольший контроль, но требует GPU и обслуживания; хостинговый эндпоинт стоит $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов.
  • Переключение требует двух изменений в клиенте OpenAI: базового URL и ключа.

Что люди подразумевают под альтернативой OpenRouter с открытым исходным кодом

Эта фраза охватывает три разных желания, и их смешивание приводит к неверному выбору. Некоторые хотят открытые веса, то есть файл модели опубликован и теоретически может быть запущен на их собственном оборудовании. Некоторые хотят открытый исходный код сервера, то есть код шлюза, который принимает запросы и пересылает их. Другие хотят открытую маршрутизацию: без скрытого переключения между моделями под одним именем.

OpenRouter — это управляемый сервис, предоставляющий один API для моделей от множества поставщиков. Это его цель, и для многих проектов это правильный инструмент. Цена в том, что модель, отвечающая вам, зависит от того, какую именно вы укажете, какого провайдера она обслуживает и что этот провайдер с ней делает в данный момент. Если ваша цель — стабильная и прозрачная настройка, меньшая поверхность взаимодействия проще для анализа.

Этот сайт предлагает хостинговый API, совместимый с OpenAI, перед одной моделью с открытыми весами, запущенный независимым провайдером и настроенный на ответы без отказов по контенту для законного использования взрослыми. Это хостинговый сервис. Вы обращаетесь к нему по HTTPS, и эта страница не предлагает скачать сервер. Что вы получаете, так это фиксированную модель, короткий список функций и плоскую цену, а не стек для собственного хостинга.

Открытые веса против открытого исходного кода простыми словами

Модель с открытыми весами позволяет любому скачать обученные параметры. Это не означает автоматически лицензию с открытым исходным кодом. Некоторые веса распространяются под разрешительными условиями, другие добавляют условия использования, а некоторые ограничивают коммерческое использование. Лицензия — это свойство конкретной модели, поэтому прочитайте её, прежде чем строить продукт поверх.

Та же осторожность применима к сервису перед моделью. Хостинговый API может обслуживать открытые веса, при этом его собственный код остается закрытым. Это не недостаток, но это означает, что «открытый» описывает модель, а не хост. При сравнении вариантов запишите, какой слой вы хотите сделать открытым и почему. Типичные причины:

  • Воспроизводимость. Вы хотите, чтобы завтра была та же модель, что и сегодня, чтобы тесты и промпты оставались осмысленными.
  • Варианты выхода. Если вы когда-нибудь перерастете хостинговый сервис, вам нужна модель, которую можно запустить где-то еще.
  • Проверяемость. Вы хотите знать, что генерирует ваш текст, а не только то, как называется эндпоинт.

Модель с открытыми весами за хостинговым эндпоинтом достаточно хорошо покрывает первый и третий пункты и дает реалистичный путь для второго. Она не заменяет собственный хостинг, если требование заключается в том, чтобы ни одна третья сторона никогда не видела промпт.

Одна модель против маршрутизатора с несколькими поставщиками

Маршрутизатор удобен, когда вы хотите попробовать много моделей с одним ключом. Он менее удобен, когда вам нужно, чтобы одно поведение оставалось неизменным. С маршрутизатором имя модели может сопоставляться с разными провайдерами со временем, и каждый провайдер может отличаться по длине контекста, скорости, фильтрации или логированию. Эти различия реальны и публично задокументированы самим маршрутизатором, поэтому проверяйте его страницы для получения актуальных деталей.

С одной моделью за одним эндпоинтом картина проще. Таблица ниже перечисляет, что этот API фиксирует.

ВопросЭтот API
Какая модель отвечает?Одна модель с открытыми весами, адресуемая как uncensored
Это маршрутизатор между поставщиками?Нет
Это официальный API поставщика?Нет, он обслуживается независимым провайдером
Контекстное окно100 000 токенов, промпт плюс завершение
МодальностиТолько текст
ЭндпоинтыPOST /v1/chat/completions и GET /v1/models

Честный недостаток — узкий охват. Вы не можете переключиться на другое семейство моделей, изменив одну строку, потому что она только одна. Если вашему продукту нужна модель для работы с изображениями, эмбеддинги или более дешевая маленькая модель для простых задач, маршрутизатор или несколько прямых аккаунтов — лучший ответ, и вы все равно можете использовать этот API для части, которой нужна текстовая модель без цензуры.

Что можно запустить самостоятельно и сколько это стоит

Если открытый исходный код — жесткое требование, честный ответ — собственный хостинг. Модели с открытыми весами можно обслуживать с помощью общедоступных инструментов, таких как vLLM, llama.cpp или Ollama, а прокси, такой как LiteLLM, может предоставлять API в стиле OpenAI перед ними. Все эти проекты общедоступны, поэтому проверяйте их документацию на предмет актуальных функций и лицензий.

Стоимость заключается в частях, которые скрывает хостинговый API:

  • Память GPU, достаточная для модели и для длинного контекста.
  • Конфигурация обслуживания, батчинг и мониторинг.
  • Обновления, перезапуски и планирование мощности при всплесках трафика.
  • Ваша собственная обработка злоупотреблений, логирование и управление ключами доступа.

Для хобби-проекта или внутреннего инструмента с постоянным небольшим объемом трафика аренда GPU или локальная машина могут подойти. При пиковых или небольших нагрузках оплата за токен часто оказывается проще. В качестве примера: задача с 1M входных и 1M выходных токенов обойдется в 1 x $0,15 + 1 x $0,50 = $0,65 в этом API. Сравните это с вашей оценкой аренды GPU и своего времени, прежде чем принять решение.

Перенос существующего клиента OpenRouter

Поскольку API следует формату чата OpenAI, код, написанный для клиента в стиле OpenAI, обычно требует двух правок: базового URL и ключа. Строка модели становится uncensored. Вот версия Python с официальным пакетом openai.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt technical editor."},
        {"role": "user", "content": "Tighten this paragraph: ..."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)

Тот же вызов в Node и сырая HTTP-форма для быстрой проверки из терминала:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

Потоковая передача, вызов функций и JSON-режим работают так же, как в SDK OpenAI. Специфичные для маршрутизатора дополнения, такие как поля предпочтения провайдера или списки резервных моделей, здесь не имеют смысла и должны быть удалены из тел запросов. Поддерживаемые параметры перечислены на странице документации.

Ограничения, цены и пополнения, о которых нужно знать перед переключением

Прочитайте лимиты, прежде чем переносить производственный трафик. Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных запроса и 60 в минуту. Запрос с потоковой передачей удерживает слот параллельности до конца потока, что важно, если вы одновременно запускаете много длинных генераций. Превышение лимита возвращает HTTP 429 с кодом ошибки rate_limited или concurrency, а временная перегрузка также возвращает 429 с заголовком Retry-After: 5. Повторите запрос с небольшой задержкой и ограничьте количество активных вызовов на своей стороне.

Цены составляют $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, оплачиваемые из предоплаченного баланса без подписки. Неудачные или отклоненные запросы не тарифицируются, а баланс не сгорает. Заголовок ответа X-Balance-USD показывает остаток, так что вы можете отслеживать расходы из кода. Пополнения — любая целая сумма от $20 до $500, с бонусом 5% от $50, 10% от $100 и 15% от $200. Вы можете оплатить криптовалютой (USDT на TRC20, USDC на Base). Более подробная информация на странице цен.

Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключа после входа. Баланс действует 7 дней, не требует привязки карты и ограничен одним на человека. Используйте его, чтобы протестировать реальные промпты через эндпоинт перед пополнением. Правило контента краткое: целевое использование — законное для взрослых, жесткий лимит — на любой сексуальный контент с участием несовершеннолетних.

Как принять решение

Выбирайте по требованию, которое действительно важно. Если вы должны запускать все на своих собственных машинах, запустите модель с открытыми весами самостоятельно и примите на себя эту работу. Если вам нужно много поставщиков, много модальностей или автоматическое переключение на резервные модели, маршрутизатор остается лучшим выбором, и сравнение альтернатив OpenRouter на этом сайте подробно разбирает компромиссы. Если вы хотите одну фиксированную текстовую модель с открытыми весами, простой интерфейс, совместимый с OpenAI, и плоскую цену за токен, этот API является готовой заменой для этой части вашего трафика.

Практичный план — держать оба. Оставьте общие задачи там, где они есть, и отправляйте запросы, которые в других местах обычно отклоняются, на этот эндпоинт. Создайте ключ на странице API-ключей, получите пробный баланс и сравните выходные данные на двадцати ваших собственных промптах. Этот тест стоит долю цента за запрос и расскажет вам больше, чем любая таблица функций.

Вопросы и ответы

Является ли этот API открытым исходным кодом?

Это хостинговый сервис перед моделью с открытыми весами. Веса модели опубликованы их авторами, но хостинговый сервер — это не то, что вы скачиваете с этого сайта, а открытые веса не означают автоматически лицензию с открытым исходным кодом.

Это то же самое, что OpenRouter?

Нет. OpenRouter — это маршрутизатор между множеством провайдеров. Этот API обслуживает одну модель от независимого провайдера; это не маршрутизатор и не официальный API вендора.

Какое имя модели мне отправить?

Укажите uncensored в качестве идентификатора модели. Вызовите GET /v1/models, чтобы подтвердить это из вашего клиента.

Могу ли я использовать свой существующий код SDK OpenAI?

Да. Измените базовый URL на https://api.openrouteralternativeapi.com/v1, используйте ваш ключ в качестве токена Bearer и установите модель в uncensored. Удалите поля запроса, специфичные для маршрутизаторов.

Ваш ключ — всего в одной форме

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.