PL ▾
Pobierz klucz API

Endpoint zgodny z OpenAI dla klientów OpenRouter

Endpoint zgodny z OpenAI w OpenRouter to po prostu base URL obsługujący format czatu OpenAI, więc jego zamiana na inny zajmuje kilka linii. Oto dokładne wartości, kształty zapytań i błędy, na które możesz natrafić.

Zaktualizowano

Jeden kabel łączący terminal ze świecącym sześcianem modelu, reprezentujący zamieniony endpoint API

Kluczowe punkty

  • Base URL to https://api.openrouteralternativeapi.com/v1, a ID modelu to uncensored.
  • Autoryzacja to standardowy nagłówek Bearer; dostępne są tylko POST /v1/chat/completions i GET /v1/models.
  • Strumieniowanie, narzędzia i tryb JSON działają, ale pola specyficzne dla OpenRouter nie są obsługiwane.
  • Przy HTTP 429 przeczytaj kod błędu, aby odróżnić limit szybkości od limitu współbieżności.

Wartości, których potrzebujesz

Każde narzędzie pozwalające edytować endpoint w stylu OpenAI wymaga trzech wartości. Skopiuj je z tabeli i w typowej konfiguracji nic się nie zmieni.

UstawienieWartość
Bazowy URLhttps://api.openrouteralternativeapi.com/v1
Klucz APIUtworzono na stronie klucza API
ID modeluuncensored
Nagłówek AuthAuthorization: Bearer YOUR_API_KEY
Trasa czatuPOST /v1/chat/completions
Ścieżka listy modeliGET /v1/models

Bazowy adres URL już kończy się na /v1. Większość SDK dodaje samoistnie /chat/completions, więc nie dodawaj go dwukrotnie. Niektóre narzędzia wymagają pełnej ścieżki czatu; w takim przypadku użyj bazowego adresu URL wraz z /chat/completions.

Czym jest endpoint, a czym nie

Za adresem URL znajduje się jeden model o otwartych wagach, obsługiwany przez niezależnego dostawcę i dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych. Nie jest to router, więc zapytanie nigdy nie jest przekazywane do innego dostawcy. Nie jest to również oficjalne API żadnego z twórców modeli. Ma to znaczenie dla konfiguracji: nie ma listy nazw modeli do wyboru, nie ma pola preferencji dostawcy ani łańcucha rezerwowego. Wysłanie uncensored zwraca ten właśnie model.

Usługa obsługuje tylko tekst. Generowanie obrazów, audio, wideo, wektory (embeddings) i fine-tuning nie są oferowane, więc klient wywołujący /v1/embeddings lub trasę obrazów otrzyma błąd na tym bazowym adresie URL. Pozostaw te wywołania skierowane do usługi, której już używasz, i ustaw bazowy adres URL dla każdej funkcji osobno, a nie globalnie, jeśli Twoja aplikacja łączy kilka.

Kolejny punkt kompatybilności dotyczy listy modeli. Klient, który wywołuje GET /v1/models przy starcie, aby wypełnić listę rozwijaną lub zweryfikować ustawienie, otrzyma jeden model. To jest oczekiwane. Jeśli Twój kod sprawdza, czy skonfigurowana nazwa modelu pojawia się na liście, ustaw nazwę na uncensored i sprawdzenie przejdzie pomyślnie. Jeśli Twoja aplikacja ma gdzieś w pliku konfiguracyjnym na stałe wpisane nazwy modeli dostawcy, wyszukaj ich w repozytorium przed pierwszym uruchomieniem, ponieważ pozostały ciąg znaków jest najczęstszą przyczyną niepowodzeń po zmianie adresu URL.

Pierwsze zapytanie na trzy sposoby

Zacznij od zapytania z terminala. To potwierdzi klucz, adres URL i identyfikator modelu zanim zaangażujesz dowolne frameworki.

curl https://api.openrouteralternativeapi.com/v1/models   -H "Authorization: Bearer $API_KEY"

curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

To samo wywołanie z użyciem Python SDK. Zauważ, że nic poza base_url i api_key nie różni się od standardowego kodu OpenAI.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Reply with the word ready."}],
    max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)

I z Node, odczytując klucz ze zmiennej środowiskowej:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Reply with the word ready." }],
  max_tokens: 10,
});
console.log(r.choices[0].message.content);

Wiele narzędzi odczytuje zmienne środowiskowe zamiast argumentów konstruktora. Oficjalne SDK często obsługują OPENAI_BASE_URL i OPENAI_API_KEY, co pozwala przekierować niezmodyfikowany skrypt. Sprawdź dokumentację swojej wersji SDK, aby potwierdzić nazwy.

Strumieniowanie, narzędzia i tryb JSON

Obecne są funkcje, na których najbardziej zależą klientom. Ustaw stream: true, aby otrzymywać zdarzenia wysyłane przez serwer; użycie jest raportowane na końcu strumienia. Wywoływanie funkcji akceptuje tools i tool_choice, strumieniuje delta tool_calls i oczekuje wyników zwróconych jako wiadomości z role: "tool". Tryb JSON jest włączony za pomocą response_format: {"type":"json_object"}. Pola próbkowania temperature, top_p, stop, seed oraz kary za częstotliwość i obecność są przekazywane dalej.

Przykład strumieniowania w Pythonie:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

I tryb JSON, który warto połączyć z instrukcją w promptie wskazującą oczekiwane klucze:

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
        {"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
    ],
    response_format={"type": "json_object"},
)
print(r.choices[0].message.content)

Zawsze parsuj wynik w bloku try. Tryb JSON zwiększa szansę na poprawny wynik, ale twój kod powinien nadal obsługiwać niepoprawną odpowiedź, na przykład poprzez ponowienie próby raz.

Rozmowy wieloetapowe i wywoływanie funkcji

Endpoint jest bezstanowy, podobnie jak trasa czatu OpenAI. Nie zapamiętuje wcześniejszych wywołań, więc każde zapytanie musi zawierać rozmowę, którą model ma zobaczyć. Przechowuj listę wiadomości, dodawaj odpowiedź asystenta po każdej turze i wysyłaj całą listę ponownie. Zwracaj uwagę na łączny rozmiar: okno 100 000 tokenów obejmuje prompt i uzupełnienie, a długie historie to właśnie to, co napędza koszt danych wejściowych.

history = [{"role": "system", "content": "You answer in two sentences."}]

def chat(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

W przypadku wywoływania funkcji opisz swoje funkcje w tools, wykonaj wszystko, o co poprosi model, i wyślij wynik z powrotem jako wiadomość role: "tool", która zawiera pasujący tool_call_id. Minimalna definicja wygląda tak:

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its number",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Where is order 1042?"}],
    tools=tools,
    tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

Zweryfikuj argumenty przed wykonaniem czegokolwiek. Model proponuje wywołanie; Twój kod decyduje, czy jest bezpieczne jego wykonanie, zwłaszcza gdy funkcja ma wpływ na pieniądze, pliki lub dane innych osób.

Pola do usunięcia z zapytań w stylu OpenRouter

Klienci napisani dla routera często dodają dodatki do treści zapytania lub nagłówków. Typowe przykłady to kolejność dostawców, tablice rezerwowe modeli, preferencje routingu i nagłówki atrybucji. To API ich nie używa. Nieznane pola mogą zostać zignorowane lub spowodować błąd, w zależności od pola, więc usuń je zamiast polegać na którymkolwiek wyniku.

  • Zamień dowolny skrót modelu zawierający prefiks dostawcy na uncensored.
  • Porzuć listy rezerwowe. Jeśli pojedynczy model jest niedostępny, obsłuż to we własnej logice ponawiania.
  • Nie wysyłaj części treści obrazu lub audio. Model czyta tekst.
  • Utrzymaj łączną treść zapytania poniżej 8 MB.

Strona dokumentacji pokazuje obsługiwane parametry i jest miejscem, w którym należy sprawdzić, gdy pole zachowuje się inaczej, niż oczekuje Twój klient.

Limity i odpowiedzi 429

Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę; klucz próbny pozwala na 2 i 60. Każda odpowiedź zawiera X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests i X-RateLimit-Limit-Concurrency. Zapisuj identyfikator zapytania przy każdej awarii, ponieważ jest to pierwsza rzecz, o którą poprosi wsparcie.

Istnieją trzy rodzaje HTTP 429. Kod błędu rate_limited oznacza przekroczenie liczby zapytań na minutę: zwolnij. Kod concurrency oznacza zbyt wiele zapytań w locie: ustaw je w kolejce. Błąd 429 z nagłówkiem Retry-After: 5 oznacza tymczasowe przeciążenie: poczekaj pięć sekund i spróbuj ponownie. Pamiętaj, że strumieniowane zapytanie zajmuje miejsce współbieżności do końca strumienia, więc klient zawieszony, który nigdy nie czyta do końca, zużywa zasoby.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = 5 if i == 0 else 5 * (i + 1)
            time.sleep(wait)
    raise RuntimeError("still rate limited")

Ustaw również semafor 8 lub mniej wokół wywołań, jeśli uruchamiasz workerzy równolegle. Jest to tańsze niż uczenie się limitu z błędów. Dodaj odrobinę losowego jittera do oczekiwania, aby kilka workerzy, które zawiedły jednocześnie, nie ponawiały próby w tej samej sekundzie. Jeśli widzisz powtarzające się odpowiedzi 429 przy niskim ruchu, szukaj strumieni, które są otwarte, ale nigdy nie zamknięte, lub pętli ponawiania, która się uruchamia bez oczekiwania, ponieważ jedno i drugie może samodzielnie wypełnić dostępne sloty.

Sprawdź koszt przed uruchomieniem w produkcji

Ceny to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych z przedpłaconego kredytu. Weź zapytanie z 2000 tokenami wejściowymi i 500 tokenami wyjściowymi. Koszt wejścia to 2000 / 1 000 000 x $0,15 = $0,0003. Koszt wyjścia to 500 / 1 000 000 x $0,50 = $0,00025. Zapytanie kosztuje $0,00055, więc 1000 takich zapytań kosztuje $0,55. Nieudane lub odrzucone zapytania nie są rozliczane. Zobacz stronę z cenami, aby poznać kwoty doładowania i bonusy; darmowy kredyt próbny w wysokości $0,50 pokrywa około 900 zapytań tego rozmiaru (0,50 / 0,00055).

Pytania i odpowiedzi

Jaki jest bazowy adres URL dla endpointu zgodnego z OpenAI?

Użyj https://api.openrouteralternativeapi.com/v1 jako bazowego adresu URL i wyślij swój klucz jako token Bearer. Identyfikator modelu to uncensored.

Które ścieżki są dostępne?

POST /v1/chat/completions do generowania i GET /v1/models do listy modeli. Nie ma tras wektorów (embeddings), obrazów, audio ani dostrajania (fine-tuning).

Czy muszę zmienić kod poza adresem URL i kluczem?

Zazwyczaj tylko ciąg modelu. Usuń pola specyficzne dla routera, takie jak preferencje dostawcy lub listy rezerwowe, z treści zapytania.

Dlaczego otrzymuję HTTP 429?

Sprawdź kod błędu. rate_limited oznacza zbyt wiele zapytań na minutę, concurrency oznacza zbyt wiele naraz, a nagłówek Retry-After: 5 oznacza tymczasowe przeciążenie.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.