OpenRouter İstemcileri için OpenAI Uyumlu Uç Nokta
Bir openrouter openai compatible endpoint, OpenAI sohbet formatını konuşan bir base URL'den ibarettir, bu nedenle başka birine değiştirmek birkaç satır sürer. İşte tam değerler, istek şekilleri ve karşılaşabileceğiniz hatalar.
güncellendi

Temel noktalar
- Temel URL https://api.openrouteralternativeapi.com/v1'dir ve model kimliği uncensored'dir.
- Auth standart bir Bearer header'dır; yalnızca POST /v1/chat/completions ve GET /v1/models mevcuttur.
- Streaming, araçlar ve JSON modu çalışır, ancak yalnızca router alanları desteklenmez.
- HTTP 429'da, bir rate limit'i bir concurrency limitinden ayırmak için hata kodunu okuyun.
İhtiyacınız olan değerler
Bir OpenAI tarzı uç nokta düzenlemenize izin veren herhangi bir araç üç değer gerektirir. Tablodan kopyalayın ve normal bir kurulumda başka hiçbir şey değişmez.
| Ayar | Değer |
|---|---|
| Temel URL | https://api.openrouteralternativeapi.com/v1 |
| API anahtarı | API anahtarı sayfasında oluşturuldu |
| Model kimliği | uncensored |
| Kimlik doğrulama başlığı | Authorization: Bearer YOUR_API_KEY |
| Sohbet rotası | POST /v1/chat/completions |
| Model listesi rotası | GET /v1/models |
Base URL zaten /v1 ile biter. Çoğu SDK /chat/completions'i kendileri ekler, bu yüzden iki kez eklemeyin. Bazı araçlar tam sohbet rotasını ister; bu durumda base URL'yi /chat/completions ile birlikte kullanın.
Uç noktanın ne olduğu ve ne olmadığı
URL'nin arkasında bağımsız bir sağlayıcı tarafından çalıştırılan ve yasal yetişkin kullanım için içerik reddetmeleri olmadan cevap verecek şekilde ayarlanmış bir open-weight model bulunur. Bu bir router değildir, bu nedenle bir istek farklı bir tedarikçiye yönlendirilmez. Ayrıca herhangi bir model üreticisinin resmi API'si de değildir. Bu yapılandırma için önemlidir: seçilecek model slug'larının bir listesi, sağlayıcı tercih alanı veya bir fallback zinciri yoktur. uncensored gönderirsiniz ve o tek modeli alırsınız.
Hizmet yalnızca metindir. Görüntü oluşturma, ses, video, embedding ve fine-tuning sunulmaz, bu nedenle /v1/embeddings veya bir görüntü rotasını çağıran bir istemci bu base URL'de başarısız olur. Bu çağrıları zaten kullandığınız hizmete yönlendirin ve uygulamanız birden fazlasını karıştırıyorsa base URL'yi özellik başına ayarlayın.
Başka bir uyumluluk noktası model listesini ilgilendirir. Başlangıçta GET /v1/models çağıran bir istemci, bir açılır menüyü doldurmak veya bir ayarı doğrulamak için, tek bir model döndürür. Bu beklenen bir durumdur. Kodunuz yapılandırılmış bir model adının listede yer alıp yer almadığını kontrol ediyorsa, adı uncensored olarak ayarlayın ve kontrol başarılı olur. Uygulamanız bir yapılandırma dosyasının derinliklerinde bir satıcı model adını sabit kodladıysa, URL değiştirildikten sonra bile göç eden uygulamanın başarısız olmasının en yaygın nedeni kalan bir dizge olduğundan, ilk çalıştırmadan önce depoda bunu arayın.
İlk istek, üç yol
Terminalden bir istek ile başlayın. Bu, anahtarın, URL'nin ve model ID'nin herhangi bir framework dahil olmadan çalıştığını kanıtlar.
curl https://api.openrouteralternativeapi.com/v1/models -H "Authorization: Bearer $API_KEY"
curl https://api.openrouteralternativeapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Reply with the word ready."}],
"max_tokens": 10
}'
Python SDK ile aynı çağrı. base_url ve api_key dışında stok OpenAI kodundan hiçbir şeyin farklı olmadığını fark edin.
from openai import OpenAI
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
)
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Reply with the word ready."}],
max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)
Ve Node ile, anahtarı bir ortam değişkeninden okuyarak:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.openrouteralternativeapi.com/v1",
apiKey: process.env.API_KEY,
});
const r = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Reply with the word ready." }],
max_tokens: 10,
});
console.log(r.choices[0].message.content);
Çoğu araç ortam değişkenlerini okur, kurucu argümanlarını değil. Resmi SDK'lar genellikle OPENAI_BASE_URL ve OPENAI_API_KEY'i destekler, bu da değiştirilmemiş bir betiği yönlendirmenize olanak tanır. SDK sürümünüzün belgelerine bakarak isimleri doğrulayın.
Akış, araçlar ve JSON modu
İstemcilerin çoğunun güvendiği özellikler mevcuttur. Sunucu tarafından gönderilen olayları almak için stream: true ayarlayın; kullanım bilgisi akışın sonunda raporlanır. Araç çağırma tools ve tool_choice'i kabul eder, tool_calls farklarını akışa alır ve sonuçları role: "tool" içeren bir mesaj olarak geri bekler. JSON modu response_format: {"type":"json_object"} ile etkinleştirilir. temperature, top_p, stop, seed örnek alanları ve sıklık ile varlık cezaları aktarılır.
Python'da bir streaming örneği:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Ve JSON modu, bu beklediğiniz anahtarları adlandıran bir istemle eşleştirilmeye değer:
r = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
{"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
],
response_format={"type": "json_object"},
)
print(r.choices[0].message.content)
Sonucu her durumda bir try bloğu içinde yine de ayrıştırmaya devam edin. JSON modu geçerli çıktı olasılığını artırır ancak kodunuz yine de hatalı bir yanıtı ele almalıdır, örneğin bir kez yeniden deneme yaparak.
Çoklu sohbetler ve tool çağrıları
Uç nokta, OpenAI sohbet rotası gibi durumsuzdur. Önceki çağrıları hatırlamaz, bu nedenle her istek, modelin görmesini istediğiniz sohbeti içermelidir. Bir mesaj listesi tutun, her dönüşten sonra asistan yanıtını ekleyin ve tüm listeyi tekrar gönderin. Toplamı izleyin: 100.000-token penceresi istem ve tamamlamayı kapsar ve uzun geçmişler ayrıca girdi maliyetini artırır.
history = [{"role": "system", "content": "You answer in two sentences."}]
def chat(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
Araç çağırma için işlevlerinizi tools içinde tanımlayın, modelin istediği her şeyi çalıştırın ve eşleşen tool_call_id'i taşıyan bir role: "tool" mesajı olarak çıktıyı geri gönderin. Basit bir tanım şu şekildedir:
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by its number",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Where is order 1042?"}],
tools=tools,
tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)
Herhangi bir şeyi çalıştırmadan önce argümanları doğrulayın. Model bir çağrı önerir; kodunuz, özellikle fonksiyon para, dosyalar veya başkalarının verileriyle ilgileniyorsa, yürütmenin güvenli olup olmadığına karar verir.
OpenRouter tarzı isteklerden kaldırılacak alanlar
Bir yönlendirici için yazılmış istemciler genellikle istek gövdesine veya üstbilgilerine ek alanlar ekler. Tipik örnekler arasında sağlayıcı sıralaması, model yedekleme dizileri, yönlendirme tercihleri ve atama üstbilgileri yer alır. Bu API bunları kullanmaz. Bilinmeyen alanlar, alana bağlı olarak yoksayılabilir veya bir hata oluşturabilir; bu nedenle her iki sonuca da güvenmek yerine bunları temizleyin.
- Bir tedarikçi ön eki içeren herhangi bir model slug'ını
uncensoredile değiştirin. - Yedek listelerini bırakın. Tek model kullanılamazsa, bunu kendi yeniden deneme mantığınızda yönetin.
- Görüntü veya ses içerik parçaları göndermeyin. Model metin okur.
- Toplam istek gövdesini 8 MB altında tutun.
docs sayfası desteklenen parametreleri gösterir ve bir alan istemcinizin beklediğinden farklı davrandığında kontrol edilecek yerdir.
Hız limitleri ve 429 yanıtları
Tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek izni verir; bir deneme anahtarı 2 ve 60 izni verir. Her yanıt X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency taşır. Her başarısızlıkla birlikte istek kimliğini günlüğe kaydedin, çünkü destek ilk olarak bunu soracaktır.
Üç tür HTTP 429 vardır. Hata kodu rate_limited dakikada istekleri aştığınızı gösterir: yavaşlayın. Kod concurrency aynı anda çok fazla istek uçta olduğunu gösterir: onları kuyruğa alın. Bir Retry-After: 5 header'ı ile 429 geçici aşırı yük anlamına gelir: beş saniye bekleyin ve tekrar deneyin. Akışlı bir istek, stream sona erene kadar concurrency slotunu tuttuğunu unutmayın, bu nedenle sona kadar okumayan bir istemci kapasiteyi yiyebilir.
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError as e:
wait = 5 if i == 0 else 5 * (i + 1)
time.sleep(wait)
raise RuntimeError("still rate limited")
Ayrıca paralel çalışanlar çalıştırıyorsanız, çağrılar etrafında 8 veya daha az bir semaphore ayarlayın. Bu, hatalardan limiti öğrenmekten daha ucuzdur. Bekleme süresine biraz rastgele jitter ekleyin, böylece birlikte başarısız olan birkaç çalışan aynı saniyede yeniden deneme yapmaz. Düşük trafik sırasında tekrarlanan 429 yanıtları görürseniz, açılan ancak asla kapatılmayan stream'leri veya beklemeden ateşleyen bir yeniden deneme döngüsünü arayın, çünkü bunların her biri mevcut slotları kendi başına doldurabilir.
Üretimi ona yönlendirmeden önce maliyet kontrolü
Fiyatlandırma ön ödemeli kredi için 1M girdi token başına $0.15 ve 1M çıktı token başına $0.50'dir. 2.000 girdi token ve 500 çıktı token içeren bir istek alın. Girdi maliyeti 2.000 / 1.000.000 x $0.15 = $0.0003'tür. Çıktı maliyeti 500 / 1.000.000 x $0.50 = $0.00025'tir. İstek $0.00055 maliyetindedir, bu nedenle 1.000 böyle istek $0.55'e mal olur. Başarısız veya reddedilen istekler ücretlendirilmez. Top-up miktarları ve bonuslar için fiyatlandırma sayfasına bakın; $0.50'lik deneme kredisi bu boyuttaki yaklaşık 900 istek için yeterlidir (0.50 / 0.00055).
Daha fazla kılavuz
Sorular ve cevaplar
OpenAI-uyumlu uç nokta için temel URL nedir?
https://api.openrouteralternativeapi.com/v1'i base URL olarak kullanın ve anahtarınızı Bearer token olarak gönderin. Model ID'si uncensored'dır.
Hangi rotalar mevcut?
Oluşturma için POST /v1/chat/completions ve model listesi için GET /v1/models. Gömme, görüntü, ses veya ince ayama rotaları yoktur.
URL ve anahtar dışında kodumu değiştirmem gerekiyor mu?
Genellikle yalnızca model dizesi. İstek gövdelerinden sağlayıcı tercihleri veya yedek listeleri gibi yönlendiriciye özgü alanları kaldırın.
Neden HTTP 429 alıyorum?
Hata kodunu kontrol edin. rate_limited, dakikada çok fazla istek gönderildiğini; concurrency, aynı anda çok fazla istek yapıldığını; ve Retry-After: 5 başlığı, geçici aşırı yüklenmeyi gösterir.