OpenRouter क्लाइंट्स के लिए OpenAI-संगत एंडपॉइंट
एक ओपनरोटर ओपनएआई-कम्पैटिबल एंडपॉइंट बस एक बेस यूआरएल है जो ओपनएआई चैट फॉर्मेट का उपयोग करता है, इसलिए इसे किसी अन्य से बदलने में कुछ ही लाइनों की आवश्यकता होती है। यहाँ सटीक मान, अनुरूप संरचनाएँ और त्रुटियाँ दी गई हैं।
अपडेट किया गया

मुख्य बिंदु
- बेस URL https://api.openrouteralternativeapi.com/v1 है और मॉडल ID uncensored है।
- प्रमाणीकरण एक मानक Bearer हेडर है; केवल POST /v1/chat/completions और GET /v1/models मौजूद हैं।
- स्ट्रीमिंग, टूल्स और JSON मोड काम करते हैं, लेकिन केवल रूटर वाले फ़ील्ड समर्थित नहीं हैं।
- HTTP 429 पर, रेट लिमिट और कॉन्करेंसी लिमिट में अंतर करने के लिए त्रुटि कोड पढ़ें।
आपको जिन मानों की आवश्यकता है
किसी भी टूल को जो आपको एक OpenAI-शैली एंडपॉइंट को एडिट करने देता है, तीन मानों की आवश्यकता होती है। उन्हें तालिका से कॉपी करें और सामान्य सेटअप में कुछ भी नहीं बदलेगा।
| सेटिंग | मान |
|---|---|
| बेस URL | https://api.openrouteralternativeapi.com/v1 |
| API कुंजी | API कुंजी पृष्ठ पर बनाया गया |
| मॉडल ID | uncensored |
| Auth हेडर | Authorization: Bearer YOUR_API_KEY |
| चैट रूट | POST /v1/chat/completions |
| मॉडल सूची मार्ग | GET /v1/models |
बेस URL पहले से ही /v1 पर समाप्त होता है। अधिकांश SDK स्वयं /chat/completions जोड़ते हैं, इसलिए इसे दो बार न जोड़ें। कुछ टूल्स पूरे चैट रूट के लिए पूछते हैं; उस स्थिति में बेस URL के बाद /chat/completions का उपयोग करें।
एंडपॉइंट क्या है और क्या नहीं
यूआरएल के पीछे एक ओपन-वेट मॉडल चलता है, जिसे एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और कानूनी वयस्कों के उपयोग के लिए उत्तर अस्वीकृति के बिना ट्यून्ड किया गया है। यह एक रूटर नहीं है, इसलिए कोई भी अनुरोध किसी अन्य विक्रेता को आगे नहीं बढ़ाया जाता है। यह किसी भी मॉडल निर्माता की आधिकारिक एपीआई भी नहीं है। कॉन्फ़िगरेशन के लिए यह महत्वपूर्ण है: चुनने के लिए मॉडल स्लग्स की कोई सूची नहीं है, कोई प्रदाता प्राथमिकता फ़ील्ड नहीं है और कोई फॉलबैक चेन नहीं है। आप uncensored भेजते हैं और आपको वह एक मॉडल मिलता है।
सर्विस केवल टेक्स्ट के लिए है। इमेज जनरेशन, ऑडियो, वीडियो, एम्बेडिंग्स और फाइन-ट्यूनिंग प्रदान नहीं किए जाते हैं, इसलिए एक क्लाइंट जो /v1/embeddings या इमेज मार्ग को कॉल करता है, उस बेस यूआरएल पर विफल हो जाएगा। उन कॉल्स को उसी सर्विस पर रखें जहाँ आप उन्हें पहले उपयोग कर रहे हैं, और यदि आपकी एप्लिकेशन कई फीचर्स को मिलाती है, तो बेस यूआरएल को फीचर के अनुसार सेट करें, न कि वैश्विक रूप से।
एक और संगतता बिंदु मॉडल सूची से संबंधित है। एक क्लाइंट जो स्टार्टअप पर GET /v1/models को कॉल करता है, एक ड्रॉपडाउन भरने या सेटिंग को सत्यापित करने के लिए, एक ही मॉडल वापस पाएगा। यह अपेक्षित है। यदि आपका कोड जाँच करता है कि कॉन्फ़िगर किए गए मॉडल का नाम सूची में दिखाई देता है, तो नाम को uncensored पर सेट करें और जाँच पास हो जाती है। यदि आपकी एप्लिकेशन किसी कॉन्फ़िगरेशन फ़ाइल में गहराई में किसी वेंडर मॉडल नाम को हार्ड-कोड करती है, तो पहले रन से पहले रिपॉजिटरी में इसके लिए खोजें, क्योंकि एक बची हुई स्ट्रिंग सबसे आम कारण है कि एक माइग्रेटेड एप यूआरएल बदलने के बाद भी विफल रहती है।
पहला अनुरोध, तीन तरीके
टर्मिनल से एक अनुरोध के साथ शुरू करें। यह कुंजी, URL और मॉडल ID को साबित करता है, किसी फ्रेमवर्क शामिल होने से पहले।
curl https://api.openrouteralternativeapi.com/v1/models -H "Authorization: Bearer $API_KEY"
curl https://api.openrouteralternativeapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Reply with the word ready."}],
"max_tokens": 10
}'
पायथन SDK के साथ वही कॉल। ध्यान दें कि base_url और api_key के अलावा मानक OpenAI कोड में कुछ भी अलग नहीं है।
from openai import OpenAI
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
)
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Reply with the word ready."}],
max_tokens=10,
)
print(r.choices[0].message.content)
print(r.usage)
और Node के साथ, एनवायरनमेंट वेरिएबल से कुंजी पढ़ते हुए:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.openrouteralternativeapi.com/v1",
apiKey: process.env.API_KEY,
});
const r = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Reply with the word ready." }],
max_tokens: 10,
});
console.log(r.choices[0].message.content);
बहुत सारे टूल्स पर्यावरण चर को कन्स्ट्रक्टर आर्गुमेंट्स की तुलना में पढ़ते हैं। आधिकारिक SDK आमतौर पर OPENAI_BASE_URL और OPENAI_API_KEY का सम्मान करते हैं, जो आपको एक अदल-बदल किए गए स्क्रिप्ट को रीडायरेक्ट करने की अनुमति देता है। नामों की पुष्टि करने के लिए अपने SDK संस्करण की दस्तावेज़ी जाँचें।
स्ट्रीमिंग, टूल्स और JSON मोड
वे फीचर्स जो अधिकांश क्लाइंट्स पर निर्भर करते हैं, मौजूद हैं। स्ट्रीमिंग प्राप्त करने के लिए stream: true सेट करें; उपयोग स्ट्रीम के अंत में रिपोर्ट किया जाता है। फ़ंक्शन कॉलिंग tools और tool_choice स्वीकार करती है, tool_calls डेल्टा स्ट्रीम करती है, और role: "tool" वाले संदेशों के रूप में परिणामों की उम्मीद करती है। JSON मोड response_format: {"type":"json_object"} से सक्षम होता है। सैम्पलिंग फ़ील्ड्स temperature, top_p, stop, seed और फ्रीक्वेंसी और प्रेजेंस पेनल्टी पास की जाती हैं।
पायथन में एक स्ट्रीमिंग उदाहरण:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write three short taglines for a coffee cart."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
और JSON मोड, जिसका उपयोग प्रॉम्प्ट में एक निर्देश के साथ जोड़ना उचित है जो आपको उम्मीद वाले कीज़ को नामित करता है:
r = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Return JSON with keys title and tags (array of strings)."},
{"role": "user", "content": "Summarise: a guide to brewing cold coffee at home."},
],
response_format={"type": "json_object"},
)
print(r.choices[0].message.content)
फिर भी परिणाम को एक ट्राई ब्लॉक में हमेशा पार्स करें। JSON मोड वैध आउटपुट की संभावना बढ़ाता है, लेकिन आपका कोड अभी भी एक खराब रूप वाले जवाब को संभालना चाहिए, उदाहरण के लिए, एक बार पुनः प्रयास करके।
मल्टी-टर्न चैट और टूल कॉल्स
एंडपॉइंट स्टेटलेस है, जैसे ओपनएआई चैट मार्ग। यह पिछली कॉल्स को याद नहीं रखता है, इसलिए हर अनुरोध में उस संवाद को ले जाना चाहिए जिसे आप मॉडल को दिखाना चाहते हैं। संदेशों की एक सूची रखें, हर टर्न के बाद असिस्टेंट जवाब को जोड़ें, और पूरी सूची फिर से भेजें। कुल पर नज़र रखें: 100,000-टोकन विंडो प्रॉम्प्ट और कंप्लीशन को कवर करती है, और लंबी इतिहास भी इनपुट लागत को बढ़ाते हैं।
history = [{"role": "system", "content": "You answer in two sentences."}]
def chat(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
टूल कॉलिंग के लिए, अपने फंक्शन्स को tools में वर्णन करें, मॉडल द्वारा मांगे गए किसी भी चीज़ को चलाएं, और मेल खाने वाले tool_call_id के साथ एक role: "tool" संदेश के रूप में आउटपुट वापस भेजें। एक न्यूनतम परिभाषा इस प्रकार दिखती है:
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by its number",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Where is order 1042?"}],
tools=tools,
tool_choice="auto",
)
call = r.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)
कुछ भी चलाने से पहले आर्गुमेंट्स को सत्यापित करें। मॉडल एक कॉल का प्रस्ताव रखता है; आपका कोड यह तय करता है कि क्या यह सुरक्षित है, विशेष रूप से जब फंक्शन पैसे, फ़ाइलों या अन्य लोगों के डेटा को छूता है।
OpenRouter-शैली के अनुरोधों से हटाने योग्य फ़ील्ड
रूटर के लिए लिखे गए क्लाइंट अक्सर अनुरोध बॉडी या हेडर में अतिरिक्त फ़ील्ड जोड़ते हैं। सामान्य उदाहरणों में प्रोवाइडर ऑर्डरिंग, मॉडल फॉलबैक सरणियाँ, रूटिंग प्राथमिकताएँ और एट्रिब्यूशन हेडर शामिल हैं। यह API इन्हें उपयोग नहीं करता है। अज्ञात फ़ील्ड या तो अनदेखे किए जा सकते हैं या त्रुटि उत्पन्न कर सकते हैं, जो फ़ील्ड पर निर्भर करता है, इसलिए किसी भी परिणाम पर भरोसा करने के बजाय इन्हें हटा दें।
- किसी भी मॉडल स्लॉग को
uncensoredसे बदलें जिसमें एक विक्रेता प्रीफ़िक्स शामिल है। - फॉलबैक सूची को हटा दें। यदि एकमात्र मॉडल अनुपलब्ध है, तो इसे अपने स्वयं के रीट्राई लॉजिक में हैंडल करें।
- छवि या ऑडियो कंटेंट पार्ट्स भेजें नहीं। मॉडल केवल पाठ पढ़ता है।
- कुल अनुरोध बॉडी को 8 MB से कम रखें।
docs पेज उन पैरामीटरों को दिखाता है जो समर्थित हैं, और यह वह स्थान है जहाँ आपको जाँच करनी चाहिए जब कोई फ़ील्ड आपके क्लाइंट की अपेक्षा से अलग व्यवहार करता है।
सीमाएँ और 429 प्रतिक्रियाएँ
एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है; एक ट्रायल कुंजी 2 और 60 की अनुमति देती है। प्रत्येक प्रतिक्रिया में X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency होता है। प्रत्येक विफलता के साथ अनुरोध ID लॉग करें, क्योंकि यह वही पहली चीज़ है जिसका समर्थन पूछेगा।
HTTP 429 के तीन प्रकार होते हैं। त्रुटि कोड rate_limited का अर्थ है कि आपने प्रति मिनट अनुरोधों की सीमा पार कर दी है: गति कम करें। कोड concurrency का अर्थ है कि एक साथ बहुत सारे अनुरोध चल रहे हैं: उन्हें क्यू में डालें। एक Retry-After: 5 हेडर के साथ 429 का अर्थ है अस्थायी ओवरलोड: पाँच सेकंड प्रतीक्षा करें और पुनः प्रयास करें। याद रखें कि एक स्ट्रीम किए गए अनुरोध में उसकी कॉन्करेंसी स्लॉट तब तक बनी रहती है जब तक स्ट्रीम समाप्त न हो जाए, इसलिए एक स्टॉल क्लाइंट जो अंत तक नहीं पढ़ता, वह क्षमता खा जाएगा।
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.openrouteralternativeapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError as e:
wait = 5 if i == 0 else 5 * (i + 1)
time.sleep(wait)
raise RuntimeError("still rate limited")
साथ ही, यदि आप समानांतर रूप से वर्कर चलाते हैं, तो कॉल्स के आसपास 8 या उससे कम सीमा वाला एक सेमीफोर सेट करें। यह त्रुटियों से सीमा जानने से सस्ता है। प्रतीक्षा में थोड़ी यादृच्छिक जिटर जोड़ें ताकि कई वर्कर जो एक साथ विफल हो गए, एक ही सेकंड में सभी पुनः प्रयास न करें। यदि आप कम ट्राफिक पर बार-बार 429 प्रतिक्रियाएँ देखते हैं, तो उन स्ट्रीम्स की खोज करें जो खोली गईं लेकिन कभी बंद नहीं हुईं, या एक रीट्राई लूप की खोज करें जो बिना प्रतीक्षा किए फायर करता है, क्योंकि कोई भी एक अपने आप उपलब्ध स्लॉट्स को भर सकता है।
इसे इस्तेमाल करने से पहले लागत जाँचें
मूल्य निर्धारण प्रीपेड क्रेडिट से 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 है। 2,000 इनपुट टोकन और 500 आउटपुट टोकन के साथ एक अनुरोध लें। इनपुट लागत 2,000 / 1,000,000 x $0.15 = $0.0003 है। आउटपुट लागत 500 / 1,000,000 x $0.50 = $0.00025 है। अनुरोध की लागत $0.00055 है, इसलिए 1,000 ऐसे अनुरोधों की लागत $0.55 है। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। टॉप-अप राशि और बोनस के लिए मूल्य निर्धारण पृष्ठ देखें; ट्रायल क्रेडिट $0.50 इस आकार के लगभग 900 अनुरोधों को कवर करता है (0.50 / 0.00055)।
अधिक गाइड
प्रश्न और उत्तर
OpenAI-संगत एंडपॉइंट के लिए बेस URL क्या है?
बेस URL के रूप में https://api.openrouteralternativeapi.com/v1 का उपयोग करें और अपनी कुंजी Bearer टोकन के रूप में भेजें। मॉडल ID uncensored है।
कौन से रूट उपलब्ध हैं?
जनरेशन के लिए POST /v1/chat/completions और मॉडल सूची के लिए GET /v1/models। एम्बेडिंग, छवि, ऑडियो या फाइन-ट्यूनिंग के कोई रूट नहीं हैं।
क्या मुझे URL और कुंजी के अलावा अपने कोड में बदलाव करना चाहिए?
आमतौर पर केवल मॉडल स्ट्रिंग। अनुरोध बॉडी से रूटर-विशिष्ट फ़ील्ड जैसे प्रोवाइडर प्राथमिकताएँ या फॉलबैक सूची हटा दें।
मुझे HTTP 429 क्यों मिलता है?
त्रुटि कोड जाँचें। rate_limited का अर्थ है प्रति मिनट बहुत सारे अनुरोध, concurrency का अर्थ है एक साथ बहुत सारे, और Retry-After: 5 हेडर का अर्थ है अस्थायी ओवरलोड।