HI ▾
API कुंजी पाएँ

ओपन-वेट मॉडल के साथ OpenRouter विकल्प

यदि आप एक ओपन सोर्स OpenRouter विकल्प की तलाश में हैं, तो उपयोगी प्रश्न यह है कि आपको वास्तव में क्या ओपन चाहिए: वेट्स, सर्वर, या राउटिंग। यह पेज विकल्पों को व्यवस्थित करता है और दिखाता है कि एकल ओपन-वेट मॉडल API कहाँ फिट बैठता है।

अपडेट किया गया

एक हब से फैलने वाले कई केबल्स की तुलना में एक चमकते हुए मॉडल क्यूब की ओर एक सीधा लिंक

मुख्य बिंदु

  • OpenRouter आपके अनुरोध को कई वेंडर्स के मॉडल्स पर राउट करता है; यह API एक ओपन-वेट मॉडल को सर्व करता है, इसलिए एक ही प्रॉम्प्ट हमेशा एक ही मॉडल से मिलता है।
  • ओपन वेट्स ओपन सोर्स के समान नहीं हैं। जिस मॉडल पर आप निर्भर हैं, उसका लाइसेंस जांचें।
  • स्व-होस्टिंग सबसे अधिक नियंत्रण देता है, लेकिन इसमें GPU और रखरखाव की लागत आती है; एक होस्टेड एंडपॉइंट की लागत 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 है।
  • स्विच करने के लिए OpenAI क्लाइंट में दो बदलाव की आवश्यकता होती है: बेस URL और कुंजी।

लोग OpenRouter के ओपन सोर्स विकल्प से क्या समझते हैं

यह वाक्य तीन अलग-अलग इच्छाओं को कवर करता है, और उन्हें मिलाने से गलत चयन होता है। कुछ लोग ओपन-वेट चाहते हैं, जिसका अर्थ है कि मॉडल फ़ाइल प्रकाशित की जाती है और सिद्धांत रूप में अपने हार्डवेयर पर चलाई जा सकती है। कुछ को ओपन सोर्स सर्वर चाहिए, जिसका अर्थ है अनुरोधों को स्वीकार करने और उन्हें आगे बढ़ाने वाला गेटवे कोड। अन्य लोग ओपन रूटिंग चाहते हैं: एक नाम के पीछे मॉडल के बीच छिपी स्विचिंग नहीं।

OpenRouter एक होस्टेड सेवा है जो कई वेंडरों के मॉडल के सामने एक API प्रदान करती है। यही इसका उद्देश्य है, और कई प्रोजेक्ट्स के लिए यह सही उपकरण है। इसकी कीमत यह है कि आपसे उत्तर देने वाला मॉडल इस बात पर निर्भर करता है कि आप किसका नाम लेते हैं, कौन सा प्रोवाइडर उसे सर्व करता है, और वह प्रोवाइडर वर्तमान में उससे क्या कर रहा है। यदि आपका लक्ष्य एक स्थिर, निरीक्षण योग्य सेटअप है, तो एक छोटा अटैक सर्फेस तर्कसंगत रूप से समझने में आसान है।

यह साइट एक होस्टेड, OpenAI-संगत API प्रदान करती है जो एकल ओपन-वेट मॉडल के सामने चलती है, एक स्वतंत्र प्रदाता द्वारा चलाई जाती है और कानूनी वयस्कों के उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड है। यह एक होस्टेड सर्विस है। आप इसे HTTPS के माध्यम से कॉल करते हैं, और यह पेज सर्वर का डाउनलोड नहीं देता। आप जो प्राप्त करते हैं वह एक फिक्स्ड मॉडल, सुविधाओं की एक छोटी सूची और एक फ्लैट कीमत है, न कि एक सेल्फ-होस्टेड स्टैक।

ओपन वेट बनाम ओपन सोर्स, सरल शब्दों में

ओपन वेट वाला मॉडल किसी भी व्यक्ति को प्रशिक्षित पैरामीटर डाउनलोड करने देता है। इसका मतलब यह नहीं है कि यह स्वचालित रूप से एक ओपन सोर्स लाइसेंस है। कुछ वेट परमिसेट शर्तों के तहत आते हैं, अन्य उपयोग की शर्तें जोड़ते हैं, और कुछ वाणिज्यिक उपयोग पर रोक लगाते हैं। लाइसेंस विशिष्ट मॉडल की संपत्ति है, इसलिए किसी उत्पाद के ऊपर बनाने से पहले इसे पढ़ें।

एक मॉडल के सामने सेवा के लिए भी वही सावधानी लागू होती है। एक होस्टेड API ओपन वेट सर्व कर सकती है जबकि अपना कोड निजी रख सकती है। यह कोई दोष नहीं है, लेकिन इसका अर्थ है कि "ओपन" मॉडल का वर्णन करता है, होस्ट का नहीं। जब आप विकल्पों की तुलना करते हैं, तो लिखें कि आप किस परत को ओपन बनाना चाहते हैं और क्यों। सामान्य कारण हैं:

  • प्रतिलिपि योग्यता। आप कल के लिए वही मॉडल चाहते हैं जो आज है, ताकि टेस्ट और प्रॉम्प्ट अर्थपूर्ण रहें।
  • निकास विकल्प। यदि आप कभी किसी होस्टेड सेवा से बड़ा हो जाते हैं, तो आपको एक ऐसा मॉडल चाहिए जिसे आप कहीं और चला सकें।
  • ऑडिट करने की क्षमता। आप जानना चाहते हैं कि आपका टेक्स्ट क्या जनरेट कर रहा है, न कि केवल एंडपॉइंट का नाम क्या है।

एक होस्टेड एंडपॉइंट के पीछे एक ओपन-वेट मॉडल पहले और तीसरे बिंदु को काफी अच्छी तरह कवर करता है और दूसरे के लिए एक संभावित मार्ग प्रदान करता है। यह स्व-होस्टिंग को नहीं बदलता यदि यह आवश्यकता है कि कोई तीसरा पक्ष कभी एक प्रॉम्प्ट न देखे।

एकल मॉडल बनाम एक मल्टी-वेंडर राउटर

जब आप एक कुंजी के साथ कई मॉडल आज़माना चाहते हैं, तो एक राउटर सुविधाजनक होता है। यह कम सुविधाजनक होता है जब आपको एक व्यवहार को स्थिर रखने की आवश्यकता होती है। एक राउटर के साथ, एक मॉडल नाम समय के साथ अलग-अलग प्रोवाइडरों से मैप हो सकता है, और प्रत्येक प्रोवाइडर कॉन्टेक्स्ट लंबाई, गति, फ़िल्टरिंग या लॉगिंग में अलग हो सकता है। ये अंतर वास्तविक हैं और राउटर द्वारा सार्वजनिक रूप से दस्तावेज़ किए गए हैं, इसलिए वर्तमान विवरण के लिए अपनी वेबसाइटें जांचें।

एक एंडपॉइंट के पीछे एक मॉडल के साथ, स्थिति सरल है। नीचे दी गई तालिका सूचीबद्ध करती है कि यह API क्या सेट करता है।

प्रश्नयह API
कौन सा मॉडल उत्तर देता है?एक ओपन-वेट मॉडल, जिसे uncensored कहा जाता है।
क्या यह वेंडरों के बीच एक राउटर है?नहीं
क्या यह एक आधिकारिक वेंडर API है?नहीं, इसे एक स्वतंत्र प्रोवाइडर चलाता है
कॉन्टेक्स्ट विंडो100,000 टोकन, प्रॉम्प्ट और पूर्णता
विधियाँकेवल टेक्स्ट
एंडपॉइंटPOST /v1/chat/completions और GET /v1/models

ईमानदाराना नुकसान विस्तार है। आप एक स्ट्रिंग संपादित करके अलग मॉडल फैमिली पर स्विच नहीं कर सकते, क्योंकि केवल एक ही है। यदि आपके उत्पाद को एक विज़न मॉडल, एम्बेडिंग्स या आसान कार्यों के लिए एक सस्ता छोटा मॉडल चाहिए, तो एक राउटर या कई डायरेक्ट अकाउंट्स बेहतर जवाब हैं, और आप इस API का उपयोग उस हिस्से के लिए कर सकते हैं जिसमें एक uncensored टेक्स्ट मॉडल की आवश्यकता है।

आप क्या स्वयं चला सकते हैं, और इसकी लागत क्या है

यदि ओपन सोर्स एक हार्ड रिक्वायरमेंट है, तो सेल्फ-होस्टिंग ईमानदार जवाब है। ओपन-वेट मॉडल्स को सामुदायिक उपकरणों जैसे vLLM, llama.cpp या Ollama के साथ सर्व किया जा सकता है, और LiteLLM जैसे एक प्रॉक्सी उन्हें सामने एक OpenAI-शैली एंडपॉइंट प्रस्तुत कर सकता है। ये सभी सार्वजनिक रूप से उपलब्ध प्रोजेक्ट हैं, इसलिए वर्तमान सुविधाओं और लाइसेंसों के लिए उनकी दस्तावेज़ी जांचें।

लागत उन हिस्सों में छिपी है जो होस्टेड API छुपाते हैं:

  • मॉडल और लंबे कॉन्टेक्स्ट विंडो के लिए पर्याप्त GPU मेमोरी।
  • सर्विंग कॉन्फ़िगरेशन, बैचिंग और मॉनिटरिंग।
  • ट्रैफ़िक में अचानक वृद्धि के समय अपडेट, रीस्टार्ट और क्षमता योजना।
  • अपनी ओर से एब्यूज़ हैंडलिंग, लॉगिंग और एक्सेस कुंजी का प्रबंधन।

एक हॉबी प्रोजेक्ट या एक आंतरिक टूल के लिए जिसमें स्थिर, कम वॉल्यूम होता है, एक किराए पर लिया गया GPU या एक लोकल मशीन ठीक हो सकता है। बर्स्टी या छोटे वर्कलोड्स के लिए, प्रति टोकन भुगतान अक्सर सरल होता है। एक कार्य उदाहरण के रूप में, 1M इनपुट टोकन और 1M आउटपुट टोकन वाले एक जॉब की लागत इस API पर 1 x $0.15 + 1 x $0.50 = $0.65 है। निर्णय लेने से पहले GPU किराए और अपने समय के अपने अनुमान से तुलना करें।

एक मौजूदा OpenRouter क्लाइंट को स्थानांतरित करना

चूंकि API OpenAI चैट फॉर्मेट का पालन करता है, एक OpenAI-शैली क्लाइंट के लिए लिखा गया कोड आमतौर पर दो एडिट्स की आवश्यकता होता है: बेस URL और की। मॉडल स्ट्रिंग uncensored बन जाती है। यहाँ आधिकारिक openai पैकेज के साथ Python वर्जन है।

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt technical editor."},
        {"role": "user", "content": "Tighten this paragraph: ..."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)

Node में वही कॉल, और टर्मिनल से तेज़ जांच के लिए कच्चा HTTP रूप:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

स्ट्रीमिंग, फ़ंक्शन कॉलिंग और JSON मोड OpenAI SDKs की तरह ही काम करते हैं। राउटर-विशिष्ट अतिरिक्त फ़ील्ड, जैसे प्रोवाइडर प्राथमिकता फ़ील्ड या मॉडल फॉलबैक सूची, यहाँ अर्थहीन हैं और अनुरोध बॉडी से हटा दी जानी चाहिए। दस्तावेज़ पृष्ठ समर्थित पैरामीटरों की सूची देता है।

सीमाएं, मूल्य और टॉप-अप जो आपको स्विच करने से पहले पता होने चाहिए

प्रोडक्शन ट्रैफ़िक को स्थानांतरित करने से पहले सीमाओं को पढ़ें। एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है। एक ट्रायल कुंजी 2 समानांतर अनुरोध और प्रति मिनट 60 की अनुमति देती है। एक स्ट्रीम किए गए अनुरोध में कॉन्करेंसी स्लॉट तब तक बना रहता है जब तक स्ट्रीम समाप्त नहीं हो जाती, जो तब मायने रखता है जब आप एक साथ कई लंबी जनरेशन फैलाते हैं। सीमा से अधिक जाने पर HTTP 429 लौटाया जाता है त्रुटि कोड rate_limited या concurrency के साथ, और एक अस्थायी ओवरलोड भी 429 लौटाता है Retry-After: 5 हेडर के साथ। एक छोटी देरी के साथ पुनः प्रयास करें और अपनी ओर से इन-फ्लाइट कॉल की संख्या को सीमित करें।

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, जो प्रीपेड क्रेडिट से भुगतान किया जाता है, कोई सदस्यता नहीं। विफल या अस्वीकृत अनुरोधों के लिए शुल्क नहीं लिया जाता, और क्रेडिट कभी समाप्त नहीं होता। रिस्पॉन्स हेडर X-Balance-USD शेष राशि दिखाता है, ताकि आप कोड से खर्च ट्रैक कर सकें। टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि पर होते हैं, $50 पर 5% बोनस, $100 पर 10% और $200 पर 15% मिलता है। आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। अधिक विवरण मूल्य निर्धारण पृष्ठ पर उपलब्ध है।

नए उपयोगकर्ता साइन-अप के बाद की पेज पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं। यह 7 दिनों तक चलता है, कार्ड की आवश्यकता नहीं होती और प्रति व्यक्ति एक सीमित है। फंड्स जोड़ने से पहले एंडपॉइंट पर अपने असली प्रॉम्प्ट्स चलाकर इसका उपयोग करें। कंटेंट रूल छोटा है: इसका लक्ष्य वयस्कों द्वारा कानूनी उपयोग है, और नाबालिगों से जुड़े किसी भी सेक्सुअल कंटेंट के खिलाफ एक हार्ड लिमिट है।

निर्णय कैसे लें

वह आवश्यकता चुनें जो वास्तव में महत्वपूर्ण है। यदि आपको हर चीज़ को अपनी मशीनों पर चलाना है, तो एक ओपन-वेट मॉडल को सेल्फ-होस्ट करें और उस काम को स्वीकार करें। यदि आपको कई वेंडर्स, कई मोडैलिटीज या स्वचालित फॉलबैक चाहिए, तो एक राउटर अभी भी बेहतर विकल्प है, और इस साइट पर OpenRouter विकल्पों की तुलना अधिक विस्तार से ट्रेड-ऑफ्स को समझाती है। यदि आप एक निश्चित ओपन-वेट टेक्स्ट मॉडल, एक साधारण OpenAI-कम्पैटिबल इंटरफ़ेस और एक फ्लैट प्रति-टोकन मूल्य चाहते हैं, तो यह API आपके ट्रैफ़िक के उस हिस्से के लिए एक प्रत्यक्ष प्रतिस्थापन है।

एक व्यावहारिक योजना दोनों को रखना है। सामान्य कार्यों को वहाँ ही छोड़ दें, और उन अनुरोधों को भेजें जो अन्यत्र अक्सर अस्वीकृत होते हैं, इस एंडपॉइंट पर। API कुंजी पृष्ठ पर एक कुंजी बनाएं, ट्रायल क्रेडिट क्लेम करें, और अपने बीस प्रॉम्प्ट्स पर आउटपुट की तुलना करें। वह परीक्षण प्रति अनुरोध एक सेंट के अंश का खर्च करता है और किसी भी फ़ीचर टेबल से अधिक बताता है।

प्रश्न और उत्तर

क्या यह API ओपन सोर्स है?

यह एक ओपन-वेट मॉडल के सामने एक होस्टेड सेवा है। मॉडल वेट्स उनके लेखकों द्वारा प्रकाशित किए गए हैं, लेकिन होस्टेड सर्वर कुछ ऐसा नहीं है जिसे आप इस साइट से डाउनलोड कर सकें, और ओपन वेट स्वचालित रूप से एक ओपन सोर्स लाइसेंस नहीं हैं।

क्या यह OpenRouter के समान है?

नहीं। OpenRouter कई वेंडर्स के लिए एक राउटर है। यह API एक मॉडल को सर्व करता है, जो एक स्वतंत्र प्रोवाइडर द्वारा चलाया जाता है, और यह एक राउटर नहीं है और न ही एक आधिकारिक वेंडर API है।

मुझे कौन सा मॉडल नाम भेजना है?

मॉडल ID के रूप में uncensored भेजें। इसे अपने स्वयं के क्लाइंट से पुष्टि करने के लिए GET /v1/models कॉल करें।

क्या मैं अपना मौजूदा OpenAI SDK कोड उपयोग कर सकता हूँ?

हाँ। बेस URL को https://api.openrouteralternativeapi.com/v1 में बदलें, अपनी कुंजी को Bearer टोकन के रूप में उपयोग करें, और मॉडल को uncensored पर सेट करें। राउटर-केवल अनुरोध फ़ील्ड्स को हटा दें।

आपकी कुंजी बस एक कदम दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।