HI ▾
API कुंजी पाएँ

OpenRouter की कीमत कैसे काम करती है? परतों की व्याख्या

OpenRouter की कीमत कैसे काम करती है? संक्षेप में, प्रत्येक मॉडल के लिए प्रति मिलियन इनपुट टोकन और प्रति मिलियन आउटपुट टोकन की अपनी कीमत होती है, जिसे उसे सप्लाई करने वाला प्रदाता तय करता है, और आप राउटर के खाते पर प्रीपेड क्रेडिट से भुगतान करते हैं। यह लेख उन परतों की सूची बनाता है जिन्हें जाँचना है और उन्हें फ्लैट रेट से तुलना करता है।

अपडेट किया गया

कांच की परतों का ढेर जिसमें सिक्के एक प्रवाह में विलीन होकर एक मीटर को पोषित करते हैं, परतदार रूटर मूल्य निर्धारण को दर्शाते हुए
एक हब से फैलने वाले कई केबल्स की तुलना में एक चमकते हुए मॉडल क्यूब की ओर एक सीधा लिंक

मुख्य बिंदु

  • रूटर के बिल में एक प्रति-मॉडल टोकन मूल्य, प्रदाता अंतर और रूटर की ओर से किसी भी शुल्क शामिल होते हैं; सटीक आंकड़ों के लिए उनकी वर्तमान कीमत पढ़ें।
  • इनपुट और आउटपुट टोकन की कीमत अलग-अलग तय की जाती है, और आउटपुट आमतौर पर महंगा होता है।
  • एक फ्लैट मॉडल में एक इनपुट दर और एक आउटपुट दर होती है: यहाँ 1M टोकन के लिए $0.15 और $0.50।
  • प्रत्येक प्रतिक्रिया के usage फ़ील्ड को पढ़ने वाले एक छोटे स्क्रिप्ट से लागत का अनुमान लगाएं।

रूटर की कीमत की परतें

एक राउटर कई प्रदाताओं से मॉडल तक पहुँच को पुनर्विक्रित करता है। इससे कीमत के घटकों की एक परत बनती है। मैं संरचना का वर्णन यहाँ करता हूँ और सटीक संख्याओं को राउटर के अपने पेज पर छोड़ देता हूँ, क्योंकि वे बदलते रहते हैं और मैं अनुमान लगा रहा हूँ।

  1. मॉडल टोकन कीमत। प्रत्येक मॉडल 1M इनपुट (प्रॉम्प्ट) टोकन और 1M आउटपुट (कम्प्लीशन) टोकन के लिए एक दर प्रदर्शित करता है। बड़े मॉडल छोटे मॉडलों की तुलना में अधिक महंगे होते हैं, अक्सर काफी अंतर से।
  2. प्रदाता चयन। एक ही मॉडल को अलग-अलग कीमतों, गति और सीमाओं के साथ कई प्रदाता होस्ट कर सकते हैं। एक रूटर कीमत, गति या उपलब्धता के आधार पर आपके लिए एक चुन सकता है, इसलिए आपकी प्रभावी दर बदल सकती है।
  3. राउटर-साइड शुल्क। जाँचें कि क्या राउटर क्रेडिट खरीदते समय कोई शुल्क जोड़ता है, उपयोग पर मार्कअप लगाता है, या न्यूनतम खरीद की मात्रा निर्धारित करता है।
  4. विशेष मॉडल संस्करण। कुछ कैटलॉग सीमित सीमाओं वाले मुफ्त या छूट वाले संस्करण सूचीबद्ध करते हैं। उन पर निर्माण करने से पहले सीमाओं को पढ़ें।
  5. अतिरिक्त सुविधाएँ। सादे टेक्स्ट से परे कुछ भी, जैसे इमेज इनपुट या टूल उपयोग, मॉडल द्वारा अलग से मूल्य निर्धारित किया जा सकता है।

इनमें से कोई भी बुरा नहीं है। यह एक ही कुंजी के पीछे सौ मॉडल होने की कीमत है। समस्या केवल इतनी है कि बिल की भविष्यवाणी करना कठिन होता है। व्यापक तुलना के लिए OpenRouter API विकल्पों की तुलना देखें।

टोकन, इनपुट बनाम आउटपुट

प्रदाता चाहे जो भी हो, बिलिंग टोकन गिनती है। एक टोकन टेक्स्ट का एक टुकड़ा है, लगभग चार अंग्रेजी अक्षरों के बराबर। 1,000 शब्दों का प्रॉम्प्ट लगभग 1,300 टोकन होता है। इनपुट टोकन उस सब कुछ कवर करते हैं जो आप भेजते हैं: सिस्टम प्रॉम्प्ट, चैट इतिहास, दस्तावेज़, टूल परिभाषाएँ। आउटपुट टोकन वह हैं जो मॉडल वापस लिखता है।

आउटपुट की प्रति टोकन लागत आमतौर पर इनपुट से अधिक होती है, इसलिए एक चैटिंग जवाब समान आकार के एक लंबे प्रॉम्प्ट से अधिक महंगा होता है। चैट ऐप्स हर चरण में इतिहास को फिर से भेजते हैं, जिसका अर्थ है कि इनपुट लागत एक बातचीत के दौरान बढ़ती जाती है, भले ही हर जवाब छोटा हो।

सटीक टोकनाइजर मॉडल के अनुसार अलग होता है, इसलिए एक ही टेक्स्ट अलग-अलग मॉडल पर अलग मात्रा में गिना जा सकता है। जब दो मॉडल की कीमत की तुलना करते हैं, तो दर सूची की तुलना में अपने प्रॉम्प्ट सेट के लिए लागत की तुलना करें।

कार्य उदाहरण: एक ही महीने, दो मॉडल

मान लीजिए कि एक माह में 30M इनपुट टोकन और 6M आउटपुट टोकन का वर्कलोड है। एक रूटर पर मॉडल A के लिए, इस काल्पनिक उदाहरण में, $1 और $4 प्रति मिलियन इनपुट और आउटपुट टोकन की कीमत है। ये संख्याएँ उदाहरण के लिए काल्पनिक हैं। बिल 30 x $1 + 6 x $4 = $30 + $24 = $54, प्लस जो भी लागू शुल्क हों।

$0.15 प्रति 1M इनपुट और $0.50 प्रति 1M आउटपुट की कीमत वाले एक फ्लैट एंडपॉइंट पर, उसी वॉल्यूम का खर्च 30 x $0.15 + 6 x $0.50 = $4.50 + $3.00 = $7.50 होता है। यह यह तर्क नहीं है कि सस्ता हमेशा बेहतर होता है। दोनों मॉडल अलग-अलग व्यवहार करते हैं, और बड़ा मॉडल आपकी आवश्यकता हो सकता है। यह दिखाता है कि आपको हेडलाइन दरों को पढ़ने के बजाय अपने वास्तविक वॉल्यूम की कीमत क्यों तय करनी चाहिए।

एक और व्यावहारिक बिंदु: कई रूटर मॉडल के बगल में एक सामान्य अनुरोध के लिए एक कीमत दिखाते हैं। प्रतिबद्ध होने से पहले एक योजना की जाँच करने के लिए इसे अपने दैनिक अनुरोधों और 30 से गुणा करें।

फ्लैट विकल्प

इस साइट का एंडपॉइंट, https://api.openrouteralternativeapi.com/v1, एक मॉडल, uncensored, और एक मूल्य सूची रखता है। इनपुट 1M टोकन प्रति $0.15 है और आउटपुट 1M टोकन प्रति $0.50 है। आप प्रीपेड क्रेडिट से भुगतान करते हैं, सब्सक्रिप्शन नहीं है, विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, और क्रेडिट कभी समाप्त नहीं होता है। कोई राउटर परत नहीं है: मॉडल एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और यह किसी बड़े लैब का आधिकारिक उत्पाद नहीं है।

इससे लागत की भविष्यवाणी एक पंक्ति की गणना बन जाती है। 2,000 इनपुट टोकन और 500 आउटपुट टोकन वाले एक कॉल की लागत 2,000 x $0.15 / 1M + 500 x $0.50 / 1M = $0.0003 + $0.00025 = $0.00055 होती है। ऐसे एक हजार कॉल की लागत $0.55 होती है। यदि आपको कई अलग-अलग मॉडल चाहिए, तो एक रूटर बेहतर विकल्प है; यदि आपको एक चाहिए, तो फ्लैट मूल्य निर्धारण को समझना आसान है। टॉप-अप बोनस के लिए मूल्य निर्धारण पृष्ठ देखें।

एक छोटे स्क्रिप्ट से वास्तविक लागत मापें

अनुमानों पर लंबे समय तक भरोसा न करें। रिस्पॉन्स में usage ब्लॉक होता है जिसमें प्रॉम्प्ट और कंप्लीशन टोकन गणना होती है, और यह API आपके शेष क्रेडिट के साथ X-Balance-USD हेडर भी लौटाता है। कॉल प्रति लागत लॉग करने के लिए इनमें से किसी का भी उपयोग करें:

from openai import OpenAI

client = OpenAI(base_url="https://api.openrouteralternativeapi.com/v1", api_key="YOUR_KEY")

PRICE_IN, PRICE_OUT = 0.15, 0.50   # dollars per 1M tokens

def run(prompt):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
    )
    u = r.usage
    cost = (u.prompt_tokens * PRICE_IN + u.completion_tokens * PRICE_OUT) / 1e6
    return r.choices[0].message.content, cost

text, cost = run("List three risks of changing a database schema live.")
print(f"cost this call: ${cost:.6f}")

इसे सौ वास्तविक प्रॉम्प्ट पर चलाएं और आपको अपने वास्तविक प्रॉम्प्ट लंबाई सहित प्रति कार्य की लागत मिल जाएगी। एक ऐसे रूटर पर भी वही करें जिसमें आप विचार कर रहे हैं, उनके डैशबोर्ड पर दिए गए आंकड़ों का उपयोग करें, और दोनों कुल की तुलना करें। OpenRouter-शैली OpenAI-संगत एंडपॉइंट लेख समझाता है कि क्लाइंट साइड कैसे समान है।

बजट और टॉप-अप

शुरुआत करने से पहले एक बजट निर्धारित करें। प्रीपेड क्रेडिट इस मामले में मदद करता है, क्योंकि आप अपने लोड किए गए राशि से अधिक खर्च नहीं कर सकते। इस API पर, टॉप-अप $20 से $500 तक की कोई भी पूर्ण राशि हो सकती है, जिसमें $50 पर +5%, $100 पर +10% और $200 पर +15% अतिरिक्त मिलता है। $100 का टॉप-अप $110 का क्रेडिट देता है। ऊपर बताए गए $0.00055 प्रति कॉल की दर से, यह 200,000 कॉल है।

आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। रेट लिमिट आपकी बजट की रक्षा भी करते हैं: एक पूर्ण कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 तक सीमित है, एक ट्रायल कुंजी 2 और 60 तक, उससे आगे HTTP 429। इसे आज़माने में कुछ नहीं लगता: API कुंजी पृष्ठ पर $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें, बिना कार्ड, 7 दिन के लिए मान्य। एंडपॉइंट विवरण दस्तावेज़ में हैं।

प्रश्न और उत्तर

क्या OpenRouter टोकन के लिए शुल्क लेता है?

हाँ, प्रत्येक मॉडल प्रति मिलियन इनपुट टोकन और प्रति मिलियन आउटपुट टोकन की कीमत सूचीबद्ध करता है। सटीक दरों और किसी भी शुल्क के लिए उनकी वर्तमान मूल्य निर्धारण पृष्ठ देखें।

एक रूटर पर एक ही मॉडल की लागत अलग-अलग क्यों होती है?

विभिन्न प्रदाता एक ही मॉडल को अलग-अलग कीमतों पर होस्ट करते हैं, और राउटर उनके बीच चुन सकता है। जांचें कि आपके अनुरोध कैसे रूट किए गए हैं।

इस API की कीमत कैसे निर्धारित की जाती है?

प्रीपेड क्रेडिट से, कोई सदस्यता नहीं, 1M इनपुट टोकन के लिए स्थिर $0.15 और 1M आउटपुट टोकन के लिए $0.50।

क्या यहाँ विफल अनुरोधों के लिए मुझसे शुल्क लिया जाता है?

नहीं। विफल या अस्वीकृत अनुरोधों पर कोई शुल्क नहीं लगाया जाता।

आपकी कुंजी प्राप्त करने के लिए आपको केवल एक फॉर्म भरना है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। यही संपूर्ण सेटअप है।