TR ▾
API anahtarı al

Açık Ağırlıklı Model ile OpenRouter Alternatifi

Açık kaynaklı bir openrouter alternatifi aradığınızda, aslında neyi açık istediğiniz sorusu önemlidir: ağırlıklar mı, sunucu mu yoksa yönlendirme mi? Bu sayfa seçenekleri ayırır ve tek bir açık ağırlıklı model API'nin nerede uyduğunu gösterir.

güncellendi

Bir merkezden yayılan çoklu kablolar ile tek bir parlayan model küpüne giden tek düz bağlantı arasındaki kontrast

Temel noktalar

  • OpenRouter isteğinizi birçok satıcının modellerine yönlendirir; bu API tek bir açık ağırlıklı modeli sunar, bu yüzden aynı istem her zaman aynı modele denk gelir.
  • Açık ağırlıklar açık kaynak ile aynı değildir. Güvendiğiniz herhangi bir modelin lisansını kontrol edin.
  • Kendi kendine barındırma en fazla kontrolü sağlar ancak GPU ve bakım maliyetleri gerektirir; barındırılan bir uç nokta 1M giriş token başına $0.15 ve 1M çıktı token başına $0.50 maliyetindedir.
  • Geçiş, bir OpenAI istemcisinde iki değişiklik gerektirir: base URL ve anahtar.

Açık kaynaklı bir OpenRouter alternatifi olarak kastedilen

Bu ifade üç farklı isteği kapsar ve bunları karıştırmak yanlış seçime yol açar. Bazı insanlar açık ağırlıklı modeller istiyor, yani model dosyası yayınlanır ve teorik olarak kendi donanımlarında çalıştırılabilir. Bazıları açık kaynaklı bir sunucu istiyor, yani istekleri kabul edip yönlendiren ağ geçidi kodu. Başkaları ise açık yönlendirme istiyor: tek bir isim arkasında modeller arasında gizli bir geçiş olmaması.

OpenRouter, birçok satıcının modellerinin önünde tek bir API sağlayan barındırılan bir hizmettir. Bu onun amacıdır ve birçok proje için doğru araçtır. Bedeli, sizi yanıtlayan modelin hangi modeli adlandırdığınıza, onu hangi sağlayıcının sunduğuna ve o sağlayıcının şu anda onunla ne yaptığına bağlı olmasıdır. Hedefiniz kararlı, denetlenebilir bir kurulum ise, kapsamı daha dar olan bir yapıyı anlamak daha kolaydır.

Bu site, bağımsız bir sağlayıcı tarafından yürütülen ve yasal yetişkin kullanım için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modelin önünde barındırılan, OpenAI uyumlu bir API sunar. Bu barındırılan bir hizmettir. HTTPS üzerinden çağrılır ve bu sayfa sunucunun bir indirmesini sunmaz. Kazandığınız şey, kendinden barındırılan bir yığın değil, sabit bir model, kısa bir özellik listesi ve düz bir fiyattır.

Açık ağırlıklar ile açık kaynak arasındaki fark, sade bir dille

Açık ağırlıklı bir model, herkesin eğitilmiş parametreleri indirmesine olanak tanır. Bu otomatik olarak açık kaynak lisansı anlamına gelmez. Bazı ağırlıklar izin verici terimlerle sunulurken, diğerleri kullanım koşulları ekler ve birkaçı ticari kullanımı kısıtlar. Lisans belirli bir modelin özelliğidir, bu yüzden bir ürün oluşturmadan önce okuyun.

Aynı özen, modelin önündeki hizmete de uygulanır. Barındırılan bir API, açık ağırlıkları sunarken kendi kodunu özel tutabilir. Bu bir kusur değildir, ancak "açık" kelimesinin modeli değil, sunucuyu tanımladığı anlamına gelir. Seçenekleri karşılaştırırken, hangi katmanın açık olmasını istediğinizi ve nedenini yazın. Yaygın nedenler şunlardır:

  • Yenilenebilirlik. Yarın da bugün gibi aynı modeli istersiniz, böylece testler ve istemler anlamlı kalır.
  • Çıkış seçenekleri. Bir barındırılan hizmet için artık çok büyük hale geldiğinizde, başka bir yerde çalıştırabileceğiniz bir modele sahip olmak istersiniz.
  • Denetlenebilirlik. Metninizi neyin ürettiğini, uç noktanın adının ne olduğunu değil, bilmek istersiniz.

Hosted bir uç nokta arkasındaki açık ağırlıklı bir model, ilk ve üçüncü noktayı oldukça iyi karşılar ve ikincisi için makul bir yol sunar. Gereksinim bir üçüncü tarafın asla bir istemi görmemesi ise, bu model kendi kendine barındırmayı yerine geçmez.

Tek model ile çoklu satıcılı yönlendirici karşılaştırması

Bir yönlendirici, tek bir anahtarla birçok modeli denemek istediğinizde kullanışlıdır. Ancak tek bir davranışın sabit kalmasını gerektiğinde daha az kullanışlıdır. Bir yönlendirici ile, bir model adı zaman içinde farklı sağlayıcılara eşleşebilir ve her sağlayıcı bağlam uzunluğu, hız, filtreleme veya günlük kaydı açısından farklılık gösterebilir. Bu farklılıklar gerçektir ve yönlendirici tarafından kamuya açıklanır, bu yüzden güncel detaylar için sayfalarını kontrol edin.

Tek bir uç nokta arkasındaki tek bir model ile durum daha basittir. Aşağıdaki tablo, bu API'nin sabitlediği özellikleri listeler.

SoruBu API
Hangi model yanıt verir?uncensored olarak adreslenen tek bir açık ağırlıklı model
Bu satıcılar arasında bir yönlendirici mi?Hayır
Bu resmi bir satıcı API'si mi?Hayır, bağımsız bir sağlayıcı tarafından yürütülüyor
Bağlam penceresi100.000 token, istem ve tamamlama
ModlarSadece metin
Uç noktalarPOST /v1/chat/completions ve GET /v1/models

Dürüstçe söylemek gerekirse, eksiklik kapsam genişliğidir. Tek bir dizeyi düzenleyerek farklı bir model ailesine geçemezsiniz, çünkü yalnızca bir model vardır. Ürününüzün bir görüntü modeli, gömme (embedding) veya kolay görevler için daha ucuk küçük bir modele ihtiyacı varsa, bir yönlendirici (router) veya birden fazla doğrudan hesap daha iyi bir çözümdür ve sansürsüz bir metin modeline ihtiyaç duyan kısım için bu API'yi kullanmaya devam edebilirsiniz.

Kendiniz çalıştırabileceğiniz şeyler ve maliyetleri

Açık kaynak katı bir gereksinimse, kendi kendine barındırma dürüst bir cevaptır. Açık ağırlıklı modeller vLLM, llama.cpp veya Ollama gibi topluluk araçları ile sunulabilir ve LiteLLM gibi bir proxy, bunların önünde bir OpenAI tarzı uç nokta sunabilir. Bunların hepsi kamuya açık projelerdir, bu yüzden güncel özellikler ve lisanslar için belgelerine bakın.

Maliyet, barındırılan bir API'nin gizlediği kısımlardadır:

  • Model ve uzun bağlam için yeterli GPU belleği.
  • Servis yapılandırması, toplulaştırma ve izleme.
  • Trafik artışlarında güncellemeler, yeniden başlatmalar ve kapasite planlaması.
  • Kendi kötüye kullanım, günlük kaydı ve erişim anahtarları yönetiminiz.

Sabit ve düşük hacimli bir hobi projesi veya iç araç için kiralanan bir GPU veya yerel bir makine yeterli olabilir. Dalgalı veya küçük iş yükleri için token başına ödeme genellikle daha basittir. Hesaplanmış bir örnek olarak, 1M giriş tokenı ve 1M çıkış tokenı içeren bir iş bu API'de 1 x $0,15 + 1 x $0,50 = $0,65 tutarındadır. Karar vermeden önce GPU kiralama maliyetini ve harcadığınız zamanı kendi tahmininizle karşılaştırın.

Mevcut bir OpenRouter istemcisini taşıma

API, OpenAI sohbet formatını takip ettiği için, bir OpenAI tarzı istemci için yazılan kod genellikle iki düzenleme gerektirir: base URL ve anahtar. Model dizesi uncensored olur. İşte resmi openai paketiyle Python sürümü.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openrouteralternativeapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt technical editor."},
        {"role": "user", "content": "Tighten this paragraph: ..."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)

Node ile aynı çağrı ve terminalden hızlı bir kontrol için ham HTTP formu:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openrouteralternativeapi.com/v1",
  apiKey: process.env.API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(res.choices[0].message.content);
curl https://api.openrouteralternativeapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

Akış, fonksiyon çağırma ve JSON modu, OpenAI SDK'larındakiyle aynı şekilde çalışır. Sağlayıcı tercih alanları veya model yedekleme listeleri gibi yönlendiriciye özgü ekler burada anlam ifade etmez ve istek gövdelerinden kaldırılmalıdır. belgelendirme sayfası desteklenen parametreleri listeler.

Geçiş yapmadan önce bilmeniz gereken limitler, fiyat ve bakiye yükleme

Üretim trafiğini yönlendirmeden önce limitleri okuyun. Tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek izni verir. Bir deneme anahtarı ise dakika başına 2 eşzamanlı istek ve 60 istek izni verir. Akışlı bir istek, akış bitene kadar eşzamanlılık slotunu tutar; bu, aynı anda birçok uzun üretim isteği gönderiyorsanız önemlidir. Bir limite takılmanız HTTP 429 hatasını rate_limited veya concurrency hata koduyla birlikte döndürür; geçici bir aşırı yüklenme durumunda da 429 hatası Retry-After: 5 başlığıyla döndürülür. Kısa bir gecikmeyle yeniden deneyin ve tarafınızda bekleyen çağrı sayısını sınırlayın.

Fiyatlandırma, ön ödemeli kredi ile ödenen, abonelik içermeyen dakika başına 1M giriş tokenı için $0,15 ve 1M çıkış tokenı için $0,50'dir. Başarısız veya reddedilen istekler ücretlendirilmez ve kredi hiç sona ermez. Yanıt başlığı X-Balance-USD kalanı gösterir, böylece harcamayı kodunuzdan takip edebilirsiniz. Yüklemeler $20 ile $500 arasında herhangi bir tam tutardadır, $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15 bonus eklenir. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Daha fazla detay fiyatlandırma sayfasında yer almaktadır.

Yeni kullanıcılar, kayıt olduktan sonra anahtar sayfasında tek tıkla $0,50 deneme kredisi talep edebilir. 7 gün sürer, kart gerektirmez ve kişi başı bir kezle sınırlıdır. Fon eklemeden önce gerçek istemlerinizi uç noktada çalıştırmak için kullanın. İçerik kuralı kısadır: yasal yetişkin kullanımı hedeftir ve reşit olmayanlar ile ilgili cinsel içerik konusunda katı bir sınır vardır.

Nasıl karar verilir

Gerçekten baskı yapan gereksinime göre seçim yapın. Her şeyi kendi makinelerinizde çalıştırmak zorundaysanız, açık ağırlıklı bir modeli kendi kendine barındırma ile çalıştırın ve işi kabul edin. Çok sayıda satıcıya, çoklu modlara veya otomatik yedeklemelere ihtiyacınız varsa, bir yönlendirici hala daha uygun bir çözümdür ve bu sitedeki OpenRouter alternatiflerinin karşılaştırması daha detaylı olarak bu ödünleşimleri inceler. Tek bir sabit açık ağırlıklı metin modeli, düz bir OpenAI uyumlu arayüz ve düz token başına fiyat istiyorsanız, bu API trafiğinizin o kesimi için doğrudan bir alternatiftir.

Pratik bir plan her ikisini de tutmaktır. Genel görevleri mevcut yerlerinde bırakın ve reddedilme eğilimi olan istekleri bu uç noktaya gönderin. API anahtarı sayfasında bir anahtar oluşturun, deneme kredisi talep edin ve kendi istemlerinizin yirmisinde çıktıları karşılaştırın. Bu test, istek başına bir sentin çok küçük bir kesrine mal olur ve herhangi bir özellik tablosundan daha fazla şey söyler.

Sorular ve cevaplar

Bu API açık kaynak mı?

Açık ağırlıklı bir modelin önünde barındırılan bir hizmettir. Model ağırlıkları yazarları tarafından yayınlanır, ancak barındırılan sunucu bu siteden indirebileceğiniz bir şey değildir ve açık ağırlıklar otomatik olarak açık kaynak lisansı değildir.

Bu OpenRouter ile aynı mı?

Hayır. OpenRouter birçok satıcı arasında bir yönlendiricidir. Bu API tek bir modeli sunar, bağımsız bir sağlayıcı tarafından çalıştırılır ve bu bir yönlendirici değildir ve resmi bir satıcı API'si değildir.

Hangi model adını gönderirim?

Model ID olarak uncensored gönderin. Kendi istemcinizden doğrulamak için GET /v1/models çağrısını yapın.

Mevcut OpenAI SDK kodumu kullanabilir miyim?

Evet. Base URL'yi https://api.openrouteralternativeapi.com/v1 olarak değiştirin, anahtarınızı Bearer token olarak kullanın ve modeli uncensored olarak ayarlayın. Yalnızca yönlendiriciye özel istek alanlarını kaldırın.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.