Kimicode Alternatifi: Sansürsüz Barındırılan LLM API'si

Aslında ihtiyacınız olan şeyle başlayın

İnsanlar bir kimicode alternatifi için farklı nedenlerle arama yapar, bu yüzden doğru yanıt size bağlıdır. Bu sayfa başka bir ürünün mevcut şartlarını veya fiyatlandırmasını açıklayamaz, çünkü bunlar değişir ve bu gerçekleri beyan etme yetkisi bize ait değildir. Yapabileceği şey, herhangi bir karşılaştırma için işe yarayan kriterler sunmak ve ardından bu hizmeti dürüstçe bu kriterlere göre değerlendirmektir.

Herhangi bir şeyi karşılaştırmadan önce dört şeyi yazın:

1. İhtiyacınız olan davranış. Kurgu, rol yapma veya diğer yasal yetişkin içeriklerde içerik reddine mi takılıyorsunuz, yoksa sadece daha ucuz bir uç nokta mı istiyorsunuz?
2. İstemciniz. Aracınız OpenAI formatında özel bir base URL kabul ediyor mu?
3. Hacminiz. Ayda birkaç bin istek ile günde birkaç milyon istek farklı sorunlardır.
4. Operasyonlara toleransınız. GPU'ları yönetmek mi istersiniz, yoksa yalnızca bir anahtar yapıştırmak mı?

Cevaplarınız genellikle aşağıdaki üç yoldan ikisini kendi başlarına eler.

Üç rotaya hızlı bakış

Yönlendirme	Güçlü Yön	Rotanın maliyeti
Model satıcısından resmi API	Belirli adlı amiral gemisi modelleri, satıcı desteği, geniş özellik setleri	Satıcı içerik kurallarını belirler ve yasal yetişkin istekleri reddedebilir. Güncel fiyatlandırma ve kullanım politikasını kontrol edin
Açık ağırlıklı bir modeli kendi kendine barındırma	Model, veri ve ayarlar üzerinde tam kontrol	GPU satın alırsınız veya kiralarsınız, sunum katmanını çalıştırırsınız, ölçeklendirme ve güncellemeleri yönetirsiniz.
Daha az reddedme için ayarlanmış barındırılan API	Anahtar ve base URL, dakikalar içinde çalışır, token başına ödeme	Sağlayıcının tek modelini kullanırsınız ve limitlerini kabul edersiniz

Bunların hiçbiri evrensel olarak daha iyi değildir. Kontrol, çaba ve model seçimi birbirleriyle takas edilir.

Resmi bir satıcı API'sinin daha iyi bir seçim olduğu durumlar

Ürününüzün belirli bir adlı modele, büyük çok modlu girişlere, gömme vektörlerine veya ince ayara ihtiyacı varsa, o satıcıyı seçin. Bu hizmet yalnızca metindir. Görüntü, ses veya video oluşturma, gömme vektörü veya ince ayarlama özelliği yoktur ve tek bir açık ağırlıklı modeli sunar, bir kataloğu değil.

İçerik sıradan olduğunda ve reddetmeler asla ortaya çıkmadığında bir satıcı API'si de mantıklıdır. Bu durumda temel farklar fiyat, görevinizdeki kalite ve destek olup, bunları kendi küçük bir istem setinizle doğrudan karşılaştırmalısınız. Kalite için herhangi birinin pazarlama iddialarına, bizimkiler dahil, güvenmeyin. Yirmi veya elli gerçek istem çalıştırın ve çıktıları okuyun.

Bir nokta daha: bu hizmet Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google, Anthropic veya başka herhangi bir satıcının resmi API'si değildir ve bunlar arasında bir yönlendirici değildir. Sözleşmenizin veya uyumluluk sürecinizin belirli bir satıcıyla doğrudan bir ilişki gerektirmesi durumunda, bu hizmet o değildir.

Kendi kendine barındırmanın daha iyi bir tercih olduğu durumlar

Açık ağırlıklı bir modeli kendi başınıza çalıştırmak size en fazla kontrol sağlar. Ağırlıkları, nicemlemeyi, öntanımlı örnekleme ayarlarını ve günlük politikasını siz seçersiniz. İstikrarlı ve yoğun trafiğiniz varsa, makineleri zaten ödenmiş olarak saydığınızda, sahip olunan donanım token başına maliyeti herhangi bir ölçülü API'den daha düşük olabilir.

Ayrıca zamanınızı da alır. Yeterli belleğe sahip GPU'lara, bir sunucu çerçevesine, izlemeye, yeniden başlatmalara ve trafik artışları için bir plana ihtiyacınız vardır. Bir prototip, hobi projesi veya değişken talebi olan küçük bir uygulama için bu ek yük genellikle tasarrufun üstüne çıkar. Altyapı mühendisi ve sürekli iş yükü olan bir ekip için olmayabilir.

Pratik bir orta yol, barındırılan bir API ile başlamak, gerçek token kullanımınızı bir ay boyunca ölçmek ve ancak o zaman kendi kendine barındırmanın geri ödeme sağlayıp sağlamayacağına karar vermektir. Kullanım sayıları her yanıtla birlikte döndürülür, bu yüzden verileriniz olacaktır.

Bu barındırılan API'nin uygun olduğu durumlar

Bu API, yasal yetişkin istekleri reddetmeyen bir OpenAI formatlı metin uç noktası istediğinizde ve bunu bugün çalışır durumda istediğinizde uygundur. Tipik kullanımlar kurgu ve rol yapma araçları, yetişkinler için arkadaş uygulamaları, taslak ve beyin fırtınası yardımcıları ve reddetmelerin bir iş akışını bozduğu iç araçlardır. Bir kural sabittir ve müzakere edilemez: reşit olmayanlarla ilgili cinsel içerik yoktur.

Detaylar, böylece kendi başınıza yargılayabilirsiniz:

• Model ID uncensored, bağımsız bir sağlayıcı tarafından çalıştırılan tek bir açık ağırlıklı model.
• Uç noktalar POST /v1/chat/completions ve GET /v1/models, SSE üzerinden akış, araç çağırma ve JSON modu ile.
• Bağlam penceresi, istem ve tamamlama birlikte 100.000 token.
• Tam anahtar limitleri 8 eşzamanlı istek ve dakika başına 300 istektir. Bir deneme anahtarı 2 eşzamanlı istek ve dakika başına 60 istek alır.
• İstemler eğitim için kullanılmaz.

Belgeler ilk bir isteği gösterir ve entegrasyon kılavuzu istemci kurulumunu kapsar.

Kısa bir karar kontrol listesi

Bunları sırayla işleyin ve net bir yanıt alana kadar durun.

1. Görüntü, ses, gömme (embedding) veya ince ayar (fine-tuning) gerekiyor mu? O zaman bunları sunan bir sağlayıcı seçin. Bu sunmaz.
2. Belirli bir adlandırılmış model gerekiyor mu? O zaman o satıcının kendi API'sini kullanın.
3. İstikrarlı yoğun trafiğiniz ve sunucuları çalıştıracak biriniz var mı? Kendi kendine barındırmayı fiyatlandırın.
4. İş yükünüz metin mi ve diğer uç noktaların reddettiği yasal yetişkin içerik mi? Deneme kredisiyle bu API'yi deneyin.
5. Kullanımınız küçük veya düzensiz mi? Asla sona ermeyen kredi ile token başına fiyatlandırma, boşta kapasite için ödeme yapmaktan kaçınır.

Çoğu okuyucu 4. veya 5. adıma gelir. Eğer onlardan biriyse, en hızlı yol dokümantasyon'u okumak, denemeyi talep etmek ve kendi istemlerinizi çalıştırmaktır. Başka bir yere gelirseniz, dürüst tavsiye, cevabınıza uyan seçeneği kullanmaktır, hatta bu bizimkisi değilse bile.

Fiyatlandırma ve bakiye yükleme

Fiyatlandırma token başına, ön ödemeli, abonelik yok. Giriş 1M token başına $0.15 tutar ve çıktı 1M token başına $0.50 tutar. Kredi hiçbir zaman sona ermez ve başarısız veya reddedilen istekler için ücret alınmaz.

Ayrıntılı bir örnek: bir sohbet uygulaması bir ayda 5.000 konuşma işler. Her biri toplamda 3.000 girdi token ve 600 çıktı token kullanır.

• Girdi: 5.000 x 3.000 = 15.000.000 token, yani 15 x $0,15 = $2,25.
• Çıktı: 5.000 x 600 = 3.000.000 token, yani 3 x $0,50 = $1,50.
• Toplam: Ay için $3,75.

Bakiye yükleme işlemleri $20 ile $500 arasında herhangi bir tam tutarla yapılır. Daha büyük yüklemeler bonus getirir: $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15. Yani $100'lük bir bakiye yükleme $110 kredi sağlar. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Detaylar fiyatlandırma sayfasında yer alır.

Karşılaştırırken aynı iş yükünü tüm seçenekler için çalıştırın ve oranlar değiştiğinden her sağlayıcıdan güncel fiyatlandırmasını isteyin.

Geçiş yapmadan önce nasıl test edersiniz

Karar vermenin en ucuz yolu kendi istemlerinizi çalıştırmaktır. Google veya e-posta ve şifre ile kaydolun, ardından API anahtarı sayfası üzerinde $0,50 deneme kredisi talep edin. Kart gerektirmez, 7 gün sürer ve kişi başına bir ile sınırlıdır. Yukarıdaki oranlarda, bu kredi daha önceki örnekteki büyüklükteki yaklaşık 660 dönüşümü karşılar (her biri $0,00075).

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.kimicode.top/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write a tense opening paragraph for a noir story.",
    "Return a JSON object with keys title and summary for a short fantasy plot.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.8,
    )
    print(r.choices[0].message.content, "\n---")

Üç şeyi değerlendirin: modelin talimatlarını ne kadar takip ettiği, tonun ürününüze uygunluğu ve yanıt süresinin arayüzünüzde uygun hissedilip hissedilmediği. Ardından aynı istemleri kullanarak ayrıldığınız seçeneği karşılaştırın. Çıktı kullanımınız için daha iyi değilse, birkaç sent kaybedersiniz ve gerçek bir şey öğrenirsiniz.

Testi dürüst tutun. Gerçek ürününüzden istemler kullanın, zeki demo istemleri değil ve her birini birden fazla kez çalıştırın, çünkü örnekleme çıktılarını değiştirir. Ayarları karşılaştırırken tekrarlanabilir çalıştırmalar istiyorsanız seed ayarlayın. Her çağrı için usage bloğunda gösterilen maliyeti not edin ve beklenen hacimle çarparak alternatiflerin yanına koyabileceğiniz aylık bir rakam görün. Bir patlamada 429 hatası alırsanız, bu eşzamanlılık ihtiyaçlarınız hakkında bir şey söyler: deneme anahtarı aynı anda yalnızca 2 istek yapmaya izin verir, tam anahtar 8'e izin verir.

Daha fazla kılavuz

• OpenAI Uyumlu Olması Bir API İçin Ne Anlama Geliyor?
• OpenCode ile OpenAI Uyumlu API: Kurulum
• Sansürsüz LLM API: OpenAI Uyumlu Entegrasyon ve Fiyatlandırma