Kimicode विकल्प: बिना सेंसर होस्टेड LLM API

वह शुरू करें जिसकी आपको वास्तव में आवश्यकता है

लोग kimicode के लिए विभिन्न कारणों से खोज करते हैं, इसलिए सही उत्तर आपके कारण पर निर्भर करता है। यह पेज किसी अन्य उत्पाद की वर्तमान शर्तों या मूल्य निर्धारण का वर्णन नहीं कर सकता, क्योंकि वे बदलते रहते हैं और वे हमारे घोषित करने के लिए नहीं हैं। यह जो कर सकता है वह यह है कि आपको तुलना के लिए काम करने वाले मानदंड प्रदान करे, और फिर इस सेवा को उनमें ईमानदारी से फिट करे।

कुछ भी तुलना करने से पहले इन चार चीजों को लिखें:

1. आपको जिस व्यवहार की आवश्यकता है। क्या आपको कथा, रोलप्ले या अन्य कानूनी वयस्क सामग्री पर रिफ्यूजल (refusals) मिलते हैं, या क्या आप केवल एक सस्ता एंडपॉइंट चाहते हैं?
2. आपका क्लाइंट। क्या आपका टूल OpenAI फॉर्मेट में कस्टम Base URL स्वीकार करता है?
3. आपका वॉल्यूम। महीने में कुछ हजार अनुरोध और दिन में कुछ मिलियन अलग-अलग समस्याएँ हैं।
4. संचालन के लिए आपकी सहनशीलता। क्या आप GPUs प्रबंधित करना चाहते हैं, या बस एक कुंजी पेस्ट करना चाहते हैं?

आपके उत्तर आमतौर पर नीचे दिए गए तीन रास्तों में से दो को स्वयं ही समाप्त कर देते हैं।

तीन रास्तों का संक्षिप्त अवलोकन

रूट	शक्ति	रास्ते का खर्च
मॉडल विक्रेता से आधिकारिक API	विशिष्ट नाम वाले फ्लैगशिप मॉडल, विक्रेता सहायता, व्यापक फीचर सेट	विक्रेता सामग्री के नियम निर्धारित करता है, और वे कानूनी वयस्क अनुरोधों को अस्वीकार कर सकते हैं। उनकी वर्तमान मूल्य निर्धारण और उपयोग नीति जांचें
ओपन-वेट मॉडल का स्वयं होस्टिंग	मॉडल, डेटा और सेटिंग्स पर पूर्ण नियंत्रण	आप जीपीयू खरीदते या किराए पर लेते हैं, सर्विंग स्टैक चलाते हैं, स्केलिंग और अपडेट हैंडल करते हैं
कम अस्वीकृतियों के लिए ट्यून्ड होस्टेड API	कुंजी और बेस यूआरएल, मिनटों में काम करना शुरू, टोकन के लिए भुगतान	आप प्रदाता के एक ही मॉडल का उपयोग करते हैं और उसकी सीमाओं को स्वीकार करते हैं

इनमें से कोई भी सार्वभौमिक रूप से बेहतर नहीं है। वे नियंत्रण, प्रयास और मॉडल चयन को एक-दूसरे के लिए बदलते हैं।

जब आधिकारिक विक्रेता API बेहतर विकल्प हो

यदि आपके उत्पाद को विशिष्ट नामित मॉडल, बड़े बहु-मोडल इनपुट, एम्बेडिंग्स या फाइन-ट्यूनिंग की आवश्यकता है, तो उस विक्रेता को चुनें। यह सेवा केवल टेक्स्ट के लिए है। इसमें इमेज, ऑडियो या वीडियो जनरेशन, एम्बेडिंग्स या फाइन-ट्यूनिंग नहीं है, और यह केवल एक ओपन-वेट मॉडल प्रदान करता है, न कि कैटलॉग।

जब आपकी सामग्री सामान्य होती है और अस्वीकृतियाँ कभी नहीं आतीं, तो एक विक्रेता API का चयन करना भी उचित है। उस स्थिति में मुख्य अंतर मूल्य, आपके कार्य पर गुणवत्ता और सहायता हैं, और आपको उनकी तुलना अपने प्रॉम्प्ट के छोटे टेस्ट सेट से सीधे करनी चाहिए। गुणवत्ता के लिए किसी के भी मार्केटिंग दावों, हमारे सहित, पर भरोसा न करें। बीस या पचास असली प्रॉम्प्ट चलाएं और आउटपुट पढ़ें।

एक और बिंदु: यह सेवा मेटा (Meta), मिस्ट्रल (Mistral), क्वेन (Qwen), डीपसीक (DeepSeek), ओपनएआई (OpenAI), एक्सएआई (xAI), गूगल (Google), एंथ्रोपिक (Anthropic) या किसी अन्य विक्रेता की आधिकारिक API नहीं है, और न ही यह उनके बीच एक रूटर है। यदि आपका अनुबंध या अनुपालन प्रक्रिया किसी विशिष्ट विक्रेता के साथ प्रत्यक्ष संबंध की आवश्यकता है, तो यह वह नहीं है।

जब सेल्फ-होस्टिंग बेहतर विकल्प है

अपने खुद के ओपन-वेट मॉडल को चलाने से आपको सबसे अधिक नियंत्रण मिलता है। आप वेट्स, क्वांटीज़ेशन, सैम्पलिंग डिफ़ॉल्ट्स और लॉगिंग पॉलिसी चुनते हैं। यदि आपके पास स्थिर, भारी ट्रैफ़िक है, तो मशीनों को पहले से खरीदे गए मानकर गिनने के बाद, स्वामित्व वाले हार्डवेयर का प्रति टोकन खर्च किसी भी मीटर वाले API से कम हो सकता है।

इसमें आपका समय भी लगता है। आपको पर्याप्त मेमोरी वाले GPUs, सर्विंग फ्रेमवर्क, मॉनिटरिंग, रीस्टार्ट और ट्रैफिक स्पाइक के लिए योजना की आवश्यकता है। एक प्रोटोटाइप, शौक की परियोजना या असमान मांग वाले छोटे ऐप के लिए, यह ओवरहेड अक्सर बचत से अधिक होता है। एक ऐसी टीम के लिए जिसमें इंफ्रास्ट्रक्चर इंजीनियर और निरंतर कार्यभार हो, यह नहीं हो सकता।

एक व्यावहारिक मध्यम मार्ग होस्टेड API पर शुरू करना, एक महीने के लिए अपने वास्तविक टोकन उपयोग को मापना और फिर यह निर्णय लेना है कि स्व-होस्टिंग लागत को वापस लाएगा या नहीं। उपयोग के आंकड़े हर प्रतिक्रिया के साथ लौटे हैं, इसलिए आपके पास डेटा होगा।

जब यह होस्टेड API उपयुक्त है

यह API तब फिट बैठता है जब आप एक ऐसा OpenAI-फॉर्मेट टेक्स्ट एंडपॉइंट चाहते हैं जो कानूनी वयस्क अनुरोधों को अस्वीकार नहीं करता है, और आप इसे आज चलाना चाहते हैं। सामान्य उपयोगों में फिक्शन और रोलप्ले टूल्स, वयस्कों के लिए कंपैनियन ऐप्स, ड्राफ्टिंग और ब्रेनस्टॉर्मिंग हेल्पर्स, और आंतरिक टूल्स शामिल हैं जहाँ अस्वीकृतियाँ एक वर्कफ़्लो को तोड़ देती हैं। एक नियम निश्चित और अनिवार्य है: नाबालिगों से संबंधित यौन सामग्री नहीं।

विशिष्ट विवरण, ताकि आप स्वयं निर्णय ले सकें:

• मॉडल ID uncensored, एक ओपन-वेट मॉडल जो एक स्वतंत्र प्रदाता द्वारा चलाया जाता है।
• एंडपॉइंट POST /v1/chat/completions और GET /v1/models, SSE के साथ स्ट्रीमिंग, टूल कॉलिंग और JSON मोड के साथ।
• संदर्भ, प्रॉम्प्ट और कम्प्लीशन का 100,000 टोकन एक साथ।
• 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों के लिए पूर्ण कुंजी सीमाएँ। एक ट्रायल कुंजी को 2 और 60 मिलते हैं।
• प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।

docs एक पहले अनुरोध को दिखाते हैं, और इंटीग्रेशन गाइड क्लाइंट सेटअप को कवर करता है।

एक छोटा निर्णय चेकलिस्ट

इन क्रम में जाएं और जब आपको स्पष्ट उत्तर मिल जाए तो रुक जाएं।

1. क्या आपको छवियों, ऑडियो, एम्बेडिंग्स या फाइन-ट्यूनिंग की आवश्यकता है? फिर एक ऐसे प्रदाता का चयन करें जो उन्हें प्रदान करता है। यह API ऐसा नहीं करता है।
2. क्या आपको एक विशिष्ट नामित मॉडल की आवश्यकता है? फिर उस वेंडर के अपने API का उपयोग करें।
3. क्या आपके पास स्थिर भारी ट्रैफिक है और सर्वर चलाने के लिए कोई व्यक्ति है? स्व-होस्टिंग की लागत का अनुमान लगाएं।
4. क्या आपका कार्यभार टेक्स्ट है, जिसमें कानूनी वयस्क सामग्री है जिसे अन्य एंडपॉइंट अस्वीकार करते हैं? ट्रायल क्रेडिट के साथ इस API को आज़माएं।
5. क्या आपका उपयोग छोटा या अनियमित है? क्रेडिट जो कभी समाप्त नहीं होता, उसके साथ प्रति-टोकन मूल्य निर्धारण से आप निष्क्रिय क्षमता के लिए भुगतान करने से बचते हैं।

अधिकतर पाठक चरण 4 या 5 पर आते हैं। यदि आप उनमें से एक हैं, तो सबसे तेज़ रास्ता docs पढ़ना, ट्रायल दावा करना और अपने स्वयं के प्रॉम्प्ट चलाना है। यदि आप कहीं और आते हैं, तो ईमानदार सलाह यह है कि अपने उत्तर से मेल खाने वाले विकल्प का उपयोग करें, भले ही वह हमारा न हो।

मूल्य निर्धारण और टॉप-अप

मूल्य निर्धारण प्रति टोकन, प्रीपेड, सब्सक्रिप्शन के बिना है। इनपुट लागत $0.15 प्रति 1M टोकन है और आउटपुट लागत $0.50 प्रति 1M टोकन है। क्रेडिट कभी समाप्त नहीं होता है, और विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है।

एक कार्य उदाहरण: एक चैट ऐप एक महीने में 5,000 बातचीत संभालता है। प्रत्येक में कुल 3,000 इनपुट टोकन और 600 आउटपुट टोकन का उपयोग होता है।

• इनपुट: 5,000 x 3,000 = 15,000,000 टोकन, इसलिए 15 x $0.15 = $2.25।
• आउटपुट: 5,000 x 600 = 3,000,000 टोकन, इसलिए 3 x $0.50 = $1.50।
• कुल: इस महीने के लिए $3.75।

टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि में होते हैं। बड़े टॉप-अप पर बोनस मिलता है: $50 से +5%, $100 से +10% और $200 से +15%। इसलिए, $100 का टॉप-अप $110 का क्रेडिट देता है। आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। विस्तृत जानकारी मूल्य निर्धारण पृष्ठ पर उपलब्ध है।

जब आप तुलना करते हैं, तो प्रत्येक विकल्प पर समान लोड चलाएं और दरें बदलती हैं, इसलिए प्रत्येक प्रदाता से उसका वर्तमान मूल्य निर्धारण पूछें।

स्विच करने से पहले परीक्षण कैसे करें

सबसे सस्ता तरीका यह है कि आप अपने प्रॉम्प्ट चलाएं। Google या ईमेल और पासवर्ड से साइन इन करें, और API कुंजी पेज पर $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें। इसके लिए कार्ड की आवश्यकता नहीं है, यह 7 दिनों के लिए मान्य है और हर व्यक्ति के लिए एक ही सीमित है। ऊपर बताए गए रेट्स पर, वह क्रेडिट लगभग 660 एक्सचेंज कवर करता है (प्रत्येक $0.00075)।

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.kimicode.top/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write a tense opening paragraph for a noir story.",
    "Return a JSON object with keys title and summary for a short fantasy plot.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.8,
    )
    print(r.choices[0].message.content, "\n---")

तीन चीजों का आकलन करें: क्या मॉडल आपके निर्देशों का पालन करता है, क्या टोन आपके उत्पाद के लिए उपयुक्त है, और क्या प्रतिक्रिया समय आपके इंटरफ़ेस में सही लगता है। फिर उसी प्रॉम्प्ट का उपयोग करके उस विकल्प से तुलना करें जिससे आप विदा हो रहे हैं। यदि आउटपुट आपके उपयोग के लिए बेहतर नहीं है, तो आप कुछ पैसे खो देते हैं और एक वास्तविक बात सीखते हैं।

परीक्षण को ईमानदार रखें। अपने असली उत्पाद से प्रॉम्प्ट का उपयोग करें, चतुर डेमो प्रॉम्प्ट नहीं, और हर एक को एक से अधिक बार चलाएं, क्योंकि सैंपलिंग आउटपुट को भिन्न बनाती है। सेटिंग्स की तुलना करते समय दोहराने योग्य रन के लिए seed सेट करें। हर कॉल के लिए usage ब्लॉक में दिखाई गई लागत नोट करें, और अपने अपेक्षित वॉल्यूम से गुणा करें ताकि एक मासिक आंकड़ा मिल सके जिसे आप वैकल्पिक विकल्पों के बगल में रख सकते हैं। यदि आप बर्स्ट के दौरान 429 पर पहुंच जाते हैं, तो यह आपके कन्करेंसी की आवश्यकताओं के बारे में कुछ बताता है: ट्रायल कुंजी एक समय में केवल 2 अनुरोध की अनुमति देती है, जबकि पूर्ण कुंजी 8 की अनुमति देती है।

अधिक गाइड

• API के लिए OpenAI-संगत का अर्थ क्या है?
• OpenAI-सुसंगत API के साथ OpenCode: सेटअप
• बिना सेंसर LLM API: OpenAI संगत इंटीग्रेशन और मूल्य