Alternatif Kimicode: API LLM Terhost Tanpa Sensor

Mulai dengan apa yang benar-benar Anda butuhkan

Orang mencari alternatif kimicode karena berbagai alasan, sehingga jawaban yang tepat bergantung pada alasan Anda. Halaman ini tidak dapat menjelaskan persyaratan atau harga produk lain saat ini, karena itu berubah dan bukan milik kami untuk dinyatakan. Yang bisa dilakukan adalah memberikan kriteria yang berlaku untuk perbandingan apa pun, lalu mencocokkan layanan ini terhadap kriteria tersebut dengan jujur.

Tuliskan empat hal sebelum Anda membandingkan apa pun:

1. Perilaku yang Anda butuhkan. Apakah Anda mengalami penolakan pada fiksi, roleplay, atau konten dewasa yang sah lainnya, atau apakah Anda hanya menginginkan endpoint yang lebih murah?
2. Klien Anda. Apakah alat Anda menerima base URL kustom dalam format OpenAI?
3. Volume Anda. Beberapa ribu permintaan per bulan dan beberapa juta per hari adalah masalah yang berbeda.
4. Toleransi Anda terhadap operasi. Apakah Anda ingin mengelola GPU, atau hanya menempelkan kunci?

Jawaban Anda biasanya menghilangkan dua dari tiga jalur di bawah ini secara mandiri.

Tiga rute secara sekilas

Rute	Kekuatan	Biaya rute
API resmi dari vendor model	Model unggulan bernama, dukungan vendor, set fitur yang luas	Vendor menetapkan aturan konten, dan mereka mungkin menolak permintaan untuk konten dewasa yang sah. Periksa harga dan kebijakan penggunaan terbaru mereka
Self-hosting model bobot terbuka	Kontrol penuh atas model, data, dan pengaturan	Anda membeli atau menyewa GPU, menjalankan tumpukan layanan, menangani penskalaan dan pembaruan
API terhost yang disesuaikan untuk lebih sedikit penolakan	Kunci dan base URL, berfungsi dalam hitungan menit, bayar per token	Anda menggunakan satu model dari penyedia dan menerima batasnya

Tidak satu pun dari ini secara universal lebih baik. Mereka menukar kontrol, upaya, dan pilihan model satu sama lain.

Kapan API vendor resmi adalah pilihan yang lebih baik

Jika produk Anda membutuhkan model bernama tertentu, input multimodal besar, embedding, atau fine-tuning, pilih vendor tersebut. Layanan ini hanya teks. Tidak ada generasi gambar, audio, atau video, tidak ada embedding, dan tidak ada fine-tuning, dan ini melayani satu model bobot terbuka daripada katalog.

API vendor juga masuk akal ketika konten yang Anda tangani adalah biasa dan penolakan tidak pernah muncul. Dalam hal ini, perbedaan utamanya adalah harga, kualitas pada tugas Anda, dan dukungan, dan Anda harus membandingkan itu secara langsung dengan set uji kecil prompt Anda sendiri. Jangan mengandalkan klaim pemasaran siapa pun, termasuk kami, untuk kualitas. Jalankan dua puluh atau lima puluh prompt nyata dan baca outputnya.

Satu poin lagi: layanan ini bukan API resmi dari Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google, Anthropic atau vendor lain mana pun, dan ini bukan router di antara mereka. Jika kontrak atau proses kepatuhan Anda memerlukan hubungan langsung dengan vendor tertentu, ini bukan itu.

Kapan self-hosting adalah pilihan yang lebih baik

Menjalankan model bobot terbuka sendiri memberi Anda kontrol paling besar. Anda memilih bobot, kuantisasi, default sampling, dan kebijakan logging. Jika Anda memiliki lalu lintas berat yang stabil, perangkat keras milik sendiri bisa lebih murah per token daripada API terukur apa pun, setelah Anda menghitung mesin sebagai sudah dibayar.

Ini juga membutuhkan waktu Anda. Anda membutuhkan GPU dengan memori yang cukup, kerangka kerja layanan, pemantauan, restart, dan rencana untuk lonjakan lalu lintas. Untuk prototipe, proyek hobi, atau aplikasi kecil dengan permintaan yang tidak merata, overhead itu sering kali melebihi penghematan. Untuk tim dengan insinyur infrastruktur dan beban kerja konstan, itu mungkin tidak.

Jalan tengah yang praktis adalah memulai dengan API terhost, mengukur penggunaan token nyata Anda selama sebulan, dan hanya kemudian memutuskan apakah hosting mandiri akan menguntungkan. Angka penggunaan dikembalikan dengan setiap respons, jadi Anda akan memiliki data.

Kapan API terhost ini cocok

API ini cocok ketika Anda menginginkan endpoint teks format OpenAI yang tidak menolak permintaan dewasa yang sah, dan Anda menginginkannya berjalan hari ini. Penggunaan khas adalah alat fiksi dan roleplay, aplikasi pendamping untuk dewasa, alat bantu draf dan brainstorming, dan alat internal di mana penolakan mengganggu alur kerja. Satu aturan tetap dan tidak bisa dinegosiasikan: tidak ada konten seksual yang melibatkan anak di bawah umur.

Spesifiknya, agar Anda dapat menilai sendiri:

• ID Model uncensored, satu model bobot terbuka yang dijalankan oleh penyedia independen.
• Endpoint POST /v1/chat/completions dan GET /v1/models, dengan streaming melalui SSE, pemanggilan fungsi, dan mode JSON.
• 100.000 token untuk konteks, prompt, dan completion secara gabungan.
• Batas kunci penuh adalah 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba mendapatkan 2 dan 60.
• Prompt tidak digunakan untuk pelatihan.

dokumentasi menampilkan permintaan pertama, dan panduan integrasi mencakup pengaturan klien.

Daftar periksa keputusan singkat

Lalui ini secara berurutan dan berhenti ketika Anda mendapatkan jawaban yang jelas.

1. Apakah Anda memerlukan gambar, audio, embedding, atau fine-tuning? Maka pilih penyedia yang menawarkannya. Yang ini tidak.
2. Apakah Anda memerlukan model bernama tertentu? Maka gunakan API milik vendor tersebut.
3. Apakah Anda memiliki lalu lintas berat yang stabil dan seseorang untuk menjalankan server? Hitung biaya hosting mandiri.
4. Apakah beban kerja Anda berupa teks, dengan konten dewasa yang sah yang ditolak oleh endpoint lain? Coba API ini dengan kredit uji coba gratis.
5. Apakah penggunaan Anda kecil atau tidak teratur? Penetapan harga per token dengan kredit yang tidak pernah kadaluarsa menghindari pembayaran untuk kapasitas menganggur.

Sebagian besar pembaca mendarat di langkah 4 atau 5. Jika Anda termasuk di antaranya, cara tercepat adalah membaca dokumentasi, klaim kredit uji coba, dan jalankan prompt Anda sendiri. Jika Anda mendarat di tempat lain, saran yang jujur adalah menggunakan opsi yang sesuai dengan jawaban Anda, meskipun itu bukan milik kami.

Harga dan isi saldo

Penetapan harga per token, prabayar, tanpa langganan. Input berharga $0,15 per 1M token dan output berharga $0,50 per 1M token. Kredit tidak pernah kadaluarsa, dan permintaan yang gagal atau ditolak tidak dikenakan biaya.

Contoh perhitungan: sebuah aplikasi chat menangani 5.000 percakapan dalam sebulan. Setiap percakapan menggunakan total 3.000 token input dan 600 token output.

• Input: 5.000 x 3.000 = 15.000.000 token, jadi 15 x $0,15 = $2,25.
• Output: 5.000 x 600 = 3.000.000 token, jadi 3 x $0,50 = $1,50.
• Total: $3,75 untuk bulan tersebut.

Isi saldo berjalan dari $20 hingga $500 dalam jumlah bulat. Isi saldo yang lebih besar mendapatkan bonus: +5% dari $50, +10% dari $100, dan +15% dari $200. Jadi, isi saldo $100 memberikan $110 saldo. Anda dapat membayar dengan kripto (USDT pada TRC20, USDC pada Base). Detail lengkap ada di halaman harga.

Saat membandingkan, jalankan beban kerja yang sama pada setiap opsi dan minta setiap penyedia memberikan harga saat ini, karena tarif dapat berubah.

Cara menguji sebelum Anda beralih

Cara termurah untuk memutuskan adalah menjalankan prompt Anda sendiri. Masuk dengan Google atau email dan kata sandi, lalu klaim kredit uji coba gratis $0,50 di halaman kunci API. Ini tidak memerlukan kartu, berlaku selama 7 hari, dan dibatasi satu per orang. Dengan tarif di atas, kredit tersebut mencakup sekitar 660 pertukaran sebesar contoh sebelumnya ($0,00075 per pertukaran).

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.kimicode.top/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write a tense opening paragraph for a noir story.",
    "Return a JSON object with keys title and summary for a short fantasy plot.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.8,
    )
    print(r.choices[0].message.content, "\n---")

Nilai tiga hal: apakah model mengikuti instruksi Anda, apakah nada yang dihasilkan sesuai dengan produk Anda, dan apakah waktu respons terasa tepat di antarmuka Anda. Kemudian bandingkan dengan opsi yang Anda tinggalkan, menggunakan prompt yang sama. Jika outputnya tidak lebih baik untuk penggunaan Anda, Anda hanya kehilangan beberapa sen dan mendapatkan pembelajaran yang nyata.

Jaga agar pengujian tetap jujur. Gunakan prompt dari produk asli Anda, bukan prompt demo yang cerdik, dan jalankan setiap prompt lebih dari sekali karena sampling membuat output bervariasi. Atur seed jika Anda ingin menjalankan ulang yang dapat diulang saat membandingkan pengaturan. Catat biaya yang ditampilkan di blok usage untuk setiap panggilan, dan kalikan dengan volume yang diharapkan untuk mendapatkan angka bulanan yang dapat Anda bandingkan dengan alternatif. Jika Anda mengalami 429 selama burst, itu memberi tahu Anda sesuatu tentang kebutuhan konkurensi Anda: kunci uji coba hanya mengizinkan 2 permintaan secara bersamaan, sedangkan kunci penuh mengizinkan 8.

Panduan lainnya

• Apa Arti Kompatibilitas dengan OpenAI untuk API?
• OpenCode dengan API Kompatibel OpenAI: Pengaturan
• API LLM Tanpa Sensor: Integrasi & Harga Kompatibilitas dengan OpenAI