Kluczowe punkty
- Istnieją trzy prawdziwe ścieżki: oficjalne API dostawcy, samodzielny hosting modelu o otwartych wagach lub API hostowane dostrojone do unikania odrzuceń.
- To API obsługuje tylko tekst, używa jednego modelu o identyfikatorze uncensored i kosztuje $0,15 za 1M tokenów wejściowych oraz $0,50 za 1M tokenów wyjściowych.
- Samodzielny hosting wygrywa kontrolą, API dostawcy wygrywa markowymi modelami, a API hostowane wygrywa szybkością konfiguracji.
- Możesz przetestować usługę za pomocą kredytu próbnego o wartości $0,50 przed dokonaniem jakiejkolwiek płatności.
Zacznij od tego, czego naprawdę potrzebujesz
Ludzie szukają alternatywy dla Kimicode z różnych powodów, więc właściwa odpowiedź zależy od Twojej sytuacji. Ta strona nie może opisać aktualnych warunków ani cen konkurencji, ponieważ się one zmieniają i nie leżą w naszej gestii. Może jednak dostarczyć kryteriów przydatnych w każdym porównaniu i uczciwie osadzić w nich tę usługę.
Zapisz cztery rzeczy przed porównaniem czegokolwiek:
- Zachowanie, którego potrzebujesz. Czy API odrzuca fikcję, roleplay lub inne legalne treści dla dorosłych, czy zależy Ci tylko na tańszym endpointzie?
- Twój klient. Czy Twoje narzędzie akceptuje niestandardowy base URL w formacie OpenAI?
- Twój wolumen. Kilka tysięcy zapytań miesięcznie i kilka milionów dziennie to różne problemy.
- Twoja tolerancja dla operacji. Czy chcesz zarządzać GPU, czy tylko wkleić klucz?
Twoje odpowiedzi zwykle eliminują dwie z trzech poniższych dróg same z siebie.
Trzy drogi na pierwszy rzut oka
| Ścieżka | Mocna strona | Koszt ścieżki |
|---|---|---|
| Oficjalne API od dostawcy modelu | Nazwane flagowe modele, wsparcie dostawcy, szeroki zestaw funkcji | Dostawca ustala zasady dotyczące treści i może odrzucać legalne żądania od dorosłych. Sprawdź ich aktualną politykę cenową i użytkowania |
| Samodzielny hosting modelu o otwartych wagach | Pełna kontrola nad modelem, danymi i ustawieniami | Kupujesz lub wynajmujesz GPU, uruchamiasz stos serwowania, obsługujesz skalowanie i aktualizacje |
| API hostowane dostrojone do mniejszej liczby odrzuceń | Klucz i Base URL, gotowe w kilka minut, płatność za token | Korzystasz z jednego modelu dostawcy i akceptujesz jego limity |
Żadna z tych opcji nie jest uniwersalnie lepsza. Każda z nich oferuje kompromis między kontrolą, wysiłkiem a wyborem modelu.
Kiedy oficjalne API dostawcy jest lepszym wyborem
Jeśli Twój produkt wymaga konkretnego nazwanego modelu, dużego wejścia multimodalnego, osadzania lub dostrojenia, wybierz tego dostawcę. Ta usługa jest tylko tekstowa. Nie generuje obrazów, dźwięku ani wideo, nie ma osadzania ani dostrojenia i obsługuje jeden model o otwartych wagach zamiast katalogu.
API dostawcy ma też sens, gdy przetwarzasz zwykłe treści, a odrzucenia nie występują. W takim przypadku kluczowe różnice to cena, jakość w Twoim zadaniu i wsparcie. Porównaj je bezpośrednio, używając własnego, małego zbioru promptów. Nie polegaj na roszczeniach marketingowych nikogo, w tym nas, jeśli chodzi o jakość. Wyślij dwadzieścia lub pięćdziesiąt prawdziwych promptów i przeczytaj wyniki.
Jeszcze jedna uwaga: ta usługa nie jest oficjalnym API Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google, Anthropic ani żadnego innego dostawcy i nie jest routerem między nimi. Jeśli Twoja umowa lub proces zgodności wymaga bezpośredniej relacji z konkretnym dostawcą, to nie jest to ta opcja.
Kiedy samodzielne hostowanie jest lepszym wyborem
Uruchomienie modelu o otwartych wagach samodzielnie daje Ci największą kontrolę. Wybierasz wagi, kwantyzację, domyślne próbkowanie i politykę logowania. Przy stałym, dużym ruchu własny sprzęt może być tańszy za token niż jakiekolwiek API rozliczane na żądanie, po zaliczeniu maszyn do kosztów stałych.
Kosztuje też czas. Potrzebujesz GPU z wystarczającą pamięcią, frameworka serwowania, monitoringu, restartów i planu na szczyty ruchu. Przy prototypie, projekcie hobbystycznym lub małej aplikacji o nierównym zapotrzebowaniu ten nakład często przewyższa oszczędności. Przy zespole z inżynierem infrastruktury i stałym obciążeniu może być inaczej.
Praktyczną środkową ścieżką jest rozpoczęcie na API hostowanym, zmierzenie rzeczywistego zużycia tokenów przez miesiąc, a dopiero potem decyzja, czy samodzielny hosting się opłaci. Liczby zużycia są zwracane z każdą odpowiedzią, więc będziesz miał dane.
Kiedy to API hostowane pasuje
To API pasuje, gdy chcesz endpointu tekstowego w formacie OpenAI, który nie odrzuca legalnych żądań od dorosłych, i chcesz go uruchomić już dziś. Typowe zastosowania to narzędzia do fikcji i roleplay, aplikacje towarzyskie dla dorosłych, pomocniki do pisania i burzy mózgów oraz narzędzia wewnętrzne, w których odrzucenia przerywają przepływ pracy. Jedna zasada jest stała i niepodlegająca negocjacjom: brak treści seksualnych z udziałem nieletnich.
Szczegóły, abyś mógł ocenić samodzielnie:
- ID modelu
uncensored, jeden model o otwartych wagach uruchamiany przez niezależnego dostawcę. - Endpointy
POST /v1/chat/completionsiGET /v1/models, ze strumieniowaniem przez SSE, wywoływaniem funkcji i trybem JSON. - 100 000 tokenów łącznie na kontekst, prompt i completion.
- Pełne limity klucza to 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 i 60.
- Prompty nie są używane do trenowania.
Dokumentacja pokazuje pierwsze zapytanie, a przewodnik integracji omawia konfigurację klienta.
Krótka lista kontrolna decyzji
Przejdź przez te kroki w kolejności i zatrzymaj się, gdy uzyskasz jasną odpowiedź.
- Czy potrzebujesz obrazów, dźwięku, embeddingów lub fine-tuningu? Wtedy wybierz dostawcę, który je oferuje. Ten nie oferuje.
- Czy potrzebujesz konkretnego nazwanego modelu? Wtedy użyj własnego API tego dostawcy.
- Czy masz stały duży ruch i kogoś do administrowania serwerami? Wyceniaj samodzielny hosting.
- Czy Twoje zadania to tekst z prawną treścią dla dorosłych, który inne endpointy odrzucają? Spróbuj tego API z darmowym kredytem próbnym.
- Czy Twoje zużycie jest małe lub nieregularne? Cennik za token z kredytem, który nigdy nie wygasa, pozwala unikać płacenia za pojemność w stanie bezczynności.
Większość użytkowników przechodzi do kroku 4 lub 5. Jeśli jesteś jednym z nich, najszybszą drogą jest przeczytanie dokumentacji, odebranie kredytu próbnego i uruchomienie własnych promptów. Jeśli trafisz gdzieś indziej, uczciwą radą jest skorzystanie z opcji pasującej do Twojej odpowiedzi, nawet jeśli nie jest to nasza usługa.
Cennik i doładowania
Cennik jest oparty na tokenach, przedpłacony, bez subskrypcji. Dane wejściowe kosztują $0,15 za 1M tokenów, a dane wyjściowe $0,50 za 1M tokenów. Kredyt nigdy nie wygasa, a zapytania nieudane lub odrzucone nie są rozliczane.
Przykład: aplikacja czatu obsługuje 5 000 rozmów w miesiącu. Każda zużywa łącznie 3 000 tokenów wejściowych i 600 tokenów wyjściowych.
- Wejście: 5 000 x 3 000 = 15 000 000 tokenów, czyli 15 x $0,15 = $2,25.
- Wyjście: 5 000 x 600 = 3 000 000 tokenów, czyli 3 x $0,50 = $1,50.
- Łącznie: $3,75 za miesiąc.
Doładowania wynoszą od $20 do $500 w dowolnej kwocie całkowitej. Większe doładowania dają bonus: +5% od $50, +10% od $100 i +15% od $200. Doładowanie za $100 daje więc $110 kredytu. Możesz zapłacić kryptowalutami (USDT na TRC20, USDC na Base). Pełne szczegóły znajdziesz na stronie z cenami.
Podczas porównania uruchom ten sam obciążenie na każdej opcji i zapytaj każdego dostawcę o jego aktualne ceny, ponieważ stawki się zmieniają.
Jak przetestować przed zmianą
Najtańszym sposobem na podjęcie decyzji jest uruchomienie własnych promptów. Zarejestruj się za pomocą Google lub e-maila i hasła, a następnie odbierz $0,50 kredytu próbnego na stronie klucza API. Nie wymaga karty, trwa 7 dni i jest jeden na osobę. Przy powyższych stawkach kredyt pokrywa ok. 660 wymian z wielkością z wcześniejszego przykładu ($0,00075 za sztukę).
from openai import OpenAI
client = OpenAI(
base_url="https://api.kimicode.top/v1",
api_key="YOUR_API_KEY",
)
prompts = [
"Write a tense opening paragraph for a noir story.",
"Return a JSON object with keys title and summary for a short fantasy plot.",
]
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.8,
)
print(r.choices[0].message.content, "\n---")
Ocen trzy rzeczy: czy model wykonuje Twoje instrukcje, czy ton pasuje do Twojego produktu i czy czas odpowiedzi jest odpowiedni w Twoim interfejsie. Następnie porównaj to z opcją, z której rezygnujesz, używając tych samych promptów. Jeśli wyjście nie jest lepsze dla Twojego przypadku użycia, straciłeś kilka centów i zyskałeś realną wiedzę.
Utrzymaj test uczciwym. Używaj promptów z prawdziwego produktu, nie sztucznych demo, i uruchamiaj je wielokrotnie, bo sampling zmienia wyniki. Ustaw seed, jeśli chcesz powtarzalnych uruchomień podczas porównywania ustawień. Zauważ koszt pokazany w bloku usage dla każdego wywołania i pomnóż go przez oczekiwany wolumen, aby uzyskać miesięczną kwotę, którą możesz porównać z alternatywami. Jeśli trafisz na błąd 429 podczas szczytu obciążenia, powie Ci to też coś o Twoich potrzebach dotyczących współbieżności: klucz próbny pozwala tylko na 2 równoczesne zapytania, podczas gdy pełny klucz pozwala na 8.
