Kimicode 대체: 무검열 호스팅 LLM API

실제 필요부터 시작하세요

사람들은 다양한 이유로 Kimicode 대체제를 검색하므로 정답은 귀하의 상황에 따라 다릅니다. 이 페이지는 다른 제품의 현재 약관이나 가격을 설명할 수 없습니다. 왜냐하면 그것들은 변경되며 당사가 명시할 사항이 아니기 때문입니다. 이 페이지는 모든 비교에 적용할 수 있는 기준을 제공하고 이 서비스를 솔직하게 대조하는 역할을 합니다.

무엇이든 비교하기 전에 다음 네 가지를 적으세요:

1. 필요한 동작입니다. 소설, 역할극 또는 기타 합법적인 성인 콘텐츠에서 거절이 발생합니까, 아니면 더 저렴한 엔드포인트가 필요합니까?
2. 사용자 클라이언트입니다. 도구에서 OpenAI 형식의 사용자 지정 Base URL을 허용합니까?
3. 사용량입니다. 월 몇 천 건의 요청과 일 몇 백만 건의 요청은 서로 다른 문제입니다.
4. 운영 부담입니다. GPU를 관리하시겠습니까, 아니면 키만 붙여넣으시겠습니까?

귀하의 답변은 일반적으로 아래 세 가지 경로 중 두 가지를 자동으로 제외시킵니다.

세 가지 경로 요약

라우트	강점	경로의 비용
모델 벤더의 공식 API	특정 플래그십 모델, 벤더 지원, 광범위한 기능 세트	벤더가 콘텐츠 규칙을 설정하며 합법적인 성인 요청을 거부할 수 있습니다. 현재 가격 및 사용 정책을 확인하세요.
오픈 웨이트 모델 자체 호스팅	모델, 데이터 및 설정에 대한 완전한 제어	GPU를 구매하거나 임대하고 서빙 스택을 실행하며 확장 및 업데이트를 처리합니다.
거부율이 적도록 튜닝된 호스팅 API	키와 베이스 URL, 몇 분 안에 작동, 토큰당 요금	제공업체의 단일 모델을 사용하고 해당 제한 사항을 수용합니다.

이 중 어느 것이 보편적으로 더 나은 것은 아닙니다. 이들은 제어, 노력 및 모델 선택을 서로 교환합니다.

공식 벤더 API가 더 나은 선택인 경우

제품에 특정 이름의 모델, 대규모 다중모달 입력, 임베딩 또는 파인튜닝이 필요한 경우 해당 벤더를 선택하세요. 이 서비스는 텍스트 전용입니다. 이미지, 오디오 또는 비디오 생성, 임베딩, 파인튜닝이 없으며, 카탈로그가 아닌 단일 오픈 웨이트 모델을 제공합니다.

처리하는 콘텐츠가 일반적이고 거부 요청이 전혀 발생하지 않는 경우 벤더 API도 적합합니다. 이 경우 주요 차이점은 가격, 작업 품질 및 지원이며, 자체 프롬프트의 작은 테스트 세트로 이를 직접 비교해야 합니다. 품질에 대해서는 당사 포함 모든 마케팅 주장을 신뢰하지 마세요. 실제 프롬프트 20개 또는 50개를 실행하고 출력을 확인하세요.

또 한 가지 점: 이 서비스는 Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google, Anthropic 또는 기타 벤더의 공식 API가 아니며, 이들 간의 라우터도 아닙니다. 특정 벤더와의 직접적인 관계가 계약 또는 준수 프로세스에 필요한 경우 이것이 해당되지 않습니다.

셀프 호스팅이 더 나은 선택인 경우

자체적으로 오픈 웨이트 모델을 실행하면 가장 많은 제어를 얻을 수 있습니다. 가중치, 양자화, 샘플링 기본값 및 로깅 정책을 직접 선택합니다. 안정적이고 많은 트래픽이 있는 경우, 기계를 이미 지불된 것으로 계산하면 토큰당 비용이 측정형 API보다 저렴할 수 있습니다.

또한 시간이 소요됩니다. 충분한 메모리가 있는 GPU, 서빙 프레임워크, 모니터링, 재시작 및 트래픽 급증에 대한 대비 계획이 필요합니다. 프로토타입, 취미 프로젝트 또는 수요가 불규칙한 작은 앱의 경우, 이러한 오버헤드가 절감분보다 클 수 있습니다. 인프라 엔지니어가 있고 일정한 작업 부하가 있는 팀의 경우 그렇지 않을 수 있습니다.

실용적인 중간 경로는 호스팅 API에서 시작하여 한 달 동안 실제 토큰 사용량을 측정한 후, 자체 호스팅이 비용을 회수할지 여부를 결정하는 것입니다. 사용량 숫자는 모든 응답과 함께 반환되므로 데이터가 확보됩니다.

이 호스팅 API가 적합한 경우

이 API는 합법적인 성인 요청을 거부하지 않는 OpenAI 형식 텍스트 엔드포인트를 원하고 오늘 실행되기를 원하는 경우에 적합합니다. 일반적인 사용 사례는 소설 및 역할극 도구, 성인용 동반 앱, 작성 및 브레인스토밍 도우미, 거부로 인해 워크플로우가 중단되는 내부 도구입니다. 하나의 규칙은 고정되어 있으며 협상 대상이 아닙니다: 미성년자가 관련된 성적 콘텐츠는 금지됩니다.

스스로 판단할 수 있는 구체적인 사항:

• 모델 ID uncensored, 독립 제공업체가 운영하는 단일 오픈 웨이트 모델.
• 스트리밍(SSE), 함수 호출 및 JSON 모드를 지원하는 엔드포인트 POST /v1/chat/completions 및 GET /v1/models.
• 프롬프트와 완성을 합쳐 100,000개의 토큰의 컨텍스트입니다.
• 전체 키의 제한 사항은 동시 요청 8개, 분당 요청 300개입니다. 체험 키는 각각 2개와 60개가 할당됩니다.
• 프롬프트는 학습에 사용되지 않습니다.

문서에는 첫 번째 요청이 표시되어 있으며, 통합 가이드에는 클라이언트 설정이 다루어져 있습니다.

짧은 결정 체크리스트

명확한 답변을 얻을 때까지 순서대로 진행하세요.

1. 이미지, 오디오, 임베딩 또는 파인튜닝이 필요한가요? 그렇다면 이를 제공하는 제공업체를 선택하세요. 여기에는 없습니다.
2. 특정 이름의 모델이 필요한가요? 그렇다면 해당 벤더의 자체 API를 사용하세요.
3. 안정적이고 많은 트래픽이 있으며 서버를 운영할 인력이 있나요? 자체 호스팅의 가격을 비교하세요.
4. 작업 부하가 텍스트이며 다른 엔드포인트가 거부하는 합법적인 성인 콘텐츠인가요? 체험 크레딧으로 이 API를 시도하세요.
5. 사용량이 작거나 불규칙한가요? 만료되지 않는 크레딧을 사용한 토큰당 요금제는 유휴 용량에 대한 비용을 피합니다.

대부분의 독자는 4단계 또는 5단계에 도달합니다. 그들 중 하나라면 가장 빠른 방법은 문서를 읽고 체험판을 신청하여 자체 프롬프트를 실행하는 것입니다. 다른 단계에 도달했다면, 정직한 조언은 자신의 답변에 맞는 옵션을 사용하는 것입니다. 그것이 당사 서비스가 아니더라도 말입니다.

가격 및 충전

가격은 토큰당이며 선불 크레딧 방식이고 구독이 없습니다. 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다. 크레딧은 만료되지 않으며 실패하거나 거절된 요청에는 요금이 부과되지 않습니다.

실제 예시: 채팅 앱이 한 달에 5,000개의 대화를 처리합니다. 각 대화는 총 3,000개의 입력 토큰과 600개의 출력 토큰을 사용합니다.

• 입력: 5,000 x 3,000 = 15,000,000 토큰, 따라서 15 x $0.15 = $2.25.
• 출력: 5,000 x 600 = 3,000,000 토큰, 따라서 3 x $0.50 = $1.50.
• 합계: 한 달에 $3.75.

충전은 $20부터 $500까지 정수 단위로 가능합니다. 더 큰 충전에는 보너스가 제공됩니다: $50부터 +5%, $100부터 +10%, $200부터 +15%. 따라서 $100 충전 시 $110의 크레딧이 제공됩니다. 암호화폐(TRC20의 USDT, Base의 USDC)로 결제할 수 있습니다. 자세한 내용은 가격 페이지에 있습니다.

비교할 때는 동일한 워크로드를 모든 옵션으로 실행하고, 요금이 변경되므로 각 제공업체에 현재 가격을 문의하세요.

전환 전 테스트 방법

결정하는 가장 저렴한 방법은 자체 프롬프트를 실행하는 것입니다. Google 또는 이메일과 비밀번호로 로그인한 후, API 키 페이지에서 $0.50 무료 체험 크레딧을 신청하세요. 카드는 필요 없으며, 7일 동안 유효하고 사람당 하나만 신청할 수 있습니다. 위의 가격 기준, 이 크레딧은 이전 예시의 크기(각각 $0.00075)의 교환 약 660회를 처리할 수 있습니다.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.kimicode.top/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write a tense opening paragraph for a noir story.",
    "Return a JSON object with keys title and summary for a short fantasy plot.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.8,
    )
    print(r.choices[0].message.content, "\n---")

세 가지 사항을 평가하세요: 모델이 지시사항을 따르는지, 톤이 제품과 적합한지, 응답 시간이 인터페이스에서 적절한지 확인하세요. 그런 다음 동일한 프롬프트를 사용하여 떠나는 옵션과 비교하세요. 사용 사례에 대해 출력이 더 낫지 않다면 몇 센트만 잃고 진정한 교훈을 얻게 됩니다.

테스트를 정직하게 유지하세요. 실제 제품의 프롬프트를 사용하고, 교묘한 데모 프롬프트를 사용하지 마세요. 샘플링으로 인해 출력이 달라지므로 각 프롬프트를 한 번 이상 실행하세요. 설정을 비교하는 동안 반복 가능한 실행을 원한다면 seed를 설정하세요. 각 호출에 대한 usage 블록에 표시된 비용을 기록하고 예상 사용량으로 곱하여 대안 옆에 놓을 수 있는 월별 금액을 확인하세요. 버스트 중 429 오류가 발생하면 동시 요청 요구 사항에 대해 알 수 있습니다: 체험 키는 동시에 요청 2개만 허용하지만 전체 키는 8개를 허용합니다.

더 많은 가이드

• OpenAI 호환이란 API 관점에서 무엇을 의미합니까?
• OpenAI 호환 API로 OpenCode 사용법: 설정
• 무검열 LLM API: OpenAI 호환 통합 및 가격