Giải pháp thay thế Kimicode: API LLM lưu trữ không kiểm duyệt

Bắt đầu từ những gì bạn thực sự cần

Mọi người tìm kiếm giải pháp thay thế kimicode vì nhiều lý do khác nhau, nên câu trả lời đúng phụ thuộc vào lý do của bạn. Trang này không thể mô tả các điều khoản hoặc giá hiện tại của một sản phẩm khác, vì những thông tin đó thay đổi và không thuộc về chúng tôi. Những gì trang này có thể làm là đưa ra các tiêu chí hoạt động cho mọi so sánh, sau đó đánh giá dịch vụ này một cách trung thực dựa trên các tiêu chí đó.

Viết ra bốn điều trước khi bạn so sánh bất kỳ thứ gì:

1. Hành vi bạn cần. Bạn có gặp từ chối khi tạo truyện, nhập vai hoặc nội dung người lớn hợp pháp khác, hay bạn chỉ muốn một endpoint rẻ hơn?
2. Máy khách của bạn. Công cụ của bạn có chấp nhận base URL tùy chỉnh theo định dạng OpenAI không?
3. Khối lượng của bạn. Vài nghìn yêu cầu mỗi tháng và vài triệu mỗi ngày là những vấn đề khác nhau.
4. Khả năng chịu đựng vận hành của bạn. Bạn có muốn quản lý GPU, hay chỉ cần dán một khóa API?

Câu trả lời của bạn thường loại bỏ hai trong ba lộ trình bên dưới ngay lập tức.

Ba lộ trình nhìn sơ qua

Định tuyến	Điểm mạnh	Chi phí của lộ trình
API chính thức từ nhà cung cấp mô hình	Các mô hình flagship có tên, hỗ trợ từ nhà cung cấp, bộ tính năng rộng	Nhà cung cấp đặt ra quy tắc nội dung và họ có thể từ chối các yêu cầu của người lớn hợp pháp. Bạn hãy kiểm tra giá và chính sách sử dụng hiện tại của họ
Tự lưu trữ một mô hình trọng số mở	Kiểm soát hoàn toàn mô hình, dữ liệu và cài đặt	Bạn mua hoặc thuê GPU, chạy bộ khung phục vụ, xử lý khả năng mở rộng và cập nhật
API lưu trữ được tinh chỉnh để ít từ chối hơn	Khóa và base URL, hoạt động trong vài phút, trả tiền theo token	Bạn sử dụng một mô hình của nhà cung cấp và chấp nhận các giới hạn của họ

Không lựa chọn nào luôn tốt hơn. Các lựa chọn này đánh đổi khả năng kiểm soát, nỗ lực và lựa chọn mô hình cho nhau.

Khi nào API chính thức từ nhà cung cấp là lựa chọn tốt hơn

Nếu sản phẩm của bạn cần một mô hình có tên cụ thể, đầu vào đa phương tiện lớn, embedding hoặc tinh chỉnh, hãy chọn nhà cung cấp đó. Dịch vụ này chỉ xử lý văn bản. Nó không có tạo hình ảnh, âm thanh hoặc video, không có embedding và không có tinh chỉnh, và nó phục vụ một mô hình trọng số mở duy nhất thay vì một danh mục.

API nhà cung cấp cũng hợp lý khi nội dung bạn xử lý là bình thường và việc từ chối không bao giờ xảy ra. Trong trường hợp đó, sự khác biệt chính là giá, chất lượng trên nhiệm vụ của bạn và hỗ trợ, và bạn nên so sánh trực tiếp những điều đó với một tập nhỏ các prompt của riêng bạn. Đừng dựa vào bất kỳ tuyên bố marketing nào của bất kỳ ai, bao gồm cả chúng tôi, về chất lượng. Hãy chạy hai mươi hoặc năm mươi prompt thực và đọc kết quả đầu ra.

Một điểm nữa: dịch vụ này không phải là API chính thức của Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google, Anthropic hoặc bất kỳ nhà cung cấp nào khác, và nó không phải là cổng kết nối giữa các nhà cung cấp đó. Nếu hợp đồng hoặc quy trình tuân thủ của bạn yêu cầu mối quan hệ trực tiếp với một nhà cung cấp cụ thể, thì đây không phải là lựa chọn đó.

Khi tự lưu trữ là lựa chọn tốt hơn

Tự chạy một mô hình trọng số mở mang lại cho bạn khả năng kiểm soát nhiều nhất. Bạn chọn trọng số, lượng tử hóa, mặc định lấy mẫu và chính sách ghi nhật ký. Nếu bạn có lưu lượng ổn định và lớn, phần cứng tự sở hữu có thể rẻ hơn mỗi token so với bất kỳ API đo lường nào, sau khi bạn tính toán các máy đã được trả tiền.

Nó cũng tốn thời gian của bạn. Bạn cần GPU có đủ bộ nhớ, khung phục vụ, giám sát, khởi động lại và kế hoạch cho các đỉnh lưu lượng. Đối với nguyên mẫu, dự án sở thích hoặc ứng dụng nhỏ với nhu cầu không đều, chi phí phát sinh này thường lớn hơn khoản tiết kiệm. Đối với một nhóm có kỹ sư cơ sở hạ tầng và tải trọng không đổi, nó có thể không.

Một giải pháp trung gian thực tế là bắt đầu với một API lưu trữ, đo lường việc sử dụng token thực tế của bạn trong một tháng, và sau đó mới quyết định xem tự lưu trữ có hoàn vốn hay không. Số liệu sử dụng được trả về với mọi phản hồi, vì vậy bạn sẽ có dữ liệu.

Khi nào API lưu trữ này phù hợp

API này phù hợp khi bạn muốn một endpoint văn bản định dạng OpenAI không từ chối các yêu cầu hợp pháp của người lớn, và bạn muốn nó hoạt động ngay hôm nay. Các trường hợp sử dụng điển hình là công cụ truyện và nhập vai, ứng dụng bạn đời cho người lớn, trợ giúp soạn thảo và brainstorming, và các công cụ nội bộ nơi việc từ chối làm gián đoạn quy trình làm việc. Một quy tắc là cố định và không thể thương lượng: không có nội dung tình dục liên quan đến người chưa thành niên.

Các chi tiết cụ thể, để bạn tự đánh giá:

• ID mô hình uncensored, một mô hình trọng số mở do một nhà cung cấp độc lập chạy.
• Endpoints POST /v1/chat/completions và GET /v1/models, với truyền phát qua SSE, gọi công cụ và chế độ JSON.
• 100.000 token cho ngữ cảnh, prompt và kết quả cộng lại.
• Giới hạn khóa đầy đủ là 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử nhận được 2 và 60.
• Các prompt không được sử dụng để huấn luyện.

tài liệu trình bày một yêu cầu đầu tiên, còn hướng dẫn tích hợp bao gồm thiết lập client.

Một danh sách kiểm tra quyết định ngắn

Hãy thực hiện theo thứ tự này và dừng lại khi bạn có câu trả lời rõ ràng.

1. Bạn có cần hình ảnh, âm thanh, embedding hoặc tinh chỉnh không? Nếu có, hãy chọn nhà cung cấp cung cấp chúng. Dịch vụ này không có.
2. Bạn có cần một mô hình có tên cụ thể không? Nếu có, hãy sử dụng API chính thức của nhà cung cấp đó.
3. Bạn có lưu lượng lớn ổn định và ai đó để chạy máy chủ không? Hãy tính toán chi phí tự lưu trữ.
4. Tải trọng của bạn là văn bản, với nội dung người lớn hợp pháp mà các endpoint khác từ chối? Hãy thử API này với tín dụng dùng thử.
5. Sử dụng của bạn nhỏ hoặc không đều? Giá theo token với tín dụng không bao giờ hết hạn giúp bạn tránh trả tiền cho dung lượng nhàn rỗi.

Hầu hết người đọc rơi vào bước 4 hoặc 5. Nếu bạn là một trong số họ, lộ trình nhanh nhất là đọc tài liệu, nhận tín dụng dùng thử và chạy các prompt của riêng bạn. Nếu bạn rơi vào một nơi khác, lời khuyên trung thực là sử dụng tùy chọn phù hợp với câu trả lời của bạn, ngay cả khi đó không phải là dịch vụ của chúng tôi.

Giá cả và nạp tiền

Giá theo token, trả trước, không có đăng ký. Đầu vào tốn $0.15 cho mỗi 1 triệu token và đầu ra tốn $0.50 cho mỗi 1 triệu token. Tín dụng không bao giờ hết hạn, và các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Ví dụ thực tế: một ứng dụng chat xử lý 5.000 cuộc hội thoại trong một tháng. Mỗi cuộc sử dụng tổng cộng 3.000 token đầu vào và 600 token đầu ra.

• Đầu vào: 5.000 x 3.000 = 15.000.000 token, vậy 15 x $0,15 = $2,25.
• Đầu ra: 5.000 x 600 = 3.000.000 token, vậy 3 x $0,50 = $1,50.
• Tổng cộng: $3,75 cho cả tháng.

Các lần nạp tiền chạy từ $20 đến $500 với bất kỳ số nguyên nào. Các lần nạp lớn hơn đi kèm phần thưởng: +5% từ $50, +10% từ $100 và +15% từ $200. Vì vậy, một lần nạp $100 sẽ cho $110 tín dụng. Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Chi tiết đầy đủ nằm trên trang trang giá.

Khi so sánh, bạn hãy đưa cùng một khối lượng công việc qua mọi tùy chọn và yêu cầu từng nhà cung cấp báo giá hiện tại của họ, vì mức giá có thể thay đổi.

Cách kiểm tra trước khi chuyển đổi

Cách rẻ nhất để ra quyết định là chạy các prompt của chính bạn. Đăng ký bằng Google hoặc email và mật khẩu, sau đó nhận tín dụng dùng thử $0,50 trên trang khóa API. Nó không cần thẻ, có hiệu lực trong 7 ngày và giới hạn một lần cho mỗi người. Với các mức giá ở trên, tín dụng đó chi trả khoảng 660 lượt trao đổi có kích thước như ví dụ trước đó ($0,00075 mỗi lượt).

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.kimicode.top/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write a tense opening paragraph for a noir story.",
    "Return a JSON object with keys title and summary for a short fantasy plot.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.8,
    )
    print(r.choices[0].message.content, "\n---")

Bạn hãy đánh giá ba điều: liệu mô hình có tuân theo hướng dẫn của bạn không, liệu giọng điệu có phù hợp với sản phẩm của bạn không và liệu thời gian phản hồi có phù hợp trong giao diện của bạn không. Sau đó, hãy so sánh với tùy chọn bạn đang rời bỏ bằng cách sử dụng cùng các prompt. Nếu kết quả đầu ra không tốt hơn cho trường hợp sử dụng của bạn, bạn chỉ mất vài xu và đã học được một điều thực tế.

Giữ cho bài kiểm tra trung thực. Sử dụng các prompt từ sản phẩm thực tế của bạn, không phải các prompt trình diễn khéo léo, và chạy mỗi prompt nhiều hơn một lần, vì việc lấy mẫu làm đầu ra thay đổi. Đặt seed nếu bạn muốn các lần chạy có thể lặp lại trong khi so sánh các cài đặt. Lưu ý chi phí hiển thị trong khối usage cho mỗi lệnh gọi, và nhân với khối lượng dự kiến của bạn để xem một con số hàng tháng mà bạn có thể đặt cạnh các tùy chọn khác. Nếu bạn gặp 429 trong một đợt tăng đột biến, điều đó cho bạn biết thêm về nhu cầu về độ đồng thời của bạn: khóa dùng thử chỉ cho phép 2 yêu cầu cùng lúc, trong khi khóa đầy đủ cho phép 8.

Hướng dẫn khác

• Ý nghĩa của việc tương thích OpenAI đối với một API là gì?
• OpenCode với API tương thích OpenAI: Cài đặt
• Uncensored LLM API: Tích hợp & Giá cả tương thích OpenAI