Mô hình và ID mô hình
Nơi tìm ID và giá của mô hình, và cách ghi ID trong yêu cầu.
Mỗi yêu cầu chỉ định một mô hình trong trường model. Dùng đúng ID hiển thị trong danh mục.
Tìm mô hình
- Duyệt danh mục: danh mục mô hình liệt kê mọi mô hình kèm nhà cung cấp, giá input và output cho mỗi 1 triệu token, và các endpoint được hỗ trợ.
- Qua API: gọi List models bằng key của bạn.
curl https://api.cheapaimodel.ai/v1/models \
-H "Authorization: Bearer $CHEAPAIMODEL_API_KEY"Endpoint cho từng mô hình
Mô hình chat được gọi qua /v1/chat/completions, /v1/responses hoặc /v1/messages, tùy theo những gì mô hình hỗ trợ. Mô hình embedding chỉ dùng được qua /v1/embeddings. Danh mục hiển thị các endpoint mà từng mô hình hỗ trợ; mô hình chỉ gọi được qua những endpoint có trong danh sách đó.
Các ví dụ trong tài liệu này dùng deepseek-v4-1-flash và glm-5.3 để minh họa. Luôn kiểm tra danh mục để xem danh sách mới nhất.
Giới hạn tham số lấy mẫu
Một số mô hình chỉ nhận giá trị cố định cho tham số lấy mẫu và từ chối mọi giá trị khác bằng lỗi 400:
| Mô hình | temperature | top_p |
|---|---|---|
kimi-k3 | 1 hoặc 0.6 | 0.95 |
An toàn nhất là không gửi cả hai tham số để mô hình dùng giá trị mặc định của nó. Nếu công cụ của bạn luôn gửi chúng, đặt đúng các giá trị trên. Tổng quan mô hình của Moonshot cố định kimi-k3 ở temperature 1.0 và top_p 0.95; qua gateway của chúng tôi, 0.6 cũng được chấp nhận.
kimi-k3 cũng chỉ nhận n = 1, còn presence_penalty và frequency_penalty chỉ nhận 0.
Công cụ gửi sẵn các tham số này
Các công cụ sau gửi temperature hoặc top_p ngay cả khi bạn không đặt, nên gọi kimi-k3 với giá trị mặc định của chúng sẽ báo lỗi:
| Công cụ | Giá trị gửi đi | Cần đặt |
|---|---|---|
| Fabric | temperature 0.7, top_p 0.9 | Thêm --raw để không gửi tham số lấy mẫu, hoặc truyền -t 1 -T 0.95. |
| RAGFlow | temperature và top_p trong các bộ tham số dựng sẵn và giá trị mặc định của agent | Trong tham số của mô hình, đặt Temperature là 1 và Top P là 0.95, hoặc tắt cả hai. |
| LlamaIndex | temperature 0.1 | Truyền temperature=1.0 cho OpenAILike. |
Với công cụ khác, tìm phần cài đặt temperature và top_p, rồi để trống hoặc đặt theo các giá trị trên.