Model dan ID model
Tempat menemukan ID dan harga model, serta cara menuliskannya di permintaan.
Setiap permintaan menyebutkan model di field model. Pakai ID yang persis sama dengan yang tampil di katalog.
Cara menemukan model
- Jelajahi: katalog model menampilkan semua model beserta penyedianya, harga input dan output per 1 juta token, dan endpoint yang didukungnya.
- Lewat kode: panggil List models dengan key kamu.
curl https://api.cheapaimodel.ai/v1/models \
-H "Authorization: Bearer $CHEAPAIMODEL_API_KEY"Endpoint untuk tiap model
Model chat dipanggil lewat /v1/chat/completions, /v1/responses, atau /v1/messages, tergantung apa yang didukung model itu. Model embedding hanya tersedia lewat /v1/embeddings. Katalog menampilkan endpoint yang didukung setiap model; sebuah model hanya didukung di endpoint yang dicantumkannya.
Contoh di dokumentasi ini memakai deepseek-v4-1-flash dan glm-5.3 sebagai ilustrasi. Selalu cek katalog untuk daftar terbaru.
Batasan parameter sampling
Beberapa model hanya menerima nilai tetap untuk parameter sampling-nya dan menolak nilai lain dengan 400:
| Model | temperature | top_p |
|---|---|---|
kimi-k3 | 1 atau 0.6 | 0.95 |
Paling aman, jangan kirim kedua parameter itu supaya model memakai nilai default-nya sendiri. Kalau tool kamu selalu mengirimnya, pakai persis nilai di atas. Ikhtisar model Moonshot menetapkan kimi-k3 pada temperature 1.0 dan top_p 0.95; lewat gateway kami, 0.6 juga lolos.
kimi-k3 juga hanya menerima n = 1, serta presence_penalty dan frequency_penalty hanya 0.
Tool yang mengirimnya secara default
Tool berikut mengirim temperature atau top_p meskipun kamu tidak mengaturnya, jadi dengan nilai default-nya panggilan ke kimi-k3 gagal:
| Tool | Yang dikirim | Yang perlu diatur |
|---|---|---|
| Fabric | temperature 0.7, top_p 0.9 | Tambahkan --raw supaya tidak mengirim opsi sampling, atau berikan -t 1 -T 0.95. |
| RAGFlow | temperature dan top_p dari preset parameter dan nilai default agent | Di parameter model, isi Temperature dengan 1 dan Top P dengan 0.95, atau matikan keduanya. |
| LlamaIndex | temperature 0.1 | Berikan temperature=1.0 ke OpenAILike. |
Untuk tool lain, cari pengaturan temperature dan top_p-nya, lalu kosongkan atau isi dengan nilai di atas.