Dokumentasi API Mistral: Integrasi Mulai Cepat

Autentikasi: Mengatur header Anda

Mulai dengan menghasilkan kunci di dasbor kami. Prosesnya instan dan tidak memerlukan verifikasi nomor telepon. Anda hanya memerlukan alamat email atau akun Google untuk membuat akun. Setelah dihasilkan, kunci muncul di layar Anda secara instan. Simpan dengan aman karena kami tidak menyimpan string lengkap untuk pengambilan. Anda akan meneruskan string ini di Authorization header untuk setiap permintaan. Sistem kami memvalidasi token ini terhadap saldo pra-dibayar Anda sebelum memproses prompt Anda. Jika kunci tidak valid atau kedaluwarsa, Anda akan menerima kesalahan 401. Kami hanya mengizinkan satu kunci aktif per akun untuk menjaga akses tetap sederhana. Kunci baru menggantikan kunci lama secara instan saat Anda membuat pengganti.

Endpoint /v1/chat/completions

Kirimkan permintaan pertama Anda ke URL dasar kami menggunakan endpoint chat completions standar. Ganti placeholder kunci dengan kredensial aktual Anda. Identifier modelnya hanyalah uncensored. Model ini disesuaikan untuk menjawab tanpa penolakan untuk konten dewasa yang sah. Model ini menangani input dan output teks secara efisien. Anda tidak perlu mengkonfigurasi perutean kompleks atau memilih versi model tertentu. Cukup arahkan klien Anda ke URL dasar kami dan kirimkan payload. Server kami menangani inferensi dan mengembalikan teks yang dihasilkan. Pendekatan ini memastikan kompatibilitas dengan alat dan pustaka yang ada.

Respons streaming dengan SSE

Aktifkan streaming untuk menerima token saat token tersebut dihasilkan. Ini mengurangi latensi yang dirasakan untuk output panjang. Atur stream parameter ke true dalam badan permintaan Anda. Server akan mengembalikan serangkaian Peristiwa yang Dikirim Server. Setiap peristiwa berisi delta parsial dari respons. Anda dapat memproses token ini secara real-time untuk antarmuka obrolan. Potongan terakhir mencakup penggunaan token total untuk permintaan tersebut. Ini memungkinkan Anda melacak biaya secara akurat saat percakapan berlangsung. Streaming ideal untuk aplikasi di mana umpan balik segera meningkatkan pengalaman pengguna.

Pemanggilan fungsi dan mode JSON

Strukturkan output Anda dengan andal menggunakan parameter yang didukung kami. Aktifkan mode JSON dengan mengatur response_format ke {"type": "json_object"}. Ini memaksa model untuk mengembalikan JSON tanpa pembungkus markdown. Anda juga dapat menentukan skema fungsi untuk penggunaan alat. Model akan mengikuti struktur yang disediakan secara ketat. Ini berguna untuk ekstraksi data otomatis atau penggabungan API. Gunakan tools parameter untuk mendefinisikan fungsi yang tersedia. Model dapat memilih fungsi mana yang akan dipanggil berdasarkan prompt. Kemampuan ini sangat penting untuk membangun alur kerja agentic tanpa logika parsing tambahan.

Parameter: Suhu, Top-p, dan Seeds

Kontrol keacakan dan determinisme output Anda. Sesuaikan temperature untuk memvariasikan kreativitas. Nilai yang lebih rendah menghasilkan respons yang lebih fokus. Nilai yang lebih tinggi memperkenalkan lebih banyak variasi. Gunakan top_p untuk membatasi pemilihan kosakata. Ini bekerja bersama suhu untuk menyempurnakan kualitas output. Setel seed parameter untuk hasil yang dapat direproduksi. Input dan seed yang identik akan menghasilkan output yang identik. Ini sangat penting untuk men-debug dan menguji integrasi Anda. Anda juga dapat mengatur stop urutan untuk menghentikan generasi pada penanda tertentu. Parameter ini memberikan kontrol halus atas perilaku model.

Batas, error, dan jendela konteks

Pantau penggunaan Anda terhadap batas yang ditentukan. Jendela konteks mendukung 100,000 token gabungan. Ini memungkinkan analisis dokumen ekstensif atau percakapan panjang. Setiap permintaan dapat menghasilkan hingga 16,000 token. Jika Anda tidak menentukan max_tokens, batas defaultnya adalah 2.048. Anda diizinkan 300 permintaan per menit per kunci. Hanya delapan permintaan yang dapat berjalan secara bersamaan per kunci. Ukuran badan permintaan dibatasi hingga 8 MB. Kesalahan seperti 402 menunjukkan kredit tidak cukup. Batas laju (429) terjadi jika Anda melebihi ambang batas per menit. Kredit tidak pernah kedaluwarsa, sehingga Anda dapat menghentikan penggunaan tanpa kehilangan dana.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)