Dokumen API Mistral: Integrasi Permulaan Pantas

Pengesahan: Menetapkan header anda

Mula dengan menjana kunci di papan pemuka kami. Prosesnya serta-merta dan tidak memerlukan pengesahan nombor telefon. Anda hanya memerlukan alamat e-mel atau akaun Google untuk mencipta akaun. Setelah dijana, kunci muncul di skrin anda serta-merta. Simpan ia dengan selamat kerana kami tidak menyimpan rentetan penuh untuk pemulihan. Anda akan luluskan rentetan ini dalam Authorization header untuk setiap permintaan. Sistem kami mengesahkan token ini terhadap baki pra-dibayar anda sebelum memproses permintaan anda. Jika kunci tidak sah atau luput, anda akan menerima ralat 401. Kami hanya membenarkan satu kunci aktif bagi setiap akaun untuk mengekalkan akses yang mudah. Kunci bahru menggantikan kunci lama serta-merta apabila anda menjana penggantian.

Hujung sambungan /v1/chat/completions

Hantar permintaan pertama anda ke URL asas kami menggunakan endpoint penyelesaian sem piawai. Gantikan pemegang tempat kunci dengan kelayakan sebenar anda. Pengenal pasti model hanyalah uncensored. Model ini ditala untuk menjawab tanpa penolakan untuk kandungan dewasa yang sah. Ia mengendalikan teks masuk dan teks keluar dengan cekap. Anda tidak perlu mengkonfigurasi peralihan laluan yang kompleks atau memilih versi model tertentu. Hanya arahkan klien anda ke URL asas kami dan hantar beban. Pelayan kami mengendalikan inferens dan mengembalikan teks yang dijana. Pendekatan ini memastikan keserasian dengan alat dan perpustakaan sedia ada.

Respons penstriman dengan SSE

Aktifkan penstriman untuk menerima token sejajar dengan penjanaan. Ini mengurangkan latensi yang dirasakan untuk output panjang. Tetapkan stream parameter kepada benar dalam badan permintaan anda. Pelayan akan mengembalikan siri Acara yang Dihantar Pelayan. Setiap acara mengandungi delta separa respons. Anda boleh memproses token ini secara masa nyata untuk antara muka perbualan. Segmen akhir termasuk jumlah penggunaan token untuk permintaan tersebut. Ini membolehkan anda mengesan kos dengan tepat semasa perbualan berlangsung. Aliran adalah ideal untuk aplikasi di mana maklum balas serta-merta meningkatkan pengalaman pengguna.

Pemanggilan fungsi dan mod JSON

Struktur output anda dengan boleh dipercayai menggunakan parameter yang disokong oleh kami. Aktifkan mod JSON dengan menetapkan response_format ke {"type": "json_object"}. Ini memaksa model mengembalikan JSON tanpa pagar markdown. Anda juga boleh menentukan skema fungsi untuk penggunaan alat. Model akan mengikut struktur yang disediakan dengan ketat. Ini berguna untuk pengekstrakan data automatik atau rantaian API. Gunakan tools parameter untuk menentukan fungsi yang tersedia. Model boleh memilih fungsi mana untuk dipanggil berdasarkan prompt. Keupayaan ini amat penting untuk membina aliran kerja agen tanpa logik penguraian tambahan.

Parameter: Suhu, Top-p, dan Seed

Kawal rawak dan determinisme output anda. Laraskan temperature ke memvariasi kreativiti. Nilai yang lebih rendah menghasilkan respons yang lebih fokus. Nilai yang lebih tinggi memperkenalkan lebih banyak variasi. Gunakan top_p untuk membatikan pemilihan kosakata. Ini berfungsi bersama suhu untuk memperhalusi kualiti output. Tetapkan seed parameter untuk hasil yang boleh direproduksi. Input dan benih yang sama akan menghasilkan output yang sama. Ini penting untuk nyahpepijat dan menguji integrasi anda. Anda juga boleh set stop jujukan untuk menghentikan penjanaan pada penanda tertentu. Parameter ini memberikan anda kawalan halus ke atas tingkah laku model.

Had, ralat, dan tetingkap konteks

Pantau penggunaan anda terhadap had yang ditakrifkan. Jendela konteks menyokong 100,000 token gabungan. Ini membolehkan analisis dokumen yang meluas atau perbualan panjang. Setiap permintaan boleh output sehingga 16,000 token. Jika anda tidak menentukan max_tokens, had had lalai ditetapkan kepada 2,048. Anda dibenarkan 300 permintaan setiap minit bagi setiap kunci. Hanya lapan permintaan boleh berjalan serentak bagi setiap kunci. Saiz badan permintaan dikekalkan pada 8 MB. Kesilapan seperti 402 menunjukkan kredit tidak mencukupi. Had kadar (429) berlaku jika anda melebihi had per minit. Kredit tidak luput, jadi anda boleh menghentikan penggunaan tanpa kehilangan dana.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)