Mistral api 文件：快速入門整合

驗證：設定您的標頭

在我們的後台上產生金鑰。過程是即時的，不需要手機號碼驗證。您只需要電子郵件地址或 Google 帳戶即可建立帳戶。產生後，金鑰會立即顯示在您的螢幕上。安全地儲存它，因為我們不儲存完整的字串以供檢索。您將此字串傳遞至 Authorization 每次請求的標頭。系統會根據您的預付餘額驗證此權杖以處理您的提示。若金鑰無效或已過期，您將收到 401 錯誤。我們每個帳戶僅允許一個有效金鑰，以簡化存取。當您產生替換金鑰時，舊金鑰會立即被取代。

/v1/chat/completions 端點

使用標準的聊天補全端點向我們的基礎 URL 發送第一個請求。將佔位符金鑰替換為您的實際憑證。模型標識符僅為 uncensored. 此模型經過調整，以在合法成人內容方面不進行拒絕。它高效處理文字輸入和輸出。您無需配置複雜的路由或選擇特定的模型版本。只需將您的客戶端指向我們的基礎 URL 並發送載荷即可。我們的伺服器處理推論並返回生成的文字。這種方法確保了與現有工具和庫的相容性。

透過 SSE 的串流回應

啟用串流以在產生時接收權杖。這降低了長輸出的感知延遲。設定 stream 參數設為 true 在您的請求主體中。伺服器將返回一系列伺服器發送的事件。每個事件包含回應的部分增量。您可以即時處理這些 token 以用於聊天介面。最後一個區塊包含該請求的總 token 用量。這允許您在對話進行時準確追蹤成本。串流傳輸非常適合需要即時回饋以改善使用者體驗的應用程式。

函式呼叫與 JSON 模式

使用我們支持的參數可靠地構造您的輸出。通過設置 response_format 以 {"type": "json_object"}. 這可強制模型回傳不含 Markdown 程式碼區塊的有效 JSON。您也可以為工具使用定義函數結構。模型將嚴格遵循提供的結構。這非常適合用於自動化資料擷取或 API 串接。使用 tools 用於定義可用函數的參數。模型可以根據提示選擇調用哪個函數。這種能力對於建構無需額外解析邏輯的代理工作流程至關重要。

參數：Temperature、Top-p 與 Seeds

控制輸出的隨機性與決定性。調整 temperature 變化創意。較低的值會產生更集中的回應。較高的值會引入更多樣化。使用 top_p 限制詞彙選擇。這會與溫度參數配合使用，以優化輸出品質。設定 seed 參數以獲得可重現的結果。相同的輸入與種子將產生相同的輸出。這對於除錯和測試您的整合至關重要。您也可以設定 stop 序列以在特定標記處停止生成。這些參數讓您可以對模型行為進行細粒度控制。

限制、錯誤與上下文視窗

根據我們定義的限制來監控您的使用情況。上下文視窗總共支援 100,000 個 Token。這允許進行廣泛的文件分析或長對話。每次請求最多可輸出 16,000 個 Token。如果您未指定 max_tokens, 預設限制為 2,048。每個金鑰每分鐘允許 300 次請求。每個金鑰同時只能運行 8 個請求。請求主體大小上限為 8 MB。402 錯誤表示信用額度不足。若超過每分鐘限制，會觸發速率限制 (429)。信用額度永不過期，因此您可以暫停使用而不會損失資金。

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

串流

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)