เอกสาร API Mistral: การผสานรวมเริ่มต้น

การตรวจสอบสิทธิ์: การตั้งค่าหัวเรื่องของคุณ

เริ่มต้นด้วยการสร้างคีย์บนแดชบอร์ดของเรา กระบวนการนี้รวดเร็วและไม่ต้องตรวจสอบหมายเลขโทรศัพท์ คุณต้องการเพียงที่อยู่อีเมลหรือบัญชี Google เพื่อสร้างบัญชี หลังจากสร้างแล้ว คีย์จะปรากฏบนหน้าจอของคุณทันที บันทึกไว้อย่างปลอดภัยเนื่องจากเราไม่เก็บสตริงเต็มรูปแบบสำหรับการเรียกคืน คุณจะส่งสตริงนี้ใน Authorization header สำหรับการร้องขอทุกชิ้น ระบบของเราตรวจสอบโทเค็นนี้กับยอดเงินที่เติมเงินของคุณก่อนประมวลผลคำขอของคุณ หากคีย์ไม่ถูกต้องหรือหมดอายุ คุณจะรับข้อผิดพลาด 401 เราอนุญาตให้ใช้คีย์ที่ใช้งานเพียงคีย์เดียวต่อบัญชีเพื่อให้การเข้าถึงเรียบง่าย คีย์ใหม่จะแทนที่คีย์เก่าทันทีเมื่อคุณสร้างคีย์สำรอง

endpoint /v1/chat/completions

ส่งคำขอแรกของคุณไปยัง base URL ของเราผ่าน endpoint chat completions มาตรฐาน แทนที่คีย์ตัวอย่างด้วยข้อมูลรับรองจริงของคุณ รหัสโมเดลคือ uncensored. โมเดลนี้ปรับแต่งให้ตอบโดยไม่มีการปฏิเสธสำหรับเนื้อหาผู้ใหญ่ที่ถูกต้องกฎหมาย มันจัดการข้อความเข้าและข้อความออกได้อย่างมีประสิทธิภาพ คุณไม่จำเป็นต้องกำหนดค่าการเปลี่ยนเส้นทางที่ซับซ้อนหรือเลือกเวอร์ชันโมเดลเฉพาะ เพียงชี้ไคลเอนต์ของคุณไปยัง URL พื้นฐานของเราและส่งโหลดข้อมูล เซิร์ฟเวอร์ของเราจัดการการอนุมานและส่งคืนข้อความที่สร้างขึ้น วิธีนี้รับประกันความเข้ากันได้กับเครื่องมือและไลบรารีที่มีอยู่

การตอบกลับแบบสตรีมด้วย SSE

เปิดใช้งานการสตรีมเพื่อรับโทเค็นทันทีที่สร้างเสร็จ ซึ่งช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้สำหรับผลลัพธ์ที่ยาวนาน ตั้งค่า stream พารามิเตอร์เป็น true ในบอดี้ของการร้องขอ เซิร์ฟเวอร์จะส่งคืนชุดของเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์ แต่ละเหตุการณ์จะประกอบด้วยเดลตาบางส่วนของการตอบสนอง คุณสามารถประมวลผลโทเค็นเหล่านี้แบบเรียลไทม์สำหรับอินเทอร์เฟซแชท ชิ้นสุดท้ายจะประกอบด้วยจำนวนโทเค็นรวมสำหรับการร้องขอนี้ ทำให้คุณสามารถติดตามค่าใช้จ่ายได้อย่างแม่นยำเมื่อการสนทนาดำเนินไป การสตรีมเหมาะสำหรับแอปพลิเคชันที่การตอบสนองทันทีช่วยปรับปรุงประสบการณ์ผู้ใช้

การเรียกฟังก์ชันและโหมด JSON

จัดโครงสร้างผลลัพธ์ของคุณอย่างเชื่อถือได้โดยใช้พารามิเตอร์ที่เรารองรับ เปิดใช้งานโหมด JSON โดยตั้งค่า response_format เพื่อ {"type": "json_object"}. สิ่งนี้บังคับให้โมเดลส่งกลับ JSON โดยไม่มีเครื่องหมายมาร์กดาวน์ คุณสามารถกำหนดสคีมาฟังก์ชันสำหรับการใช้งานเครื่องมือ โมเดลจะปฏิบัติตามโครงสร้างที่จัดเตรียมไว้อย่างเคร่งครัด สิ่งนี้มีประโยชน์สำหรับการแยกสกัดข้อมูลอัตโนมัติหรือการเชื่อมต่อ API ใช้ tools พารามิเตอร์เพื่อกำหนดฟังก์ชันที่มีอยู่ โมเดลสามารถเลือกฟังก์ชันที่จะเรียกใช้ได้ตาม prompt ความสามารถนี้จำเป็นสำหรับการสร้าง workflow แบบ agentic โดยไม่ต้องใช้ตรรกะการแยกวิเคราะห์เพิ่มเติม

พารามิเตอร์: อุณหภูมิ, Top-p และ Seeds

ควบคุมความสุ่มและความแน่นอนของผลลัพธ์ของคุณ ปรับ temperature เพื่อปรับความสร้างสรรค์ ค่าต่ำจะสร้างผลลัพธ์ที่เน้นมากขึ้น ค่าสูงจะเพิ่มความหลากหลาย ใช้ top_p เพื่อจำกัดการเลือกคำศัพท์ การทำงานนี้จะคู่กับ temperature เพื่อปรับปรุงคุณภาพของผลลัพธ์ กำหนดค่า seed พารามิเตอร์นี้สำหรับผลลัพธ์ที่ซ้ำกันได้ อินพุตและค่าเมล็ดพันธุ์ที่เหมือนกันจะให้เอาต์พุตที่เหมือนกัน สิ่งนี้สำคัญต่อการแก้ไขข้อบกพร่องและการทดสอบการผสานรวมของคุณ คุณยังสามารถตั้งค่า stop ลำดับเพื่อหยุดการสร้างที่เครื่องหมายเฉพาะ พารามิเตอร์เหล่านี้ให้คุณควบคุมพฤติกรรมของโมเดลได้อย่างละเอียด

ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท

ติดตามการใช้งานของคุณเทียบกับขีดจำกัดที่กำหนด หน้าต่างบริบทรองรับโทเค็นรวม 100,000 โทเค็น ซึ่งอนุญาตให้วิเคราะห์เอกสารอย่างกว้างขวางหรือการสนทนาที่ยาวนาน แต่ละคำขอสามารถเอาต์พุตได้สูงสุด 16,000 โทเค็น หาก max_tokens, ค่าจำกัดเริ่มต้นคือ 2,048 คุณสามารถส่งคำขอได้ 300 ครั้งต่อนาทีต่อคีย์ และคำขอได้สูงสุด 8 คำขอพร้อมกันต่อคีย์ ขนาดของ body ในคำขอจำกัดอยู่ที่ 8 MB รหัสข้อผิดพลาด 402 หมายถึงเครดิตไม่เพียงพอ อัตราการจำกัด (429) จะเกิดขึ้นหากคุณเกินขีดจำกัดต่อนาที เครดิตไม่มีวันหมดอายุ ดังนั้นคุณสามารถหยุดใช้งานชั่วคราวโดยไม่สูญเสียเงิน

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)