Documentații API Mistral: Integrare de început rapid

Autentificare: Setarea antetului

Începe prin a genera o cheie în panoul nostru de control. Procesul este instantaneu și nu necesită verificare prin număr de telefon. Ai nevoie doar de o adresă de email sau de un cont Google pentru a crea un cont. Odată generată, cheia apare pe ecran imediat. Salveaz-o în siguranță, deoarece nu stocăm șirul complet pentru recuperare. Vei transmite acest șir în Authorization header pentru fiecare solicitare. Sistemul nostru validează acest token împotriva soldului tău preplătit înainte de a procesa promptul. Dacă cheia este invalidă sau expirată, vei primi o eroare 401. Permitem doar o cheie activă per cont pentru a menține accesul simplu. O cheie nouă înlocuiește imediat pe cea veche când generezi una de înlocuire.

Punctul final /v1/chat/completions

Trimite prima ta solicitare către URL-ul nostru de bază folosind endpoint-ul standard de completări chat. Înlocuiește cheia placeholder cu acreditările tale reale. Identificatorul modelului este simplu uncensored. Acest model este ajustat pentru a răspunde fără refuzuri pentru conținut adult legal. Gestionează eficient intrarea și ieșirea de text. Nu trebuie să configurezi rutaje complexe sau să selectezi versiuni specifice de modele. Doar indică clientul tău către URL-ul nostru de bază și trimite payload-ul. Serverele noastre gestionează inferența și returnează textul generat. Această abordare asigură compatibilitatea cu instrumentele și bibliotecile existente.

Răspunsuri în flux cu SSE

Activați streaming-ul pentru a primi tokeni pe măsură ce sunt generați. Acest lucru reduce latența percepută pentru output-uri lungi. Setează stream parametru la true în corpul solicitării. Serverul va returna o serie de Evenimente Trimise de Server. Fiecare eveniment conține un delta parțial al răspunsului. Poți procesa acești tokeni în timp real pentru o interfață de chat. Fragmentul final include utilizarea totală a tokenilor pentru solicitare. Acest lucru îți permite să urmărești costurile cu precizie pe măsură ce conversația progresează. Streaming-ul este ideal pentru aplicațiile în care feedback-ul imediat îmbunătățește experiența utilizatorului.

Function calling și modul JSON

Structurează outputurile în mod fiabil folosind parametrii acceptați de noi. Activează modul JSON setând response_format pentru {"type": "json_object"}. Acest lucru forțează modelul să returneze JSON valid fără fenced-uri markdown. Poți defini de asemenea scheme de funcții pentru utilizarea tool-urilor. Modelul va respecta strict structura furnizată. Acest lucru este util pentru extragerea automată a datelor sau lanțurile API. Folosește tools parametru pentru a defini funcțiile disponibile. Modelul poate alege ce funcție să apeleze în funcție de prompt. Această capacitate este esențială pentru construirea de fluxuri de lucru agenți fără logică suplimentară de analiză.

Parametri: Temperatură, Top-p, Seed-uri

Controlează aleatorietatea și determinismul ieșirilor. Ajustează temperature a varia creativitatea. Valorile mai mici produc răspunsuri mai focalizate. Valorile mai mari introduc mai multă varietate. Folosește top_p pentru a limita selecția vocabularului. Acest lucru funcționează împreună cu temperatura pentru a rafina calitatea ieșirii. Setează seed parametrul pentru rezultate reproductibile. Intrări și sămânțe identice vor produce ieșiri identice. Acest lucru este critic pentru depanarea și testarea integrării dvs. Puteți seta, de asemenea, stop secvențe pentru a opri generarea la anumite marcatori. Acești parametri vă oferă un control fin al comportamentului modelului.

Limitări, erori și fereastră de context

Monitorați-vă utilizarea în raport cu limitele definite. Fereastra de context suportă 100,000 de tokeni combinați. Acest lucru permite analiză extensivă de documente sau conversații lungi. Fiecare solicitare poate genera până la 16,000 de tokeni. Dacă nu specificați max_tokens, limita implicită este de 2.048. Aveți dreptul la 300 de cereri pe minut per cheie. Doar opt cereri pot rula simultan per cheie. Dimensiunea corpului cererii este limitată la 8 MB. Erorile de tip 402 indică credite insuficiente. Limitele de rată (429) apar dacă depășiți pragul pe minut. Creditele nu expiră, așa că puteți întrerupe utilizarea fără a pierde fondurile.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)