Mistral api -dokumentaatio: Pika-aloitusintegraatio

Todennus: headerin asettaminen

Aloita avaimen luominen hallintapaneeliltamme. Prosessi on välitön eikä vaadi puhelinnumerotarkistusta. Tiliä varten tarvitset vain sähköpostiosoitteen tai Google-tilin. Kun avain on luotu, se näkyy näytöllä välittömästi. Tallenna se turvallisesti, koska emme säilytä koko merkkijonoa noutoa varten. Välität tämän merkkijonon kohteessa Authorization header jokaista pyyntöä varten. Järjestelmämme validoi tämän tokenin esimaksatun saldon vastustasi ennen promptin käsittelyä. Jos avain on virheellinen tai vanhentunut, saat 401-virheen. Sallimme vain yhden aktiivisen avaimen per tili pitääksemme pääsyn yksinkertaisena. Uusi avain korvaa vanhan välittömästi, kun luot korvaavan avaimen.

Päätepiste /v1/chat/completions

Lähetä ensimmäinen pyyntö base URLiimme käyttämällä standardia chat-completions-päätepistettä. Korvaa paikkamerkkiavain todellisilla kirjainmerkeilläsi. Mallin tunniste on yksinkertaisesti uncensored. Tämä malli on hienosäädetty vastaamaan ilman hylkäyksiä lailliseen aikuis sisältöön. Se käsittelee tekstisyötteen ja -tulosteen tehokkaasti. Sinun ei tarvitse määrittää monimutkaista reititystä tai valita tiettyjä malliversioita. Viittaa vain asiakasohjelmistosi perus-URL-osoitteeseen ja lähetä pyyntö. Palvelimemme käsittelevät päättelyn ja palauttavat luodun tekstin. Tämä lähestymistapa varmistaa yhteensopivuuden olemassa olevien työkalujen ja kirjastojen kanssa.

Strimausvastaukset SSE:n kautta

Ota käyttöön streamaus, jotta saat tokenit vastaanotettua niiden luomisen aikana. Tämä vähentää koettua viivettä pitkissä tuloksissa. Aseta stream parametri arvoon true pyyntörunkosasi. Palvelin palauttaa joukon palvelimen lähettämiä tapahtumia. Jokainen tapahtuma sisältää osittaisen vastauksen delta-arvon. Voit käsitellä näitä tokeneita reaaliajassa chat-käyttöliittymää varten. Viimeinen palikka sisältää pyynnön kokonaistokenkäytön. Tämä mahdollistaa kustannusten tarkan seurannan keskustelun edetessä. Streamaus on ihanteellinen sovelluksille, joissa välitön palautteen antaminen parantaa käyttäjäkokemusta.

Function calling ja JSON-tila

Rakenna lähtösi luotettavasti tukiemme parametrien avulla. Ota JSON-tila käyttöön asettamalla response_format vastaan {"type": "json_object"}. Tämä pakottaa mallin palauttamaan kelvollista JSONia ilman markdown-aitauksia. Voit myös määritellä toimintoskeemoja työkalukäyttöä varten. Malli noudattaa annettua rakennetta tiukasti. Tämä on hyödyllistä automaattiseen datan erotteluun tai API-ketjuttamiseen. Käytä tools parametri, joka määrittää saatavilla olevat funktiot. Malli voi valita, kumpaa funktiota kutsutaan promptin perusteella. Tämä kyky on olennainen agentic-työvuokien rakentamisessa ilman ylimääräistä jäsentelylogiikkaa.

Parametrit: lämpötila, Top-p ja siemenluvut

Ohjaa tulostesi satunnaisuutta ja determinismiä. Säädä temperature vaihteluun luovuutta. Alhaisemmat arvot tuottavat keskittyneempiä vastauksia. Korkeammat arvot tuovat lisää vaihtelua. Käytä top_p rajoittaa sanavalintaa. Tämä toimii lämpötilan kanssa yhdessä parantaakseen tulosten laatua. Aseta seed parametri toistettaviin tuloksiin. Samat syötteet ja siemenluvut tuottavat samanlaisia tuloksia. Tämä on kriittistä integraation vianmääritykselle ja testaukselle. Voit myös asettaa stop sekvenssit keskeyttämään generaatio tiettyjen merkkien kohdalla. Nämä parametrit antavat hienojakoisen hallinnan mallin käyttäytymiselle.

Rajoitukset, virheet ja kontekstiikkuna

Seuraa käyttöäsi määriteltyjen rajojesi suhteen. Kontekstiikkuna tukee yhteensä 100 000 tokenia. Tämä mahdollistaa laajan dokumenttianalyysin tai pitkät keskustelut. Jokainen pyyntö voi tuottaa jopa 16 000 tokenia. Jos et määritä max_tokens, raja-arvo on oletuksena 2 048. Sinulla on oikeus 300 pyyntöön minuutissa avainta kohden. Kullekin avaimelle voi ajaa samanaikaisesti enintään kahdeksan pyyntöä. Pyyntöruzin koko on rajoitettu 8 MB:iin. Virheet kuten 402 viittaavat riittämättömään saldoon. Nopeusrajoitukset (429) ilmenevät, jos ylität minuuttikohtaisen rajan. Saldo ei vanhene, joten voit keskeyttää käytön menettämättä varoja.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)