Mistral api docs: Hurtigstart-integration

Autentificering: Indstilling af din header

Start med at generere en nøgle på vores dashboard. Processen er øjeblikkelig og kræver ingen telefonnummerverifikation. Du har kun brug for en e-mail-adresse eller en Google-konto for at oprette en konto. Når den er genereret, vises nøglen straks på din skærm. Gem den sikkert, fordi vi ikke gemmer den fulde streng til hentning. Du videregiver denne streng i Authorization header til hver anmodning. Vores system validerer denne token mod din forudbetalte balance, før din prompt behandles. Hvis nøglen er ugyldig eller udløbet, modtager du en 401-fejl. Vi tillader kun én aktiv nøgle pr. konto for at holde adgangen enkel. En ny nøgle erstatter den gamle øjeblikkeligt, når du genererer en erstatning.

Endpointet /v1/chat/completions

Send din første anmodning til vores base URL ved hjælp af standard chat-completions endpoint. Erstat pladsholder-nøglen med dine faktiske legitimationsoplysninger. Model-identifikatoren er blot uncensored. Denne model er finjusteret til at svare uden afvisninger for lovligt voksenindhold. Den håndterer tekst ind og tekst ud effektivt. Du behøver ikke at konfigurere kompleks routing eller vælge specifikke modelversioner. P blot ret din klient mod vores base-URL og send payloadet. Vores servere håndterer inference og returnerer den genererede tekst. Denne tilgang sikrer kompatibilitet med eksisterende værktøjer og biblioteker.

Streaming-respons med SSE

Aktiver streaming for at modtage tokens, mens de genereres. Dette reducerer den opfattede latens for lange output. Indstil stream parameter til true i din request-body. Serveren returnerer en række Server-Sent Events. Hver begivenhed indeholder en delvis delta af svaret. Du kan behandle disse tokens i realtid til en chatgrænseflade. Den sidste chunk indeholder det samlede token-forbrug for forespørgslen. Dette giver dig mulighed for at spore omkostninger nøjagtigt, mens samtalen skrider frem. Streaming er ideelt til applikationer, hvor øjeblikkelig feedback forbedrer brugeroplevelsen.

Function calling og JSON-mode

Strukturer dine outputs pålideligt ved hjælp af vores understøttede parametre. Aktiver JSON-tilstand ved at indstille response_format til {"type": "json_object"}. Dette tvinger modellen til at returnere gyldig JSON uden markdown-fences. Du kan også definere funktions-skemaer til værktøjsbrug. Modellen vil følge den angivne struktur strengt. Dette er nyttigt til automatisk dataudtrækning eller API-kædning. Brug tools parameter til at definere tilgængelige funktioner. Modellen kan vælge, hvilken funktion der skal kaldes baseret på prompten. Denne funktion er essentiel til at bygge agentic workflows uden ekstra parseringslogik.

Parametre: Temperatur, Top-p og Seeds

Styr tilfældigheden og determinismen i dine outputs. Juster temperature til at variere kreativitet. Lavere værdier giver mere fokuserede svar. Højere værdier introducerer mere variation. Brug top_p til at begrænse ordforrådsvalg. Dette fungerer sammen med temperaturen til at forbedre outputkvaliteten. Indstil den seed parameter til reproducerbare resultater. Identiske input og seeds vil give identiske outputs. Dette er kritisk til at fejlsøge og teste din integration. Du kan også indstille stop sekvenser til at afbryde genereringen ved specifikke markører. Disse parametre giver dig finjusteret kontrol over modellens adfærd.

Begrænsninger, fejl og kontekstvindue

Overvåg dit forbrug mod vores definerede grænser. Kontekstvinduet understøtter i alt 100.000 tokens. Dette muliggør omfattende dokumentanalyse eller lange samtaler. Hver anmodning kan outputte op til 16.000 tokens. Hvis du ikke angiver max_tokens, grænsen er standard 2.048. Du har tilladelse til 300 anmodninger per minut per nøgle. Kun otte anmodninger kan køre samtidigt per nøgle. Størrelsen på anmodningskroppen er begrænset til 8 MB. Fejl som 402 indikerer utilstrækkelig kredit. Rate limits (429) opstår, hvis du overskrider grænsen per minut. Kredit udløber aldrig, så du kan pause brugen uden at miste midler.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)