Dokumentace API Mistral: Rychlá integrace

Ověření: Nastavení vaší hlavičky

Začněte vygenerováním klíče na našem ovládacím panelu. Proces je okamžitý a nevyžaduje ověření telefonním číslem. K vytvoření účtu potřebujete pouze e-mailovou adresu nebo účet Google. Po vygenerování se klíč okamžitě zobrazí na vaší obrazovce. Uložte jej bezpečně, protože celý řetězec pro opětovné získání neukládáme. Tento řetězec předáte v Authorization hlavička pro každý požadavek. Náš systém validuje tento token proti vašemu předplacenému zůstatku před zpracováním vašeho promptu. Pokud je klíč neplatný nebo expirovaný, obdržíte chybu 401. Na účet povolujeme pouze jeden aktivní klíč, abychom udrželi přístup jednoduchým. Nový klíč okamžitě nahradí starý, když vygenerujete náhradu.

Endpoint /v1/chat/completions

Pošlete svůj první požadavek na naše základní URL pomocí standardního endpointu chatových dokončení. Nahraďte zástupný klíč svými skutečnými přihlašovacími údaji. Identifikátor modelu je jednoduše uncensored. Tento model je vyladěný tak, aby odpovídal bez vyhazování pro legální obsah pro dospělé. Efektivně zpracovává vstup a výstup textu. Nemusíte konfigurovat složité směrování ani vybírat konkrétní verze modelů. Stačí nasměrovat klienta na naši základní URL a odeslat payload. Naše servery zpracovávají inferenci a vrací vygenerovaný text. Tento přístup zajišťuje kompatibilitu s existujícími nástroji a knihovnami.

Streamované odpovědi pomocí SSE

Povolte streamování pro příjem tokenů v okamžiku jejich generování. To snižuje vnímanou latenci u dlouhých výstupů. Nastavte stream parameter na true v těle vašeho požadavku. Server vrátí řadu událostí odesílaných serverem. Každá událost obsahuje částečný delta odpovědi. Tyto tokeny můžete zpracovávat v reálném čase pro chat rozhraní. Poslední část zahrnuje celkové využití tokenů pro požadavek. To vám umožňuje přesně sledovat náklady, jak konverzace postupuje. Streamování je ideální pro aplikace, kde okamžitá zpětná vazba zlepšuje uživatelský zážitek.

Volání funkcí a režim JSON

Strukturujte své výstupy spolehlivě pomocí našich podporovaných parametrů. Povolte režim JSON nastavením response_format na {"type": "json_object"}. Toto donutí model vrátit platný JSON bez značkovacích bloků (markdown fences). Můžete také definovat schémata funkcí pro použití nástrojů. Model bude striktně dodržovat poskytnutou strukturu. To je užitečné pro automatizovanou extrakci dat nebo řetězení API. Použijte tools parametr pro definování dostupných funkcí. Model může vybrat, kterou funkci má zavolat na základě promptu. Tato schopnost je zásadní pro vytváření agenticích pracovních postupů bez další logiky pro parsování.

Parametry: Teplota, Top-p a Seeds

Ovládejte náhodnost a determinističnost svých výstupů. Upravte temperature na variaci kreativity. Nižší hodnoty produkují více zaměřené odpovědi. Vyšší hodnoty přinášejí více rozmanitosti. Použijte top_p omezit výběr slov. Tato hodnota funguje společně s teplotou pro zlepšení kvality výstupu. Nastavte seed parameter pro reprodukovatelné výsledky. Identické vstupy a semena budou mít za následek identické výstupy. To je kritické pro ladění a testování vaší integrace. Můžete také nastavit stop sekvenční pro zastavení generování na specifických značkách. Tyto parametry vám poskytují jemnou kontrolu nad chováním modelu.

Limity, chyby a kontextové okno

Sledujte své využití vzhledem k definovaným limitům. Okno kontextu podporuje celkem 100,000 tokenů. To umožňuje rozsáhlou analýzu dokumentů nebo dlouhé konverzace. Každý požadavek může výstupně generovat až 16,000 tokenů. Pokud nespecifikujete max_tokens, limit se výchoze nastaví na 2 048. Na klíč můžete odeslat 300 požadavků za minutu. Současně může běžet maximálně osm požadavků na klíč. Velikost těla požadavku je omezena na 8 MB. Chyba 402 znamená nedostatek kreditu. Limit přetížení (429) se objeví, pokud překročíte limit na minutu. Kredit nevyprší, takže můžete použití pozastavit bez ztráty prostředků.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)