Documents api Mistral : Intégration de démarrage rapide

Authentification : Définition de votre en-tête

Commencez par générer une clé sur notre tableau de bord. Le processus est instantané et ne nécessite aucune vérification par numéro de téléphone. Vous n'avez besoin que d'une adresse e-mail ou d'un compte Google pour créer un compte. Une fois générée, la clé apparaît immédiatement à l'écran. Enregistrez-la en sécurité car nous ne stockons pas la chaîne complète pour récupération. Vous transmettrez cette chaîne dans le Authorization header pour chaque requête. Notre système valide ce jeton contre votre solde prépayé avant de traiter votre invite. Si la clé est invalide ou expirée, vous recevrez une erreur 401. Nous n'autorisons qu'une seule clé active par compte pour simplifier l'accès. Une nouvelle clé remplace immédiatement l'ancienne lorsque vous en générez une de remplacement.

Le point de terminaison /v1/chat/completions

Envoyez votre première demande à notre URL de base en utilisant le point de terminaison standard de chat completions. Remplacez la clé placeholder par vos identifiants réels. L'identifiant du modèle est simplement uncensored. Ce modèle est ajusté pour répondre sans refus pour le contenu adulte légal. Il gère efficacement l'entrée et la sortie de texte. Vous n'avez pas besoin de configurer un routage complexe ou de sélectionner des versions de modèle spécifiques. Pointez simplement votre client vers notre URL de base et envoyez la charge utile. Nos serveurs gèrent l'inférence et retournent le texte généré. Cette approche garantit la compatibilité avec les outils et bibliothèques existants.

Réponses en streaming avec SSE

Activez le streaming pour recevoir les jetons au fur et à mesure de leur génération. Cela réduit la latence perçue pour les sorties longues. Définissez le stream paramètre à true dans le corps de votre requête. Le serveur renverra une série d'événements envoyés par le serveur. Chaque événement contient un delta partiel de la réponse. Vous pouvez traiter ces jetons en temps réel pour une interface de chat. Le dernier chunk inclut l'utilisation totale des jetons pour la requête. Cela vous permet de suivre les coûts avec précision au fur et à mesure de la progression de la conversation. Le streaming est idéal pour les applications où une réactivité immédiate améliore l'expérience utilisateur.

Appel de fonctions et mode JSON

Structurez vos sorties de manière fiable en utilisant les paramètres pris en charge. Activez le mode JSON en définissant response_format à {"type": "json_object"}. Cela force le modèle à renvoyer du JSON sans les balises markdown. Vous pouvez également définir des schémas de fonctions pour l'utilisation des outils. Le modèle suivra strictement la structure fournie. C'est utile pour l'extraction de données automatisée ou le chaînage d'API. Utilisez le tools paramètre pour définir les fonctions disponibles. Le modèle peut choisir quelle fonction appeler en fonction de l'invite. Cette capacité est essentielle pour créer des flux de travail agents sans logique d'analyse supplémentaire.

Paramètres : Température, Top-p et Seeds

Contrôlez l’aléatoire et le déterminisme de vos sorties. Ajustez le temperature à varier la créativité. Des valeurs plus basses produisent des réponses plus ciblées. Des valeurs plus élevées introduisent plus de variété. Utilisez top_p pour limiter la sélection du vocabulaire. Cela fonctionne en conjonction avec la température pour affiner la qualité de la sortie. Définir le seed le paramètre pour des résultats reproductibles. Des entrées et des graines identiques produiront des sorties identiques. C'est crucial pour le débogage et les tests de votre intégration. Vous pouvez également définir stop séquences pour interrompre la génération à des marqueurs spécifiques. Ces paramètres vous donnent un contrôle fin du comportement du modèle.

Limites, erreurs et fenêtre de contexte

Surveillez votre utilisation par rapport à nos limites définies. La fenêtre de contexte prend en charge 100 000 tokens combinés. Cela permet une analyse approfondie de documents ou des conversations longues. Chaque requête peut générer jusqu'à 16 000 tokens. Si vous ne spécifiez pas max_tokens, la limite par défaut est de 2 048. Vous êtes autorisé à effectuer 300 requêtes par minute par clé. Seules huit requêtes peuvent s'exécuter simultanément par clé. La taille du corps de la requête est plafonnée à 8 Mo. Les erreurs 402 indiquent un solde insuffisant. Les limites de débit (429) se produisent si vous dépassez le seuil par minute. Le crédit n'expire jamais, vous pouvez donc suspendre votre utilisation sans perdre vos fonds.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)