Documentazioni api mistral: integrazione avvio rapido

Autenticazione: Impostazione della tua intestazione

Inizia generando una chiave sul nostro dashboard. Il processo è istantaneo e non richiede verifica del numero di telefono. Ti serve solo un indirizzo email o un account Google per creare un account. Una volta generata, la chiave appare immediatamente sullo schermo. Salvala in modo sicuro perché non memorizziamo la stringa completa per il recupero. Passi questa stringa nel Authorization header per ogni richiesta. Il nostro sistema convalida questo token contro il tuo saldo prepagato prima di elaborare il tuo prompt. Se la chiave non è valida o è scaduta, riceverai un errore 401. Consentiamo solo una chiave attiva per account per mantenere l'accesso semplice. Una nuova chiave sostituisce istantaneamente quella vecchia quando ne generi una di sostituzione.

L'endpoint /v1/chat/completions

Invia la tua prima richiesta al nostro URL base utilizzando l'endpoint standard per le chat completions. Sostituisci la chiave segnaposto con le tue credenziali effettive. L'identificatore del modello è semplicemente uncensored. Questo modello è ottimizzato per rispondere senza rifiuti per contenuti adulti leciti. Gestisce input e output testuali in modo efficiente. Non è necessario configurare un instradamento complesso o selezionare versioni specifiche del modello. Basta puntare il tuo client al nostro URL base e inviare il payload. I nostri server gestiscono l'inferenza e restituiscono il testo generato. Questo approccio garantisce la compatibilità con gli strumenti e le librerie esistenti.

Risposte in streaming con SSE

Abilita lo streaming per ricevere i token man mano che vengono generati. Questo riduce la latenza percepita per le output lunghe. Imposta il stream parametro a true nel corpo della richiesta. Il server restituirà una serie di eventi inviati dal server. Ogni evento contiene un delta parziale della risposta. Puoi elaborare questi token in tempo reale per un'interfaccia chat. L'ultimo chunk include l'utilizzo totale dei token per la richiesta. Questo ti permette di tracciare i costi con precisione man mano che la conversazione procede. Lo streaming è ideale per le applicazioni in cui il feedback immediato migliora l'esperienza utente.

Function calling e modalità JSON

Struttura i tuoi output in modo affidabile utilizzando i parametri supportati. Abilita la modalità JSON impostando response_format a {"type": "json_object"}. Questo forza il modello a restituire JSON senza i marcatori di markdown. Puoi anche definire gli schemi delle funzioni per l'utilizzo degli strumenti. Il modello seguirà rigorosamente la struttura fornita. Questo è utile per l'estrazione automatizzata di dati o per il chaining delle API. Usa il tools parametro per definire le funzioni disponibili. Il modello può scegliere quale funzione chiamare in base al prompt. Questa capacità è essenziale per costruire flussi di lavoro agentic senza logica di parsing aggiuntiva.

Parametri: Temperatura, Top-p e Seeds

Controlla la casualità e la determinismo dei tuoi output. Regola la temperature a variare la creatività. Valori più bassi producono risposte più focalizzate. Valori più alti introducono più varietà. Usa top_p per limitare la selezione del vocabolario. Questo funziona insieme alla temperatura per affinare la qualità dell'output. Imposta il seed il parametro per risultati riproducibili. Input e seed identici produrranno output identici. Questo è fondamentale per il debug e il test della tua integrazione. Puoi anche impostare stop sequenze per interrompere la generazione a marcatori specifici. Questi parametri ti danno un controllo granulare sul comportamento del modello.

Limiti, errori e finestra di contesto

Monitora il tuo utilizzo rispetto ai nostri limiti definiti. La finestra di contesto supporta 100,000 token combinati. Questo consente un'analisi estesa di documenti o conversazioni lunghe. Ogni richiesta può generare fino a 16,000 token. Se non specifichi max_tokens, il limite predefinito è 2.048. Hai diritto a 300 richieste al minuto per chiave. Solo otto richieste possono essere eseguite contemporaneamente per chiave. La dimensione del corpo della richiesta è limitata a 8 MB. Errori come 402 indicano credito insufficiente. I limiti di velocità (429) si verificano se si supera la soglia per minuto. Il credito non scade mai, quindi puoi interrompere l'utilizzo senza perdere fondi.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)