Mistral api docs: Γρήγορη Έναρξη Ενσωμάτωσης

Πιστοποίηση: Ρύθμιση της κεφαλίδας σας

Ξεκινήστε δημιουργώντας ένα κλειδί στο dashboard μας. Η διαδικασία είναι άμεση και δεν απαιτεί επαλήθευση με αριθμό τηλεφώνου. Χρειάζεστε μόνο μια διεύθυνση email ή έναν λογαριασμό Google για να δημιουργήσετε λογαριασμό. Μόλις δημιουργηθεί, το κλειδί εμφανίζεται στην οθόνη σας άμεσα. Αποθηκεύστε το με ασφάλεια γιατί δεν αποθηκεύουμε το πλήρες string για ανάκτηση. Θα περάσετε αυτό το string στο Authorization header για κάθε αίτηση. Το σύστημά μας ελέγχει αυτό το token έναντι του προπληρωμένου σας υπόλοιπου πριν επεξεργαστεί την εντολή σας. Αν το κλειδί είναι ακυρό ή λήξει, θα λάβετε σφάλμα 401. Επιτρέπουμε μόνο ένα ενεργό κλειδί ανά λογαριασμό για να διατηρήσουμε την πρόσβαση απλή. Ένα νέο κλειδί αντικαθιστά το παλιό αμέσως όταν δημιουργείτε μια αντικατάσταση.

Το endpoint /v1/chat/completions

Στείλτε το πρώτο request στη βάση URL μας χρησιμοποιώντας το τυπικό endpoint chat completions. Αντικαταστήστε το placeholder key με τα πραγματικά σας διαπιστευτήρια. Ο αναγνωριστής μοντέλου είναι απλά uncensored. Αυτό το μοντέλο είναι ρυθμισμένο να απαντά χωρίς απορρίψεις για νόμιμο περιεχόμενο για ενήλικες. Διαχειρίζεται είσοδο και έξοδο κειμένου αποδοτικά. Δεν χρειάζεται να διαμορφώσετε πολύπλοκες διαδρομές ή να επιλέξετε συγκεκριμένες εκδόσεις μοντέλου. Απλώς κατευθύνετε τον πελάτη σας στη βάση URL μας και στείλτε το payload. Οι διακομιστές μας διαχειρίζονται την εξαγωγή και επιστρέφουν το παραγόμενο κείμενο. Αυτή η προσέγγιση διασφαλίζει συμβατότητα με υπάρχοντα εργαλεία και βιβλιοθήκες.

Ροή αποκρίσεων με SSE

Ενεργοποιήστε τη ροή (streaming) για να λαμβάνετε tokens καθώς παράγονται. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μακροσκελείς εξόδους. Ορίστε το stream παράμετρος σε true στο σώμα της αίτησης. Ο server θα επιστρέψει μια σειρά από Server-Sent Events. Κάθε συμβάν περιέχει ένα μερικό delta της απάντησης. Μπορείτε να επεξεργαστείτε αυτά τα tokens σε πραγματικό χρόνο για μια διεπαφή συνομιλίας. Το τελικό τμήμα περιλαμβάνει τη συνολική χρήση tokens για την αίτηση. Αυτό σας επιτρέπει να παρακολουθείτε το κόστος με ακρίβεια καθώς προχωρά η συνομιλία. Η ροή είναι ιδανική για εφαρμογές όπου η άμεση ανατροφοδότηση βελτιώνει την εμπειρία χρήστη.

Κλήση συναρτήσεων και λειτουργία JSON

Δομήστε τις εξόδους σας αξιόπιστα χρησιμοποιώντας τις υποστηριζόμενες παραμέτρους μας. Ενεργοποιήστε τη λειτουργία JSON ρυθμίζοντας response_format για {"type": "json_object"}. Αυτό αναγκάζει το μοντέλο να επιστρέψει έγκυρο JSON χωρίς φράσεις markdown. Μπορείτε επίσης να ορίστε σχήματα συναρτήσεων για χρήση εργαλείων. Το μοντέλο θα ακολουθήσει αυστηρά τη δομή που παρέχεται. Αυτό είναι χρήσιμο για αυτόματη εξαγωγή δεδομένων ή αλυσίδωση API. Χρησιμοποιήστε το tools παράμετρος για τον ορισμό διαθέσιμων συναρτήσεων. Το μοντέλο μπορεί να επιλέξει ποια συνάρτηση να καλέσει βάσει της εντολής. Αυτή η δυνατότητα είναι απαραίτητη για την κατασκευή εργασιών πρακτόρων χωρίς επιπλέον λογική ανάλυσης.

Παράμετροι: Θερμοκρασία, Top-p, και Seeds

Ελέγξτε την τυχαιότητα και τον ντετερμινισμό των εξόδων σας. Προσαρμόστε το temperature για να ποικίλετε τη δημιουργικότητα. Οι χαμηλότερες τιμές παράγουν πιο εστιασμένες απαντήσεις. Οι υψηλότερες τιμές εισάγουν περισσότερη ποικιλία. Χρησιμοποιήστε top_p για να περιορίσετε την επιλογή λεξιλογίου. Αυτό λειτουργεί παράλληλα με τη θερμοκρασία για τη βελτίωση της ποιότητας εξόδου. Ορίστε το seed η παράμετρος για αναπαραγώγιμα αποτελέσματα. Ταυτόσητα εισόδους και σπόρους θα δώσουν ταυτόσημες εξόδους. Αυτό είναι κρίσιμο για τον εντοπισμό σφαλμάτων και τη δοκιμή της ενσωμάτωσής σας. Μπορείτε επίσης να ορίσετε stop ακολουθίες για να διακόψετε τη δημιουργία σε συγκεκριμένους δείκτες. Αυτές οι παράμετροι σας δίνουν λεπτομερή έλεγχο της συμπεριφοράς του μοντέλου.

Όρια, σφάλματα και context window

Παρακολουθήστε τη χρήση σας έναντι των ορισμένων ορίων μας. Το παράθυρο πλαισίου υποστηρίζει 100,000 tokens συνδυαστικά. Αυτό επιτρέπει εκτεταμένη ανάλυση εγγράφων ή μακρές συνομιλίες. Κάθε αίτημα μπορεί να εξάγει έως 16,000 tokens. Αν δεν καθορίσετε max_tokens, το όριο προεπιλέγεται στα 2,048. Έχετε δικαίωμα για 300 αιτήσεις ανά λεπτό ανά κλειδί. Μόνο οκτώ αιτήσεις μπορούν να τρέχουν ταυτόχρονα ανά κλειδί. Το μέγεθος του σώματος της αίτησης περιορίζεται στα 8 MB. Τα σφάλματα όπως το 402 υποδεικνύουν ανεπαρκή πιστωτικό υπόλοιπο. Τα όρια ρυθμού (429) εμφανίζονται αν ξεπεράσετε το όριο ανά λεπτό. Το πιστωτικό υπόλοιπο δεν λήγει, οπότε μπορείτε να διακόψετε τη χρήση χωρίς να χάσετε κεφάλαια.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)