Dokumentacja API Mistral: Integracja Szybkiego Startu

Uwierzytelnianie: Ustawianie nagłówka

Zacznij od wygenerowania klucza na naszym panelu. Proces jest natychmiastowy i nie wymaga weryfikacji numeru telefonu. Do utworzenia konta potrzebujesz tylko adresu e-mail lub konta Google. Po wygenerowaniu klucz pojawia się natychmiast na ekranie. Zapisz go bezpiecznie, ponieważ nie przechowujemy pełnego ciągu do odzyskania. Przekażesz ten ciąg w Authorization nagłówek dla każdego żądania. Nasz system weryfikuje ten token względem Twojego salda z góry opłaconego przed przetworzeniem Twojej prośby. Jeśli klucz jest nieprawidłowy lub wygasł, otrzymasz błąd 401. Pozwalamy tylko na jeden aktywny klucz na konto, aby utrzymać prostotę dostępu. Nowy klucz natychmiast zastępuje stary, gdy generujesz zastąpienie.

Endpoint /v1/chat/completions

Wyślij pierwsze żądanie do naszego bazowego adresu URL używając standardowego endpointu chat completions. Zmień placeholder klucza na swoje właściwe poświadczenia. Identyfikator modelu to po prostu uncensored. Model ten jest dostrojony do odpowiadania bez odrzucania treści dla legalnego użytku dla dorosłych. Obsługuje wejście i wyjście tekstowe wydajnie. Nie musisz konfigurować złożonego przekierowania ani wybierać konkretnych wersji modeli. Po prostu wskaż klientowi nasz bazowy URL i wyślij ładunek. Nasze serwery obsługują wnioskowanie i zwracają wygenerowany tekst. Podejście to zapewnia kompatybilność z istniejącymi narzędziami i bibliotekami.

Strumieniowanie odpowiedzi z SSE

Włącz strumieniowanie, aby otrzymywać tokeny w miarę ich generowania. Zmniejsza to postrzeganą opóźnienie dla długich wyjść. Ustaw stream parametru do true w ciele żądania. Serwer zwróci serię Zdarzeń Wysyłanych przez Serwer. Każde zdarzenie zawiera częściową deltę odpowiedzi. Możesz przetwarzać te tokeny w czasie rzeczywistym dla interfejsu czatu. Ostatni fragment zawiera całkowite zużycie tokenów dla żądania. Pozwala to na dokładne śledzenie kosztów w miarę postępu konwersacji. Strumieniowanie jest idealne dla aplikacji, w których natychmiastowa informacja zwrotna poprawia doświadczenie użytkownika.

Wywoływanie funkcji i tryb JSON

Zstrukturuj swoje wyjścia niezawodnie za pomocą obsługiwanych przez nas parametrów. Włącz tryb JSON, ustawiając response_format do {"type": "json_object"}.To wymusza od modelu zwracanie formatu JSON bez znaczników markdown. Możesz również zdefiniować schematy funkcji do użytku z narzędziami. Model będzie ściśle przestrzegać dostarczonej struktury. Jest to przydatne do automatycznej ekstrakcji danych lub łączenia API. Użyj tools parametr definiujący dostępne funkcje. Model może wybrać, którą funkcję wywołać, na podstawie promptu. Ta możliwość jest niezbędna przy tworzeniu przepływów pracy typu agentic bez dodatkowej logiki parsowania.

Parametry: Temperatura, Top-p, Seeds

Steruj losowością i determinizmem swoich outputów. Dostosuj temperature zmienną kreatywność. Niższe wartości dają bardziej skupione odpowiedzi. Wyższe wartości wprowadzają większą różnorodność. Użyj top_p ograniczyć wybór słownictwa. Działa to wraz z temperaturą w celu poprawy jakości wyjścia. Ustaw seed parametr dla odtwarzalnych wyników. Identyczne dane wejściowe i ziarna dadzą identyczne wyjścia. Jest to krytyczne dla debugowania i testowania Twojej integracji. Możesz również ustawić stop sekwencje do zatrzymywania generowania na konkretnych znacznikach. Te parametry dają Ci drobną kontrolę nad zachowaniem modelu.

Limity, błędy i okno kontekstu

Monitoruj swoje użycie względem zdefiniowanych limitów. Okno kontekstowe obsługuje łącznie 100,000 tokenów. Pozwala to na szczegółową analizę dokumentów lub długie rozmowy. Każde żądanie może wyprowadzić do 16,000 tokenów. Jeśli nie określisz max_tokens, domyślnie limit wynosi 2 048. Masz do dyspozycji 300 żądań na minutę na klucz. Jednocześnie może działać maksymalnie osiem żądań na klucz. Rozmiar ciała żądania jest ograniczony do 8 MB. Błędy oznaczone kodem 402 wskazują na niewystarczające środki. Limity wydajności (429) pojawiają się, gdy przekroczysz próg na minutę. Kredyty nie wygasają, więc możesz wstrzymać użytkowanie bez utraty środków.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)