Mistral API dokümanları: Hızlı Başlangıç Entegrasyonu

Kimlik Doğrulama: Başlığınızı ayarlama

Panomuzda bir anahtar oluşturarak başlayın. Süreç anlıktır ve telefon numarası doğrulaması gerektirmez. Hesap oluşturmak için yalnızca bir e-posta adresine veya bir Google hesabına ihtiyacınız vardır. Oluşturulduktan sonra anahtar ekranınızda hemen görünür. Güvenli bir şekilde kaydedin çünkü tam diziyi geri almak için saklamıyoruz. Bu diziyi Authorization header'ı her istek için kullanın. Sistem, bu tokeni ön ödemeli bakiyenizle eşleştirir ve prompt'unuzu işlemeden önce doğrular. Anahtar geçersiz veya süresi dolmuşsa 401 hatası alırsınız. Erişimi basit tutmak için hesap başına yalnızca bir aktif anahtara izin veririz. Eski anahtarı değiştirmek için yeni bir anahtar oluşturduğunuzda, eski anahtar anında yerini bırakır.

/v1/chat/completions uç noktası

Standart sohbet tamamlama uç noktasını kullanarak temel URL'mize ilk isteğinizi gönderin. Yer tutucu anahtarı gerçek kimlik bilgilerinizle değiştirin. Model tanımlayıcısı basitçe uncensored. Bu model yasal yetişkin içerik için reddi olmadan yanıt verecek şekilde ayarlanmıştır. Metin girdisi ve çıktısını verimli bir şekilde işler. Karmaşık yönlendirme yapılandırmasına veya belirli model sürümlerinin seçilmesine gerek yoktur. İstemcinizi temel URL'mize yönlendirin ve yükü gönderin. Sunucularımız çıkarımı gerçekleştirir ve oluşturulan metni döndürür. Bu yaklaşım mevcut araçlar ve kütüphanelerle uyumluluğu sağlar.

SSE ile akış yanıtlar

Oluşturulurken belirteçleri almak için akış özelliğini etkinleştirin. Bu, uzun çıktılar için algılanan gecikmeyi azaltır. Şunu ayarlayın stream istek gövdesinde true olarak parametre. Sunucu, Sunucu Gönderilen Olaylar serisi döndürür. Her olay, yanıtın kısmi bir delta'sını içerir. Sohbet arayüzü için bu belirteçleri gerçek zamanlı olarak işleyebilirsiniz. Son parça, istek için toplam belirteç kullanımını içerir. Bu, konuşma ilerledikçe maliyetleri doğru şekilde izlemenize olanak tanır. Akış, acil geri bildirimin kullanıcı deneyimini iyileştirdiği uygulamalar için idealdir.

Fonksiyon çağırma ve JSON modu

Çıktılarınızı desteklenen parametrelerimizi kullanarak güvenilir bir şekilde yapılandırın. JSON modunu response_format için {"type": "json_object"}. Bu, modelin markdown sınırlayıcıları olmadan geçerli JSON döndürmesini zorlar. Araç kullanımı için işlev şemaları da tanımlayabilirsiniz. Model sağlanan yapıya sıkı sıkıya uyacaktır. Bu, otomatik veri çıkarımı veya API zincirleme için kullanışlıdır. Şunu kullanın tools kullanılabilir işlevleri tanımlayan parametre. Model, isteme göre hangi işlevi çağıracağını seçebilir. Bu yetenek, ekstra ayrıştırma mantığı olmadan ajanik iş akışları oluşturmak için temel öneme sahiptir.

Parametreler: Sıcaklık, Top-p ve Seedler

Çıktılarınızın rastgeleliğini ve belirleyiciliğini kontrol edin. Değiştirin temperature yaratıcılığı değiştirmek için. Daha düşük değerler daha odaklı yanıtlar üretir. Daha yüksek değerler daha fazla çeşitlilik getirir. Kullan top_p kelime seçimi sınırlamak için. Bu, sıcaklık parametresiyle birlikte çıktı kalitesini iyileştirmek için çalışır. Şunu ayarlayın seed tekrarlanabilir sonuçlar için parametre. Aynı girdiler ve tohum değerleri aynı çıktıları üretecektir. Bu, entegrasyonunuzu hata ayıklamak ve test etmek için kritiktir. Şunu da ayarlayabilirsiniz stop belirli işaretlerde üretimi durdurmak için diziler. Bu parametreler modelin davranışını kontrol eder. Daha düşük sıcaklıklar daha tutarlı çıktılar verir. Daha yüksek sıcaklıklar rastgeleliği artırır.

Limitler, hatalar ve bağlam penceresi

Limitlerimizle kullanımınızı izleyin. Bağlam penceresi toplam 100.000 tokenı destekler. Bu, kapsamlı belge analizi veya uzun konuşmalar için olanak tanır. Her istek 16.000 tokena kadar çıktı yapabilir. Belirtmezseniz max_tokens, limit varsayılan olarak 2.048'dir. Her anahtar başına dakikada 300 istek yapmanıza izin verilir. Her anahtar için eşzamanlı olarak yalnızca sekiz istek çalıştırılabilir. İstek gövdesi 8 MB ile sınırlıdır. 402 gibi hatalar yetersiz krediyi gösterir. Hız sınırları (429), dakikalık eşiği aşarsanız oluşur. Kredi süresi dolmaz, bu nedenle kullanımı duraklatabilir ve fonlarınızı kaybetmezsiniz.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)