मिस्ट्रल api दस्तावेज़: क्विकस्टार्ट इंटीग्रेशन

प्रमाणीकरण: अपना हेडर सेट करना

हमारे डैशबोर्ड पर एक कुली जनरेट करके शुरू करें। प्रक्रिया तुरंत है और फ़ोन नंबर सत्यापन की आवश्यकता नहीं है। खाता बनाने के लिए आपको केवल एक ईमेल पता या एक Google खाते की आवश्यकता है। जनरेट होने के बाद, कुली तुरंत आपकी स्क्रीन पर दिखाई देती है। इसे सुरक्षित रूप से सेव करें क्योंकि हम पुनर्प्राप्ति के लिए पूर्ण स्ट्रिंग को स्टोर नहीं करते हैं। आप इस स्ट्रिंग को Authorization हर रिक्वेस्ट के लिए हेडर। हमारा सिस्टम इस टोकन की जांच आपकी प्रीपेड बैलेंस के खिलाफ करता है, अपने प्रॉम्प्ट को प्रोसेस करने से पहले। यदि कुकी अमान्य या समाप्त हो गई है, तो आपको 401 त्रुटि मिलेगी। हम एक्सेस को सरल रखने के लिए प्रति खाते केवल एक सक्रिय कुकी की अनुमति देते हैं। जब आप प्रतिस्थापन जनरेट करते हैं, तो नई कुकी तुरंत पुरानी को प्रतिस्थापित कर देती है।

/v1/chat/completions एंडपॉइंट

मानक चैट पूर्णता एंडपॉइंट का उपयोग करके अपने बेस URL पर अपना पहला अनुरूप भेजें। स्थानधारक कुंजी को अपनी वास्तविक क्रेडेंशियल से बदलें। मॉडल पहचानकर्ता सरल है uncensored. यह मॉडल कानूनी वयक्त सामग्री के लिए रिफ्यूजल के बिना उत्तर देने के लिए ट्यून किया गया है। यह इनपुट और आउटपुट टेक्स्ट को कुशलता से संभालता है। आपको जटिल रूटिंग कॉन्फ़िगर करने या विशिष्ट मॉडल संस्करणों का चयन करने की आवश्यकता नहीं है। बस अपने क्लाइंट को हमारे बेस यूआरएल की ओर इशारा करें और पेलोड भेजें। हमारे सर्वर इनफरेंस संभालते हैं और जनरेटेड टेक्स्ट लौटाते हैं। यह दृष्टिकोण मौजूदा टूल्स और लाइब्रेरी के साथ संगतता सुनिश्चित करता है।

SSE के साथ स्ट्रीमिंग प्रतिक्रियाएं

स्ट्रीमिंग को सक्षम करें ताकि टोकन जनरेट होते ही प्राप्त हो सकें। यह लंबे आउटपुट के लिए प्रतीत होने वाली विलंबता को कम करता है। सेट करें stream पैरामीटर अपने अनुरोध बॉडी में true पर। सर्वर सर्वर-सेंट इवेंट्स की एक श्रृंखला लौटाएगा। प्रत्येक इवेंट में प्रतिक्रिया का आंशिक डेल्टा होता है। आप चैट इंटरफ़ेस के लिए इन टोकन को रियल-टाइम में प्रोसेस कर सकते हैं। अंतिम चंक में अनुरोध के लिए कुल टोकन उपयोग शामिल है। यह आपको बातचीत के दौरान लागत को सटीक रूप से ट्रैक करने की अनुमति देता है। स्ट्रीमिंग उन एप्लिकेशन के लिए आदर्श है जहां तत्काल प्रतिक्रिया उपयोगकर्ता अनुभव को बेहतर बनाती है।

फंक्शन कॉलिंग और JSON मोड

हमारे समर्थित पैरामीटर का उपयोग करके अपने आउटपुट को भरोसेमंद रूप से संरचित करें। JSON मोड को सक्षम करें सेटिंग response_format को {"type": "json_object"}. यह मॉडल को मार्कडाउन फेंसेस के बिना वैध JSON लौटाने के लिए मजबूर करता है। आप टूल उपयोग के लिए फंक्शन स्कीमा भी परिभाषित कर सकते हैं। मॉडल प्रदान की गई संरचना का कठोरता से पालन करेगा। यह स्वचालित डेटा एक्सट्रैक्शन या API चेनिंग के लिए उपयोगी है। tools उपलब्ध फ़ंक्शन को परिभाषित करने के लिए पैरामीटर। मॉडल प्रॉम्प्ट के आधार पर चुन सकता है कि किस फ़ंक्शन को कॉल करना है। यह क्षमता अतिरिक्त पार्सिंग लॉजिक के बिना एजेंटिक वर्कफ़्लो बनाने के लिए आवश्यक है।

पैरामीटर: तापमान, Top-p, और सीड्स

अपने आउटपुट की यादृच्छिकता और निर्धारकता को नियंत्रित करें। समायोजित करें temperature रचनात्मकता को बदलें। निम्न मान अधिक केंद्रित प्रतिक्रियाएँ देते हैं। उच्च मान अधिक विविधता लाते हैं। उपयोग करें top_p शब्दावली चयन को सीमित करने के लिए। यह तापमान के साथ मिलकर आउटपुट गुणवत्ता को परिष्कृत करता है। सेट करें seed पुनरुत्पादक परिणामों के लिए पैरामीटर। समान इनपुट और सीड्स समान आउटपुट देंगे। यह अपनी इंटीग्रेशन को डीबग और टेस्ट करने के लिए महत्वपूर्ण है। आप सेट भी कर सकते हैं stop सीक्वेंस का उपयोग विशिष्ट मार्कर पर जनरेशन रोकने के लिए। ये पैरामीटर आपको मॉडल व्यवहार पर सूक्ष्म नियंत्रण प्रदान करते हैं।

सीमाएं, त्रुटियां, और संदर्भ विंडो

हमारी परिभाषित सीमाओं के सापेक्ष अपने उपयोग की निगरानी करें। कॉन्टेक्स्ट विंडो 100,000 टोकन के संयोजन का समर्थन करती है। यह विस्तृत दस्तावेज़ विश्लेषण या लंबी बातचीत की अनुमति देता है। प्रत्येक अनुरोध 16,000 टोकन तक आउटपुट कर सकता है। यदि आप निर्दिष्ट नहीं करते max_tokens, सीमा डिफ़ॉल्ट रूप से 2,048 है। प्रति कुंजी प्रति मिनट 300 अनुरोध करने की अनुमति है। प्रति कुंजी केवल आठ अनुरोध एक साथ चल सकते हैं। अनुरोध बॉडी का आकार 8 MB तक सीमित है। 402 जैसे त्रुटियां अपर्याप्त क्रेडिट को दर्शाती हैं। दर सीमा (429) तब होती है यदि आप प्रति मिनट की सीमा से अधिक हो जाते हैं। क्रेडिट कभी समाप्त नहीं होता, इसलिए आप उपयोग बिना धन खोए रोक सकते हैं।

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)