Документация Mistral api: Быстрая интеграция

Аутентификация: Установка вашего заголовка

Начните с генерации ключа на нашей панели управления. Процесс мгновенный и не требует проверки по номеру телефона. Для создания аккаунта вам нужен только адрес электронной почты или аккаунт Google. После генерации ключ сразу отображается на экране. Сохраните его в безопасности, так как мы не храним полную строку для извлечения. Вы передадите эту строку в Authorization header для каждого запроса. Наша система проверяет этот токен против вашего предоплаченного баланса перед обработкой вашего запроса. Если ключ недействителен или истек, вы получите ошибку 401. Мы разрешаем только один активный ключ на аккаунт, чтобы упростить доступ. Новый ключ мгновенно заменяет старый, когда вы генерируете замену.

Эндпоинт /v1/chat/completions

Отправьте первый запрос на наш базовый URL, используя стандартный конечный пункт chat completions. Замените заполнитель ключа на ваши реальные учетные данные. Идентификатор модели — просто uncensored. Эта модель настроена на ответы без отклонений для законного контента для взрослых. Она эффективно обрабатывает ввод и вывод текста. Вам не нужно настраивать сложную маршрутизацию или выбирать конкретные версии моделей. Просто укажите клиенту наш базовый URL и отправьте полезную нагрузку. Наши серверы обрабатывают вывод и возвращают сгенерированный текст. Этот подход обеспечивает совместимость с существующими инструментами и библиотеками.

Потоковая передача ответов с SSE

Включите потоковую передачу, чтобы получать токены по мере их генерации. Это снижает воспринимаемую задержку для длинных выводов. Установите stream параметр в true в теле запроса. Сервер вернёт серию Server-Sent Events. Каждое событие содержит частичный дельта-ответ. Вы можете обрабатывать эти токены в реальном времени для чат-интерфейса. Последний чанк включает общее использование токенов для запроса. Это позволяет точно отслеживать расходы по мере развития разговора. Стриминг идеален для приложений, где немедленная обратная связь улучшает пользовательский опыт.

Вызов функций и режим JSON

Структурируйте ваши выводы надёжно с помощью поддерживаемых нами параметров. Включите режим JSON, установив response_format для {"type": "json_object"}. Это заставляет модель возвращать валидный JSON без обертки в виде markdown-блоков. Вы также можете определить схемы функций для использования инструментов. Модель будет строго следовать предоставленной структуре. Это полезно для автоматизированного извлечения данных или цепочек API. Используйте tools параметр для определения доступных функций. Модель может выбрать, какую функцию вызвать, на основе промпта. Эта возможность необходима для создания агентных рабочих процессов без дополнительной логики парсинга.

Параметры: Temperature, Top-p, Seeds

Управляйте случайностью и детерминированностью ваших выходов. Настройте temperature варьировать креативность. Меньшие значения дают более сфокусированные ответы. Большие значения добавляют больше разнообразия. Используйте top_p чтобы ограничить выбор словаря. Это работает вместе с temperature для улучшения качества вывода. Установите seed параметр для воспроизводимых результатов. Идентичные входные данные и семена дадут идентичные результаты. Это критически важно для отладки и тестирования вашей интеграции. Вы также можете установить stop последовательности для остановки генерации в определенных маркерах. Эти параметры дают вам детальный контроль над поведением модели.

Лимиты, ошибки и контекстное окно

Отслеживайте использование в рамках установленных лимитов. Контекстное окно поддерживает 100,000 токенов в совокупности. Это позволяет проводить глубокий анализ документов или длинные разговоры. Каждый запрос может выводить до 16,000 токенов. Если вы не укажете max_tokens, лимит по умолчанию составляет 2 048. Вам разрешено 300 запросов в минуту на один ключ. Одновременно может выполняться не более восьми запросов на ключ. Размер тела запроса ограничен 8 МБ. Ошибка 402 указывает на недостаток средств. Ограничение скорости (429) возникает, если вы превысите порог в минуту. Кредиты не сгорают, поэтому вы можете приостановить использование, не теряя средства.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)