API MistralMistral api docs:快速入门集成
Mistral api docs:快速入门集成
无需为了更换提供商而重写整个代码库。我们的无审查 LLM API 使用标准的 OpenAI 兼容端点,只需更改基础 URL 和 API 密钥即可立即开始生成文本。
认证:设置您的头
首先在我们的仪表板上生成一个密钥。该过程是即时的,无需电话号码验证。你只需要电子邮件地址或 Google 账户即可创建账户。生成后,密钥会立即显示在屏幕上。请安全保存它,因为我们不会存储完整的字符串以供检索。你将把这个字符串传递到 Authorization 每次请求时的请求头。我们的系统在处理提示之前会根据您的预付费余额验证此令牌。如果密钥无效或已过期,您将收到 401 错误。我们每个账户只允许一个有效密钥,以保持访问的简洁性。生成新密钥时,旧密钥会立即被替换。
/v1/chat/completions 端点
使用标准聊天补全端点向我们的基础 URL 发送第一个请求。将占位符密钥替换为您的实际凭据。模型标识符仅为 uncensored. 该模型经过调整,对合法的成人内容不进行拒绝。它高效地处理文本输入和输出。您无需配置复杂的路由或选择特定的模型版本。只需将客户端指向我们的基础 URL 并发送负载即可。我们的服务器处理推理并返回生成的文本。这种方法确保了与现有工具和库的兼容性。
带有 SSE 的流式响应
启用流式传输以在生成时接收令牌。这降低了长输出的感知延迟。设置 stream 在请求正文中设置为 true。服务器将返回一系列服务器发送的事件。每个事件包含响应的部分增量。您可以为聊天界面实时处理这些令牌。最后一个数据块包含该请求的总令牌用量。这允许您在对话进行时准确跟踪成本。流式传输非常适合即时反馈能改善用户体验的应用。
函数调用和 JSON 模式
使用我们支持的参数可靠地构建您的输出。通过设置启用 JSON 模式 response_format 到 {"type": "json_object"}. 这强制模型返回不带 Markdown 代码块的 JSON。您还可以为工具使用定义函数模式。模型将严格遵循提供的结构。这对于自动化数据提取或 API 链式调用非常有用。使用 tools 用于定义可用函数。模型可以根据提示词选择调用哪个函数。这种能力对于构建无需额外解析逻辑的智能体工作流至关重要。
参数:温度、Top-p、Seeds
控制输出的随机性和确定性。调整 temperature 变化创意。较低的值产生更集中的回复。较高的值引入更多变化。使用 top_p 限制词汇选择。它与温度参数配合使用以优化输出质量。设置 seed 用于生成可复现结果的参数。相同的输入和种子将产生相同的输出。这对于调试和测试你的集成至关重要。你还可以设置 stop 序列以在特定标记处终止生成。这些参数让您对模型行为进行细粒度控制。
限制、错误和上下文窗口
根据您的定义限制监控使用情况。上下文窗口总共支持 100,000 个令牌。这允许进行广泛的文档分析或长对话。每个请求最多可输出 16,000 个令牌。如果您未指定 max_tokens, 默认限制为 2,048。每个密钥每分钟允许 300 次请求。每个密钥最多只能同时运行 8 个请求。请求体大小限制为 8 MB。402 错误表示余额不足。如果超过每分钟阈值,会出现 429 速率限制错误。余额永不过期,因此您可以暂停使用而不会损失资金。
cURL
curl https://api.apimistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);流式传输
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常见问题
如何为我的客户端设置基础 URL?
使用 HTTPS://api.apimistral.com/v1 作为您的基础 URL。此端点与官方 OpenAI SDK 兼容。您只需在配置中更改基础 URL 和 API 密钥。所有其他参数与标准 OpenAI 请求保持相同。
如果我超出速率限制会怎样?
您将收到表示请求过多的 429 状态码。限制为每个密钥每分钟 300 次请求。您可以等待窗口重置或生成新密钥以重置计数器。如果需要立即访问,新密钥将立即替换旧密钥。
我可以使用此 API 用于角色扮演应用吗?
是的,该模型是无限制的,专为合法成人内容设计。它不会拒绝争议性或虚构话题。这使其非常适合沉浸式角色扮演和创意写作。只需确保内容不涉及未成年人,这是我们的唯一硬性限制。