Mistral api docs: 빠른 시작 통합

인증: 헤더 설정

대시보드에서 키를 생성하세요. 이 과정은 즉시 완료되며 전화번호 인증이 필요하지 않습니다. 계정을 생성하려면 이메일 주소나 Google 계정만 필요합니다. 생성되면 키가 화면에 즉시 표시됩니다. 전체 문자열을 저장하지 않으므로 안전하게 저장하세요. 이 문자열을 다음에 전달합니다. Authorization 모든 요청에 대한 header. 당사 시스템은 프롬프트 처리 전에 이 토큰을 선불 잔액과 대조하여 검증합니다. 키가 유효하지 않거나 만료된 경우 401 오류가 발생합니다. 접근을 단순하게 유지하기 위해 계정당 하나의 활성 키만 허용됩니다. 대체 키를 생성하면 이전 키가 즉시 대체됩니다.

/v1/chat/completions 엔드포인트

표준 채팅 completion 엔드포인트를 사용하여 기본 URL로 첫 번째 요청을 보내세요. 자리 표시자 키를 실제 자격 증명으로 바꾸세요. 모델 식별자는 단순히 uncensored. 이 모델은 합법적인 성인 콘텐츠에 대한 거부 없이 응답하도록 튜닝되었습니다. 텍스트 입력과 출력을 효율적으로 처리합니다. 복잡한 라우팅 구성이나 특정 모델 버전 선택이 필요하지 않습니다. 클라이언트를 당사 기본 URL로 가리키고 페이로드를 보내면 됩니다. 당사 서버가 추론을 처리하고 생성된 텍스트를 반환합니다. 이 방식은 기존 도구 및 라이브러리와의 호환성을 보장합니다.

SSE를 통한 스트리밍 응답

스트리밍을 활성화하여 토큰이 생성되는 대로 수신하세요. 이는 긴 출력물의 지각된 지연 시간을 줄여줍니다. 다음을 설정하세요 stream 요청 본문에서 true로 설정하세요. 서버는 일련의 서버 전송 이벤트를 반환합니다. 각 이벤트는 응답의 부분 델타를 포함합니다. 채팅 인터페이스를 위해 이러한 토큰을 실시간으로 처리할 수 있습니다. 마지막 청크에는 요청의 총 토큰 사용량이 포함됩니다. 이를 통해 대화 진행 중 비용을 정확하게 추적할 수 있습니다. 스트리밍은 즉각적인 피드백이 사용자 경험을 향상시키는 애플리케이션에 이상적입니다.

함수 호출 및 JSON 모드

지원되는 매개변수를 사용하여 출력을 신뢰할 수 있게 구조화합니다. JSON 모드를 활성화하려면 설정 response_format 수신하여 {"type": "json_object"}. 이는 모델이 마크다운 테두리 없이 유효한 JSON을 반환하도록 강제합니다. 도구 사용을 위한 함수 스키마도 정의할 수 있습니다. 모델은 제공된 구조를 엄격히 따릅니다. 이는 자동화된 데이터 추출이나 API 체이닝에 유용합니다. 사용 tools 사용 가능한 함수를 정의합니다. 모델은 프롬프트에 기반하여 호출할 함수를 선택할 수 있습니다. 이 기능은 추가 구문 분석 로직 없이 에이전트 워크플로우를 구축하는 데 필수적입니다.

파라미터: Temperature, Top-p, Seeds

출력의 무작위성과 결정론을 제어하세요. 조정 temperature 창의성을 다양하게 합니다. 낮은 값은 더 집중적인 응답을 생성합니다. 높은 값은 더 많은 다양성을 도입합니다. 사용 top_p 어휘 선택을 제한합니다. 이는 출력 품질을 정교하게 다듬기 위해 temperature과 함께 작동합니다. 설정 seed 재현 가능한 결과를 위한 매개변수입니다. 동일한 입력과 시드는 동일한 출력을 생성합니다. 이는 통합 테스트 및 디버깅에 매우 중요합니다. 또한 설정할 수도 있습니다. stop 특정 마커에서 생성을 중단하기 위한 시퀀스. 이러한 매개변수는 모델 동작에 세밀한 제어를 제공합니다.

제한 사항, 오류 및 컨텍스트 윈도우

정의된 제한에 맞춰 사용량을 모니터링하세요. 컨텍스트 윈도우는 총 100,000개의 토큰을 지원합니다. 이는 광범위한 문서 분석 또는 긴 대화를 허용합니다. 각 요청은 최대 16,000개의 토큰을 출력할 수 있습니다. 지정하지 않으면 max_tokens, 제한은 기본값이 2,048입니다. 키당 분당 요청 수는 300회까지 허용됩니다. 키당 동시에 실행할 수 있는 요청 수는 최대 8개입니다. 요청 본문 크기는 8MB로 제한됩니다. 402 오류는 잔액 부족을 의미합니다. 분당 한도를 초과하면 429(과도한 요청) 오류가 발생합니다. 크레딧은 만료되지 않으므로 사용 중단을 해도 자금이 소멸되지 않습니다.

cURL

Copycurl https://api.apimistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set temperature to 0.7 for code generation"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)