Início rápido do endpoint compatível com OpenAI

URL Base e Autenticação

Conecte-se à nossa API usando a URL base padronizada e sua chave exclusiva. Cada solicitação requer autenticação via cabeçalho Authorization para garantir acesso seguro ao seu crédito pré-pago.

A estrutura do nosso endpoint espelha o padrão da indústria, permitindo que você substitua sua configuração OpenAI existente com mínimo atrito. Você não precisa gerenciar roteamento complexo ou lock-in de fornecedor; nós cuidamos da infraestrutura enquanto você se concentra na lógica do aplicativo.

Gere sua chave instantaneamente pelo painel. Cada conta mantém uma chave ativa que substitui a anterior ao ser regenerada, mantendo sua postura de segurança simples e transparente.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Endpoint Chat Completions

Envie seu prompt para o endpoint de conclusões de chat para receber uma resposta de texto direta do modelo sem censura. Este único endpoint lida com toda a geração de texto sem a sobrecarga de embeddings ou processamento multimodal.

O modelo aceita uma matriz de mensagens padrão contendo funções system, user e assistant. É ajustado para responder sem recusas de conteúdo para uso adulto legal, tornando-o ideal para escrita criativa, roleplay ou análise de dados sem restrições.

Mantenha seus payloads concisos. O tamanho máximo do corpo da solicitação é 8 MB, o que cabe confortavelmente na maioria dos históricos de conversas padrão antes de atingir o limite de contexto.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming e Uso de Tokens

Ativar saída em tempo real definindo o parâmetro stream como true na sua solicitação. A API retorna um stream de Server-Sent Events (SSE), permitindo que você exiba tokens conforme são gerados.

As estatísticas de uso de tokens estão incluídas no último chunk do stream. Esse design mantém a carga leve durante a geração, garantindo ao mesmo tempo que você obtenha dados precisos de faturamento para seu crédito pré-pago.

O streaming reduz a latência percebida para o usuário final. Você pode começar a renderizar a resposta imediatamente, o que é crucial para aplicativos que exigem loops de feedback interativos ou geração de conteúdo de texto longo.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Chamada de Função e Modo JSON

Estruture suas saídas para consumo programático usando o modo JSON ou chamada de funções. Defina response_format como json_object para forçar o modelo a um esquema JSON rígido.

Para uso de ferramentas, defina suas funções no array tools. O modelo retornará argumentos estruturados que seu código pode analisar e executar. Essa capacidade suporta fluxos de trabalho complexos sem exigir bibliotecas de análise externas.

O modo JSON é particularmente útil ao extrair dados de texto não estruturado. Garante formatação consistente, reduzindo a necessidade de limpeza de pós-processamento na lógica do seu aplicativo.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parâmetros: Temperatura, Top P e Parada

Controle a criatividade e o término das suas respostas usando parâmetros de geração padrão. Ajuste temperature para variabilidade e top_p para amostragem de núcleo. Use o parâmetro stop para definir sequências específicas que sinalizam o fim da saída.

Definir uma temperatura mais baixa produz resultados mais determinísticos e focados. Valores mais altos introduzem mais aleatoriedade, o que pode ser benéfico para brainstorming ou tarefas de narrativa criativa.

Defina sequências de parada para evitar que o modelo execute indefinidamente. Isso é essencial para manter o uso de tokens previsível e garantir que seu aplicativo receba uma resposta limpa e delimitada.

Tratamento de Erros e Limites

Monitore suas requisições para códigos de status HTTP comuns para gerenciar erros de forma eficaz. Um 401 indica uma chave de API inválida ou expirada, enquanto um 402 sinaliza que seu crédito pré-pago está esgotado.

O limite de taxa 429 é acionado se você exceder 300 solicitações por minuto ou tiver mais de 8 solicitações simultâneas por chave. Aumente seu throughput distribuindo a carga entre várias chaves ou reduzindo a frequência das solicitações.

Sua janela de contexto suporta 100.000 tokens para prompt e conclusão combinados. Esteja ciente desse limite para evitar truncamento. Erros e recusas não consomem tokens, então você paga apenas pela geração real.