Erros Comuns na API de Inferência: Guia de Solução de Problemas

Por que seu modelo sem censura ainda pode recusar

O modelo não recusa tópicos adultos lícitos, fictícios, de pesquisa de segurança ou controversos. No entanto, um limite rígido de conteúdo sempre se aplica em relação a conteúdo sexual envolvendo menores. Solicitações contendo essa violação específica são recusadas imediatamente. Esse filtro é distinto das proteções de segurança padrão encontradas em outros modelos.

Verifique sua entrada para indicadores sutis de personagens menores em contextos sexuais. Mesmo que o modelo seja sem censura, essa fronteira específica permanece aplicada. Todos os outros tipos de conteúdo passam sem recusa. Isso garante conformidade legal enquanto mantém a liberdade para outros casos de uso.

Lidando com Limites de Tokens e Janelas de Contexto

A janela de contexto permite 100.000 tokens para prompt e conclusão combinados. Você deve rastrear os tokens de entrada para garantir que não excedam esse limite quando combinados com a saída. O máximo de saída por solicitação é de 16.000 tokens. Se você não definir max_tokens, o padrão é 2.048 tokens.

Calcule seu orçamento com cuidado. Documentos longos consomem contexto significativo. Se você exceder o limite, a API retorna um erro. Divida entradas grandes em partes menores para manter o desempenho. Isso evita o truncamento de informações críticas no seu prompt.

Depuração de respostas em streaming

O streaming via SSE entrega tokens em tempo real. Você deve fazer o parse do último chunk para recuperar as estatísticas precisas de uso de tokens. Os dados de uso de tokens aparecem apenas no último chunk do stream. Chunks anteriores contêm apenas o delta de conteúdo.

Implemente um contador para rastrear o total de tokens processados. Some os tokens de entrada e saída da resposta final. Isso garante faturamento e rastreamento de uso precisos. Não confie em contagens parciais de fragmentos intermediários. Elas não refletem o custo total da solicitação.

Erros e Validação do Modo JSON

O modo JSON impõe validação estrita do esquema. Você deve definir o parâmetro response_format para json_object. O modelo tenta outputar JSON válido. Ocorrem erros se o esquema estiver malformado ou a saída não puder ser analisada.

Valide seu esquema JSON antes de enviar solicitações. Certifique-se de que todos os campos obrigatórios estão definidos. Use um linter para verificar a sintaxe do seu esquema. Isso reduz erros de validação e garante saída consistente. Teste primeiro com entradas pequenas para verificar o formato.

Entendendo Escolha de Ferramentas e Chamada de Funções

A chamada de função permite que o modelo invoque ferramentas. Você pode especificar tool_choice para controlar o comportamento. O modelo retorna dados estruturados para a execução da ferramenta. Isso permite fluxos de trabalho complexos e integração com dados externos.

Defina suas ferramentas claramente na solicitação. Forneça descrições para cada ferramenta. O modelo usa essas descrições para decidir quando chamá-las. Teste as definições das ferramentas com várias entradas. Certifique-se de que a saída corresponda ao formato esperado.

Limites de Taxa e Solicitações Concorrentes

Cada chave está limitada a 300 solicitações por minuto. Você pode ter até 8 solicitações simultâneas. O tamanho do corpo da solicitação é limitado a 8 MB. Exceder esses limites resulta em um erro 429.

Implemente backoff exponencial para tentativas. Monitore seu uso para permanecer dentro dos limites. Use várias chaves se precisar de maior rendimento. Isso garante operação suave durante o uso intenso. Rastreie o volume de solicitações para evitar interrupções inesperadas.

Surtos de Preços: Tokens de Entrada vs. Tokens de Saída

O preço é $0.15 por 1M de tokens de entrada e $0.50 por 1M de tokens de saída. Tokens de saída são mais caros. Respostas longas aumentam significativamente os custos. Monitore o comprimento da sua saída para controlar as despesas.

Defina max_tokens para limitar o comprimento da saída. Isso evita cobranças inesperadas por respostas longas. Acompanhe o uso de tokens regularmente. Use os dados de uso de tokens do último chunk para calcular os custos com precisão.

Pagamentos Cripto e Validade do Crédito

O crédito é recarregado apenas com criptomoedas. Aceitamos USDT na rede TRC20 ou USDC na rede Base. O valor mínimo de recarga é $20 e o máximo é $500. O crédito não expira. Erros como cobranças duplicadas são corrigidos via página de Suporte.

O crédito bônus é aplicado a recargas maiores. Você recebe um bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Erros e recusas são gratuitos. Isso garante que você pague apenas pelo uso real.