Inicio rápido del endpoint compatible con OpenAI

URL Base y Autenticación

Conéctate a nuestra API usando la URL base estandarizada y tu clave única. Cada solicitud requiere autenticación a través del encabezado Authorization para garantizar un acceso seguro a tu crédito prepagado.

Nuestro endpoint refleja el estándar de la industria, lo que te permite intercambiar tu configuración existente de OpenAI con mínima fricción. No necesitas gestionar un enrutamiento complejo ni el bloqueo de proveedores; nosotros manejamos la infraestructura mientras tú te enfocas en la lógica de la aplicación.

Genera tu clave al instante desde el panel de control. Cada cuenta mantiene una clave activa que reemplaza a la anterior al regenerarla, manteniendo tu postura de seguridad simple y transparente.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Endpoint Chat Completions

Envía tu prompt al endpoint de finalización de chat para recibir una respuesta de texto directa del modelo sin censura. Este único endpoint maneja toda la generación de texto sin la sobrecarga de incrustaciones o procesamiento multimodal.

El modelo acepta un array de mensajes estándar que contiene roles de system, user y assistant. Está ajustado para responder sin rechazos de contenido para uso adulto legal, lo que lo hace ideal para escritura creativa, roleplay o análisis de datos sin restricciones.

Mantén tus cargas útiles concisas. El tamaño máximo del cuerpo de la solicitud es de 8 MB, lo que cabe cómodamente en la mayoría de los historiales de conversación estándar antes de alcanzar el límite de contexto.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming y Uso de Tokens

Habilitar salida en tiempo real estableciendo el parámetro stream a true en tu solicitud. La API devuelve un flujo de Eventos Enviados por Servidor (SSE), permitiéndote mostrar los tokens a medida que se generan.

Las estadísticas de uso de tokens se incluyen en el fragmento final del stream. Este diseño mantiene la carga útil ligera durante la generación mientras asegura que obtengas datos de facturación precisos para tu crédito prepagado.

El streaming reduce la latencia percibida para los usuarios finales. Puedes comenzar a renderizar la respuesta inmediatamente, lo cual es crucial para aplicaciones que requieren bucles de retroalimentación interactivos o generación de contenido de texto largo.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Llamada de Función y Modo JSON

Estructura tus salidas para consumo programático usando el modo JSON o la llamada de funciones. Establece response_format a json_object para forzar al modelo a un esquema JSON estricto.

Para el uso de herramientas, define tus funciones en el array tools. El modelo devolverá argumentos estructurados que tu código puede analizar y ejecutar. Esta capacidad admite flujos de trabajo complejos sin necesidad de bibliotecas de análisis externas.

El modo JSON es particularmente útil al extraer datos de texto no estructurado. Garantiza un formato consistente, reduciendo la necesidad de limpieza de postprocesamiento en la lógica de tu aplicación.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parámetros: Temperatura, Top P y Stop

Controla la creatividad y la terminación de tus respuestas usando parámetros de generación estándar. Ajusta temperature para la variabilidad y top_p para el muestreo de núcleo. Usa el parámetro stop para definir secuencias específicas que señalen el final de la salida.

Establecer una temperatura más baja produce resultados más deterministas y enfocados. Los valores más altos introducen más aleatoriedad, lo cual puede ser beneficioso para tareas de lluvia de ideas o narración creativa.

Define secuencias de parada para evitar que el modelo se ejecute indefinidamente. Esto es esencial para mantener un uso predecible de tokens y garantizar que tu aplicación reciba una respuesta limpia y delimitada.

Gestión de errores y límites

Monitora tus solicitudes para detectar códigos de estado HTTP comunes y gestionar los errores de manera efectiva. Un 401 indica una clave de API inválida o expirada, mientras que un 402 señala que se ha agotado tu crédito prepagado.

El límite de tasa 429 se activa si superas las 300 solicitudes por minuto o tienes más de 8 solicitudes concurrentes por clave. Aumenta tu rendimiento distribuyendo la carga entre varias claves o reduciendo la frecuencia de las solicitudes.

Tu ventana de contexto soporta 100.000 tokens para la combinación de prompt y completado. Ten en cuenta este límite para evitar el truncamiento. Los errores y rechazos no consumen tokens, por lo que solo pagas por la generación real.