OpenAI互換エンドポイントクイックスタート

ベースURLと認証

標準化されたベースURLと固有のキーを使用して当社のAPIに接続します。すべてのリクエストには、前払いクレジットへの安全なアクセスを保証するために、Authorizationヘッダーを介した認証が必要です。

エンドポイントの構造は業界標準を反映しており、既存のOpenAI設定を最小限の摩擦で置き換えることができます。複雑なルーティングやベンダーロックインを管理する必要はなく、インフラストラクチャを当社が管理し、あなたはアプリケーションロジックに集中できます。

ダッシュボードからキーを即座に生成します。各アカウントにはアクティブなキーが1つ保持され、再生成時に以前のキーが置き換えられ、セキュリティの運用をシンプルかつ透明に保ちます。

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

チャット完了エンドポイント

uncensoredモデルから直接テキストレスポンスを受け取るために、チャット完了エンドポイントにプロンプトを送信してください。この単一エンドポイントは、埋め込みやマルチモーダル処理のオーバーヘッドなしに、すべてのテキスト生成を処理します。

モデルはシステム、ユーザー、アシスタントのロールを含む標準的なメッセージ配列を受け入れます。法的な成人用途においてコンテンツ拒否なしで回答するように調整されており、クリエイティブライティング、ロールプレイ、または制限のないデータ分析に最適です。

ペイロードは簡潔に保ってください。最大リクエストボディサイズは8 MBで、コンテキスト制限に達する前にほとんどの標準的な会話履歴を快適に収めることができます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ストリーミングとトークン使用量

リクエストでstreamパラメータをtrueに設定することでリアルタイム出力を有効にします。APIはServer-Sent Events (SSE)ストリームを返し、トークンが生成されるたびにそれらを表示することができます。

トークン使用統計はストリームの最終チャンクに含まれます。この設計により、生成中はペイロードを軽量に保ちつつ、プリペイドクレジットの正確な課金データが得られます。

ストリーミングによりエンドユーザーの体感レイテンシーを低減できます。レスポンスのレンダリングを直ちに開始できるため、インタラクティブなフィードバックループや長文コンテンツの生成が必要なアプリケーションに不可欠です。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

関数呼び出しとJSONモード

JSONモードまたは関数呼び出しを使用して、プログラムでの消費向けに出力を構成します。response_formatをjson_objectに設定して、モデルを厳格なJSONスキーマに強制します。

ツール使用では、tools配列に関数を定義してください。モデルはコードが解析して実行できる構造化された引数を返します。この機能は、外部の解析ライブラリを必要とせずに複雑なワークフローをサポートします。

JSONモードは構造化されていないテキストからデータを抽出する際に特に有用です。一貫したフォーマットを保証し、アプリケーションロジック内の後処理クリーンアップの必要性を減らします。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

パラメータ: Temperature, Top P, Stop

標準的な生成パラメータを使用して応答の創造性と終了を制御します。temperatureで変動性を調整し、top_pで核サンプリングを使用します。stopパラメータを使用して、出力の終了を示す特定のシーケンスを定義します。

低い温度を設定すると、より決定論的で集中した結果が得られます。高い値はランダム性を導入し、ブレインストーミングやクリエイティブなストーリーテリングのタスクに有益です。

モデルが無限に実行しないようにstopシーケンスを定義します。これは予測可能なトークン使用量を維持し、アプリケーションがクリーンで区切られた応答を受け取ることを保証するために不可欠です。

エラー処理と制限

エラーを効果的に管理するために、一般的なHTTPステータスコードのリクエストを確認してください。401は無効または期限切れのAPIキーを示し、402は前払いクレジットが枯渇したことを示します。

300リクエスト/分またはキーあたり最大8つの同時リクエストを超えると、429レート制限がトリガーされます。複数のキーに負荷を分散するか、リクエスト頻度を減らすことでスループットを向上させます。

あなたのコンテキストウィンドウは、プロンプトと補完を合わせて100,000トークンをサポートします。この制限に注意し、切り捨てを避けてください。エラーや拒否はトークンを消費しないため、実際の生成分のみに対して課金されます。