התחלה מהירה לנקודת קצה תואמת OpenAI

כתובת URL בסיסית ואימות

התחבר ל-API שלנו באמצעות כתובת ה-URL הבסיסית הסטנדרטית ומפתח הייחודי שלך. כל בקשה דורשת אימות דרך כותרת ה-Authorization כדי להבטיח גישה מאובטחת לקרדיט ששולם מראש.

מבנה הנקודה הקשה שלנו משקף את הסטנדרט התעשייתי, ומאפשר לכם להחליף את תצורת ה-OpenAI הקיימת שלכם עם חיכוך מינימלי. אינכם צריכים לנהל ניהול מורכב או נעילת ספק; אנו מטפלים בתשתית בעודכם מתמקדים בלוגיקת האפליקציה.

צור את המפתח שלך מיד דרך לוח הבקרה. כל חשבון שומר על מפתח פעיל אחד שמחליף את הקודם בעת יצירה מחדש, תוך שמירה על מצב האבטחה שלך פשוט ושקוף.

Copycurl https://api.aiinferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

נקודת קצה להשלמות צ'אט

שלחו את הפרומפט שלכם אל נקודת הקצה להשלמת צ'אט כדי לקבל תגובת טקסט ישירה מהמודל uncensored. נקודת קצה אחת זו מטפלת בכל יצירת הטקסט ללא העומס של הטמעות או עיבוד רב-מודאלי.

המודל מקבל מערך הודעות סטנדרטי הכולל תפקידי מערכת, משתמש ומסייע. הוא מכוון למתן תשובות ללא סריל תוכן לשימוש מבוגר חוקי, מה שהופך אותו למתאים לכתיבה יצירתית, משחק תפקידים או ניתוח נתונים ללא הגבלות.

שמרו על הפעולות שלכם תמציתיות. גודל גוף הבקשה המקסימלי הוא 8 MB, מה שמספיק בנוחות לרוב היסטוריות השיחה הסטנדרטיות לפני שתגיעו למגבלת ההקשר.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiinferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שימוש בטוקנים וסטרימינג

אפשרו פלט בזמן אמת על ידי הגדרת פרמטר ה- stream ל- true בבקשה שלכם. ה-API מחזיר זרימת אירועים מוכווי שרת (SSE), המאפשרת לכם להציג אסימונים כשהם נוצרים.

סטטיסטיקות שימוש בטוקנים כלולות בפריסה הסופית של הזרם. עיצוב זה שומר על עומס הקלטה קליל במהלך יצירה תוך הבטחת נתוני חיוב מדויקים לאשראי המוקדם שלך.

זרימה מפחיתה את תחוית העיכוב עבור משתמשים קצה. ניתן להתחיל להציג את התגובה מיד, דבר קרישי ליישומים הדורשים לולאות משוב אינטראקטיבי או יצירת תוכן ארוך.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

פקודות פונקציה ומצב JSON

מבנה את הפלט לצריכה תכנותית באמצעות מצב JSON או קריאת פונקציות. הגדר response_format ל-json_object כדי לכפות על המודל סכמת JSON קפדנית.

לשימוש בכלים, הגדר את הפונקציות שלך במערך tools. המודל יחזיר ארגומנטים מבניים שניתן לנתח ולבצע בקוד שלך. יכולת זו תומכת בזרימות עבודה מורכבות ללא צורך בספריות פונקציות חיצוניות.

מצב JSON שימושי במיוחד כאשר מחלצים נתונים מטקסט לא-מבני. הוא מבטיח פורמט עקבי, ומפחית את הצורך בניקוי post-processing בלוגיקה של האפליקציה שלך.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiinferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פרמטרים: טמפרטורה, Top P ו-Stop

שלוו את היצירתיות והסיום של התגובות שלכם באמצעות פרמטרי יצירה סטנדרטיים. התאימו טמפרטורה לשונות ו-top_p לדגימת גרעין. השתמשו בפרמטר ה-stop כדי להגדיר רצפים ספציפיים המסמנים את סוף הפלט.

הגדרת טמפרטורה נמוכה יותר מייצרת תוצאות יותר דטרמיניסטיות וממוקדות. ערכים גבוהים יותר מציגים יותר אקראיות, מה שיכול להיות מועיל למיזוג מחשבות או משימות סיפור יצירתי.

הגדירו רצפי עצירה כדי למנוע מהמודל לרוץ לנצח. זה חיוני לשמירה על שימוש צפוי במילים (tokens) ולהבטחה שהאפליקציה שלכם תקבל תגובה נקייה ומסוימת.

טיפול בשגיאות ומגבלות

נטר את הבקשות שלך עבור קודי סטטוס HTTP נפוצים כדי לנהל שגיאות ביעילות. 401 מציינת מפתח API לא תקין או פג תוקף, בעוד ש-402 מציינת שאשראי המקדים שלך אזל.

מגבלת הקצב 429 מופעלת אם תעבור על 300 בקשות לדקה או אם יהיו יותר מ-3 בקשות מקבילות למפתח. הגדל את נפח העבודה שלך על ידי הפצת העומס על פני מספר מפתחות או הפחתת תדירות הבקשות.

חלון ההקשר תומך ב-100,000 טוקנים עבור פקודה והשלמה יחד. היה מודע למגבלה זו כדי להימנע מחיתוך. שגיאות וסירובים לא צורכים טוקנים, כך שתשלם רק עבור יצירה בפועל.