ข้อผิดพลาดทั่วไปของ API การอนุมาน: คู่มือการแก้ปัญหา

ทำไมโมเดลไร้เซ็นเซอร์ของคุณอาจยังคงปฏิเสธ

โมเดลไม่ปฏิเสธหัวข้อผู้ใหญ่ที่ชอบกฎหมาย เรื่องแต่ง การวิจัยความปลอดภัย หรือหัวข้อที่ถกเถียงได้ อย่างไรก็ตาม ข้อจำกัดเนื้อหาที่ชัดเจนจะใช้เสมอเกี่ยวกับเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก คำขอที่มีข้อผิดพลาดเฉพาะนี้จะถูกปฏิเสธทันที ตัวกรองนี้แตกต่างจากมาตรฐานการป้องกันความปลอดภัยที่พบในโมเดลอื่น

ตรวจสอบอินพุตของคุณสำหรับตัวบ่งชี้ที่ละเอียดอ่อนของตัวละครอายุต่ำกว่าในบริบททางเพศ แม้ว่าจะเป็นโมเดลที่ไม่ผ่านการตรวจสอบเนื้อหา ขอบเขตเฉพาะนี้ยังคงถูกบังคับใช้ เนื้อหาประเภทอื่นทั้งหมดผ่านโดยไม่มีการปฏิเสธ ซึ่งช่วยให้สอดคล้องกับกฎหมายในขณะที่รักษาอิสระสำหรับกรณีการใช้งานอื่น

การจัดการขีดจำกัดโทเค็นและหน้าต่างบริบท

หน้าต่างบริบทรองรับ 100,000 โทเค็นสำหรับทั้ง prompt และ completion รวมกัน คุณต้องติดตามจำนวนโทเค็นอินพุตเพื่อให้แน่ใจว่าไม่เกินขีดจำกัดนี้เมื่อรวมกับเอาต์พุต จำนวนเอาต์พุตสูงสุดต่อการร้องขอคือ 16,000 โทเค็น หากคุณไม่ได้ตั้งค่า max_tokens ค่าเริ่มต้นคือ 2,048 โทเค็น

คำนวณงบประมาณของคุณอย่างระมัดระวัง เอกสารยาวๆ ใช้พื้นที่บริบทจำนวนมาก หากคุณเกินขีดจำกัด API จะส่งข้อผิดพลาด แบ่งอินพุตขนาดใหญ่เป็นชิ้นเล็กๆ เพื่อรักษาประสิทธิภาพ สิ่งนี้ป้องกันการตัดข้อมูลสำคัญใน prompt ของคุณ

การแก้ไขการตอบสนองแบบสตรีมมิ่ง

การสตรีมผ่าน SSE ส่ง token แบบเรียลไทม์ คุณต้อง parse chunk สุดท้ายเพื่อดึงสถิติการใช้ token ที่แม่นยำ ข้อมูลการใช้ token จะปรากฏเฉพาะใน chunk สุดท้ายของสตรีม chunk ก่อนหน้ามีเพียง delta ของเนื้อหาเท่านั้น

ใช้ตัวนับเพื่อติดตามโทเค็นทั้งหมดที่ประมวลผล โดยรวมโทเค็นอินพุตและเอาต์พุตจากการตอบกลับสุดท้าย เพื่อให้แน่ใจว่าการเรียกเก็บเงินและการติดตามการใช้งานมีความแม่นยำ อย่าพึ่งพาจำนวนย่อยจากชิ้นกลางๆ เนื่องจากไม่สะท้อนต้นทุนรวมของคำขอนั้น

ข้อผิดพลาดและการตรวจสอบความถูกต้องของโหมด JSON

โหมด JSON บังคับใช้การตรวจสอบความถูกต้องของสคีมาอย่างเข้มงวด คุณต้องตั้งค่าพารามิเตอร์ response_format เป็น json_object โมเดลพยายามส่งคืน JSON ที่ถูกต้อง เกิดข้อผิดพลาดหากสคีมาผิดปกติหรือไม่สามารถแยกวิเคราะห์ผลลัพธ์ได้

ตรวจสอบสคีมา JSON ของคุณก่อนส่งคำขอ กำหนดค่าฟิลด์ที่จำเป็นให้ครบถ้วน ใช้โปรแกรมตรวจสอบไวยากรณ์เพื่อตรวจสอบสคีมาของคุณ สิ่งนี้ช่วยลดข้อผิดพลาดในการตรวจสอบและรับประกันผลลัพธ์ที่สม่ำเสมอ ทดสอบด้วยข้อมูลขนาดเล็กก่อนเพื่อตรวจสอบรูปแบบ

ทำความเข้าใจการเลือกเครื่องมือและการเรียกใช้ฟังก์ชัน

การเรียกใช้ฟังก์ชันช่วยให้โมเดลสามารถเรียกใช้เครื่องมือ คุณสามารถระบุ tool_choice เพื่อควบคุมพฤติกรรม โมเดลจะส่งข้อมูลที่มีโครงสร้างสำหรับการดำเนินการเครื่องมือ สิ่งนี้เปิดใช้งานเวิร์กโฟลว์ที่ซับซ้อนและการผสานรวมข้อมูลภายนอก

กำหนดเครื่องมือของคุณอย่างชัดเจนในคำขอ ให้ระบุคำอธิบายสำหรับแต่ละเครื่องมือ โมเดลจะใช้คำอธิบายเหล่านี้เพื่อตัดสินใจว่าจะเรียกใช้เครื่องมือเมื่อใด ทดสอบคำจำกัดความของเครื่องมือกับอินพุตที่หลากหลาย ตรวจสอบให้แน่ใจว่าผลลัพธ์ตรงกับรูปแบบที่คุณคาดหวัง

อัตราจำกัดและคำขอพร้อมกัน

คีย์แต่ละตัวจำกัดอยู่ที่ 300 การเรียกใช้ต่อนาที คุณสามารถทำการเรียกใช้พร้อมกันได้สูงสุด 8 ครั้ง ขนาด request body ถูกจำกัดไว้ที่ 8 MB การเกินขีดจำกัดเหล่านี้จะส่งผลให้เกิดข้อผิดพลาด 429

เพิ่มการหน่วงเวลาแบบเอ็กซ์โพเนนเชียลสำหรับการลองใหม่ ตรวจสอบการใช้งานของคุณเพื่อให้อยู่ในขีดจำกัด ใช้คีย์หลายรายการหากคุณต้องการความสามารถในการส่งข้อมูลที่สูงขึ้น This ensures smooth operation during peak usage. Track your request volume to avoid unexpected interruptions.

ความน่าประหลาดใจด้านราคา: โทเค็นอินพุตเทียบกับเอาท์พุต

ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens Output tokens มีราคาแพงกว่า การตอบที่ยาวนานจะเพิ่มต้นทุนอย่างมีนัยสำคัญ ตรวจสอบความยาวของ output ของคุณเพื่อควบคุมค่าใช้จ่าย

ตั้งค่า max_tokens เพื่อจำกัดความยาวของเอาต์พุต ซึ่งช่วยป้องกันค่าใช้จ่ายที่ไม่คาดคิดจากคำตอบที่ยาวเกินไป ควรตรวจสอบการใช้โทเค็นของคุณเป็นประจำ โดยใช้ข้อมูลการใช้โทเค็นจากชิ้นสุดท้ายในการคำนวณต้นทุนอย่างแม่นยำ

การชำระเงินคริปโตและวันหมดอายุเครดิต

เติมเครดิตด้วยคริปโตเท่านั้น โดยรับ USDT บน TRC20 หรือ USDC บน Base ยอดเติมขั้นต่ำคือ $20 และสูงสุดคือ $500 เครดิตไม่มีวันหมดอายุ หากเกิดข้อผิดพลาดเช่นการหักซ้ำ จะแก้ไขผ่านหน้า Support ได้

เครดิตโบนัสใช้กับการเติมเงินจำนวนมากขึ้น คุณจะได้รับโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ความผิดพลาดและการปฏิเสธฟรี สิ่งนี้รับประกันว่าคุณจ่ายเฉพาะการใช้งานจริงเท่านั้น