การแคชบริบท

ในเวิร์กโฟลว์ AI ทั่วไป คุณอาจส่งโทเค็นอินพุตเดียวกันซ้ำๆ ไปยังโมเดล Gemini API มีการแคชโดยนัยเพื่อเพิ่มประสิทธิภาพและลดต้นทุน

การแคชโดยนัย

ระบบจะเปิดใช้การแคชโดยนัยโดยค่าเริ่มต้นสำหรับโมเดล Gemini 2.5 ขึ้นไปทั้งหมด โดยรองรับทั้งโหมดการสนทนาแบบเก็บสถานะ (ใช้ previous_interaction_id) และแบบไม่เก็บสถานะ เราจะส่งต่อการประหยัดต้นทุนโดยอัตโนมัติหากคำขอของคุณตรงกับแคช คุณไม่จำเป็นต้องกำหนดค่าใดๆ เพื่อเปิดใช้ ตารางต่อไปนี้แสดงจำนวนโทเค็นอินพุตขั้นต่ำสำหรับแต่ละโมเดล

รุ่น	ขีดจำกัดโทเค็นขั้นต่ำ
Gemini 4 Argon	4,096
Gemini 3.8 Flash	4,096
Gemini 3.6 Flash	4,096
Gemini 3.1 Pro เวอร์ชันตัวอย่าง	4,096
Gemini 2.5 Flash	2,048
Gemini 2.5 Pro	2,048

วิธีเพิ่มโอกาสที่จะพบแคชโดยนัย:

• ลองวางเนื้อหาขนาดใหญ่และเนื้อหาทั่วไปไว้ที่จุดเริ่มต้นของพรอมต์
• ลองส่งคำขอที่มีคำนำหน้าคล้ายกันภายในระยะเวลาสั้นๆ

คุณสามารถดูจำนวนโทเค็นที่พบแคชได้ในช่อง usage.total_cached_tokens (Python และ JavaScript) ของออบเจ็กต์การตอบกลับ