Gemini 4 Argon พร้อมให้บริการแล้ว ลองใช้เลย

Google ใช้เทคโนโลยี AI เพื่อแปลเนื้อหาเป็นภาษาที่คุณต้องการ การแปลโดย AI อาจมีข้อผิดพลาด

การแคชบริบท

ในเวิร์กโฟลว์ AI ทั่วไป คุณอาจส่งโทเค็นอินพุตเดียวกันซ้ำๆ ไปยังโมเดล Gemini API มีการแคชโดยนัยเพื่อเพิ่มประสิทธิภาพและลดค่าใช้จ่าย

การแคชโดยนัย

ระบบจะเปิดใช้การแคชโดยนัยโดยค่าเริ่มต้นสำหรับโมเดล Gemini 2.5 ขึ้นไปทั้งหมด โดยรองรับทั้งโหมดสนทนาแบบเก็บสถานะ (โดยใช้ previous_interaction_id) และไม่เก็บสถานะ เราจะส่งต่อการประหยัดต้นทุนโดยอัตโนมัติหากคำขอของคุณเข้าถึงแคช คุณไม่จำเป็นต้องกำหนดค่าใดๆ เพื่อเปิดใช้ ตารางต่อไปนี้แสดงจำนวนโทเค็นอินพุตขั้นต่ำสำหรับแต่ละโมเดล

รุ่น	ขีดจำกัดโทเค็นขั้นต่ำ
Gemini 4 Argon	4,096
Gemini 3.8 Flash	4,096
Gemini 3.6 Flash	4,096
เวอร์ชันตัวอย่างของ Gemini 3.1 Pro	4,096
Gemini 2.5 Flash	2,048
Gemini 2.5 Pro	2,048

วิธีเพิ่มโอกาสในการพบแคชโดยนัย

ลองใส่เนื้อหาขนาดใหญ่และเนื้อหาที่พบบ่อยไว้ที่จุดเริ่มต้นของพรอมต์
พยายามส่งคำขอที่มีคำนำหน้าคล้ายกันในระยะเวลาสั้นๆ

หมายเหตุ: ลูปแบบหลายรอบและลูป Agent ใน Gemini 4 (Argon และใหม่กว่า): Gemini จะแคชคำขอเต็มรูปแบบก่อนหน้าก็ต่อเมื่อคำขอใหม่เพิ่มโทเค็นอย่างน้อย 2,050 รายการ เอาต์พุตโมเดล ความคิด และผลลัพธ์ของฟังก์ชันทั้งหมดจะนับรวมในยอดรวมนี้ สำหรับการเพิ่มข้อมูลขนาดเล็ก Gemini จะประมวลผลโทเค็น 2,050 รายการสุดท้ายของคำขอก่อนหน้าอีกครั้งในอัตราอินพุตมาตรฐาน เทิร์นของ Agent ส่วนใหญ่เกินเกณฑ์นี้

คุณดูจำนวนโทเค็นที่พบแคชได้ในช่อง usage.total_cached_tokens (Python และ JavaScript) ของออบเจ็กต์การตอบกลับ