Gemini API มีกลไกการเพิ่มประสิทธิภาพที่หลากหลายเพื่อช่วยให้คุณปรับสมดุลความเร็ว ต้นทุน และความเสถียรตามความต้องการของปริมาณงานที่เฉพาะเจาะจง ไม่ว่าคุณจะสร้างบ็อตสนทนาแบบเรียลไทม์หรือเรียกใช้ไปป์ไลน์การประมวลผลข้อมูลออฟไลน์ขนาดใหญ่ การเลือกกระบวนทัศน์ที่เหมาะสมจะช่วยลดต้นทุนหรือเพิ่มประสิทธิภาพได้อย่างมาก
| ฟีเจอร์ | มาตรฐาน | พับ | รายการสำคัญ | กลุ่ม | กำลังแคช |
|---|---|---|---|---|---|
| การกำหนดราคา | ราคาเต็ม | ส่วนลด 50% | สูงกว่ามาตรฐาน 75% ถึง 100% | ส่วนลด 50% | ส่วนลด 90% + พื้นที่เก็บข้อมูลโทเค็นตามสัดส่วน |
| เวลาในการตอบสนอง | วินาทีถึงนาที | นาที (เป้าหมาย 1-15 นาที) | วินาที | สูงสุด 24 ชั่วโมง | เวลาในการแสดงผลโทเค็นแรกเร็วขึ้น |
| ความเสถียร | สูง / สูงปานกลาง | ดีที่สุด (ลดได้) | สูง (ลดไม่ได้) | สูง (สำหรับปริมาณงาน) | ไม่มี |
| อินเทอร์เฟซ | แบบซิงโครนัส | แบบซิงโครนัส | แบบซิงโครนัส | แบบอะซิงโครนัส | สถานะที่บันทึกไว้ |
| กรณีการใช้งานที่ดีที่สุด | เวิร์กโฟลว์ของแอปพลิเคชันทั่วไป | เชนลำดับที่ไม่เร่งด่วน | แอปเวอร์ชันที่ใช้งานจริงและแอปที่แสดงต่อผู้ใช้ | ชุดข้อมูลขนาดใหญ่ การประเมินออฟไลน์ | การค้นหาที่เกิดขึ้นซ้ำๆ ในไฟล์เดียวกัน |
ระดับการให้บริการอนุมาน (แบบซิงโครนัส)
คุณสามารถเปลี่ยนระหว่างการเข้าชมแบบซิงโครนัสที่เพิ่มประสิทธิภาพด้านความเสถียรและการเข้าชมแบบซิงโครนัสที่เพิ่มประสิทธิภาพด้านต้นทุนได้โดยส่งพารามิเตอร์ service_tier ในการเรียกการสร้างมาตรฐาน
การอนุมานมาตรฐาน (ค่าเริ่มต้น)
ระดับมาตรฐานเป็นตัวเลือกเริ่มต้นสำหรับการสร้างเนื้อหาตามลำดับ ซึ่งให้เวลาตอบสนองปกติโดยไม่มีค่าธรรมเนียมพิเศษหรือการจัดคิวจำนวนมาก
- ความเสถียร: ความสำคัญระดับมาตรฐาน
- ราคา: การกำหนดราคามาตรฐาน
- เหมาะสำหรับ: แอปพลิเคชันแบบอินเทอร์แอกทีฟส่วนใหญ่ที่ใช้ในชีวิตประจำวัน
การอนุมานแบบจัดลำดับความสำคัญ (เพิ่มประสิทธิภาพด้านเวลาในการตอบสนอง)
การประมวลผลแบบ จัดลำดับความสำคัญ จะกำหนดเส้นทางการส่งคำขอ ไปยังคิวการประมวลผลที่มีความสำคัญสูง การเข้าชมนี้จะลดไม่ได้โดยเด็ดขาด (ไม่ถูกแทนที่โดยระดับอื่นๆ) และมีความเสถียรสูงสุด หากคุณเกินขีดจำกัดแบบไดนามิกของระดับความสำคัญ ระบบจะลดระดับคำขอเป็นการประมวลผลแบบมาตรฐานแทนที่จะแสดงข้อผิดพลาด
- ความเสถียร: ความสำคัญสูงสุด
- ราคา: สูงกว่าอัตรามาตรฐาน 75% ถึง 100%
- เหมาะสำหรับ: แชทบ็อตของลูกค้า การตรวจจับการฉ้อโกงแบบเรียลไทม์ และผู้ช่วยที่สำคัญต่อธุรกิจ
Flex Inference (เพิ่มประสิทธิภาพด้านต้นทุน)
Flex Inferenceมีส่วนลด 50% เมื่อเทียบกับอัตรามาตรฐานโดยใช้ความจุการประมวลผลนอกช่วงเวลาที่มีการใช้งานสูงสุด ระบบจะประมวลผลคำขอแบบซิงโครนัส ซึ่งหมายความว่าคุณไม่จำเป็นต้องเขียนโค้ดใหม่เพื่อจัดการออบเจ็กต์กลุ่ม เนื่องจากการเข้าชม "ลดได้" ระบบจึงอาจแทนที่คำขอหากมีการเข้าชมมาตรฐานเพิ่มขึ้นอย่างรวดเร็ว
- ความเสถียร: ความสำคัญแบบลดได้แต่ไม่รับประกัน
- ราคา: 50% ของการกำหนดราคามาตรฐาน (เรียกเก็บเงินต่อโทเค็น)
- เหมาะสำหรับ: เวิร์กโฟลว์แบบหลายขั้นตอนที่เป็น Agent ซึ่งการเรียก N+1 ขึ้นอยู่กับเอาต์พุตของการเรียก N, การอัปเดต CRM เบื้องหลัง และการประเมินออฟไลน์
Batch API (แบบกลุ่ม แบบอะซิงโครนัส)
Batch API ได้รับการออกแบบมาเพื่อประมวลผลคำขอจำนวนมาก แบบอะซิงโครนัสด้วย ต้นทุน 50% ของต้นทุนมาตรฐาน คุณสามารถส่งคำขอเป็นพจนานุกรมแบบอินไลน์หรือใช้ไฟล์อินพุต JSONL (สูงสุด 2 GB) โดยจะประมวลผลคำขอโดยใช้คิวปริมาณงานเบื้องหลังโดยมีเวลาตอบสนองเป้าหมาย 24 ชั่วโมง
- ความเสถียร: ลดได้ แต่มีระบบการลองใหม่และการจัดคิวอัตโนมัติ 24 ชั่วโมง
- ราคา: 50% ของการกำหนดราคามาตรฐาน
- เหมาะสำหรับ: การประมวลผลล่วงหน้าของชุดข้อมูลขนาดใหญ่ การเรียกใช้ชุดโปรแกรมทดสอบการถดถอยเป็นระยะ และการสร้างรูปภาพหรือการฝังจำนวนมาก
การแคชบริบท (การประหยัดอินพุต)
การแคชบริบทใช้เมื่อมีการอ้างอิงบริบทเริ่มต้นขนาดใหญ่ ซ้ำๆ โดยคำขอที่สั้นกว่า
- การแคชโดยนัย: เปิดใช้โดยอัตโนมัติใน Gemini 2.5 และโมเดลใหม่กว่า ระบบจะส่งต่อการประหยัดต้นทุนหากคำขอตรงกับแคชที่มีอยู่โดยอิงตามคำนำหน้าพรอมต์ทั่วไป
- การแคชอย่างชัดแจ้ง: คุณสามารถสร้างออบเจ็กต์แคชด้วยตนเองโดยมี Time-To-Live (TTL) ที่เฉพาะเจาะจง เมื่อสร้างแล้ว คุณจะอ้างอิงโทเค็นที่แคชไว้สำหรับคำขอที่ตามมาเพื่อหลีกเลี่ยงการส่งเพย์โหลด Corpus เดียวกันซ้ำๆ Gemini 4 Argon ขึ้นไปไม่รองรับการแคชอย่างชัดแจ้ง
- ราคา: เรียกเก็บเงินตามจำนวนโทเค็นแคชและระยะเวลาการจัดเก็บ (TTL)
- เหมาะสำหรับ: แชทบ็อตที่มีคำแนะนำระบบที่ครอบคลุม การวิเคราะห์ไฟล์วิดีโอขนาดยาวซ้ำๆ หรือการค้นหาชุดเอกสารขนาดใหญ่
ลดต้นทุนอินพุตวิดีโอด้วยการประมวลผลแบบ Agentic
สำหรับการประมวลผลแบบ Agentic สำหรับเนื้อหาวิดีโอแบบยาว (มากกว่า 5-10 นาที) หรือการค้นหาที่กำหนดเป้าหมาย จะช่วยลดต้นทุนโทเค็นอินพุตได้สูงสุด 88% พร้อมทั้งปรับปรุงคุณภาพการตอบสนอง โดยค่าเริ่มต้น โมเดลทั้งหมด (รวมถึง Gemini 4) จะใช้ การประมวลผลแบบคงที่ เพื่อแยกเฟรมที่ 1 FPS การทำความเข้าใจวิดีโอแบบ Agentic ช่วยให้โมเดลตรวจสอบคำบรรยายวิดีโอก่อน จากนั้นจะโหลดส่วนภาพแบบไดนามิกที่อัตราเฟรมและความละเอียดสูงขึ้นเฉพาะเมื่อจำเป็น สำหรับคลิปสั้นๆ (ไม่เกิน 5 นาที) หรือสรุปวิดีโอแบบเต็มในวงกว้าง ให้ใช้โหมดการประมวลผลแบบคงที่เริ่มต้นเพื่อให้ได้เวลาในการแสดงผลโทเค็นแรก (TTFT) ที่เร็วขึ้นและค่าใช้จ่ายโทเค็นที่ต่ำลง โหมด Agentic จะทำให้เกิดการให้เหตุผลภายใน (total_thought_tokens) และการเดินทางไปกลับของเครื่องมือ (total_tool_use_tokens) ระหว่างการนำทางไทม์ไลน์
หากต้องการใช้การประมวลผลแบบ Agentic กับ Gemini 4 Argon, 3.8 Flash, 3.6 Flash หรือ 3.5 Flash Lite,
ให้ตั้งค่า processing: "agentic" (Interactions API) หรือ
media_processing: "AGENTIC" (GenerateContent API) ในอินพุตวิดีโอ หากโมเดลไม่รองรับการประมวลผลแบบ Agentic ระบบจะแสดงข้อผิดพลาด
ดูข้อมูลเพิ่มเติมได้ที่ การทำความเข้าใจวิดีโอแบบ Agentic