Gemini API انواع مختلفی از سازوکارهای بهینه‌سازی را ارائه می‌دهد تا به شما کمک کند سرعت، هزینه، و قابلیت اطمینان را براساس نیازهای خاص حجم کاری خود متعادل کنید. چه درحال ساختن روبات‌های مکالمه‌ای هم‌زمان باشید یا درحال اجرای خطوط لوله سنگین پردازش داده آفلاین، انتخاب الگوی مناسب می‌تواند هزینه‌ها را به‌طور قابل‌توجهی کاهش دهد یا عملکرد را بهبود بخشد.
| ویژگی | استاندارد | به‌رخ کشیدن | اولویت | دسته | در حال ذخیره در حافظه نهان |
|---|---|---|---|---|---|
| قیمت‌گذاری | قیمت کامل | ٪۵۰ تخفیف | ۷۵٪ تا ۱۰۰٪ بیشتر از حد استاندارد | ٪۵۰ تخفیف | ۹۰٪ تخفیف + فضای ذخیره‌سازی توکن سرشکن‌شده |
| تأخیر | ثانیه به دقیقه | دقیقه (هدف ۱ تا ۱۵ دقیقه) | ثانیه | حداکثر ۲۴ ساعت | زمان تا اولین داده‌واحد سریع‌تر |
| قابلیت اطمینان | زیاد / متوسط روبه‌بالا | نهایت تلاش (قابل‌حذف) | زیاد (غیرقابل ریزش) | بالا (برای توان گذرداد) | موجود نیست |
| میانای | همگام | همگام | همگام | غیرهمگام | وضعیت ذخیره‌شده |
| بهترین کاربرد | گردش‌های کار برنامه عمومی | زنجیره‌های متوالی غیرفوری | برنامه‌های تولیدی، سَمت کاربر | مجموعه‌داده‌های عظیم، ارزیابی‌های آفلاین | پُرسمان‌های تکراری درباره یک فایل |
رده‌های خدمات استنتاج (همگام)
با ارسال پارامتر service_tier در تماس‌های تولید استاندارد، می‌توانید بین ترافیک همگام بهینه‌شده ازنظر قابلیت اطمینان و بهینه‌شده ازنظر هزینه جابه‌جا شوید.
استنتاج استاندارد (پیش‌فرض)
سطح استاندارد گزینه پیش‌فرض برای تولید محتوای متوالی است. این طرح زمان پاسخ‌دهی عادی را بدون هزینه اضافی یا صف‌های طولانی ارائه می‌دهد.
- قابلیت اطمینان: بحرانی بودن استاندارد
- قیمت: قیمت‌گذاری استاندارد.
- بهترین برای: تعاملی‌ترین برنامه‌های روزمره.
استنباط اولویت‌دار (بهینه‌سازی‌شده برای تأخیر)
پردازش اولویت‌دار درخواست‌های شما را به صف‌های محاسباتی با اهمیت بالا هدایت می‌کند. این ترافیک کاملاً غیرقابل‌انصراف است (هرگز توسط سطوح دیگر پیش‌گیری نمی‌شود) و بالاترین قابلیت اطمینان را ارائه می‌دهد. اگر از محدوده‌های «اولویت پویا» فراتر بروید، سیستم به‌جای اینکه درخواست را با خطا رد کند، آن را به پردازش «استاندارد» تنزل می‌دهد.
- قابلیت اطمینان: بالاترین سطح اهمیت
- قیمت: ۷۵٪ تا ۱۰۰٪ بیشتر از نرخ‌های استاندارد.
- بهترین برای: روبات‌های گپ مشتری، تشخیص کلاهبرداری هم‌زمان، و کمک‌خلبان‌های حیاتی برای کسب‌وکار.
استنتاج انعطاف‌پذیر (بهینه‌سازی‌شده برای هزینه)
استنتاج انعطاف‌پذیر بااستفاده از ظرفیت محاسباتی فرصت‌طلبانه و غیرپیک، ۵۰٪ تخفیف نسبت‌به نرخ‌های استاندارد ارائه می‌دهد. درخواست‌ها به‌صورت هم‌زمان پردازش می‌شوند، یعنی برای مدیریت کردن دسته‌های هدف نیازی به بازنویسی کد ندارید. چون این ترافیک «قابل‌کاهش» است، اگر سیستم با افزایش ناگهانی ترافیک استاندارد مواجه شود، ممکن است درخواست‌ها پیش‌دستی کنند.
- قابلیت اطمینان: غیرتضمینی، بحرانیت قابل‌کاهش
- قیمت: ۵۰٪ از «قیمت‌گذاری استاندارد» (صورت‌حساب براساس داده‌واحد).
- بهترین گزینه برای: گردش کارهای عامل‌گرای چندمرحله‌ای که در آن فراخوانی N+1 به برونداد فراخوانی N، به‌روزرسانی‌های پس‌زمینه‌ای CRM، و ارزیابی‌های آفلاین بستگی دارد.
Batch API (فله‌ای، ناهمزمان)
میانای برنامه‌سازی کاربردی دسته‌ای برای پردازش حجم زیادی از درخواست‌ها به‌صورت ناهمزمان با ۵۰٪ هزینه استاندارد طراحی شده است. می‌توانید درخواست‌ها را هم به‌صورت فرهنگ لغت درون‌خطی یا بااستفاده از فایل ورودی JSONL (حداکثر ۲ گیگابایت) ارسال کنید. این ابزار درخواست‌ها را بااستفاده از صف‌های توان عملیاتی پس‌زمینه با هدف زمان گردش ۲۴ ساعته پردازش می‌کند.
- قابلیت اطمینان: قابل‌حذف اما با سیستم صف‌بندی و بازآزمایی خودکار ۲۴ ساعته
- قیمت: ۵۰٪ قیمت استاندارد.
- بهترین گزینه برای: پیش‌پردازش مجموعه‌های داده عظیم، اجرای مجموعه‌های آزمایشی رگرسیون دوره‌ای، و تولید تصاویر یا جاسازی‌های با حجم بالا.
ذخیره کردن بافت در حافظه نهان (صرفه‌جویی در ورودی)
وقتی درخواست‌های کوتاه‌تر به‌طور مکرر به بافت اولیه قابل‌توجهی ارجاع می‌دهند، از ذخیره بافت استفاده می‌شود.
- ذخیره‌سازی نهان ضمنی: به‌طور خودکار در Gemini 2.5 و مدل‌های جدیدتر فعال می‌شود. اگر درخواست شما به حافظه‌های پنهان موجود براساس پیشوندهای رایج پیام‌واره برسد، سیستم صرفه‌جویی در هزینه را منتقل می‌کند.
- ذخیره‌سازی صریح در حافظه پنهان: می‌توانید به‌صورت دستی یک شیء حافظه پنهان با «زمان بقا» (TTL) مشخص ایجاد کنید. پس‌از ایجاد، برای درخواست‌های بعدی به کدهای ذخیره‌شده در حافظه نهان ارجاع می‌دهید تا از ارسال مکرر همان بار داده مجموعه خودداری کنید. ذخیره‌سازی صریح برای Gemini 4 Argon و نسخه‌های بعدی پشتیبانی نمی‌شود.
- قیمت: براساس تعداد نشان‌های حافظه نهان و مدت زمان ذخیره‌سازی (TTL) صورت‌حساب می‌شود.
- بهترین گزینه برای: روبات‌های گپ با دستورالعمل‌های سیستم گسترده، تجزیه‌وتحلیل تکراری فایل‌های ویدیویی طولانی، یا پُرسمان‌های مربوط به مجموعه‌های بزرگ سند.
کاهش هزینه‌های ورودی ویدیو با پردازش عاملی
برای محتوای ویدیویی طولانی (بیش‌از ۵ تا ۱۰ دقیقه) یا پُرسمان‌های هدف‌یابی‌شده، پردازش عاملی می‌تواند هزینه‌های کد واحد ورودی را تا ۸۸٪ کاهش دهد و درعین‌حال کیفیت پاسخ را بهبود بخشد. به‌طور پیش‌فرض، همه مدل‌ها (ازجمله Gemini 4) از پردازش ایستا برای استخراج قاب‌ها با نرخ ۱ قاب در ثانیه استفاده می‌کنند. با درک ویدیو عاملی، مدل ابتدا ترانویسی ویدیو را بررسی می‌کند و سپس بخش‌های تصویری را با نرخ فریم و وضوح بالاتر فقط در جاهایی که لازم است به‌طور پویا بار می‌کند. برای کلیپ‌های کوتاه (زیر ۵ دقیقه) یا خلاصه‌های کلی از کل ویدیو، حالت پردازش ایستا پیش‌فرض را حفظ کنید تا «زمان تا اولین نشانه» (TTFT) سریع‌تر و سربار نشانه کمتر باشد. حالت عامل درحین پیمایش خط زمان، استدلال داخلی (total_thought_tokens) و رفت‌وبرگشت ابزار (total_tool_use_tokens) را به‌همراه دارد.
برای استفاده از پردازش عامل‌گرا با Gemini 4 Argon، 3.8 Flash، 3.6 Flash، یا 3.5 Flash Lite،
processing: "agentic" (میانای برنامه‌سازی کاربردی تعاملات) یا
media_processing: "AGENTIC" (میانای برنامه‌سازی کاربردی GenerateContent) را روی ورودی ویدیویی خود تنظیم کنید. اگر
مدل از پردازش عاملی پشتیبانی نکند، خطایی برمی‌گرداند.
برای اطلاعات بیشتر، به درک ویدیو با عامل هوش مصنوعی مراجعه کنید.