Gemini API מציע מגוון מנגנוני אופטימיזציה שיעזרו לכם לאזן בין מהירות, עלות ומהימנות בהתאם לצרכים הספציפיים של עומס העבודה. לא משנה אם אתם מפתחים בוטים לשיחות בזמן אמת או מריצים צינורות עיבוד נתונים כבדים אופליין, בחירת הפרדיגמה הנכונה יכולה להוזיל משמעותית את העלויות או לשפר את הביצועים.
| תכונה | רגיל | שרירים של סלע | עדיפות | Batch | שמירה במטמון |
|---|---|---|---|---|---|
| תמחור | המחיר המלא | הנחה של 50% | 75% עד 100% יותר מהרגיל | הנחה של 50% | הנחה של 90% + אחסון יחסי של טוקנים |
| זמן אחזור | שניות לדקות | דקות (יעד של 1-15 דקות) | שניות | עד 24 שעות | זמן מהיר יותר עד ליצירת הטוקן הראשון |
| אמינות | גבוהה / בינונית-גבוהה | הכי טוב שאפשר (ניתן להשמטה) | גבוהה (לא ניתנת להפחתה) | גבוה (לתפוקה) | לא רלוונטי |
| ממשק | סינכרוני | סינכרוני | סינכרוני | אסינכרוני | מצב שמור |
| תרחיש השימוש הטוב ביותר | תהליכי עבודה כלליים באפליקציות | שרשראות רציפות לא דחופות | אפליקציות בסביבת ייצור שגלויות למשתמשים | מערכי נתונים עצומים, הערכות אופליין | שאילתות חוזרות על אותו קובץ |
רמות שירות להסקת מסקנות (סינכרונית)
אפשר לעבור בין תנועה סינכרונית שעברה אופטימיזציה לאמינות לבין תנועה סינכרונית שעברה אופטימיזציה לעלות על ידי העברת הפרמטר service_tier בקריאות ליצירת סטנדרט.
הסקה רגילה (ברירת מחדל)
רמת Standard היא אפשרות ברירת המחדל ליצירת תוכן ברצף. הוא מספק זמני תגובה רגילים בלי תוספות או תורים ארוכים.
- אמינות: רמת קריטיות רגילה
- המחיר: המחיר הרגיל.
- הכי מתאים: לרוב האפליקציות האינטראקטיביות היומיומיות.
הסקת מסקנות בעדיפות גבוהה (אופטימיזציה של זמן האחזור)
עדיפות: הבקשות מנותבות לתורים של עיבודים קריטיים. התנועה הזו לא ניתנת להפחתה (אף פעם לא נדחית על ידי רמות אחרות) ומציעה את האמינות הגבוהה ביותר. אם תחרוג מהמגבלות של Dynamic Priority, המערכת תוריד את הבקשה לעיבוד רגיל במקום להחזיר שגיאה.
- אמינות: רמת הקריטיות הגבוהה ביותר
- מחיר: 75% עד 100% מעל התעריפים הרגילים.
- הכי מתאים: צ'אט בוטים לשירות לקוחות, זיהוי הונאות בזמן אמת וכלים מבוססי-AI קריטיים לעסק.
היקש ברמת Flex (אופטימיזציה של עלויות)
היקש ברמת Flex מציע הנחה של 50% בהשוואה לתעריפים הרגילים, באמצעות ניצול של קיבולת משאבי מחשוב אופורטוניסטית מחוץ לשעות השיא. הבקשות מעובדות באופן סינכרוני, כך שלא צריך לשכתב את הקוד כדי לנהל אובייקטים באצווה. מכיוון שמדובר בתנועה שניתן להפחית, יכול להיות שהבקשות יידחו אם יתרחשו במערכת עליות חדות בתנועה.
- אמינות: לא מובטחת, רמת קריטיות ניתנת להסרה
- מחיר: 50% מהמחיר הרגיל (החיוב הוא לפי טוקן).
- הכי מתאים: לתהליכי עבודה אג'נטיים מרובי שלבים שבהם קריאה N+1 תלויה בפלט של קריאה N, עדכוני CRM ברקע והערכות אופליין.
Batch API (בכמות גדולה, אסינכרוני)
Batch API מיועד לעיבוד של נפחים גדולים של בקשות באופן אסינכרוני, בעלות של 50% מהעלות הרגילה. אפשר לשלוח בקשות כמילונים מוטבעים או באמצעות קובץ קלט JSONL (עד 2GB). הוא מעבד בקשות באמצעות תורים של תפוקה ברקע, עם זמן טיפול של 24 שעות.
- אמינות: אפשר להשיל, אבל עם ניסיונות חוזרים אוטומטיים למשך 24 שעות ומערכת תורים
- מחיר: 50% מהמחיר הרגיל.
- הכי מתאים: לעיבוד מראש של מערכי נתונים עצומים, להרצת חבילות מקרים לבדיקה תקופתיות של רגרסיה וליצירת תמונות או הטמעות בנפח גבוה.
שמירת הקשר במטמון (חיסכון בקלט)
שמירת הקשר במטמון משמשת כשבקשות קצרות יותר מפנות שוב ושוב להקשר ראשוני משמעותי.
- שמירה במטמון באופן מרומז: מופעלת אוטומטית ב-Gemini 2.5 ובמודלים חדשים יותר. המערכת מעבירה את החיסכון בעלויות אם הבקשה שלכם מגיעה למטמון קיים על סמך קידומות נפוצות של הנחיות.
- שמירה מפורשת במטמון: אתם יכולים ליצור באופן ידני אובייקט מטמון עם זמן חיים (TTL) ספציפי. אחרי שיוצרים את הטוקנים, אפשר להפנות אליהם בבקשות הבאות כדי להימנע מהעברה חוזרת של אותו מטען ייעודי (payload) של קורפוס. בגרסאות Gemini 4 Argon ואילך אין תמיכה בשמירה מפורשת במטמון.
- מחיר: החיוב מבוסס על מספר הטוקנים במטמון ומשך האחסון (TTL).
- השימוש הכי מתאים: צ'אט בוטים עם הוראות מערכת נרחבות, ניתוח חוזר של קובצי וידאו ארוכים או שאילתות על קבוצות גדולות של מסמכים.
הפחתת עלויות הקלט של סרטונים באמצעות עיבוד מבוסס-סוכנים
בסרטונים ארוכים (LFV) (יותר מ-5-10 דקות) או בשאילתות ייעודיות, עיבוד מבוסס-סוכנים יכול להפחית את עלויות הטוקנים של הקלט בשיעור של עד 88% ולשפר את איכות התשובה. כברירת מחדל, כל המודלים (כולל Gemini 4) משתמשים בעיבוד סטטי כדי לחלץ פריימים בקצב של פריים אחד לשנייה. עם הבנת וידאו מבוססת-סוכנים, המודל בודק קודם את תמליל הסרטון וטוען באופן דינמי קטעים חזותיים בקצב פריימים וברזולוציות גבוהים יותר רק במקומות שבהם זה נדרש. בסרטונים קצרים (פחות מ-5 דקות) או בסיכומים כלליים של סרטונים מלאים, כדאי להשאיר את מצב העיבוד הסטטי שמוגדר כברירת מחדל כדי לקבל זמן קצר יותר עד לטוקן הראשון (TTFT) ועלות נמוכה יותר של טוקנים. במצב Agentic, המערכת מבצעת תהליכי חשיבה פנימיים (total_thought_tokens) וסבבי שימוש בכלים (total_tool_use_tokens) במהלך הניווט בציר הזמן.
כדי להשתמש בעיבוד מבוסס-סוכנים עם Gemini 4 Argon, 3.8 Flash, 3.6 Flash או 3.5 Flash Lite, צריך להגדיר את processing: "agentic" (Interactions API) או את media_processing: "AGENTIC" (GenerateContent API) בקלט הווידאו. אם המודל לא תומך בעיבוד מבוסס-סוכנים, הוא יחזיר שגיאה.
מידע נוסף זמין במאמר הבנת סרטונים באמצעות סוכנים.