تتوفّر العديد من نماذج Gemini بقدرات استيعاب كبيرة تصل إلى مليون رمز مميّز أو أكثر. في السابق، كانت النماذج اللغوية الكبيرة (LLM) محدودة بشكل كبير من حيث كمية النص (أو الرموز المميّزة) التي يمكن تمريرها إلى النموذج في المرة الواحدة. تتيح قدرة الاستيعاب الموسَّعة في Gemini العديد من حالات الاستخدام الجديدة ونماذج المطوّرين.
سيعمل الرمز الذي تستخدمه حاليًا في حالات مثل إنشاء نصوص أو إدخالات متعددة الوسائط بدون أي تغييرات مع السياق الطويل.
يقدّم لك هذا المستند نظرة عامة على ما يمكنك تحقيقه باستخدام النماذج التي تتضمّن قدرات استيعاب تبلغ مليون رمز مميّز أو أكثر. تقدّم الصفحة نظرة عامة موجزة حول نافذة السياق، وتستكشف كيف يجب أن يفكر المطوّرون في السياق الطويل، وحالات الاستخدام المختلفة في العالم الحقيقي للسياق الطويل، وطرق تحسين استخدام السياق الطويل.
للاطّلاع على أحجام قدرة الاستيعاب لنماذج معيّنة، يُرجى الانتقال إلى صفحة النماذج.
ما هي قدرة الاستيعاب؟
الطريقة الأساسية لاستخدام نماذج Gemini هي من خلال تمرير المعلومات (السياق) إلى النموذج، والذي سيُنشئ ردًا بعد ذلك. يمكن تشبيه قدرة الاستيعاب بالذاكرة القصيرة المدى. هناك كمية محدودة من المعلومات التي يمكن تخزينها في الذاكرة القصيرة المدى لدى الشخص، وينطبق الأمر نفسه على النماذج التوليدية.
في Gemini 4 (gemini-4-argon)، يتم مشاركة مليون رمز مميّز يستند إلى السياق بين رموز الإدخال والتفكير والإخراج، ويمكن للنموذج إنشاء ما يصل إلى مليون رمز مميّز للإخراج باستخدام فك الترميز الطويل. إذا تجاوز عدد الرموز المميزة في الإدخال بالإضافة إلى max_output_tokens عدد 1,048,576 رمزًا مميزًا، ستفرض واجهة برمجة التطبيقات تلقائيًا حدًا أقصى على عدد الرموز المميزة في الإخراج يساوي المساحة المتبقية في نافذة السياق (1,048,576 ناقص عدد الرموز المميزة في الإدخال). تستخدم نماذج Gemini 3 و2.5 السابقة حصصًا منفصلة تبلغ مليون رمز مميّز للإدخال و64 ألف رمز مميّز للإخراج.
يمكنك الاطّلاع على مزيد من المعلومات حول طريقة عمل النماذج في دليل النماذج التوليدية.
بدء استخدام قدرة الاستيعاب الموسَّعة
في السابق، كانت الإصدارات القديمة من النماذج التوليدية قادرة على معالجة 8,000 رمز مميز فقط في المرة الواحدة. وقد طوّرت النماذج الأحدث هذه الميزة من خلال قبول 32,000 أو حتى 128,000 رمز مميز. Gemini هو أول نموذج يمكنه قبول مليون رمز مميّز.
من الناحية العملية، يعادل مليون رمز مميّز ما يلي:
- 50,000 سطر من الرموز البرمجية (مع 80 حرفًا عاديًا في كل سطر)
- جميع الرسائل النصية التي أرسلتها خلال آخر 5 سنوات
- 8 روايات إنجليزية بمتوسط طول
- نصوص أكثر من 200 حلقة بودكاست متوسطة الطول
في المقابل، تتطلّب قدرات الاستيعاب المحدودة في العديد من النماذج الأخرى استخدام استراتيجيات مثل حذف الرسائل القديمة عشوائيًا، أو تلخيص المحتوى، أو استخدام تقنية RAG مع قواعد بيانات المتّجهات، أو فلترة الطلبات لتوفير الرموز المميّزة.
على الرغم من أنّ هذه الأساليب تظلّ قيّمة في سيناريوهات معيّنة، فإنّ قدرة الاستيعاب الكبيرة في Gemini تتيح اتّباع نهج أكثر مباشرةً، وهو تقديم جميع المعلومات ذات الصلة مسبقًا. بما أنّ نماذج Gemini مصمّمة خصيصًا لتوفير إمكانات هائلة في فهم السياق، فإنّها تقدّم أداءً قويًا في التعلّم أثناء التنفيذ. على سبيل المثال، باستخدام مواد تعليمية في السياق فقط (مرجع نحوي من 500 صفحة وقاموس وحوالي 400 جملة متوازية)، تعلّم Gemini الترجمة من الإنجليزية إلى لغة كالامانغ، وهي لغة بابوية يتحدث بها أقل من 200 شخص، بجودة مماثلة لمتعلّم بشري يستخدم المواد نفسها. يوضّح ذلك التحوّل الجذري الذي أحدثه سياق Gemini الطويل، ما يفتح آفاقًا جديدة من خلال التعلّم القوي ضمن السياق.
حالات استخدام السياق الطويل
على الرغم من أنّ حالة الاستخدام العادية لمعظم النماذج التوليدية لا تزال هي إدخال النص، فإنّ مجموعة نماذج Gemini تتيح نموذجًا جديدًا لحالات الاستخدام المتعددة الوسائط. ويمكن لهذه النماذج فهم النصوص والفيديوهات والصوت والصور بشكل أساسي. وتتوفّر معها واجهة برمجة التطبيقات Gemini API التي تقبل أنواع الملفات المتعدّدة الوسائط لتسهيل الاستخدام.
نص طويل
أثبت النص أنّه طبقة الذكاء التي تدعم الكثير من الزخم حول النماذج اللغوية الكبيرة. كما ذكرنا سابقًا، كان جزء كبير من القيود العملية للنماذج اللغوية الكبيرة يرجع إلى عدم توفّر قدرة استيعاب كبيرة بما يكفي لتنفيذ مهام معيّنة. أدى ذلك إلى الاعتماد السريع على التوليد المعزّز بالاسترجاع (RAG) وغيره من الأساليب التي تزوّد النموذج ديناميكيًا بالمعلومات السياقية ذات الصلة. والآن، مع توفّر قدرات استيعاب أكبر، تظهر تقنيات جديدة تتيح حالات استخدام جديدة.
في ما يلي بعض حالات الاستخدام الناشئة والعادية للسياق الطويل المستند إلى النصوص:
- تلخيص مجموعات كبيرة من النصوص
- كانت خيارات التلخيص السابقة التي تستخدم نماذج سياق أصغر تتطلّب نافذة منزلقة أو أسلوبًا آخر للاحتفاظ بحالة الأقسام السابقة عند تمرير رموز مميّزة جديدة إلى النموذج.
- الأسئلة والأجوبة
- في السابق، كان ذلك ممكنًا فقط باستخدام التوليد المعزّز بالاسترجاع (RAG) نظرًا لمحدودية السياق وانخفاض قدرة النماذج على استرجاع الحقائق
- عمليات سير العمل المستندة إلى الوكلاء
- النص هو الأساس الذي تستند إليه البرامج في تتبُّع ما أنجزته وما عليها إنجازه، وعدم توفّر معلومات كافية عن العالم وعن هدف البرنامج يحدّ من موثوقيته.
التعلّم السياقي المتعدّد الأمثلة هو أحد أبرز الإمكانات الفريدة التي تتيحها النماذج ذات السياق الطويل. أظهرت الأبحاث أنّ اتّباع نموذج "التلقين بمثال واحد" أو "التلقين بأمثلة متعددة" الشائع، حيث يتم تزويد النموذج بمثال واحد أو بضعة أمثلة لمهمة ما، وتوسيع نطاق ذلك إلى مئات أو آلاف أو حتى مئات الآلاف من الأمثلة، يمكن أن يؤدي إلى إمكانات جديدة للنموذج. وقد تبيّن أيضًا أنّ هذا النهج الذي يتضمّن العديد من اللقطات يحقّق أداءً مشابهًا للنماذج التي تم تحسينها لتنفيذ مهمة معيّنة. في حالات الاستخدام التي لا يكون فيها أداء نموذج Gemini كافيًا بعد لطرحه في مرحلة الإنتاج، يمكنك تجربة نهج الأمثلة المتعددة. كما سنوضّح لاحقًا في قسم تحسين السياق الطويل، يجعل التخزين المؤقت للسياق هذا النوع من أعباء العمل التي تتطلّب عددًا كبيرًا من الرموز المميّزة للإدخال أكثر جدوى من الناحية الاقتصادية، بل ويقلّل من وقت الاستجابة في بعض الحالات.
فيديو طويل
لطالما كانت فائدة محتوى الفيديو محدودة بسبب عدم توفّر أدوات تسهيل الاستخدام في الوسيط نفسه. كان من الصعب تصفّح المحتوى، وغالبًا ما كانت النصوص لا تنقل المعنى الدقيق للفيديو، كما أنّ معظم الأدوات لا تعالج الصور والنصوص والمقاطع الصوتية معًا. بفضل Gemini، تتيح إمكانات معالجة النصوص الطويلة الاستدلال والإجابة عن الأسئلة حول الإدخالات المتعددة الوسائط بأداء مستدام.
تشمل بعض حالات الاستخدام الناشئة والمعيارية لسياق الفيديو الطويل ما يلي:
- طرح الأسئلة والإجابة عنها في الفيديوهات
- ذاكرة الفيديو، كما هو موضّح في Project Astra من Google
- شرح الفيديو
- أنظمة اقتراح الفيديوهات، من خلال إثراء البيانات الوصفية الحالية بفهم جديد متعدد الوسائط
- تخصيص الفيديو من خلال الاطّلاع على مجموعة من البيانات والبيانات الوصفية المرتبطة بالفيديو، ثم إزالة أجزاء من الفيديوهات غير ذات الصلة بالمشاهد
- الإشراف على محتوى الفيديو
- معالجة الفيديو في الوقت الفعلي
عند العمل مع الفيديوهات، من المهم مراعاة كيفية معالجة الفيديوهات وتحويلها إلى رموز مميزة، لأنّ ذلك يؤثر في الفوترة وحدود الاستخدام. يمكنك الاطّلاع على مزيد من المعلومات حول استخدام ملفات الفيديو في الطلبات في دليل الطلبات.
محتوى صوتي طويل
كانت نماذج Gemini أولى النماذج اللغوية الكبيرة المتعددة الوسائط التي يمكنها فهم الصوت. في السابق، كان سير عمل المطوّرين المعتاد يتضمّن ربط نماذج متعددة خاصة بمجال معيّن، مثل نموذج تحويل الكلام إلى نص ونموذج طلبات وردود نصية، من أجل معالجة الصوت. وقد أدّى ذلك إلى زيادة وقت الاستجابة المطلوب من خلال تنفيذ طلبات متعدّدة ذهابًا وإيابًا، وانخفاض الأداء الذي يُعزى عادةً إلى البُنى غير المتصلة لإعداد النماذج المتعدّدة.
تشمل بعض حالات الاستخدام الناشئة والمعتادة للسياق الصوتي ما يلي:
- الترجمة وتحويل الصوت إلى نص في الوقت الفعلي
- أسئلة وأجوبة البودكاست / الفيديو
- تحويل الصوت إلى نص وتلخيص الاجتماعات
- المساعدات الصوتية
يمكنك الاطّلاع على مزيد من المعلومات حول توجيه الطلبات باستخدام الملفات الصوتية في دليل توجيه الطلبات.
تحسينات على السياق الطويل
عند العمل مع سياق طويل ونماذج Gemini، يكون التحسين الأساسي هو استخدام التخزين المؤقت للسياق. بالإضافة إلى استحالة معالجة عدد كبير من الرموز المميزة في طلب واحد، كان القيد الرئيسي الآخر هو التكلفة. إذا كان لديك تطبيق "دردش مع بياناتك" يتيح للمستخدم تحميل 10 ملفات PDF وفيديو وبعض مستندات العمل، كان عليك في السابق استخدام أداة أو إطار عمل أكثر تعقيدًا للتوليد المعزّز بالاسترجاع (RAG) من أجل معالجة هذه الطلبات ودفع مبلغ كبير مقابل الرموز المميزة التي تم نقلها إلى قدرة استيعاب. يمكنك الآن تخزين الملفات التي يحمّلها المستخدم مؤقتًا والدفع مقابل تخزينها على أساس كل ساعة. على سبيل المثال، تكلفة الإدخال / الإخراج لكل طلب باستخدام Gemini Flash أقل بحوالي 4 مرات من تكلفة الإدخال / الإخراج العادية، لذا إذا تحدث المستخدم مع بياناته بما يكفي، فسيصبح ذلك توفيرًا كبيرًا في التكلفة بالنسبة لك كمطور.
قيود السياق الطويل
في أقسام مختلفة من هذا الدليل، تحدّثنا عن كيفية تحقيق نماذج Gemini أداءً عاليًا في مختلف عمليات التقييم التي تتضمّن العثور على الإجابة الصحيحة وسط كمية كبيرة من البيانات. تأخذ هذه الاختبارات في الاعتبار الإعداد الأساسي، حيث يكون لديك إبرة واحدة تبحث عنها. في الحالات التي قد يكون لديك فيها عدة "إبر" أو أجزاء محددة من المعلومات التي تبحث عنها، لا يعمل النموذج بالدقة نفسها. يمكن أن يختلف الأداء بشكل كبير حسب السياق. من المهم أخذ ذلك في الاعتبار لأنّ هناك مفاضلة بين الحصول على استرجاع المعلومات الصحيحة والتكلفة. يمكنك الحصول على نسبة% 99 تقريبًا في طلب واحد، ولكن عليك دفع تكلفة الرموز المميّزة للإدخال في كل مرة ترسل فيها هذا الطلب. لذلك، إذا أردت استرداد 100 معلومة، وكنت بحاجة إلى أداء بنسبة% 99، فمن المحتمل أن تحتاج إلى إرسال 100 طلب. هذا مثال جيد على الحالات التي يمكن فيها للتخزين المؤقت للسياق أن يقلل بشكل كبير من التكلفة المرتبطة باستخدام نماذج Gemini مع الحفاظ على الأداء العالي.
الأسئلة الشائعة
أين أفضل مكان لوضع طلبي في قدرة الاستيعاب؟
في معظم الحالات، خاصةً إذا كان السياق الإجمالي طويلاً، سيكون أداء النموذج أفضل إذا وضعت طلبك أو سؤالك في نهاية الطلب (بعد كل السياق الآخر).
هل ينخفض أداء النموذج عند إضافة المزيد من الرموز المميزة إلى طلب بحث؟
بشكل عام، إذا لم تكن بحاجة إلى تمرير الرموز المميّزة إلى النموذج، من الأفضل تجنُّب تمريرها. ومع ذلك، إذا كان لديك مجموعة كبيرة من الرموز المميّزة التي تحتوي على بعض المعلومات وتريد طرح أسئلة حول هذه المعلومات، فإنّ النموذج قادر بشكل كبير على استخراج هذه المعلومات (بدقة تصل إلى% 99 في كثير من الحالات).
كيف يمكنني خفض التكلفة عند استخدام طلبات البحث ذات السياق الطويل؟
إذا كانت لديك مجموعة مشابهة من الرموز المميّزة أو السياق الذي تريد إعادة استخدامه عدة مرات، يمكن أن يساعدك التخزين المؤقت للسياق في تقليل التكاليف المرتبطة بطرح أسئلة حول هذه المعلومات.
هل يؤثر طول السياق في وقت استجابة النموذج؟
هناك مقدار ثابت من وقت الاستجابة في أي طلب، بغض النظر عن الحجم، ولكن بشكل عام، ستستغرق طلبات البحث الأطول وقت استجابة أطول (الوقت اللازم لظهور الرمز المميز الأول).