تتوفّر العديد من نماذج Gemini بقدرات استيعاب كبيرة تصل إلى مليون رمز مميّز أو أكثر. في السابق، كانت النماذج اللغوية الكبيرة (LLM) محدودة بشكل كبير من حيث كمية النص (أو الرموز المميّزة) التي يمكن تمريرها إلى النموذج في المرة الواحدة. تتيح قدرة الاستيعاب الموسَّعة في Gemini العديد من حالات الاستخدام الجديدة ونماذج المطوّرين.
سيعمل الرمز الذي تستخدمه حاليًا في حالات مثل إنشاء نصوص أو إدخالات متعددة الوسائط بدون أي تغييرات مع السياق الطويل.
يقدّم هذا المستند نظرة عامة على ما يمكنك تحقيقه باستخدام نماذج تتضمّن نوافذ سياق تتسع لمليون رمز مميّز أو أكثر. تقدّم الصفحة نظرة عامة موجزة عن قدرة الاستيعاب، وتستكشف كيف يجب أن يفكّر المطوّرون في قدرة الاستيعاب الموسَّعة، وحالات الاستخدام المختلفة في العالم الواقعي لقدرة الاستيعاب الموسَّعة، وطرق تحسين استخدام قدرة الاستيعاب الموسَّعة.
للاطّلاع على أحجام قدرة الاستيعاب الخاصة بنماذج معيّنة، يُرجى الانتقال إلى صفحة النماذج.
ما هي قدرة الاستيعاب؟
الطريقة الأساسية لاستخدام نماذج Gemini هي من خلال تمرير المعلومات (السياق) إلى النموذج، والذي سيُنشئ ردًا بعد ذلك. يمكن تشبيه قدرة الاستيعاب بالذاكرة القصيرة المدى. هناك كمية محدودة من المعلومات التي يمكن تخزينها في الذاكرة القصيرة المدى لدى الشخص، وينطبق الأمر نفسه على النماذج التوليدية.
في Gemini 4 (gemini-4-argon)، يتم مشاركة مليون رمز مميّز يستند إلى السياق بين رموز الإدخال والتفكير والإخراج، ويمكن للنموذج إنشاء ما يصل إلى مليون رمز مميّز للإخراج باستخدام فك الترميز الطويل. إذا تجاوز عدد الرموز المميزة في الإدخال بالإضافة إلى max_output_tokens عدد 1,048,576 رمزًا مميزًا، ستفرض واجهة برمجة التطبيقات تلقائيًا حدًا أقصى على عدد الرموز المميزة في الإخراج يساوي المساحة المتبقية في نافذة السياق (1,048,576 ناقص عدد الرموز المميزة في الإدخال). تستخدم نماذج Gemini 3 و2.5 السابقة حصصًا منفصلة تبلغ مليون رمز مميّز للإدخال و64 ألف رمز مميّز للإخراج.
يمكنك الاطّلاع على مزيد من المعلومات حول آلية عمل النماذج في دليل النماذج التوليدية.
بدء استخدام السياق الطويل
كانت الإصدارات السابقة من النماذج التوليدية قادرة على معالجة 8,000 رمز مميز فقط في المرة الواحدة. وقد طوّرت النماذج الأحدث هذه الميزة من خلال قبول 32,000 أو حتى 128,000 رمز مميز. Gemini هو أول نموذج قادر على قبول مليون رمز مميّز.
من الناحية العملية، يعادل مليون رمز مميّز ما يلي:
- 50,000 سطر من الرموز البرمجية (مع 80 حرفًا عاديًا في كل سطر)
- جميع الرسائل النصية التي أرسلتها خلال آخر 5 سنوات
- 8 روايات باللغة الإنجليزية متوسطة الطول
- نصوص لأكثر من 200 حلقة بودكاست متوسطة الطول
في المقابل، تتطلّب قدرات الاستيعاب المحدودة في العديد من النماذج الأخرى استخدام استراتيجيات مثل حذف الرسائل القديمة عشوائيًا، أو تلخيص المحتوى، أو استخدام تقنية RAG مع قواعد بيانات المتّجهات، أو فلترة الطلبات لتوفير الرموز المميّزة.
على الرغم من أنّ هذه الأساليب تظلّ قيّمة في سيناريوهات معيّنة، فإنّ قدرة الاستيعاب الكبيرة في Gemini تتيح اتّباع نهج أكثر مباشرةً، وهو تقديم جميع المعلومات ذات الصلة مسبقًا. بما أنّ نماذج Gemini مصمّمة خصيصًا لتوفير إمكانات هائلة في فهم السياق، فإنّها تقدّم أداءً قويًا في التعلّم أثناء التنفيذ. على سبيل المثال، باستخدام مواد تعليمية ضمن السياق فقط (مرجع نحوي من 500 صفحة، وقاموس، و400 جملة متوازية تقريبًا)، تعلّم Gemini الترجمة من الإنجليزية إلى لغة كالامانغ، وهي لغة بابوا يتحدث بها أقل من 200 شخص، بجودة مماثلة لتلك التي يحققها متعلّم بشري يستخدم المواد نفسها. يوضّح ذلك التغيير النموذجي الذي يتيحه سياق Gemini الطويل، ما يفتح آفاقًا جديدة من خلال التعلّم القوي داخل السياق.
حالات استخدام السياق الطويل
على الرغم من أنّ حالة الاستخدام العادية لمعظم النماذج التوليدية لا تزال هي إدخال النصوص، تتيح مجموعة نماذج Gemini نموذجًا جديدًا لحالات الاستخدام المتعدّدة الوسائط. ويمكن لهذه النماذج فهم النصوص والفيديوهات والصوت والصور بشكل أساسي. وتتضمّن واجهة برمجة التطبيقات Gemini API التي تقبل أنواع ملفات متعدّدة الوسائط لتوفير المزيد من الراحة.
نص طويل
لقد أثبت النص أنّه طبقة الذكاء التي تستند إليها الكثير من التطورات في مجال النماذج اللغوية الكبيرة. كما ذكرنا سابقًا، كان الكثير من القيود العملية التي تواجهها النماذج اللغوية الكبيرة يعود إلى عدم توفّر نافذة سياق كبيرة بما يكفي لتنفيذ مهام معيّنة. أدى ذلك إلى الاعتماد السريع على التوليد المعزّز بالاسترجاع (RAG) وغيره من الأساليب التي تزوّد النموذج ديناميكيًا بالمعلومات السياقية ذات الصلة. والآن، مع توفّر قدرات استيعاب أكبر، تظهر تقنيات جديدة تتيح حالات استخدام جديدة.
تشمل بعض حالات الاستخدام الناشئة والمعتادة للسياق الطويل المستند إلى النص ما يلي:
- تلخيص مجموعات كبيرة من النصوص
- كانت خيارات التلخيص السابقة التي تستخدم نماذج سياق أصغر تتطلّب نافذة منزلقة أو أسلوبًا آخر للاحتفاظ بحالة الأقسام السابقة عند تمرير رموز مميّزة جديدة إلى النموذج
- الأسئلة والأجوبة
- في السابق، كان ذلك ممكنًا فقط باستخدام التوليد المعزّز بالاسترجاع (RAG) نظرًا لمحدودية السياق وانخفاض قدرة النماذج على استرجاع الحقائق
- سير العمل المستند إلى الذكاء الاصطناعي الوكيل
- النص هو الأساس الذي تستند إليه البرامج في تتبُّع ما أنجزته وما عليها إنجازه، وعدم توفّر معلومات كافية عن العالم وعن هدف البرنامج يحدّ من موثوقيته.
التعلّم السياقي المتعدّد الأمثلة هو أحد أبرز الإمكانات الفريدة التي تتيحها النماذج ذات السياق الطويل. أظهرت الأبحاث أنّ اتّباع نموذج "التلقين بمثال واحد" أو "التلقين بأمثلة متعددة" الشائع، حيث يتم تزويد النموذج بمثال واحد أو بضعة أمثلة لمهمة ما، وتوسيع نطاق ذلك إلى مئات أو آلاف أو حتى مئات الآلاف من الأمثلة، يمكن أن يؤدي إلى إمكانات جديدة للنموذج. وقد تبيّن أيضًا أنّ هذا النهج الذي يتضمّن العديد من اللقطات يحقّق أداءً مشابهًا للنماذج التي تم تحسينها لتنفيذ مهمة معيّنة. في حالات الاستخدام التي لا يكون فيها أداء أحد نماذج Gemini كافيًا لطرحه في مرحلة الإنتاج، يمكنك تجربة أسلوب "اللقطات المتعددة". كما سنوضّح لاحقًا في قسم تحسين السياق الطويل، يجعل التخزين المؤقت للسياق هذا النوع من أعباء العمل التي تتطلّب عددًا كبيرًا من الرموز المميّزة للإدخال أكثر جدوى من الناحية الاقتصادية، بل ويقلّل من وقت الاستجابة في بعض الحالات.
فيديو طويل
لطالما كانت فائدة محتوى الفيديو محدودة بسبب عدم توفّر أدوات تسهيل الاستخدام في الوسيط نفسه. كان من الصعب تصفّح المحتوى، وغالبًا ما فشلت النصوص في التقاط الفروق الدقيقة في الفيديو، ومعظم الأدوات لا تعالج الصور والنصوص والصوت معًا. باستخدام Gemini، تتيح إمكانات النصوص ذات السياق الطويل الاستنتاج والإجابة عن الأسئلة حول المدخلات المتعددة الوسائط بأداء ثابت.
تشمل بعض حالات الاستخدام الناشئة والمعتادة للسياق الطويل في الفيديو ما يلي:
- طرح الأسئلة والإجابة عنها في الفيديوهات
- ذاكرة الفيديو، كما هو موضّح في Project Astra من Google
- الترجمة والشرح في الفيديوهات
- أنظمة اقتراح الفيديوهات، من خلال إثراء البيانات الوصفية الحالية بفهم جديد للمحتوى المتعدّد الوسائط
- تخصيص الفيديوهات من خلال تحليل مجموعة من البيانات وبيانات الفيديو الوصفية المرتبطة بها، ثم إزالة أجزاء من الفيديوهات غير ذات صلة بالمشاهد
- الإشراف على محتوى الفيديو
- معالجة الفيديو في الوقت الفعلي
عند العمل مع الفيديوهات، من المهم مراعاة كيفية معالجة الفيديوهات وتحويلها إلى رموز مميّزة، لأنّ ذلك يؤثر في الفوترة وحدود الاستخدام. يمكنك الاطّلاع على مزيد من المعلومات حول توجيه الطلبات باستخدام ملفات الفيديو في دليل توجيه الطلبات.
محتوى صوتي طويل
كانت نماذج Gemini أولى النماذج اللغوية الكبيرة المتعددة الوسائط التي يمكنها فهم الصوت. في السابق، كان سير عمل المطوّرين المعتاد يتضمّن ربط نماذج متعددة خاصة بمجال معيّن، مثل نموذج تحويل الكلام إلى نص ونموذج طلبات وردود نصية، من أجل معالجة الصوت. وقد أدى ذلك إلى زيادة وقت الاستجابة المطلوب لإجراء طلبات متعددة ذهابًا وإيابًا، وانخفاض الأداء الذي يُعزى عادةً إلى البُنى المنفصلة لإعداد النماذج المتعددة.
تشمل بعض حالات الاستخدام الناشئة والمعتادة للسياق الصوتي ما يلي:
- الترجمة وتحويل الصوت إلى نص في الوقت الفعلي
- أسئلة وأجوبة البودكاست / الفيديو
- تحويل الصوت إلى نص في الاجتماع وتلخيصه
- المساعدات الصوتية
يمكنك الاطّلاع على مزيد من المعلومات حول توجيه الطلبات باستخدام الملفات الصوتية في دليل توجيه الطلبات.
تحسينات السياق الطويل
عند العمل مع سياق طويل ونماذج Gemini، يكون التحسين الأساسي هو استخدام التخزين المؤقت للسياق. بالإضافة إلى استحالة معالجة عدد كبير من الرموز المميزة في طلب واحد، كان القيد الرئيسي الآخر هو التكلفة. إذا كان لديك تطبيق "دردشة مع بياناتك" حيث يحمّل المستخدم 10 ملفات PDF وفيديو وبعض مستندات العمل، كان عليك في السابق استخدام أداة أو إطار عمل أكثر تعقيدًا للتوليد المعزّز بالاسترجاع (RAG) من أجل معالجة هذه الطلبات ودفع مبلغ كبير مقابل الرموز المميّزة التي يتم نقلها إلى نافذة السياق. يمكنك الآن تخزين الملفات التي يحمّلها المستخدم مؤقتًا والدفع مقابل تخزينها على أساس كل ساعة. على سبيل المثال، تكلفة الإدخال / الإخراج لكل طلب باستخدام Gemini Flash أقل بحوالي 4 مرات من تكلفة الإدخال / الإخراج العادية، لذا إذا تحدث المستخدم مع بياناته بما يكفي، فسيصبح ذلك توفيرًا كبيرًا في التكلفة بالنسبة لك كمطور.
قيود السياق الطويل
في أقسام مختلفة من هذا الدليل، تحدّثنا عن كيفية تحقيق نماذج Gemini أداءً عاليًا في مختلف تقييمات استرجاع المعلومات الدقيقة. تأخذ هذه الاختبارات في الاعتبار الإعداد الأساسي، حيث يكون لديك إبرة واحدة تبحث عنها. في الحالات التي قد يكون لديك فيها عدة "إبر" أو أجزاء محددة من المعلومات التي تبحث عنها، لا يعمل النموذج بالدقة نفسها. يمكن أن يختلف الأداء بشكل كبير حسب السياق. من المهم أخذ ذلك في الاعتبار لأنّ هناك مفاضلة بين الحصول على استرجاع المعلومات الصحيحة والتكلفة. يمكنك الحصول على دقة تبلغ% 99 تقريبًا في طلب بحث واحد، ولكن عليك دفع تكلفة الرموز المميزة للإدخال في كل مرة ترسل فيها طلب البحث هذا. لذلك، إذا أردت استرداد 100 معلومة، وكنت بحاجة إلى أداء بنسبة% 99، فمن المحتمل أن تحتاج إلى إرسال 100 طلب. هذا مثال جيد على الحالات التي يمكن أن يقلّل فيها التخزين المؤقت للسياق بشكل كبير من التكلفة المرتبطة باستخدام نماذج Gemini مع الحفاظ على مستوى الأداء العالي.
الأسئلة الشائعة
أين أفضل مكان لوضع طلبي في قدرة الاستيعاب؟
في معظم الحالات، خاصةً إذا كان السياق الإجمالي طويلاً، سيكون أداء النموذج أفضل إذا وضعت طلبك أو سؤالك في نهاية الطلب (بعد كل السياق الآخر).
هل ينخفض أداء النموذج عند إضافة المزيد من الرموز المميّزة إلى طلب البحث؟
بشكل عام، إذا لم تكن بحاجة إلى تمرير الرموز المميّزة إلى النموذج، من الأفضل تجنُّب تمريرها. ومع ذلك، إذا كان لديك عدد كبير من الرموز المميزة تتضمّن بعض المعلومات وأردت طرح أسئلة حول هذه المعلومات، يكون النموذج قادرًا بشكل كبير على استخراج هذه المعلومات (بدقة تصل إلى% 99 في العديد من الحالات).
كيف يمكنني خفض التكلفة عند استخدام طلبات البحث ذات السياق الطويل؟
إذا كان لديك مجموعة مماثلة من الرموز المميزة أو السياق الذي تريد إعادة استخدامه عدة مرات، يمكن أن يساعدك التخزين المؤقت للسياق في تقليل التكاليف المرتبطة بطرح أسئلة حول هذه المعلومات.
هل يؤثر طول السياق في وقت استجابة النموذج؟
هناك قدر ثابت من وقت الاستجابة في أي طلب معيّن، بغض النظر عن الحجم، ولكن بشكل عام، ستكون طلبات البحث الأطول ذات وقت استجابة أعلى (الوقت المستغرَق حتى ظهور أول رمز مميّز).