ضغط الطلب

وظيفتها

‫Prompt Compress هي أداة مصمّمة لتحسين طلبات الذكاء الاصطناعي اللغوي (LLM) من أجل تحقيق الكفاءة والتكلفة العالية. وتتمثل وظيفتها الرئيسية في تقليل عدد الرموز في طلب معيّن مع الحفاظ على معناه الأساسي ونيّته. هذا مهم لأنّ العديد من نماذج الذكاء الاصطناعي تحصّل الرسوم استنادًا إلى استخدام الرمز المميّز. تأخذ الأداة طلبًا وتسمح للمستخدمين بتحديد مسار تحسين باستخدام أفضل التقنيات في المجال لتقليل الرموز مع الحفاظ على معنى الطلب. بعد ذلك، تتحقّق من صحة استجابة النموذج اللغوي الكبير للطلب المضغوط، وتقدّم تحليلاً له عند مقارنته بالمدخلات الأصلية. يستخدم Prompt Compress واجهة برمجة التطبيقات Gemini في كل مرحلة أثناء تحويل طلب الإدخال لجمع الردود وعدد الرموز، ثم لإجراء التحليل.