استخدام موظّفي الدعم من الذكاء الاصطناعي في مرحلة الإنتاج باستخدام Gemini API

يُعدّ إنشاء وكلاء الذكاء الاصطناعي ونشرهم خطوة مثيرة، ولكن إدارة هذه الأنظمة المعقدة في بيئة الإنتاج تتطلّب إمكانية مراقبة فعّالة. AgentOps هي حزمة تطوير برامج Python لمراقبة موظّفي الدعم وتتبُّع تكلفة نموذج اللغة الضخمة وإجراء قياس الأداء وغير ذلك، ما يمكّن المطوّرين من نقل موظّفي الدعم من مرحلة وضع النماذج الأولية إلى مرحلة الإنتاج، خاصةً عند استخدامها مع Gemini API الفعّالة والفعّالة من حيث التكلفة.

يوضّح آدم سيلمرمان، المدير التنفيذي لشركة Agency AI، الفريق الذي يقف وراء AgentOps، أنّ التكلفة هي عامل مهم للمؤسسات التي تنشر موظّفي دعم الذكاء الاصطناعي على نطاق واسع. "لقد لاحظنا أنّ الأنشطة التجارية تنفق 80,000 دولار أمريكي شهريًا على مكالمات LLM. باستخدام الإصدار 1.5 من Gemini، كان من الممكن أن يكلف ذلك بضعة آلاف من الدولارات للحصول على النتيجة نفسها".

تُعدّ هذه الفعالية من حيث التكلفة، إلى جانب إمكانات Gemini القوية في فهم اللغة وإنشاء المحتوى، خيارًا مثاليًا للمطوّرين الذين يبنون موظّفي دعم متقدّمين من الذكاء الاصطناعي. يقول "سيلفرمان": "يوفّر لنا نموذج Gemini 1.5 Flash جودة مماثلة للنماذج الأكبر حجمًا، وبجزء بسيط من التكلفة، مع أنّه سريع جدًا". ويسمح ذلك للمطوّرين بالتركيز على إنشاء مسارات عمل معقدة متعددة الخطوات لموظّفي الدعم بدون القلق بشأن التكاليف المتزايدة.

تُسجِّل أداة AgentOps بيانات عن كل تفاعل مع موظّف الدعم، وليس فقط المكالمات التي تستخدم النموذج اللغوي الكبير، ما يقدّم نظرة شاملة على كيفية عمل الأنظمة التي تتضمّن موظّفي دعم متعدّدين. إنّ هذا المستوى المفصّل من التفاصيل ضروري لفِرق الهندسة والامتثال، حيث يوفّر إحصاءات مهمة لتصحيح الأخطاء والتحسين ومسارات التدقيق.

إنّ دمج نماذج Gemini مع AgentOps أمر بسيط بشكل ملحوظ، ويتطلّب عادةً دقائق معدودة باستخدام LiteLLM. يمكن للمطوّرين الاطّلاع بسرعة على طلبات بيانات Gemini API وتتبُّع التكاليف في الوقت الفعلي وضمان موثوقية موظّفي الدعم في مرحلة الإنتاج.

تلتزم AgentOps بدعم مطوّري موظّفي الدعم أثناء توسيع نطاق مشاريعهم. يساعد الذكاء الاصطناعي في الوكالات المؤسسات في التعامل مع تعقيدات إنشاء موظّفي دعم بأسعار معقولة وقابلين للتوسّع، ما يعزّز بشكل أكبر عرض القيمة المرتبط بدمج AgentOps مع Gemini API. كما يؤكد "سيلفرمان"، "إنّه يشجّع المزيد من المطوّرين المهتمين بالأسعار على إنشاء وكلاء".

بالنسبة إلى المطوّرين الذين يفكرون في استخدام Gemini، يقدّم "سيلفرمان" نصيحة واضحة: "جرِّب الخدمة، وستعجبك".