نظرة عامة على Gemini Live API

تتيح واجهة برمجة التطبيقات Live API التفاعل مع Gemini في الوقت الفعلي باستخدام الصوت والصورة مع وقت استجابة منخفض. وتعالج هذه الواجهة تدفقات مستمرة من الصوت والصور والنصوص لتقديم ردود فورية منطوقة تشبه الردود البشرية، ما يمنح المستخدمين تجربة محادثة طبيعية.

نظرة عامة على Live API

حالات الاستخدام

يمكن استخدام Live API لإنشاء وكلاء صوتيين في الوقت الفعلي لمجموعة متنوّعة من القطاعات، بما في ذلك:

  • التجارة الإلكترونية والبيع بالتجزئة: مساعدو التسوّق الذين يقدّمون اقتراحات مخصّصة ووكلاء الدعم الذين يحلّون مشاكل العملاء
  • الألعاب: شخصيات تفاعلية لا يتحكّم بها اللاعب (NPC) ومساعدو الألعاب الذين يقدّمون المساعدة داخل اللعبة والترجمة في الوقت الفعلي لمحتوى اللعبة
  • الواجهات من الجيل التالي: تجارب مفعّلة بالصوت والفيديو في الروبوتات والنظارات الذكية والمركبات
  • الرعاية الصحية: مرافقو الصحة لدعم المرضى وتثقيفهم
  • الخدمات المالية: مستشارون مستندون إلى الذكاء الاصطناعي لإدارة الثروات وتقديم إرشادات الاستثمار
  • التعليم: مرشدون ومرافقون للمتعلّمين مستندون إلى الذكاء الاصطناعي يقدّمون تعليمات وملاحظات مخصّصة
  • الترجمة والتعريب: ترجمة المحادثات المنطوقة في الوقت الفعلي مع وقت استجابة منخفض، ما يتيح التواصل السلس بلغات متعددة
  • تحويل الصوت إلى نص وإضافة الشرح في الوقت الفعلي: تحويل الصوت إلى نص في الوقت الفعلي لإضافة ترجمات وشرح في الوقت الفعلي، وتحويل المحادثات إلى نص، والإملاء الصوتي، وتسجيل مكالمات العملاء

الميزات الأساسية

تقدّم Live API مجموعة شاملة من الميزات لإنشاء وكلاء صوتيين فعّالين:

المواصفات الفنية

يوضّح الجدول التالي المواصفات الفنية لواجهة برمجة التطبيقات Live API:

الفئة التفاصيل
طرق الإدخال الصوت (صوت PCM خام بمعدّل 16 بت، و16 كيلوهرتز، وترتيب بايت صغير)، والصور (JPEG بمعدّل أقل من أو يساوي 1 لقطة في الثانية)، والنص
طرق الإخراج الصوت (صوت PCM خام بمعدّل 16 بت، و24 كيلوهرتز، وترتيب بايت صغير)
البروتوكول اتصال WebSocket ذو حالة (WSS)

اختيار طريقة التنفيذ

عند الدمج مع Live API، عليك اختيار إحدى طرق التنفيذ التالية:

  • من خادم إلى خادم: يتصل النظام الخلفي بواجهة برمجة التطبيقات Live API باستخدام WebSockets. عادةً، يرسل العميل بيانات البث (الصوت والفيديو والنص) إلى الخادم، الذي يعيد توجيهها إلى Live API.
  • من العميل إلى الخادم: يتصل رمز الواجهة الأمامية مباشرةً بواجهة برمجة التطبيقات Live API باستخدام WebSockets لبث البيانات، ما يؤدي إلى تجاوز النظام الخلفي.

البدء

اختَر الدليل الذي يتطابق مع بيئة التطوير:

من خادم إلى خادم

يمكنك الاتصال بواجهة برمجة التطبيقات Gemini Live API باستخدام GenAI SDK لإنشاء تطبيق متعدد الوسائط في الوقت الفعلي مع نظام خلفي بلغة Python.

من العميل إلى الخادم

يمكنك الاتصال بواجهة برمجة التطبيقات Gemini Live API باستخدام WebSockets لإنشاء تطبيق متعدد الوسائط في الوقت الفعلي مع واجهة أمامية بلغة JavaScript ورموز مميزة مؤقتة.

مجموعة أدوات تطوير الوكلاء

يمكنك إنشاء وكيل واستخدام ميزة البث في مجموعة أدوات تطوير الوكلاء (ADK) لتفعيل التواصل الصوتي والمرئي.

حسابات الشركاء المدمجة

لتسهيل تطوير تطبيقات الصوت والفيديو في الوقت الفعلي، يمكنك استخدام عملية تكامل تابعة لجهة خارجية تتوافق مع واجهة برمجة التطبيقات Gemini Live API من خلال WebRTC أو WebSockets.