تتيح واجهة برمجة التطبيقات Live API التفاعل مع Gemini في الوقت الفعلي باستخدام الصوت والصورة مع وقت استجابة منخفض. وتعالج هذه الواجهة تدفقات مستمرة من الصوت والصور والنصوص لتقديم ردود فورية منطوقة تشبه الردود البشرية، ما يمنح المستخدمين تجربة محادثة طبيعية.

حالات الاستخدام
يمكن استخدام Live API لإنشاء وكلاء صوتيين في الوقت الفعلي لمجموعة متنوّعة من القطاعات، بما في ذلك:
- التجارة الإلكترونية والبيع بالتجزئة: مساعدو التسوّق الذين يقدّمون اقتراحات مخصّصة ووكلاء الدعم الذين يحلّون مشاكل العملاء
- الألعاب: شخصيات تفاعلية لا يتحكّم بها اللاعب (NPC) ومساعدو الألعاب الذين يقدّمون المساعدة داخل اللعبة والترجمة في الوقت الفعلي لمحتوى اللعبة
- الواجهات من الجيل التالي: تجارب مفعّلة بالصوت والفيديو في الروبوتات والنظارات الذكية والمركبات
- الرعاية الصحية: مرافقو الصحة لدعم المرضى وتثقيفهم
- الخدمات المالية: مستشارون مستندون إلى الذكاء الاصطناعي لإدارة الثروات وتقديم إرشادات الاستثمار
- التعليم: مرشدون ومرافقون للمتعلّمين مستندون إلى الذكاء الاصطناعي يقدّمون تعليمات وملاحظات مخصّصة
- الترجمة والتعريب: ترجمة المحادثات المنطوقة في الوقت الفعلي مع وقت استجابة منخفض، ما يتيح التواصل السلس بلغات متعددة
- تحويل الصوت إلى نص وإضافة الشرح في الوقت الفعلي: تحويل الصوت إلى نص في الوقت الفعلي لإضافة ترجمات وشرح في الوقت الفعلي، وتحويل المحادثات إلى نص، والإملاء الصوتي، وتسجيل مكالمات العملاء
الميزات الأساسية
تقدّم Live API مجموعة شاملة من الميزات لإنشاء وكلاء صوتيين فعّالين:
- التوافق مع لغات متعددة: يمكنك التحدّث بـ 70 لغة متوافقة.
- المقاطعة: يمكن للمستخدمين مقاطعة النموذج في أي وقت للتفاعل معه.
- استخدام الأدوات: يمكنك دمج أدوات مثل استدعاء الدوال و"بحث Google" للتفاعلات الديناميكية.
- تحويل الصوت إلى نص: يمكنك الحصول على نصوص مكتوبة لكلّ من بيانات أدخلها المستخدم ومخرجات النموذج.
- التحكم الاستباقي بالصوت: يتيح لك التحكم في وقت استجابة النموذج والسياقات التي يستجيب فيها.
- **حوار تفاعلي تعاطفي**: يكيّف أسلوب الرد ونبرته ليطابقا تعبيرات المستخدم عند الإدخال.
- تحويل الصوت إلى نص في الوقت الفعلي: يمكنك تحويل الصوت إلى نص في الوقت الفعلي وبشكل مستمر مع ميزة التعرّف التلقائي على اللغة والمفردات المخصّصة.
- الترجمة في الوقت الفعلي: يمكنك ترجمة الصوت إلى صوت في الوقت الفعلي بأكثر من 70 لغة.
المواصفات الفنية
يوضّح الجدول التالي المواصفات الفنية لواجهة برمجة التطبيقات Live API:
| الفئة | التفاصيل |
|---|---|
| طرق الإدخال | الصوت (صوت PCM خام بمعدّل 16 بت، و16 كيلوهرتز، وترتيب بايت صغير)، والصور (JPEG بمعدّل أقل من أو يساوي 1 لقطة في الثانية)، والنص |
| طرق الإخراج | الصوت (صوت PCM خام بمعدّل 16 بت، و24 كيلوهرتز، وترتيب بايت صغير) |
| البروتوكول | اتصال WebSocket ذو حالة (WSS) |
اختيار طريقة التنفيذ
عند الدمج مع Live API، عليك اختيار إحدى طرق التنفيذ التالية:
- من خادم إلى خادم: يتصل النظام الخلفي بواجهة برمجة التطبيقات Live API باستخدام WebSockets. عادةً، يرسل العميل بيانات البث (الصوت والفيديو والنص) إلى الخادم، الذي يعيد توجيهها إلى Live API.
- من العميل إلى الخادم: يتصل رمز الواجهة الأمامية مباشرةً بواجهة برمجة التطبيقات Live API باستخدام WebSockets لبث البيانات، ما يؤدي إلى تجاوز النظام الخلفي.
البدء
اختَر الدليل الذي يتطابق مع بيئة التطوير:
برنامج تعليمي حول GenAI SDK
يمكنك الاتصال بواجهة برمجة التطبيقات Gemini Live API باستخدام GenAI SDK لإنشاء تطبيق متعدد الوسائط في الوقت الفعلي مع نظام خلفي بلغة Python.
برنامج تعليمي حول WebSocket
يمكنك الاتصال بواجهة برمجة التطبيقات Gemini Live API باستخدام WebSockets لإنشاء تطبيق متعدد الوسائط في الوقت الفعلي مع واجهة أمامية بلغة JavaScript ورموز مميزة مؤقتة.
برنامج تعليمي حول ADK
يمكنك إنشاء وكيل واستخدام ميزة البث في مجموعة أدوات تطوير الوكلاء (ADK) لتفعيل التواصل الصوتي والمرئي.
حسابات الشركاء المدمجة
لتسهيل تطوير تطبيقات الصوت والفيديو في الوقت الفعلي، يمكنك استخدام عملية تكامل تابعة لجهة خارجية تتوافق مع واجهة برمجة التطبيقات Gemini Live API من خلال WebRTC أو WebSockets.
LiveKit
يمكنك استخدام واجهة برمجة التطبيقات Gemini Live API مع وكلاء LiveKit.
Pipecat من Daily
يمكنك إنشاء روبوت دردشة بالذكاء الاصطناعي في الوقت الفعلي باستخدام Gemini Live وPipecat.
Fishjam من Software Mansion
يمكنك إنشاء تطبيقات لبث الفيديو والصوت في الوقت الفعلي باستخدام Fishjam.
Vision Agents من Stream
يمكنك إنشاء تطبيقات مستندة إلى الذكاء الاصطناعي للصوت والفيديو في الوقت الفعلي باستخدام Vision Agents.
Voximplant
يمكنك ربط المكالمات الواردة والصادرة بواجهة برمجة التطبيقات Live API باستخدام Voximplant.
Agora
يمكنك إنشاء تطبيقات مستندة إلى الذكاء الاصطناعي للمحادثات في الوقت الفعلي باستخدام Agora.
Firebase AI SDK
يمكنك البدء باستخدام واجهة برمجة التطبيقات Gemini Live API من خلال Firebase AI Logic.