Gemini Live API-এর ওভারভিউ

Live API, Gemini-র সাথে কম লেটেন্সি, রিয়েল-টাইম ভয়েস ও ভিশন ইন্টার‍্যাকশন সক্ষম করে। এটি অডিও, ছবি ও টেক্সটের অবিচ্ছিন্ন স্ট্রিম প্রসেস করে, যাতে তৎক্ষণাৎ, মানুষের মতো বলা উত্তর দেওয়া যায়। এর ফলে আপনার ব্যবহারকারীরা স্বাভাবিক কথোপকথনের অভিজ্ঞতা পান।

Live API ওভারভিউ

যেসব ক্ষেত্রে ব্যবহার করা যাবে

Live API-কে বিভিন্ন ধরনের ইন্ডাস্ট্রির জন্য রিয়েল-টাইম ভয়েস এজেন্ট তৈরি করতে ব্যবহার করা যেতে পারে, যার মধ্যে রয়েছে:

  • ই-কমার্স ও রিটেল: পছন্দমতো সাজেশন দেয় এমন শপিং অ্যাসিস্ট্যান্ট এবং গ্রাহকের সমস্যা সমাধান করে এমন সহায়তা এজেন্ট।
  • গেমিং: ইন্ট্যার‍্যাক্টিভ নন-প্লেয়ার ক্যারেক্টার (NPC), ইন-গেম সহায়তা অ্যাসিস্ট্যান্ট এবং ইন-গেম কন্টেন্টের রিয়েল-টাইম অনুবাদ।
  • নেক্সট-জেন ইন্টারফেস: রোবোটিক্স, স্মার্ট গ্লাস ও গাড়িতে ভয়েস ও ভিডিও চালু করা অভিজ্ঞতা।
  • স্বাস্থ্য পরিষেবা: রোগীর সহায়তা ও শিক্ষার জন্য স্বাস্থ্য সংক্রান্ত কম্প্যানিয়ন।
  • আর্থিক পরিষেবা: সম্পদ ব্যবস্থাপনা ও বিনিয়োগ সংক্রান্ত পরামর্শের জন্য AI উপদেষ্টা ।
  • শিক্ষা: AI মেন্টর ও লার্নার কম্প্যানিয়ন যা পছন্দমতো নির্দেশাবলী ও মতামত প্রদান করে।
  • অনুবাদ ও লোকালাইজেশন: রিয়েল-টাইমে, কম লেটেন্সি সহ কথোপকথনের অনুবাদ, যার ফলে একাধিক ভাষায় নির্বিঘ্নে যোগাযোগ করা যায়।
  • লাইভ ট্রান্সক্রিপশন ও ক্যাপশন: লাইভ সাবটাইটেল, মিটিং ট্রান্সক্রিপশন, ভয়েস ডিকটেশন ও গ্রাহকের কল লগিংয়ের জন্য রিয়েল-টাইম স্পিচ-টু-টেক্সট স্ট্রিমিং।

মূল ফিচার

Live API, শক্তিশালী ভয়েস এজেন্ট তৈরি করার জন্য ফিচারের একটি বিস্তৃত সেট অফার করে:

  • একাধিক ভাষায় কাজ করে: ৭০টি মানানসই ভাষায় কথোপকথন চালান।
  • বর্জ-ইন: ব্যবহারকারী যেকোনও সময় মডেলকে বাধা দিয়ে ইন্ট্যার‍্যাক্ট করতে পারেন।
  • টুল ব্যবহার: ডায়নামিক ইন্টার‍্যাকশনের জন্য ফাংশন কলিং ও Google Search-এর মতো টুল ইন্টিগ্রেট করে।
  • অডিও ট্রান্সক্রিপশন: ব্যবহারকারীর ইনপুট ও মডেল আউটপুট, দু'টিরই টেক্সট ট্রান্সক্রিপ্ট প্রদান করে।
  • প্রোঅ্যাক্টিভ অডিও: মডেল কখন এবং কোন প্রসঙ্গে উত্তর দেবে তা নিয়ন্ত্রণ করতে দেয়।
  • আবেগপূর্ণ ডায়ালগ: ব্যবহারকারীর ইনপুট এক্সপ্রেশনের সাথে ম্যাচ করাতে উত্তর দেওয়ার স্টাইল ও টোন অ্যাডজাস্ট করে।
  • লাইভ ট্রান্সক্রিপশন: অটোমেটিক ভাষা শনাক্তকরণ ও কাস্টম শব্দভাণ্ডার সহ রিয়েল-টাইম, একটানা স্পিচ-টু-টেক্সট স্ট্রিমিং।
  • লাইভ অনুবাদ: ৭০টিরও বেশি ভাষায় রিয়েল-টাইম ভয়েস-টু-ভয়েস অনুবাদ।

টেকনিক্যাল স্পেসিফিকেশন

নিচে দেওয়া সারণীতে Live API-এর টেকনিক্যাল স্পেসিফিকেশন সম্পর্কে বলা হয়েছে:

বিভাগ বিবরণ
ইনপুট মোডালিটি অডিও (raw ১৬-বিট PCM অডিও, ১৬kHz, little-endian), ছবি (JPEG <= 1FPS), টেক্সট
আউটপুট মোডালিটি অডিও (কাঁচা ১৬-বিট PCM অডিও, ২৪kHz, লিটল-এন্ডিয়ান)
প্রোটোকল স্টেটফুল WebSocket কানেকশন (WSS)

ইমপ্লিমেন্ট করার পদ্ধতি বেছে নিন

Live API-এর সাথে ইন্টিগ্রেট করার সময়, আপনাকে নিম্নলিখিত ইমপ্লিমেন্টেশন পদ্ধতির মধ্যে একটি বেছে নিতে হবে:

  • সার্ভার-টু-সার্ভার: আপনার ব্যাকএন্ড WebSockets ব্যবহার করে Live API-এর সাথে কানেক্ট করে। সাধারণত, আপনার ক্লায়েন্ট আপনার সার্ভারে স্ট্রিম ডেটা (অডিও, ভিডিও, টেক্সট) পাঠায়, যা পরে Live API-তে ফরওয়ার্ড করা হয়।
  • ক্লায়েন্ট-টু-সার্ভার: আপনার ফ্রন্টএন্ড কোড, ডেটা স্ট্রিম করার জন্য WebSockets ব্যবহার করে সরাসরি Live API-এর সাথে কানেক্ট করে এবং আপনার ব্যাকএন্ডকে বাইপাস করে।

শুরু করুন

আপনার ডেভেলপমেন্ট এনভায়রনমেন্টের সাথে মানানসই গাইড বেছে নিন:

সার্ভার-টু-সার্ভার

Python ব্যাকএন্ড সহ রিয়েল-টাইম মাল্টিমোডাল অ্যাপ্লিকেশন তৈরি করতে GenAI SDK ব্যবহার করে Gemini Live API-তে কানেক্ট করুন।

ক্লায়েন্ট-টু-সার্ভার

JavaScript ফ্রন্ট-এন্ড ও ক্ষণস্থায়ী টোকেন সহ রিয়েল-টাইম মাল্টিমোডাল অ্যাপ্লিকেশন তৈরি করতে WebSockets ব্যবহার করে Gemini Live API-এর সাথে কানেক্ট করুন।

Agent development kit

ভয়েস ও ভিডিও কমিউনিকেশন চালু করতে এজেন্ট তৈরি করুন এবং Agent Development Kit (ADK) স্ট্রিমিং ব্যবহার করুন।

পার্টনার ইন্টিগ্রেশন

রিয়েল-টাইম অডিও ও ভিডিও অ্যাপের ডেভেলপমেন্টকে আরও সহজ করতে, আপনি WebRTC বা WebSockets-এর মাধ্যমে Gemini Live API কাজ করে এমন থার্ড-পার্টি ইন্টিগ্রেশন ব্যবহার করতে পারেন।