গুগল ক্লাউড প্ল্যাটফর্ম জেমা ৪ ওপেন মডেল স্থাপন, পরিবেশন এবং সূক্ষ্মভাবে সমন্বয় করার জন্য অনেকগুলো বিকল্প প্রদান করে, যার মধ্যে নিম্নলিখিতগুলো অন্তর্ভুক্ত:
- ভার্টেক্স এআই মডেল গার্ডেন
- ক্লাউড রান
- Google Kubernetes ইঞ্জিন (GKE)
- এজেন্ট ডেভেলপমেন্ট কিট (ADK)
- ভার্টেক্স এআই প্রশিক্ষণ ক্লাস্টার (ভিটিসি)
- ম্যাক্সটেক্সট
- টিপিইউ সহ ভিএলএলএম
- সার্বভৌম মেঘ
ভার্টেক্স এআই মডেল গার্ডেন
ভার্টেক্স এআই হলো মেশিন লার্নিং প্রোজেক্ট দ্রুত তৈরি ও সম্প্রসারণ করার জন্য একটি গুগল ক্লাউড প্ল্যাটফর্ম। জেমা ৪, ভার্টেক্স এআই-এর নির্বাচিত মডেলের সংগ্রহ ‘মডেল গার্ডেন’- এ পাওয়া যায়। আপনি সরাসরি কনসোল থেকে মডেলগুলো পরীক্ষা ও ডেপ্লয় করতে পারেন।
আরও জানতে, নিম্নলিখিত পৃষ্ঠাগুলি দেখুন:
- ভার্টেক্স এআই-এর পরিচিতি : ভার্টেক্স এআই দিয়ে কাজ শুরু করুন।
- জেমা ও ভার্টেক্স এআই : ভার্টেক্স এআই-এর সাথে জেমা ওপেন মডেল ব্যবহার করুন।
ক্লাউড রান
ক্লাউড রান হলো গুগলের অত্যন্ত স্কেলেবল পরিকাঠামোর উপর আপনার কোড বা কন্টেইনার চালানোর জন্য একটি সম্পূর্ণভাবে পরিচালিত প্ল্যাটফর্ম। স্কেল-টু-জিরো এবং পে-পার-ইউজ ইনফারেন্সের জন্য জিপিইউ ব্যবহার করে ক্লাউড রানে জেমা ৪ ডেপ্লয় করুন ।
বৃহত্তর মোড সাইজের জন্য, RTX 6000 Pro GPU এবং মডেল স্ট্রিমিং সহ উন্নত কনফিগারেশন ব্যবহার করুন ।
Google Kubernetes ইঞ্জিন (GKE)
গুগল কুবারনেটিস ইঞ্জিন (GKE) হলো গুগল ক্লাউডের একটি পরিচালিত কুবারনেটিস পরিষেবা। এন্টারপ্রাইজ-গ্রেড কন্টেইনার অর্কেস্ট্রেশনের জন্য GKE-তে জেমা ৪ (Gemma 4) চালান । উচ্চ থ্রুপুট এবং কম ল্যাটেন্সিতে মডেল পরিবেশন করতে টিপিইউ (TPU) এবং জিপিইউ (GPU) ব্যবহার করুন।
এজেন্ট ডেভেলপমেন্ট কিট (ADK)
জেমা ৪ এবং এজেন্ট ডেভেলপমেন্ট কিট (ADK) ব্যবহার করে এআই এজেন্ট তৈরি ও পরিচালনা করুন। জেমা ৪-এর শক্তিশালী রিজনিং এবং ফাংশন-কলিং ক্ষমতা এটিকে এজেন্টিক ওয়ার্কফ্লোর জন্য আদর্শ করে তোলে।
ভার্টেক্স এআই প্রশিক্ষণ ক্লাস্টার (ভিটিসি)
ভার্টেক্স এআই ট্রেনিং ক্লাস্টার (VTC) ব্যবহার করে জেমা ৪-কে ফাইন-টিউন করুন । VTC ওপেন মডেলের বৃহৎ পরিসরে প্রশিক্ষণ এবং ফাইন-টিউনিংয়ের জন্য অপ্টিমাইজড পরিকাঠামো প্রদান করে।
টিপিইউ সহ ভিএলএলএম
সর্বাধুনিক পরিবেশন পারফরম্যান্সের জন্য গুগল ক্লাউড টিপিইউ-তে জেমা ৪ পরিবেশন করুন ।
ম্যাক্সটেক্সট
জেমা ৪ ম্যাক্সটেক্সট -এ সমর্থিত, যা গুগল ক্লাউড টিপিইউ-এর জন্য একটি উচ্চ-কর্মক্ষমতাসম্পন্ন ও যথেচ্ছ আকারের জেএএক্স এলএলএম বাস্তবায়ন।
সার্বভৌম মেঘ
জেমা ৪ সভরিন ক্লাউড সলিউশন-এ উপলব্ধ, যা সংবেদনশীল ওয়ার্কলোডগুলির জন্য উন্নততর নিয়ন্ত্রণ এবং কমপ্লায়েন্স প্রদান করে।