Google ক্লাউডের সাথে Gemma স্থাপন করুন

গুগল ক্লাউড প্ল্যাটফর্ম জেমা ৪ ওপেন মডেল স্থাপন, পরিবেশন এবং সূক্ষ্মভাবে সমন্বয় করার জন্য অনেকগুলো বিকল্প প্রদান করে, যার মধ্যে নিম্নলিখিতগুলো অন্তর্ভুক্ত:

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম হলো মেশিন লার্নিং প্রোজেক্ট দ্রুত তৈরি ও সম্প্রসারণ করার জন্য একটি গুগল ক্লাউড প্ল্যাটফর্ম। জেমা ৪, মডেল গার্ডেন- এ পাওয়া যায়, যা জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্মের মডেলগুলোর একটি সংকলিত সংগ্রহ। আপনি সরাসরি কনসোল থেকে মডেলগুলো পরীক্ষা ও ডেপ্লয় করতে পারেন।

আরও জানতে, নিম্নলিখিত পৃষ্ঠাগুলি দেখুন:

ক্লাউড রান

ক্লাউড রান হলো গুগলের অত্যন্ত স্কেলেবল পরিকাঠামোর উপর আপনার কোড বা কন্টেইনার চালানোর জন্য একটি সম্পূর্ণভাবে পরিচালিত প্ল্যাটফর্ম। স্কেল-টু-জিরো এবং পে-পার-ইউজ ইনফারেন্সের জন্য জিপিইউ ব্যবহার করে ক্লাউড রানে জেমা ৪ ডেপ্লয় করুন ।

বৃহত্তর মোড সাইজের জন্য, RTX 6000 Pro GPU এবং মডেল স্ট্রিমিং সহ উন্নত কনফিগারেশন ব্যবহার করুন ।

Google Kubernetes ইঞ্জিন (GKE)

গুগল কুবারনেটিস ইঞ্জিন (GKE) হলো গুগল ক্লাউডের একটি পরিচালিত কুবারনেটিস পরিষেবা। এন্টারপ্রাইজ-গ্রেড কন্টেইনার অর্কেস্ট্রেশনের জন্য GKE-তে জেমা ৪ (Gemma 4) চালান । উচ্চ থ্রুপুট এবং কম ল্যাটেন্সিতে মডেল পরিবেশন করতে টিপিইউ (TPU) এবং জিপিইউ (GPU) ব্যবহার করুন।

এজেন্ট ডেভেলপমেন্ট কিট (ADK)

জেমা ৪ এবং এজেন্ট ডেভেলপমেন্ট কিট (ADK) ব্যবহার করে এআই এজেন্ট তৈরি ও পরিচালনা করুন। জেমা ৪-এর শক্তিশালী রিজনিং এবং ফাংশন-কলিং ক্ষমতা এটিকে এজেন্টিক ওয়ার্কফ্লোর জন্য আদর্শ করে তোলে।

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম প্রশিক্ষণ ক্লাস্টার

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম ট্রেনিং ক্লাস্টার ব্যবহার করে জেমা ৪-কে ফাইন-টিউন করুন । ট্রেনিং ক্লাস্টার ওপেন মডেলের বৃহৎ পরিসরে প্রশিক্ষণ এবং ফাইন-টিউনিংয়ের জন্য অপ্টিমাইজড পরিকাঠামো প্রদান করে।

টিপিইউ সহ ভিএলএলএম

সর্বাধুনিক পরিবেশন পারফরম্যান্সের জন্য গুগল ক্লাউড টিপিইউ-তে জেমা ৪ পরিবেশন করুন ।

ম্যাক্সটেক্সট

জেমা ৪ ম্যাক্সটেক্সট -এ সমর্থিত, যা গুগল ক্লাউড টিপিইউ-এর জন্য একটি উচ্চ-কর্মক্ষমতাসম্পন্ন ও যথেচ্ছ আকারের জেএএক্স এলএলএম বাস্তবায়ন।

সার্বভৌম মেঘ

জেমা ৪ সভরিন ক্লাউড সলিউশন-এ উপলব্ধ, যা সংবেদনশীল ওয়ার্কলোডগুলির জন্য উন্নততর নিয়ন্ত্রণ এবং কমপ্লায়েন্স প্রদান করে।

,

গুগল ক্লাউড প্ল্যাটফর্ম জেমা ৪ ওপেন মডেল স্থাপন, পরিবেশন এবং সূক্ষ্মভাবে সমন্বয় করার জন্য অনেকগুলো বিকল্প প্রদান করে, যার মধ্যে নিম্নলিখিতগুলো অন্তর্ভুক্ত:

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম হলো মেশিন লার্নিং প্রোজেক্ট দ্রুত তৈরি ও সম্প্রসারণ করার জন্য একটি গুগল ক্লাউড প্ল্যাটফর্ম। জেমা ৪, মডেল গার্ডেন- এ পাওয়া যায়, যা জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্মের মডেলগুলোর একটি সংকলিত সংগ্রহ। আপনি সরাসরি কনসোল থেকে মডেলগুলো পরীক্ষা ও ডেপ্লয় করতে পারেন।

আরও জানতে, নিম্নলিখিত পৃষ্ঠাগুলি দেখুন:

ক্লাউড রান

ক্লাউড রান হলো গুগলের অত্যন্ত স্কেলেবল পরিকাঠামোর উপর আপনার কোড বা কন্টেইনার চালানোর জন্য একটি সম্পূর্ণভাবে পরিচালিত প্ল্যাটফর্ম। স্কেল-টু-জিরো এবং পে-পার-ইউজ ইনফারেন্সের জন্য জিপিইউ ব্যবহার করে ক্লাউড রানে জেমা ৪ ডেপ্লয় করুন ।

বৃহত্তর মোড সাইজের জন্য, RTX 6000 Pro GPU এবং মডেল স্ট্রিমিং সহ উন্নত কনফিগারেশন ব্যবহার করুন ।

Google Kubernetes ইঞ্জিন (GKE)

গুগল কুবারনেটিস ইঞ্জিন (GKE) হলো গুগল ক্লাউডের একটি পরিচালিত কুবারনেটিস পরিষেবা। এন্টারপ্রাইজ-গ্রেড কন্টেইনার অর্কেস্ট্রেশনের জন্য GKE-তে জেমা ৪ (Gemma 4) চালান । উচ্চ থ্রুপুট এবং কম ল্যাটেন্সিতে মডেল পরিবেশন করতে টিপিইউ (TPU) এবং জিপিইউ (GPU) ব্যবহার করুন।

এজেন্ট ডেভেলপমেন্ট কিট (ADK)

জেমা ৪ এবং এজেন্ট ডেভেলপমেন্ট কিট (ADK) ব্যবহার করে এআই এজেন্ট তৈরি ও পরিচালনা করুন। জেমা ৪-এর শক্তিশালী রিজনিং এবং ফাংশন-কলিং ক্ষমতা এটিকে এজেন্টিক ওয়ার্কফ্লোর জন্য আদর্শ করে তোলে।

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম প্রশিক্ষণ ক্লাস্টার

জেমিনি এন্টারপ্রাইজ এজেন্ট প্ল্যাটফর্ম ট্রেনিং ক্লাস্টার ব্যবহার করে জেমা ৪-কে ফাইন-টিউন করুন । ট্রেনিং ক্লাস্টার ওপেন মডেলের বৃহৎ পরিসরে প্রশিক্ষণ এবং ফাইন-টিউনিংয়ের জন্য অপ্টিমাইজড পরিকাঠামো প্রদান করে।

টিপিইউ সহ ভিএলএলএম

সর্বাধুনিক পরিবেশন পারফরম্যান্সের জন্য গুগল ক্লাউড টিপিইউ-তে জেমা ৪ পরিবেশন করুন ।

ম্যাক্সটেক্সট

জেমা ৪ ম্যাক্সটেক্সট -এ সমর্থিত, যা গুগল ক্লাউড টিপিইউ-এর জন্য একটি উচ্চ-কর্মক্ষমতাসম্পন্ন ও যথেচ্ছ আকারের জেএএক্স এলএলএম বাস্তবায়ন।

সার্বভৌম মেঘ

জেমা ৪ সভরিন ক্লাউড সলিউশন-এ উপলব্ধ, যা সংবেদনশীল ওয়ার্কলোডগুলির জন্য উন্নততর নিয়ন্ত্রণ এবং কমপ্লায়েন্স প্রদান করে।