Google Cloud Platform, Gemma 4 के ओपन मॉडल को डिप्लॉय करने, इस्तेमाल करने, और फ़ाइन-ट्यून करने के लिए कई विकल्प उपलब्ध कराता है. इनमें ये विकल्प शामिल हैं:
- Gemini Enterprise एजेंट प्लैटफ़ॉर्म
- Cloud Run
- Google Kubernetes Engine (GKE)
- Agent Development Kit (ADK)
- Gemini Enterprise Agent Platform के ट्रेनिंग क्लस्टर
- MaxText
- TPU के साथ vLLM
- Sovereign Cloud
Gemini Enterprise एजेंट प्लैटफ़ॉर्म
Gemini Enterprise Agent प्लैटफ़ॉर्म, Google Cloud का एक प्लैटफ़ॉर्म है. इसकी मदद से, मशीन लर्निंग प्रोजेक्ट को तेज़ी से बनाया और बढ़ाया जा सकता है. Gemma 4, Model Garden में उपलब्ध है. यह Gemini Enterprise Agent Platform पर मौजूद मॉडल का एक क्यूरेटेड कलेक्शन है. सीधे कंसोल से मॉडल को टेस्ट और डिप्लॉय किया जा सकता है.
ज़्यादा जानने के लिए, इन पेजों पर जाएं:
- एजेंट प्लैटफ़ॉर्म के बारे में खास जानकारी: Gemini Enterprise Agent प्लैटफ़ॉर्म का इस्तेमाल शुरू करें.
- Gemini Enterprise Agent प्लैटफ़ॉर्म के साथ Gemma: Gemini Enterprise Agent प्लैटफ़ॉर्म के साथ Gemma के ओपन मॉडल का इस्तेमाल करें.
Cloud Run
Cloud Run, पूरी तरह से मैनेज किया गया एक ऐसा प्लैटफ़ॉर्म है जिस पर Google के ज़्यादा उपयोगकर्ताओं को हैंडल करने वाले इन्फ़्रास्ट्रक्चर पर, अपने कोड या कंटेनर चलाए जा सकते हैं. स्केल-टू-ज़ीरो और इस्तेमाल के हिसाब से पेमेंट करने की सुविधा के साथ इन्फ़रेंस के लिए, जीपीयू का इस्तेमाल करके Gemma 4 को Cloud Run पर डिप्लॉय करें.
बड़े मॉडल के लिए, RTX 6000 Pro GPU और मॉडल स्ट्रीमिंग के साथ ऐडवांस कॉन्फ़िगरेशन का इस्तेमाल करें.
Google Kubernetes Engine (जीकेई)
Google Kubernetes Engine (GKE), Google Cloud की मैनेज की गई Kubernetes सेवा है. एंटरप्राइज़-ग्रेड के कंटेनर ऑर्केस्ट्रेशन के लिए, GKE पर Gemma 4 चलाएं. ज़्यादा थ्रूपुट और कम इंतज़ार के समय वाले मॉडल दिखाने के लिए, टीपीयू और जीपीयू का इस्तेमाल करें.
Agent Development Kit (ADK)
Gemma 4 और Agent Development Kit (ADK) की मदद से, एआई एजेंट बनाएं और उन्हें व्यवस्थित करें. Gemma 4 में, तार्किक जवाब देने और फ़ंक्शन कॉल करने की बेहतरीन क्षमताएं हैं. इसलिए, यह एजेंटिक वर्कफ़्लो के लिए सबसे सही है.
Gemini Enterprise एजेंट प्लैटफ़ॉर्म के ट्रेनिंग क्लस्टर
Gemini Enterprise Agent Platform Training Clusters का इस्तेमाल करके, Gemma 4 को फ़ाइन-ट्यून करें. ट्रेनिंग क्लस्टर, ओपन मॉडल को बड़े पैमाने पर ट्रेन करने और उन्हें बेहतर बनाने के लिए ऑप्टिमाइज़ किया गया बुनियादी ढांचा उपलब्ध कराता है.
TPU के साथ vLLM
बेहतरीन परफ़ॉर्मेंस के लिए, Google Cloud TPUs पर Gemma 4 को सर्व करें.
MaxText
Gemma 4, MaxText में काम करता है. यह Google Cloud TPU के लिए, हाई-परफ़ॉर्मेंस वाला, किसी भी साइज़ का JAX LLM है.
Sovereign Cloud
Gemma 4, Sovereign Cloud समाधानों पर उपलब्ध है. इससे संवेदनशील वर्कलोड के लिए बेहतर कंट्रोल और अनुपालन मिलता है.