Google Cloud platformu, aşağıdakiler de dahil olmak üzere Gemma 4 açık modellerini dağıtma, sunma ve ince ayar yapma konusunda birçok seçenek sunar:
- Gemini Enterprise Ajan Platformu
- Cloud Run
- Google Kubernetes Engine (GKE)
- Agent Development Kit (ADK)
- Gemini Enterprise Ajan Platformu Eğitim Kümeleri
- MaxText
- TPU'larla vLLM
- Sovereign Cloud
Gemini Enterprise Ajan Platformu
Gemini Enterprise Agent Platform, makine öğrenimi projelerini hızlı bir şekilde oluşturup ölçeklendirmek için kullanılan bir Google Cloud platformudur. Gemma 4, Gemini Enterprise Agent Platform'daki seçilmiş modeller koleksiyonu olan Model Garden'da kullanılabilir. Modelleri doğrudan konsoldan test edip dağıtabilirsiniz.
Daha fazla bilgi edinmek için aşağıdaki sayfalara bakın:
- Agent Platform'a genel bakış: Gemini Enterprise Agent Platform'u kullanmaya başlayın.
- Gemini Enterprise Agent Platform ile Gemma: Gemma açık modellerini Gemini Enterprise Agent Platform ile kullanın.
Cloud Run
Cloud Run, kodunuzu veya container'larınızı Google'ın yüksek oranda ölçeklenebilir altyapısında çalıştırmak için kullanılan, tümüyle yönetilen bir platformdur. Gemma 4'ü Cloud Run'da dağıtın. Sıfıra ölçekleme ve kullandıkça ödeme çıkarımı için GPU'ları kullanın.
Daha büyük mod boyutları için RTX 6000 Pro GPU'lar ve Model Akışı ile gelişmiş yapılandırmalardan yararlanın.
Google Kubernetes Engine (GKE)
Google Kubernetes Engine (GKE), Google Cloud'un yönetilen Kubernetes hizmetidir. Kurumsal düzeyde container düzenleme için GKE'de Gemma 4'ü çalıştırın. Yüksek işleme hızı ve düşük gecikme süresiyle modeller sunmak için TPU'ları ve GPU'ları kullanın.
Agent Development Kit (ADK)
Gemma 4 ve Agent Development Kit (ADK) ile yapay zeka ajanları oluşturun ve düzenleyin. Gemma 4'ün güçlü akıl yürütme ve işlev çağrısı özellikleri, onu ajan tabanlı iş akışları için ideal kılar.
Gemini Enterprise Agent Platformu Eğitim Kümeleri
Gemini Enterprise Agent Platform Training Clusters'ı kullanarak Gemma 4'ü ince ayar yapın. Eğitim kümeleri, açık modellerin büyük ölçekli eğitimi ve ince ayarı için optimize edilmiş altyapı sağlar.
TPU'larla vLLM
En iyi sunma performansı için Google Cloud TPU'larda Gemma 4'ü sunun.
MaxText
Gemma 4, Google Cloud TPU'ları için yüksek performanslı, rastgele boyutlu bir JAX LLM uygulaması olan MaxText'te desteklenir.
Sovereign Cloud
Gemma 4, Sovereign Cloud çözümlerinde kullanılabilir. Bu sayede hassas iş yükleri için gelişmiş kontrol ve uygunluk sağlanır.