Mulai menggunakan model Gemma

Rangkaian model terbuka Gemma mencakup berbagai ukuran model, kemampuan, dan variasi khusus tugas untuk membantu Anda membangun solusi generatif kustom. Berikut adalah jalur utama yang dapat Anda ikuti saat menggunakan model Gemma dalam aplikasi:

• Pilih model dan deploy apa adanya di aplikasi Anda
• Pilih model, sesuaikan untuk tugas tertentu, lalu deploy di aplikasi, atau bagikan kepada komunitas.

Panduan ini membantu Anda mulai memilih model, menguji kemampuannya, dan secara opsional, menyesuaikan model yang Anda pilih untuk aplikasi Anda.

Dapatkan di Kaggle Dapatkan di Hugging Face

Pilih model

Bagian ini membantu Anda memahami varian resmi rangkaian model Gemma dan memilih model untuk aplikasi Anda. Varian model menyediakan kemampuan umum atau dikhususkan untuk tugas tertentu, dan disediakan dalam berbagai ukuran parameter sehingga Anda dapat memilih model yang memiliki kemampuan pilihan Anda dan memenuhi persyaratan komputasi Anda.

Daftar model Gemma

Tabel berikut mencantumkan varian utama rangkaian model Gemma dan platform deployment yang dituju:

Kumpulan model Gemma juga mencakup model khusus dan model riset, termasuk ShieldGemma, DataGemma, Gemma Scope, dan Gemma-APS.

Model pengujian

Anda dapat menguji model Gemma dengan menyiapkan lingkungan pengembangan dengan model yang didownload dan software pendukung. Kemudian, Anda dapat memberikan perintah kepada model dan mengevaluasi responsnya. Gunakan salah satu notebook Python berikut dengan framework machine learning pilihan Anda untuk menyiapkan lingkungan pengujian dan memberikan perintah pada model Gemma:

• Inferensi dengan Keras
• Inferensi dengan PyTorch
• Inferensi dengan library Gemma

Menyesuaikan model

Anda dapat mengubah perilaku model Gemma dengan melakukan penyesuaian pada model tersebut. Penyesuaian model memerlukan set data input dan respons yang diharapkan dengan ukuran dan variasi yang memadai untuk memandu perilaku model. Anda juga memerlukan resource komputasi dan memori yang jauh lebih besar untuk menyelesaikan sesi penyesuaian dibandingkan dengan menjalankan model Gemma untuk pembuatan teks. Gunakan salah satu notebook Python berikut untuk menyiapkan lingkungan pengembangan penyesuaian dan menyesuaikan model Gemma:

• Menyesuaikan Gemma dengan penyesuaian Keras dan LoRA
• Menyesuaikan model Gemma yang lebih besar dengan pelatihan terdistribusi

Langkah Berikutnya

Lihat panduan berikut untuk membangun lebih banyak solusi dengan Gemma:

• Membuat chatbot dengan Gemma
• Men-deploy Gemma ke produksi dengan Vertex AI
• Menggunakan Genkit dengan Ollama dan Gemma