Toolkit ini menyediakan referensi untuk menerapkan praktik terbaik agar dapat menggunakan model terbuka yang bertanggung jawab seperti model Gemma, termasuk:
- Panduan tentang menetapkan kebijakan keselamatan, penyesuaian keamanan, pengklasifikasi keamanan, dan evaluasi model.
- Alat Penafsiran Pembelajaran (LIT) untuk menyelidiki perilaku Gemma dan mengatasi potensi masalah.
- Metodologi untuk membuat pengklasifikasi keamanan yang tangguh dengan sedikit contoh.
Toolkit versi ini hanya berfokus pada model teks-ke-teks dalam bahasa Inggris. Anda dapat memberikan masukan agar toolkit ini lebih bermanfaat melalui link mekanisme masukan di bagian bawah halaman.
Saat membangun dengan Gemma, Anda harus mengambil pendekatan holistik terhadap tanggung jawab dan mempertimbangkan semua kemungkinan tantangan pada tingkat aplikasi dan model. Toolkit ini mencakup teknik risiko dan mitigasi untuk menangani keamanan, privasi, keadilan, dan akuntabilitas.
Lihat seluruh toolkit ini untuk mendapatkan informasi dan panduan lebih lanjut:
- Menilai risiko dan menetapkan kebijakan keselamatan
- Menyesuaikan model untuk keamanan
- Membuat pengamanan input dan output
- Evaluasi keamanan model dan sistem
- Mem-build artefak transparansi
- Menganalisis perilaku model
Penulis dan kontributor
Toolkit ini dikembangkan berdasarkan penelitian dan alat dari berbagai tim di Google, termasuk penulis dan kontributor ini:
Ludovic Peran, Kathy Meier-Hellstern, Lucas Dixon, Reena Jana, Oscar Wahltinez, Clément Crepy, Ryan Mullins, Ian Tenney, Ted Klimenko, Shree Pandya, Nithum Thain, Mackenzie Thomas, Hayden Schaffer, Bin Du, Se