ShieldGemma

ShieldGemma adalah serangkaian model instruksi yang telah disesuaikan untuk mengevaluasi keamanan prompt teks respons input dan output teks terhadap serangkaian kebijakan keamanan yang ditentukan. Anda dapat menggunakan model ini sebagai bagian dari implementasi yang lebih besar dari aplikasi AI generatif untuk membantu mengevaluasi dan mencegah aplikasi AI generatif melanggar kebijakan keamanan.

Model ShieldGemma dibangun di Gemma 2 di 2B, 9B, dan Ukuran parameter 27 miliar. Model ini dilengkapi dengan bobot terbuka untuk memungkinkan Anda meningkatkannya untuk kasus penggunaan spesifik Anda. Kumpulan model dan contoh kode penerapan ini adalah komponen Toolkit AI Generatif yang Bertanggung Jawab.

  • Evaluasi keamanan konten

    Mengevaluasi keamanan respons input dan output perintah terhadap serangkaian kebijakan keamanan yang ditentukan.

  • Model terbuka yang dapat disesuaikan

    Model ShieldGemma dilengkapi dengan bobot terbuka dan dapat disesuaikan untuk kasus penggunaan spesifik Anda.

Pelajari lebih lanjut

Kartu model ShieldGemma berisi informasi mendetail tentang implementasi model, evaluasi, penggunaan serta batasan model, dan banyak lagi.
Lihat lebih banyak kode, notebook Colab, informasi, dan diskusi tentang ShieldGemma di Kaggle.
Menjalankan contoh penggunaan ShieldGemma untuk mengevaluasi input dan output perintah teks.