ShieldGemma 是一组现成的、基于指令调整的开放式 用于为基于 Gemma 2 构建的敏感内容分类模型进行加权， 确定用户提供的内容、模型生成的内容或混合内容是否违反了 内容安全政策。ShieldGemma 经过训练， 伤害 - 色情内容、危险内容、骚扰和仇恨内容 有三种大小的变体 - 2B、9B 和 27B 参数 - 让您能够平衡速度、性能和 以满足您在任何部署中的需求。请参阅 模型卡片 变体。
使用 ShieldGemma 保护您的模型
 启动 Google Colab (Keras)
|
启动 Google Colab（Transformers）
|
您可以在以下框架中使用 ShieldGemma 模型。
- KerasNLP，可从 Kaggle。请查看 Keras Colab 中的 ShieldGemma。
- Hugging Face Transformer，可从 Hugging Face Hub 获取模型检查点。请查看 Transformers Colab 中的 ShieldGemma 生成 。