ShieldGemma

ShieldGemma 是一组基于 Gemma 系列模型构建的现成、经过指令调优的开放权重安全分类器，用于确定文本或图片是否违反了输入和输出中的安全政策。ShieldGemma 经过训练，可跨不同模型识别关键危害，如需了解详情，请参阅模型卡片。

• ShieldGemma 2（用于图片内容审核）：4B 版。如需了解详情，请参阅模型卡片。
• 用于文本内容审核的 ShieldGemma 1：提供 2B、9B 和 27B 三种版本，可让您平衡速度、性能和可推广性，以满足任何部署场景的需求。如需了解详情，请参阅模型卡片。

使用 ShieldGemma 保护您的模型

图片审核：Transformers 中的 ShieldGemma 2

文本审核：Transformers 中的 ShieldGemma

文本审核：Keras 中的 ShieldGemma

您可以在以下框架中使用 ShieldGemma 模型。

• KerasNLP，模型检查点可从 Kaggle 获取。
• Hugging Face Transformers，可从 Hugging Face Hub 获取模型检查点。