ShieldGemma
ShieldGemma 是一组经过指令调整的模型，用于根据一组定义的安全政策评估文本和图片的安全性。您可以将此模型作为生成式 AI 应用更大规模实现的一部分，以帮助评估生成式 AI 应用是否违反安全政策并防止其违反安全政策。ShieldGemma 系列模型提供开放权重的功能，可让您根据自己的特定用例对其进行微调。
ShieldGemma 2 是一个 40 亿参数模型，旨在为图片标记安全性。
ShieldGemma 1 基于 2B、9B 和 27B 参数大小的 Gemma 2 构建而成。-
内容安全性评估
根据一组已定义的安全政策，评估提示输入和输出响应的安全性。 -
可调优的开放模型
ShieldGemma 模型具有开放权重，可以根据您的具体应用场景进行微调。
ShieldGemma 2
查看模型卡片
ShieldGemma 2 模型卡片包含有关模型实现、评估、模型使用和限制等的详细信息。
在 Kaggle 上查看
在 Kaggle 上查看有关 ShieldGemma 的更多代码、Colab 笔记本、信息和讨论。
在 HuggingFace 上查看
运行一个使用 ShieldGemma 评估图片的示例。
ShieldGemma 1
查看模型卡片
ShieldGemma 的模型卡片包含有关模型实现、评估、模型使用和限制等的详细信息。
在 Kaggle 上查看
在 Kaggle 上查看有关 ShieldGemma 的更多代码、Colab 笔记本、信息和讨论。
在 Colab 中运行
运行一个示例，了解如何使用 ShieldGemma 评估文本提示输入和输出。