ShieldGemma

ShieldGemma 是一組現成的、經指令調整的開放權重安全性分類器，以 Gemma 系列模型為基礎，用於判斷文字或圖像是否違反輸入和輸出的安全性政策。ShieldGemma 經過訓練，可在不同模型中找出主要的危害，詳情請參閱模型資訊卡。

  • 圖片內容審核的 ShieldGemma 2：適用於 4B。詳情請參閱模型資訊卡。
  • 用於文字內容審核的 ShieldGemma 1：提供 2B、9B 和 27B 版本，讓您在速度、效能和通用性之間取得平衡，滿足各種部署需求。詳情請參閱模型資訊卡。

使用 ShieldGemma 保護模型

圖片審核：在 Transformers 中使用 ShieldGemma 2 文字管理：在 Transformers 中使用 ShieldGemma 文字管理：使用 Keras 中的 ShieldGemma

您可以在下列架構中使用 ShieldGemma 模型。