ShieldGemma

ShieldGemma 是一組經過指令調整的模型，可根據一組已定義的安全政策評估文字和圖片的安全性。您可以將這個模型用於更大規模的生成式 AI 應用程式導入作業，協助評估並防止生成式 AI 應用程式違反安全政策。ShieldGemma 系列模型提供開放權重，方便您根據特定用途進行微調。

ShieldGemma 2 是 4B 參數模型，可標示圖片以確保安全。

ShieldGemma 1 是採用 Gemma 2 建構，參數大小為 2B、9B 和 27B。

  • 內容安全評估

    依據一組已定義的安全性政策評估提示輸入和輸出回應的安全性。

  • 可調整的開放式模型

    ShieldGemma 模型採開放式權重，可依特定用途微調。

ShieldGemma 2

ShieldGemma 2 的模型資訊卡包含模型導入、評估、模型使用方式和限制等詳細資訊。
在 Kaggle 上查看更多有關 ShieldGemma 的程式碼、Colab 筆記本、資訊和討論。
執行使用 ShieldGemma 評估圖片的範例。

ShieldGemma 1

ShieldGemma 的模型資訊卡包含模型實作、評估、模型使用和限制等詳細資訊。
在 Kaggle 上查看更多有關 ShieldGemma 的程式碼、Colab 筆記本、資訊和討論。
執行使用 ShieldGemma 評估文字提示輸入內容和輸出內容的範例。