ShieldGemma

ShieldGemma は、Gemma ファミリーのモデル上に構築された、指示でチューニングされた、オープンウェイトの安全分類器のセットで、テキストや画像が入力と出力の両方で安全に関するポリシーに違反しているかどうかを判断します。ShieldGemma は、さまざまなモデルの主要な有害性を特定するようにトレーニングされています。詳細については、モデルカードをご覧ください。

  • 画像コンテンツのモデレーション用の ShieldGemma 2: 4B で利用可能。詳細については、モデルカードをご覧ください。
  • テキスト コンテンツのモデレーション用の ShieldGemma 1: 20 億、90 億、270 億の 3 つのサイズが用意されており、あらゆるデプロイでニーズに合わせて速度、パフォーマンス、汎用性のバランスを取ることができます。詳細については、モデルカードをご覧ください。

ShieldGemma でモデルを保護する

画像モデレーション: Transformer の ShieldGemma 2 テキストの管理: Transformers の ShieldGemma テキスト管理: Keras の ShieldGemma

ShieldGemma モデルは、次のフレームワークで使用できます。