ShieldGemma to gotowe, dostosowane do instrukcji, otwarte klasyfikatory bezpieczeństwa z otwartą wagą, które wykorzystują modele z rodziny Gemma do określania, czy tekst lub obrazy naruszają zasady bezpieczeństwa na wejściu i wyjściu. ShieldGemma jest trenowany w celu rozpoznawania kluczowych zagrożeń w różnych modelach. Więcej informacji znajdziesz na kartach modeli.
- ShieldGemma 2 do moderowania treści graficznych: dostępna w 4B. Więcej informacji znajdziesz na karcie modelu.
- ShieldGemma 1 do moderowania treści tekstowych: dostępna w wersjach 2B, 9B i 27B, co pozwala na znalezienie odpowiedniego kompromisu między szybkością, wydajnością i uniwersalnością, aby zaspokoić Twoje potrzeby w każdej implementacji. Więcej informacji znajdziesz na karcie modelu.
Bezpieczeństwo modeli dzięki ShieldGemma
 Moderowanie obrazów: ShieldGemma 2 w Transformers
|
Moderacja tekstu: ShieldGemma w Transformers
|
Moderowanie tekstu: ShieldGemma w Keras
|
Modele ShieldGemma możesz używać w tych frameworkach:
- KerasNLP, z punktami kontrolnymi modelu dostępnymi na Kaggle.
- Transformery Hugging Face z punktami kontrolnymi modelu dostępnymi w centrum Hugging Face.