ShieldGemma

ShieldGemma는 Gemma 모델 제품군을 기반으로 빌드된, 사전 제작된, 명령어 조정된 개방형 가중치 안전 분류 기준의 집합으로, 텍스트 또는 이미지가 입력과 출력에서 안전 정책을 위반하는지 확인합니다. ShieldGemma는 다양한 모델에서 주요 유해를 식별하도록 학습되었습니다. 자세한 내용은 모델 카드를 참고하세요.

  • 이미지 콘텐츠 검토를 위한 ShieldGemma 2: 4B에서 사용할 수 있습니다. 자세한 내용은 모델 카드를 참고하세요.
  • 텍스트 콘텐츠 검토를 위한 ShieldGemma 1: 2B, 9B, 27B 버전으로 제공되므로 속도, 성능, 일반화 가능성의 균형을 맞춰 모든 배포에서 요구사항에 맞게 사용할 수 있습니다. 자세한 내용은 모델 카드를 참고하세요.

ShieldGemma로 모델 보호하기

이미지 검토: Transformers의 ShieldGemma 2 텍스트 검토: Transformers의 ShieldGemma 텍스트 검토: Keras의 ShieldGemma

다음 프레임워크에서 ShieldGemma 모델을 사용할 수 있습니다.