ShieldGemma는 텍스트 프롬프트의 안전성을 평가하기 위한 일련의 명령 조정 모델입니다. 정의된 안전 정책 세트에 대해 입력 및 텍스트 출력 응답을 전송합니다. 이때 생성형 AI 애플리케이션의 대규모 구현의 일환으로 이 모델을 생성형 AI 애플리케이션이 안전 정책을 위반하지 않도록 평가하고 예방합니다.

ShieldGemma 모델은 2B, 9B에서 Gemma 2를 기반으로 하며 270억 개 매개변수 크기. 모델을 미세 조정할 수 있도록 열린 가중치가 제공됩니다. 맞춤설정할 수 있습니다 이 모델 세트와 구현 코드 예에는 구성요소 책임감 있는 생성형 AI 툴킷.