Google은 AI의 책임감 있는 개발 및 사용을 위해 최선을 다하고 있습니다. Gemini API의 안전성과 무결성을 보장하기 위해 Google에서는 다음과 같은 정책 가이드라인을 마련했습니다. Gemini API를 사용하면 다음 가이드라인, Gemini API 추가 서비스 약관, 생성형 AI 금지된 사용 정책에 동의하는 것으로 간주됩니다.
Google에서 오용을 모니터링하는 방법
Google의 신뢰와 안전팀은 정책을 시행하기 위해 자동 및 수동 프로세스를 조합하여 Gemini API 및 Google AI Studio의 잠재적 오용을 감지합니다.
- 자동 감지: 자동 시스템은 증오심 표현, 괴롭힘, 성적으로 노골적인 콘텐츠, 위험한 콘텐츠와 같은 금지된 사용 정책 위반 여부를 API 사용에서 검사합니다.
- 수동 감지: 프로젝트에서 지속적으로 의심스러운 활동이 발생하는 경우 승인된 Google 직원이 수동 검토를 위해 플래그를 지정할 수 있습니다.
데이터 처리 방식
Google은 금지된 사용 정책 위반을 감지하기 위해 다음과 같은 데이터를 55일 동안 보관합니다.
- 프롬프트: API에 제출하는 텍스트 프롬프트입니다.
- 컨텍스트 정보: 프롬프트와 함께 제공하는 추가 컨텍스트입니다.
- 출력: Gemini API에서 생성된 대답입니다.
Google에서 잠재적 문제를 조사하는 방법
위에서 설명한 안전 필터 및 악용 감지 시스템에서 프롬프트 또는 모델 출력을 신고하는 경우, 승인된 Google 직원이 신고된 콘텐츠를 평가하고 사전 정의된 가이드라인 및 정책에 따라 분류 또는 결정을 확인하거나 수정할 수 있습니다. 데이터는 내부 거버넌스 평가 및 검토 관리 플랫폼을 통해 승인된 Google 직원만 인적 검토를 위해 액세스할 수 있습니다. 악용 모니터링을 위해 데이터가 로깅되면 정책 시행 목적으로만 사용되며 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다.
정책 준수 지원
Gemini 사용이 Google 정책을 준수하지 않는 경우 다음과 같은 조치가 취해질 수 있습니다.
- 문의: Google에서는 이메일을 통해 사용 사례를 파악하고 사용을 규정에 맞게 조정하는 방법을 모색할 수 있습니다.
- 임시 사용량 한도: Gemini API에 대한 액세스가 제한될 수 있습니다.
- 일시 정지: Gemini API에 대한 액세스가 일시적으로 중지될 수 있습니다.
- 계정 폐쇄: 최후의 수단으로 심각한 위반의 경우 Gemini API 및 기타 Google 서비스에 대한 액세스를 영구적으로 폐쇄할 수 있습니다.
정지 또는 계정 폐쇄와 관련하여 연락을 드리는 경우 이의신청을 할 수 있는 링크도 제공해 드립니다.
범위
이 정책 가이드라인은 Gemini API 및 AI Studio 사용에 적용됩니다.