Google은 AI의 책임감 있는 개발 및 사용을 위해 최선을 다하고 있습니다. Gemini API의 안전과 무결성을 보장하기 위해 Google은 다음과 같은 정책 가이드라인을 마련했습니다. Gemini API를 사용하면 다음 가이드라인, Gemini API 추가 서비스 약관 및 생성형 AI 금지된 사용 정책에 동의하는 것으로 간주됩니다.
오용 모니터링 방법
Google의 신뢰 및 안전팀은 자동화된 프로세스와 수동 프로세스를 조합하여 Gemini API 및 Google AI Studio의 잠재적 오용을 감지하고 정책을 시행합니다.
- 자동 감지: 자동화된 시스템은 API 사용을 검사하여 증오심 표현, 괴롭힘, 성적으로 노골적인 콘텐츠, 위험한 콘텐츠와 같은 금지된 사용 정책 위반을 감지합니다.
- 수동 감지: 프로젝트에서 지속적으로 의심스러운 활동이 나타나는 경우 승인된 Google 직원이 수동 검토를 위해 프로젝트에 플래그를 지정할 수 있습니다.
데이터 처리 방법
Google은 서비스의 안전과 보안을 유지하기 위해 금지된 사용 정책 위반을 감지하고 방지하기 위한 목적으로, 그리고 법적 또는 규제적 공개 요구사항을 준수하기 위해 다음과 같은 데이터를 55일 동안 보관합니다.
- 프롬프트: API에 제출하는 텍스트 프롬프트입니다.
- 맥락 정보: 프롬프트와 함께 제공하는 추가 맥락입니다.
- 출력: Gemini API에서 생성한 응답입니다.
잠재적 문제 조사 방법
위에서 설명한 안전 필터 및 악용 감지 시스템에서 프롬프트 또는 모델 출력이 플래그로 지정되면 승인된 Google 직원이 플래그가 지정된 콘텐츠를 평가하고 미리 정의된 가이드라인 및 정책에 따라 분류 또는 결정을 확인하거나 수정할 수 있습니다. 데이터는 내부 거버넌스 평가 및 검토 관리 플랫폼을 통해 승인된 Google 직원만 인적 검토를 위해 액세스할 수 있습니다. 악용 모니터링을 위해 데이터가 로깅되면 정책 시행 및 정책 위반 방지 목적으로만 사용됩니다. 정책 시행을 위해 특별히 사용되는 모델 외에는 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다.
정책 준수 관련 협력
Gemini 사용이 Google 정책을 준수하지 않는 경우 Google은 다음과 같은 조치를 취할 수 있습니다.
- 연락: Google은 이메일을 통해 사용 사례를 파악하고 사용을 규정 준수 상태로 전환할 수 있는 방법을 모색하기 위해 연락을 드릴 수 있습니다.
- 임시 사용 한도: Google은 비율 제한을 조정하거나 특정 요청에 응답하는 모델을 변경하는 등의 방법으로 Gemini API에 대한 액세스를 제한할 수 있습니다.
- 일시 정지: Google은 Gemini API에 대한 액세스를 일시적으로 중지할 수 있습니다.
- 계정 폐쇄: 최후의 수단으로, 심각한 위반의 경우 Gemini API 및 기타 Google 서비스에 대한 액세스를 영구적으로 폐쇄할 수 있습니다.
정지 또는 계정 해지와 관련하여 연락을 드리는 경우 이의신청을 할 수 있는 링크도 제공합니다.
범위
이 정책 가이드라인은 Gemini API 및 AI Studio 사용에 적용됩니다.