Google은 AI를 책임감 있게 개발하고 사용하기 위해 최선을 다하고 있습니다. Google에서는 Gemini API의 안전성과 무결성을 보장하기 위해 다음과 같은 정책 가이드라인을 마련했습니다. Gemini API를 사용하면 다음 가이드라인, Gemini API 추가 서비스 약관, 생성형 AI 금지된 사용 정책에 동의하는 것으로 간주됩니다.
YouTube의 악용 모니터링 방법
Google의 신용안전팀은 자동 및 수동 프로세스를 결합하여 Gemini API의 잠재적 오용사례를 감지하고 Google 정책을 시행합니다.
- 자동 감지: 자동화 시스템은 증오심 표현, 괴롭힘, 성적으로 노골적인 콘텐츠, 위험한 콘텐츠와 같은 Google의 금지된 사용 정책 위반 여부를 API 사용을 스캔합니다.
- 수동 감지: 프로젝트에서 지속적으로 의심스러운 활동이 발견되면 승인된 Google 직원이 수동으로 검토하도록 신고될 수 있습니다.
Google의 데이터 처리 방식
악용 모니터링에 도움이 되도록 Google은 다음 데이터를 55일 동안 보관합니다.
- 프롬프트: API에 제출하는 텍스트 프롬프트입니다.
- 문맥 정보: 프롬프트와 함께 제공하는 추가 컨텍스트입니다.
- 출력: Gemini API에서 생성한 응답입니다.
잠재적 문제 조사 방법
위에서 설명한 안전 필터 및 악용 감지 시스템에서 프롬프트 또는 모델 출력을 신고하면 승인된 Google 직원이 신고된 콘텐츠를 평가하고 사전 정의된 가이드라인 및 정책에 따라 분류 또는 결정을 확인하거나 수정할 수 있습니다. 승인된 Google 직원만 내부 거버넌스 평가 및 검토 관리 플랫폼을 통해 인적 검토를 위해 데이터에 액세스할 수 있습니다. 악용 모니터링을 위해 데이터가 로깅되면 정책 시행 목적으로만 사용되며 AI/ML 모델을 학습시키거나 미세 조정하는 데는 사용되지 않습니다.
정책 준수를 위한 협력
Gemini 사용이 Google 정책에 위배되는 경우 Google에서 다음과 같은 조치를 취할 수 있습니다.
- 문의: Google에서는 사용 사례를 파악하고 규정을 준수하는 사용량을 달성할 수 있는 방법을 모색하기 위해 이메일을 통해 연락을 드릴 수 있습니다.
- 일시적인 사용량 한도: Gemini API에 대한 액세스가 제한될 수 있습니다.
- 일시 정지: Gemini API에 대한 액세스가 일시적으로 중지될 수 있습니다.
- 계정 폐쇄: 심각한 위반사항이 발견되면 최후의 수단으로 Gemini API 및 기타 Google 서비스에 대한 액세스 권한이 영구적으로 폐쇄될 수 있습니다.
범위
이 정책 가이드라인은 Gemini API 및 AI Studio 사용에 적용됩니다.