이 페이지에는 Gemini API의 추가 사용 정책이 포함되어 있습니다.
악용 모니터링
Google은 AI를 책임감 있게 개발하고 사용하기 위해 최선을 다하고 있습니다. Google에서는 Gemini API의 안전성과 무결성을 보장하기 위해 다음과 같은 정책 가이드라인을 마련했습니다. Gemini API를 사용하면 다음 가이드라인, Gemini API 추가 서비스 약관, 생성형 AI 금지된 사용 정책에 동의하는 것입니다.
YouTube의 악용 모니터링 방법
Google의 신용안전팀은 자동 및 수동 프로세스를 결합하여 Gemini API의 잠재적 오용사례를 감지하고 Google 정책을 시행합니다.
- 자동 감지: 자동화 시스템은 증오심 표현, 괴롭힘, 성적으로 노골적인 콘텐츠, 위험한 콘텐츠와 같은 Google의 금지된 사용 정책 위반 여부를 API 사용을 스캔합니다.
- 수동 감지: 프로젝트에서 지속적으로 의심스러운 활동이 발견되면 승인된 Google 직원이 수동으로 검토하도록 신고될 수 있습니다.
Google의 데이터 처리 방식
악용 모니터링에 도움이 되도록 Google은 다음 데이터를 55일 동안 보관합니다.
- 프롬프트: API에 제출하는 텍스트 프롬프트입니다.
- 문맥 정보: 프롬프트와 함께 제공하는 추가 컨텍스트입니다.
- 출력: Gemini API에서 생성한 응답입니다.
잠재적 문제 조사 방법
위에서 설명한 안전 필터 및 악용 감지 시스템에서 프롬프트 또는 모델 출력을 신고하면 승인된 Google 직원이 신고된 콘텐츠를 평가하고 사전 정의된 가이드라인 및 정책에 따라 분류 또는 결정을 확인하거나 수정할 수 있습니다. 승인된 Google 직원만 내부 거버넌스 평가 및 검토 관리 플랫폼을 통해 인적 검토를 위해 데이터에 액세스할 수 있습니다. 악용 모니터링을 위해 데이터가 로깅되면 정책 시행 목적으로만 사용되며 AI/ML 모델을 학습시키거나 미세 조정하는 데는 사용되지 않습니다.
정책 준수를 위한 협력
Gemini 사용이 Google 정책에 위배되는 경우 Google에서 다음과 같은 조치를 취할 수 있습니다.
- 문의: Google에서는 사용 사례를 파악하고 규정을 준수하는 사용량을 달성할 수 있는 방법을 모색하기 위해 이메일을 통해 연락을 드릴 수 있습니다.
- 일시적인 사용량 한도: Gemini API에 대한 액세스가 제한될 수 있습니다.
- 일시 정지: Gemini API에 대한 액세스가 일시적으로 중지될 수 있습니다.
- 계정 폐쇄: 심각한 위반사항이 발견되면 최후의 수단으로 Gemini API 및 기타 Google 서비스에 대한 액세스 권한이 영구적으로 폐쇄될 수 있습니다.
범위
이 정책 가이드라인은 Gemini API 및 AI Studio 사용에 적용됩니다.
인라인 환경설정 투표
Google AI 스튜디오에서 프롬프트에 대한 두 가지 대답을 나란히 비교하는 경우가 있습니다. 이는 YouTube의 인라인 선호도 투표 시스템의 일부입니다. 선호하는 응답을 선택하라는 메시지가 표시됩니다. 이를 통해 사용자가 가장 유용하다고 생각하는 모델 출력을 파악할 수 있습니다.
이 캠페인을 시행하는 이유
Google은 AI 모델과 서비스를 개선하기 위해 끊임없이 노력하고 있습니다. 인라인 선호도 투표를 통해 보내주신 의견은 Google에서 Gemini API 추가 서비스 약관 및 개인정보처리방침에 따라 Google의 엔터프라이즈 기능, 제품, 서비스를 비롯한 Google 제품 및 서비스, 머신러닝 기술을 제공, 개선, 개발하는 데 도움이 됩니다.
의견에는 어떤 데이터가 포함되나요?
YouTube는 모델에 관한 정보에 기반하여 결정을 내릴 수 있도록 사용자가 인라인 선호도 투표에 참여할 때 다음과 같은 특정 데이터를 수집합니다.
- 프롬프트 및 응답: 의견을 제출한 대화에서 업로드된 콘텐츠를 비롯한 모든 프롬프트와 응답이 기록됩니다. 또한 선택한 두 가지 응답 옵션도 기록됩니다. 이렇게 하면 Google에서 사용자의 선호 맥락을 이해하는 데 도움이 됩니다.
- 투표: 선호하는 응답을 기록합니다. 이것이 Google에서 수집하는 의견의 핵심입니다.
- 사용 세부정보: 여기에는 응답을 생성한 모델에 관한 정보와 이 기능 사용에 관한 기타 기술 및 운영 세부정보가 포함됩니다.
개인정보 보호
Google에서는 개인 정보 보호를 매우 중요하게 여깁니다. Google은 이러한 과정에서 사용자의 개인 정보를 보호하기 위한 조치를 취합니다. 여기에는 검토자가 이 데이터를 보거나 주석을 작성하기 전에 Google 계정, API 키, Cloud 프로젝트에서 이 데이터의 연결을 해제하는 조치가 포함됩니다. 민감한 정보, 기밀 정보 또는 개인 정보가 포함된 대화에 관한 의견은 제출하지 마세요.
사용 해제
인라인 선호도 투표가 표시되면 건너뛸 수 있습니다.
Google AI 스튜디오를 개선하는 데 도움을 주셔서 감사합니다.