滥用行为监控

Google 致力于以负责任的方式开发和使用 AI。为确保 Gemini API 的安全性和完整性,我们制定了以下政策指南。使用 Gemini API 即表示您同意以下准则、《Gemini API 附加服务条款》以及生成式 AI 使用限制政策

我们如何监控滥用行为

Google 的信任与安全团队会结合使用自动化流程和人工流程来检测可能滥用 Gemini API 的情况,并强制执行我们的政策。

  • 自动检测:自动化系统会扫描 API 使用情况,以查看是否存在违反“使用限制政策”的行为,例如仇恨言论、骚扰行为、露骨色情内容和危险内容。
  • 人工检测:如果项目持续出现可疑活动,系统可能会将其标记为需要由获授权的 Google 人员进行人工审核。

我们如何处理数据

为了帮助监控滥用行为,Google 会将以下数据保留 55 天:

  • 提示:您提交给 API 的文本提示。
  • 背景信息:您在问题中提供的任何其他背景信息。
  • 输出:Gemini API 生成的回答。

我们如何调查潜在问题

如果提示或模型输出被上述安全过滤器和滥用检测系统标记,获得授权的 Google 员工可能会评估被标记的内容,并根据预定义的准则和政策确认或更正分类或判定结果。只有经授权的 Google 员工才能通过内部治理评估和审核管理平台访问数据以进行人工审核。为了进行滥用行为监控而记录数据时,这些数据仅用于政策强制执行,不会用于训练或微调任何 AI/机器学习模型。

与您携手确保政策合规

如果您在使用 Gemini 时违反了我们的政策,我们可能会采取以下措施:

  • 与我们联系:我们可能会通过电子邮件与您联系,了解您的使用情形,并探讨使您的使用行为符合相关政策的方法。
  • 临时用量限制:我们可能会限制您对 Gemini API 的访问权限。
  • 暂停:我们可能会暂时中止您对 Gemini API 的访问权限。
  • 账号关闭:在万不得已的情况下,对于严重违规行为,我们可能会永久关闭您对 Gemini API 和其他 Google 服务的访问权限。

范围

这些政策指南适用于 Gemini API 和 AI Studio 的使用。