Monitoramento de abuso

O Google se compromete com o desenvolvimento e o uso responsáveis da IA. Para garantir a segurança e a integridade da API Gemini, criamos estas diretrizes de política. Ao usar a API Gemini, você concorda com as diretrizes a seguir, os Termos de Serviço adicionais da API Gemini e a Política de uso proibido da IA generativa.

Como monitoramos o uso indevido

A Equipe de Confiança e Segurança do Google usa uma combinação de processos automáticos e manuais para detectar possíveis abusos da API Gemini e aplicar nossas políticas.

  • Detecção automatizada:os sistemas automatizados verificam o uso da API em busca de violações da nossa Política de uso proibido, como discurso de ódio, assédio, conteúdo sexualmente explícito e conteúdo perigoso.
  • Detecção manual:se um projeto apresentar atividade suspeita consistentemente, ele poderá ser sinalizado para revisão manual por funcionários autorizados do Google.

Como processamos dados

Para ajudar no monitoramento de abuso, o Google retém os seguintes dados por 55 dias:

  • Comandos:comandos de texto enviados à API.
  • Informações contextuais:qualquer contexto adicional que você fornecer com seus comandos.
  • Saída:as respostas geradas pela API Gemini.

Como investigamos possíveis problemas

Quando as instruções ou saídas do modelo são sinalizadas por filtros de segurança e sistemas de detecção de abuso descritos acima, funcionários autorizados do Google podem avaliar o conteúdo sinalizado e confirmar ou corrigir a classificação ou determinação com base em diretrizes e políticas predefinidas. Os dados só podem ser acessados para revisão humana por funcionários autorizados do Google por meio de uma plataforma de avaliação e gerenciamento de revisão interna. Quando os dados são registrados para monitoramento de abuso, eles são usados exclusivamente para a aplicação de políticas e não são usados para treinar ou aprimorar modelos de IA/ML.

Como trabalhar com você para cumprir a política

Se o uso do Gemini não estiver de acordo com nossas políticas, poderemos tomar as seguintes medidas:

  • Entre em contato:podemos entrar em contato com você por e-mail para entender seu caso de uso e descobrir maneiras de fazer com que seu uso esteja em conformidade.
  • Limites de uso temporários:podemos limitar seu acesso à API Gemini.
  • Suspensão temporária:podemos pausar temporariamente seu acesso à API Gemini.
  • Encerramento da conta:como último recurso, e em caso de violações graves, podemos encerrar permanentemente seu acesso à API Gemini e a outros serviços do Google.

Escopo

Estas diretrizes de política se aplicam ao uso da API Gemini e do AI Studio.