O recurso de execução de código da API Gemini permite que o modelo gere e execute código Python e aprender iterativamente com os resultados até chegar a a saída final. Use esse recurso de execução de código para criar aplicativos que se beneficiam do raciocínio baseado em código e que produzem saída de texto. Para Por exemplo, é possível usar a execução de código em um aplicativo que resolva equações ou processa texto.
A execução de código está disponível no AI Studio e na API Gemini. No AI Studio, Ative a execução do código em Configurações avançadas. API Gemini fornece a execução de código como uma ferramenta, semelhante à chamada de função. Depois de adicionar a execução do código como ferramenta, o modelo decide quando usá-lo.
Introdução à execução de código
Esta seção pressupõe que você tenha instalado um SDK do Gemini e configurado uma API conforme mostrado no guia de início rápido.
Execução de código versus chamada de função
A execução de código e a chamada de função são recursos semelhantes:
- A execução de código permite que o modelo execute o código no back-end da API em um local isolado e fixo de nuvem.
- Com a chamada de função, é possível executar as funções solicitadas pelo modelo em qualquer ambiente.
Em geral, prefira usar a execução do código se ela puder lidar com seu uso
caso. A execução de código é mais simples de usar (basta ativá-la) e se resolve em um
única solicitação GenerateContent, o que resulta em uma única cobrança. Função
A chamada requer uma solicitação GenerateContent extra para retornar a saída
de cada chamada de função (gerando várias cobranças).
Na maioria dos casos, você deve usar a chamada de função se tiver suas próprias funções que você quer executar localmente. Use a execução de código se quiser a API para escrever e executar o código Python e retornar o resultado.
Faturamento
Não há custo adicional para ativar a execução do código no API Gemini. A cobrança será feita de acordo com a taxa atual de entrada e saída tokens.
Confira outras informações importantes sobre o faturamento da execução de código:
- Você só será cobrado uma vez pelos tokens de entrada que transferir para o modelo. você paga pelos tokens de saída finais retornados pelo modelo.
- Os tokens que representam o código gerado são contados como tokens de saída.
- Os resultados da execução do código também são contados como tokens de saída.
Limitações
- O modelo só pode gerar e executar código. Ele não pode retornar outros artefatos como arquivos de mídia.
- O recurso não oferece suporte a E/S de arquivos ou casos de uso que envolvam saída sem texto (por exemplo, gráficos de dados ou upload de um arquivo CSV).
- A execução do código pode ser executada por no máximo 30 segundos antes de expirar.
- Em alguns casos, ativar a execução do código pode levar a regressões em outras áreas da saída do modelo (por exemplo, escrever uma história).
- Há uma variação na capacidade de cada modelo usar código com sucesso. O Gemini 1.5 Pro tem o melhor desempenho com base nos nossos testes.