La función de ejecución de código de la API de Gemini permite que el modelo genere y ejecute código de Python y aprender iterativamente a partir de los resultados hasta que llegue resultado final. Puedes usar esta capacidad de ejecución de código para compilar aplicaciones que se benefician del razonamiento basado en código y que producen salida de texto. Para Por ejemplo, podrías usar la ejecución del código en una aplicación que resuelva ecuaciones o procesa texto.
La ejecución de código está disponible en AI Studio y la API de Gemini. En AI Studio, puedes habilitar la ejecución de código en Configuración avanzada. La API de Gemini proporciona la ejecución del código como herramienta, similar a llamada a función. Después de agregar la ejecución del código como herramienta, el modelo decide cuándo usarla.
Comienza a ejecutar código
En esta sección, se da por sentado que instalaste un SDK de Gemini y configuraste una API clave, como se muestra en la guía de inicio rápido.
Ejecución de código frente a llamada a funciones
La ejecución del código y las llamadas a funciones son funciones similares:
- La ejecución de código permite que el modelo ejecute código en el backend de la API de forma fija y aislada. en un entorno de nube.
- Las llamadas a función te permiten ejecutar las funciones que solicita el modelo, en el entorno que desees.
En general, deberías optar por la ejecución de código si puede controlar tu uso.
para determinar si este es el caso. La ejecución del código es más fácil de usar (solo se habilita) y se resuelve de manera
única solicitud GenerateContent (por lo tanto, se incurrirá en un solo cargo). Función
La llamada toma una solicitud GenerateContent adicional para devolver el resultado
de cada llamada a función (lo que genera varios cargos).
En la mayoría de los casos, debes usar las llamadas a funciones si tienes tus propias funciones. que quieras ejecutar localmente y deberías usar la ejecución de código si quieres que la API escriba y ejecute código de Python por ti y muestre el resultado.
Facturación
No se aplican cargos adicionales por habilitar la ejecución de código desde la API de Gemini. Se te facturará según la tarifa actual de entrada y salida tokens.
Estos son otros aspectos que debes conocer sobre la facturación para la ejecución del código:
- Solo se te facturará una vez por los tokens de entrada que pases al modelo. se te factura por los tokens de salida finales que te devolvió el modelo.
- Los tokens que representan el código generado se cuentan como tokens de salida.
- Los resultados de la ejecución de código también se cuentan como tokens de salida.
Limitaciones
- El modelo solo puede generar y ejecutar código. No puede mostrar otros artefactos como archivos multimedia.
- La función no es compatible con E/S de archivos ni casos de uso que involucren salidas sin texto. (por ejemplo, diagramas de datos o carga de un archivo CSV).
- La ejecución del código puede ejecutarse durante un máximo de 30 segundos antes de que se agote el tiempo de espera.
- En algunos casos, habilitar la ejecución del código puede generar regresiones en otras áreas de salida del modelo (por ejemplo, escribir una historia).
- Existe cierta variación en la capacidad de los diferentes modelos para usar código. la ejecución exitosamente. Gemini 1.5 Pro tiene el mejor rendimiento basado en nuestras pruebas.