Gemini y otros modelos de IA generativa procesan las entradas y salidas con un nivel de detalle llamado token.
Información acerca de los tokens
Los tokens pueden ser caracteres individuales, como z, o palabras completas, como cat. Las palabras largas se dividen en varios tokens. El conjunto de todos los tokens que usa el modelo se llama vocabulario, y el proceso de dividir el texto en tokens se denomina tokenización.
En el caso de los modelos Gemini, un token equivale a cerca de 4 caracteres. 100 tokens equivalen a entre 60 y 80 palabras en inglés.
Cuando la facturación está habilitada, el costo de una llamada a la API de Gemini se determina en parte por la cantidad de tokens de entrada y salida, por lo que puede ser útil saber cómo contarlos.