Gemini e altri modelli di IA generativa elaborano l'input e l'output a una granularità chiamata token.
Questa guida spiega come ottenere le finestre di contesto di modelli specifici, nonché come contare i token per casi d'uso come input di testo, chat, input multimodale, nonché istruzioni e strumenti di sistema.
Informazioni sui token
I token possono essere singoli caratteri come z o parole intere come cat. Le parole lunghe
vengono suddivise in più token. L'insieme di tutti i token utilizzati dal modello è chiamato vocabolario, mentre il processo di suddivisione del testo in token è chiamato tokenizzazione.
Per i modelli Gemini, un token equivale a circa 4 caratteri. 100 token equivalgono a circa 60-80 parole in inglese.
Quando la fatturazione è abilitata, il costo di una chiamata all'API Gemini è determinato in parte dal numero di token di input e di output, quindi sapere come conteggiare i token può essere utile.