Gemini e altri modelli di IA generativa elaborano input e output con granularità chiamato token.
Questa guida spiega come ottenere finestre di contesto di modelli specifici, nonché su come conteggio dei token per casi d'uso come input di testo, chat, modalità multimodali input nonché istruzioni e strumenti di sistema.
Informazioni sui token
I token possono essere singoli caratteri come z o parole intere come cat. Parole lunghe
sono suddivisi in diversi token. L'insieme di tutti i token utilizzati dal modello
il vocabolario, mentre il processo di suddivisione del testo in token prende il nome
tokenizzazione.
Per i modelli Gemini, un token equivale a circa 4 caratteri. 100 token equivalgono a circa 60-80 parole inglesi.
Se la fatturazione è abilitata, il costo di una chiamata all'API Gemini è determinato in parte dal numero di token di input e di output, quindi sapere come il conteggio dei token può essere utile.