Tokens verstehen und zählen


Gemini und andere generative KI-Modelle verarbeiten Eingaben und Ausgaben mit einer Detaillierung, die als Token bezeichnet wird.

Tokens

Tokens können einzelne Zeichen wie z oder ganze Wörter wie cat sein. Lange Wörter werden in mehrere Tokens aufgeteilt. Die Gesamtheit aller vom Modell verwendeten Tokens wird als Vokabular bezeichnet. Das Aufteilen von Text in Tokens wird als Tokenisierung bezeichnet.

Bei Gemini-Modellen entspricht ein Token etwa vier Zeichen. 100 Tokens entsprechen etwa 60–80 englischen Wörtern.

Wenn die Abrechnung aktiviert ist, werden die Kosten eines Aufrufs der Gemini API teilweise durch die Anzahl der Eingabe- und Ausgabetokens bestimmt. Daher kann es hilfreich sein, zu wissen, wie Tokens gezählt werden.