Tokens verstehen und zählen


Gemini und andere generative KI-Modelle verarbeiten Eingaben und Ausgaben mit einer Detailgenauigkeit, die als Token bezeichnet wird.

In diesem Leitfaden wird erläutert, wie Sie die Kontextfenster bestimmter Modelle abrufen und Tokens für Anwendungsfälle wie Texteingabe, Chat, multimodale Eingabe sowie Systemanweisungen und -tools zählen.

Tokens

Tokens können einzelne Zeichen wie z oder ganze Wörter wie cat sein. Lange Wörter werden in mehrere Tokens aufgeteilt. Die Gesamtheit aller vom Modell verwendeten Tokens wird als Vokabular bezeichnet. Das Aufteilen von Text in Tokens wird als Tokenisierung bezeichnet.

Bei Gemini-Modellen entspricht ein Token etwa 4 Zeichen. 100 Tokens entsprechen etwa 60–80 deutschen Wörtern.

Wenn die Abrechnung aktiviert ist, werden die Kosten für einen Aufruf der Gemini API teilweise durch die Anzahl der Ein- und Ausgabetokens bestimmt. Es kann also hilfreich sein, zu wissen, wie Tokens gezählt werden.