Token
Auch: Tokens
Definition
Ein Token ist die kleinste Texteinheit, die ein Sprachmodell verarbeitet, meist ein Wortteil; Preise und Limits von KI-Modellen werden in Tokens gemessen.
Deutsche Texte brauchen wegen langer Komposita in der Regel mehr Tokens pro Wort als englische. Bei API-Nutzung zahlst du Eingabe- und Ausgabe-Tokens getrennt, wobei Ausgabe-Tokens meist teurer sind. Für eine Kostenplanung reicht es, ein paar typische Anfragen durch den Token-Zähler des Anbieters zu schicken.