Token
Auch: Tokens
Definition
Ein Token ist die kleinste Texteinheit, die ein Sprachmodell verarbeitet, meist ein Wortteil; Preise und Limits von KI-Modellen werden in Tokens gemessen.
Deutsche Texte brauchen wegen langer Komposita in der Regel mehr Tokens pro Wort als englische. Bei API-Nutzung zahlst du Eingabe- und Ausgabe-Tokens getrennt, wobei Ausgabe-Tokens meist teurer sind. Wer Kosten planen will, sollte typische Anfragen einmal mit dem Token-Zähler des Anbieters messen.