Was ist eigentlich ein
TIVIO-Token?
Ein Token ist die kleinste Texteinheit, mit der eine KI arbeitet – etwa ein Wort, ein Wortteil oder ein Satzzeichen. Tokens sind damit die Verbrauchseinheit von TIVIO: Alles, was Ihre KI-Agenten lesen und schreiben, wird in Tokens gezählt.
01 · Die Grundidee
KI liest keine Wörter. Sie liest Bausteine.
Bevor ein Sprachmodell einen Satz versteht, zerlegt es ihn in Bausteine. Häufige kurze Wörter bleiben ein Token, lange deutsche Komposita zerfallen in mehrere. Probieren Sie es aus – schreiben Sie einen Satz, den Bürger:innen typischerweise fragen:
Näherungsweise Zerlegung zur Veranschaulichung – jedes Modell tokenisiert leicht anders.
entsprechen im Schnitt einem Token.
umfasst eine kurze E-Mail-Antwort an Bürger:innen.
stecken in einer vollen DIN-A4-Seite Text.
02 · Anatomie einer Anfrage
Eine Frage – fünf Arten von Tokens
Wenn jemand TIVIO eine Frage stellt, liest die KI nicht nur diese Frage. Sie liest auch ihre Arbeitsanweisung, die passenden Dokumente und den bisherigen Gesprächsverlauf. Alles davon zählt – und am Ende noch die Antwort, die sie schreibt.
System-Prompt – die Arbeitsanweisung
Vor jeder Frage bekommt die KI ihre Rolle mitgeteilt: Wer sie ist, für welche Gemeinde sie arbeitet, welchen Ton sie anschlägt, was sie nicht beantworten darf, wie sie Quellen angibt, welche Fähigkeiten sie zur Verfügung hat. Diese Anweisung schickt TIVIO bei jeder einzelnen Anfrage erneut mit – die KI hat kein Gedächtnis zwischen zwei Anfragen.
Input ist günstig, Output teuer
Lesen kostet die KI weniger Rechenzeit als Schreiben. Deshalb wiegt ein geschriebenes Antwort-Token mehr als ein gelesenes – lange Dokumente sind selten das Problem, ausufernde Antworten schon.
Nicht alles landet im Kontext
TIVIO schickt nie Ihre komplette Wissensdatenbank mit. Es sucht die 3–5 passendsten Textabschnitte heraus. 500 hinterlegte Seiten kosten also nicht 500 Seiten Tokens pro Frage.
Caching senkt die Rechnung automatisch
System-Prompt, Wissens-Kontext und Gesprächsverlauf sind bei Folgeanfragen fast identisch. Die KI legt sie kurz beiseite statt sie neu zu verarbeiten.