Was ein Sprachmodell tutLektion 1 von 4Probelektion, ohne Konto

Text rein, Text raus: Sprachmodell und Token

1Ziel

Du lernst, dass ein Sprachmodell Text in Token zerlegt und warum Deutsch dabei mehr Token braucht als Englisch.

Baustein Sprachmodell Woran du es erkennst: Du gibst Text hinein und bekommst neuen Text heraus, Stück für Stück in Token.

Hilf mir

1Anders gefragt
Was passiert eigentlich, wenn du einem Sprachmodell Text gibst — und was bekommst du zurück?
2Ein Beispiel
Du tippst drei Stichpunkte für eine Mail ein und bekommst einen ganzen Entwurf zurück. Dazwischen liegt kein Nachschlagen, sondern Rechnen in Token.
3Die Lösung mit Beleg
Ein Sprachmodell nimmt Text (bei Claude auch Bild) als Eingabe und gibt Text aus.
- Alle aktuellen Claude-Modelle nehmen Text und Bild als Eingabe, geben Text aus und können Werkzeuge benutzen.
  Stand 15.10.2026AnbieterangabeAnthropic · Models overview

2Erklären

Regel: Ein Sprachmodell zählt in Token, nicht in Wörtern — und Deutsch braucht je Wort mehr Token als Englisch (gemessen 2,12 statt 1,39).¹

Das Verhältnis Deutsch zu Englisch hängt vom Tokenizer ab, in derselben Messung zwischen etwa 1,35 und 1,7.²

Im Büro heißt das: dieselbe Mail kostet auf Deutsch mehr Token als auf Englisch.

Belege dieser Erklärung (2, gleich in allen drei Stilen)

Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)
Das Verhältnis Deutsch zu Englisch hängt vom Tokenizer ab; in derselben Messung lag es zwischen etwa 1,35 (Gemma 2: 1,62 zu 1,20) und 1,7 (Mixtral 8x22B: 2,25 zu 1,31) — Verhältnisse selbst aus den Tabellenwerten gerechnet.
Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)

Du gibst Stichpunkte hinein, das Modell schreibt eine Mail heraus — gezählt wird dabei in Token, nicht in Wörtern. Wähl ein Modell für den Mail-Entwurf und sieh rechts, wie viele Token der Fall braucht und ob das Modell belegt passt.

Hilf mir

1Anders gefragt
Wonach wird gezählt und bezahlt — nach Wörtern oder nach den Stücken, in die das Modell Text zerlegt?
2Ein Beispiel
Dieselbe kurze Mail auf Deutsch und auf Englisch: die deutsche Fassung zählt mehr Token, obwohl sie gleich viel sagt.
3Die Lösung mit Beleg
Gezählt wird in Token. Deutsch braucht je Wort mehr Token als Englisch; wie viel mehr, hängt vom Tokenizer ab.
- Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)
- Das Verhältnis Deutsch zu Englisch hängt vom Tokenizer ab; in derselben Messung lag es zwischen etwa 1,35 (Gemma 2: 1,62 zu 1,20) und 1,7 (Mixtral 8x22B: 2,25 zu 1,31) — Verhältnisse selbst aus den Tabellenwerten gerechnet.
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)

3Mitmachen

Übung

Welches Modell für diesen Fall?

Mail-Entwurf — Aus Stichpunkten eine sachliche Mail entwerfen lassen und vor dem Senden selbst prüfen.

Lösung aus dem Netz

Claude Opus 5.5: Anthropic empfiehlt Claude Opus 5.5 als Startpunkt für die meisten Aufgaben und Claude Fable 5.1 für anspruchsvolles Schlussfolgern und lange agentische Arbeit. Stand 15.10.2026Anthropic · Models overview

Hilf mir

1Anders gefragt
Welches der vier Modelle würdest du einen kurzen Mail-Entwurf schreiben lassen — und steht im Netz, dass es dafür passt?
2Ein Beispiel
Wähl ein Modell. Daneben steht, ob das Netz einen Beleg hat, dass es für den Fall „Mail-Entwurf“ taugt, und wie viele Token der Fall braucht.
3Die Lösung mit Beleg
Was die Übung zählt, sind Token: Deutsch braucht je Wort mehr davon als Englisch, das treibt Kosten und Länge.
- Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)

4Prüfen

Prüffrage

Warum kostet derselbe Inhalt auf Deutsch meist mehr als auf Englisch?

Hilf mir

1Anders gefragt
Wenn ein Anbieter nach Token abrechnet und Deutsch je Wort mehr Token braucht — was folgt daraus für die Rechnung?
2Ein Beispiel
Eine Messung zählte für Deutsch 2,12 Token je Wort, für Englisch 1,39. Derselbe Inhalt wird auf Deutsch also länger gezählt.
3Die Lösung mit Beleg
Abgerechnet wird nicht je Wort, sondern je Token. Der Tokenizer zerlegt deutsche Wörter in mehr Stücke als englische, also wächst mit der Zahl der Token auch die Rechnung — wie stark, hängt vom Tokenizer ab.
- Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)
- Das Verhältnis Deutsch zu Englisch hängt vom Tokenizer ab; in derselben Messung lag es zwischen etwa 1,35 (Gemma 2: 1,62 zu 1,20) und 1,7 (Mixtral 8x22B: 2,25 zu 1,31) — Verhältnisse selbst aus den Tabellenwerten gerechnet.
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)

5Einordnen

Das passt so ins Modell: Das Modell nimmt Token und rechnet das nächste aus — Wissen im Sinn von Nachschlagen steckt darin nicht.

Das Modell des Kurses Ein Sprachmodell setzt Text nach Wahrscheinlichkeit fort — es weiß nichts, es rechnet, und es klingt dabei sicher.

Hilf mir

1Anders gefragt
Weiß das Modell etwas über deine Mail, oder rechnet es aus, welches Stück Text als Nächstes kommt?
2Ein Beispiel
Schreibst du auf Deutsch statt auf Englisch, weiß das Modell nicht mehr oder weniger — es rechnet nur mit mehr Token.
3Die Lösung mit Beleg
Das Modell nimmt Token und rechnet das nächste aus; bei deutschem Text sind es je Wort mehr Token.
- Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
  Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)

Begriffe dieser Lektion

Sprachmodell

Ein Sprachmodell ist ein Programm, das aus sehr viel Text gelernt hat und Text (oft auch Bilder) als Eingabe nimmt und neuen Text erzeugt.

Alle aktuellen Claude-Modelle nehmen Text und Bild als Eingabe, geben Text aus und können Werkzeuge benutzen.
Stand 15.10.2026AnbieterangabeAnthropic · Models overview
Das BSI beschreibt generative KI-Modelle als Teilgebiet der universell einsetzbaren KI-Modelle, die Texte, Bilder, Musik und Videos nach den Mustern ihrer Trainingsdaten erzeugen.
Stand 21.01.2025belegtBundesamt für Sicherheit in der Informationstechnik (BSI) · Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden

Token

Ein Token ist ein Textstück (oft ein Wortteil), in das ein Modell Text zerlegt; Kosten und Grenzen werden in Token gezählt.

Faustregel Deutsch: Deutsch braucht je Wort mehr Token als Englisch — gemessen 2,12 statt 1,39 Token je Wort (Llama 3.1 70B) und 1,62 statt 1,20 (Gemma 2 27B).
Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)
Das Verhältnis Deutsch zu Englisch hängt vom Tokenizer ab; in derselben Messung lag es zwischen etwa 1,35 (Gemma 2: 1,62 zu 1,20) und 1,7 (Mixtral 8x22B: 2,25 zu 1,31) — Verhältnisse selbst aus den Tabellenwerten gerechnet.
Stand 21.02.2025gemessenarXiv · Do Multilingual LLMs Think In English? (Schut, Gal, Farquhar)
Bei Anthropic entsprechen 1 Mio. Token mit dem aktuellen Tokenizer (eingeführt mit Claude Opus 4.7) etwa 555 000 Wörtern oder 2,5 Mio. Unicode-Zeichen; ältere Modelle fassten etwa 750 000 Wörter.
Stand 15.10.2026AnbieterangabeAnthropic · Models overview