Wie KI wirklich funktioniert — in 20 Minuten verstanden.

Wer mit KI-Anbietern, Beratern oder dem eigenen IT-Team redet, kommt schnell an einen Punkt, an dem die Diskussion in eine andere Sprache wechselt. Tokens, Embeddings, Transformer, Attention — Begriffe, die in jedem zweiten Satz fallen und die kaum jemand erklären will. Das ist ungünstig, weil es Entscheider zwingt, entweder nachzuschauen wie ein Schüler oder so zu tun, als hätte man verstanden. Beides verschiebt das Machtgleichgewicht im Gespräch. Dabei ist die Grundfunktionsweise moderner Sprachmodelle in zwanzig Minuten zu verstehen — ohne Mathematik, ohne Code, aber präzise genug, um die wichtigsten Konsequenzen abzuleiten. Dieser Artikel führt Schritt für Schritt durch die Arbeitsweise eines LLMs, vom Eingabetext über die interne Verarbeitung bis zur erzeugten Antwort. Wer ihn liest, versteht hinterher, warum KI manchmal halluziniert, warum sie Tokens abrechnet, warum sie auf bestimmte Prompts besser reagiert und wo ihre Grenzen liegen.

Der Ausgangspunkt: Sprache wird in Stücke zerlegt.

Wenn Sie einem Sprachmodell „Wie geht es Ihnen?“ schreiben, sieht es nicht den Satz wie wir, sondern eine Folge von Tokens. Ein Token ist nicht zwingend ein Wort, manchmal nur ein Wortteil. Bei GPT-4 etwa wird „Außergewöhnlich“ in drei oder vier Tokens zerlegt, „Hallo“ in eines, ein Komma in eines.

Diese Zerlegung ist keine Spielerei. Sie ist die Grundlage dafür, dass Modelle mit unbekannten Wörtern umgehen können. Ein Modell, das Wörter komplett behandeln müsste, würde an jedem unbekannten Begriff scheitern. Ein Modell, das in Tokens denkt, kann auch unbekannte Wörter sinnvoll verarbeiten, weil es die einzelnen Bausteine kennt.

Praktische Konsequenz: Wenn ein Anbieter „pro 1.000 Tokens“ abrechnet, sollte man wissen, dass 1.000 Tokens etwa 750 Wörtern entsprechen — bei deutschem Text eher weniger, weil deutsche Komposita oft in mehrere Tokens zerfallen. „Vorstandsvorsitzender“ sind vier Tokens, „CEO“ ist eins. Englischer Text ist deshalb token-effizienter als deutscher — ein Punkt, der bei Skalierung deutlich ins Geld geht.

Vom Token zum Embedding: Bedeutung in Zahlen.

Tokens sind erstmal nur Zeichenketten — das Modell weiß nicht, was sie bedeuten. Im nächsten Schritt wird jedes Token in einen Embedding-Vektor übersetzt: eine lange Reihe aus Zahlen, die die „Bedeutung“ des Tokens mathematisch ausdrückt.

Wie viele Zahlen? Bei modernen Modellen typischerweise 4.096 oder mehr pro Token. Das klingt absurd, ergibt aber Sinn: Bedeutung ist mehrdimensional. Das Wort „Bank“ hat eine Geld-Dimension, eine Möbel-Dimension, eine Sport-Dimension. Erst durch viele Dimensionen lässt sich diese Vielschichtigkeit abbilden.

Embeddings sind nicht willkürlich. Sie wurden im Training so gelernt, dass ähnliche Wörter ähnliche Vektoren haben. „Hund“ und „Katze“ liegen näher beieinander als „Hund“ und „Maschine“. „König“ minus „Mann“ plus „Frau“ ergibt einen Vektor, der sehr nahe an „Königin“ liegt. Diese Vektorarithmetik klingt esoterisch, ist aber empirisch belegt — und sie ist der Grund, warum moderne Modelle Bedeutungen so flexibel handhaben können.

Praktische Konsequenz: Wenn ein Unternehmen Embeddings seiner Dokumente erstellt, hat es einen mathematischen Index, in dem ähnliche Inhalte schnell gefunden werden können. Das ist die Grundlage jeder modernen Suchfunktion und jedes RAG-Systems.

Der Transformer: das Herz moderner Sprachmodelle.

Mitte 2017 erschien ein Forschungspapier mit dem Titel „Attention Is All You Need“, das die Transformer-Architektur einführte. Diese Architektur ist die Grundlage praktisch aller heutigen Sprachmodelle — GPT, Claude, Gemini, Llama. Sie zu verstehen, hilft, deren Verhalten zu verstehen.

Vereinfacht: Ein Transformer ist ein neuronales Netz mit vielen Schichten, das eine besondere Fähigkeit hat — den „Attention“-Mechanismus. Dieser erlaubt dem Modell, beim Verarbeiten eines Tokens auf alle anderen Tokens im Kontext zu schauen und zu gewichten, welche besonders relevant sind.

Beispiel: Im Satz „Die Bank am Ufer war voller Touristen“ weiß das Modell durch Attention, dass „Ufer“ und „Touristen“ wichtige Hinweise sind, um „Bank“ als Möbel zu interpretieren, nicht als Geldinstitut. Diese Fähigkeit, kontextabhängig zu interpretieren, ist die zentrale Stärke moderner Modelle.

Ein Transformer hat typischerweise zwischen 12 und 96 solcher Schichten. Jede Schicht verfeinert die Repräsentation der Tokens. Am Ende kommt eine angereicherte interne Repräsentation des gesamten Texts heraus, aus der das Modell dann das nächste Token vorhersagt.

Wie eine Antwort entsteht: Token für Token.

Hier kommt eine zentrale, oft missverstandene Eigenschaft: Sprachmodelle erzeugen Antworten nicht als Ganzes, sondern Token für Token. Sie sagen vorher, welches Token das wahrscheinlichste nächste ist — und hängen es an. Dann berechnen sie das übernächste, dann das überübernächste.

Konkret: Wenn das Modell „Die Hauptstadt von Deutschland ist“ gelesen hat, berechnet es Wahrscheinlichkeiten für das nächste Token. „Berlin“ hat eine sehr hohe Wahrscheinlichkeit, „München“ eine niedrigere, „Aubergine“ eine winzige. Es wählt — meist „Berlin“ — und schreibt es an. Dann beginnt es von vorn mit „Die Hauptstadt von Deutschland ist Berlin“ und berechnet das Folgewort.

Diese Eigenschaft hat Konsequenzen, die das Verhalten erklären. Erstens: Modelle „wissen“ nicht im Voraus, was sie schreiben werden. Sie generieren in der Reihenfolge des Schreibens. Zweitens: Frühe Entscheidungen beeinflussen alle späteren. Wenn das Modell früh in eine falsche Richtung läuft, wird die ganze Antwort schief. Drittens: Modelle können sich nicht zurückkorrigieren — sie können nur weitermachen.

Aus dem dritten Punkt folgt ein praktischer Tipp: „Denke Schritt für Schritt“ als Prompt-Anweisung. Sie zwingt das Modell, in Zwischenschritten zu argumentieren — und damit weniger anfällig für früh falsch eingeschlagene Wege zu sein.

Warum KI halluziniert.

Mit dem bisherigen Verständnis lässt sich die wichtigste Schwäche moderner Sprachmodelle erklären: das Phänomen der Halluzination. Halluzinationen entstehen nicht durch einen „Fehler“, sondern als logische Folge der Funktionsweise.

Ein Sprachmodell tut immer dasselbe: Es sagt das wahrscheinlichste nächste Token vorher. Es hat aber keinen Begriff von „Wahrheit“ oder „Wissen“. Es weiß nicht, dass es etwas nicht weiß. Wenn es nach einer Person gefragt wird, die nicht in seinem Training vorkam, generiert es trotzdem eine plausibel klingende Antwort — weil das die wahrscheinlichste Fortsetzung ist.

Diese Eigenschaft lässt sich abmildern, aber nicht vollständig beseitigen. Drei Mechanismen helfen: RAG (Modell greift auf belegbare Quellen zu), Guardrails (Filter, die auffällige Aussagen markieren oder blockieren), Confidence-Scores (Modell sagt, wie sicher es ist). Aber selbst mit allen drei bleibt ein Restrisiko — weil die Grundarchitektur „immer eine Antwort liefern“ begünstigt.

Wer mit KI im Unternehmen arbeitet, sollte diese Eigenschaft ernst nehmen. Sie ist kein Bug, der durch das nächste Modell verschwindet, sondern ein Strukturmerkmal. Der Umgang damit — Stichprobenkontrolle, kritisches Lesen, Quellenangaben — ist keine Übergangslösung, sondern Daueraufgabe.

Training und Fine-Tuning: woher das Wissen kommt.

Wo kommt das Wissen eines Sprachmodells her? Aus zwei Quellen: dem Vortraining auf riesigen Textmengen und der nachfolgenden Anpassung durch menschliches Feedback.

Das Vortraining nutzt heute Textmengen in der Größenordnung von Billionen Tokens — Internet-Texte, Bücher, wissenschaftliche Artikel, Code. Auf diesen Daten lernt das Modell, statistische Muster der Sprache zu erfassen — Grammatik, Faktenwissen, Argumentationsmuster, kulturelle Konventionen. Dieser Schritt kostet zehn bis hundert Millionen Dollar an Rechenzeit und dauert Wochen bis Monate.

Das Vortraining produziert ein Modell, das alles Mögliche generieren kann — auch Unsinn. Im zweiten Schritt wird es durch menschliches Feedback angepasst: Trainer bewerten Ausgaben, das Modell lernt, was als gute Antwort gilt. Dieser Schritt — Reinforcement Learning from Human Feedback — macht aus dem rohen Sprachmodell ein nützliches Werkzeug.

Für Unternehmen ist dieser Prozess relevant, weil Fine-Tuning ein verkleinertes Beispiel desselben Vorgehens ist: Ein bereits trainiertes Modell wird mit eigenen Daten und Bewertungen weiter angepasst, um in einer spezifischen Domäne besser zu funktionieren. Kosten: zwischen wenigen tausend und mehreren hunderttausend Euro, je nach Datenmenge und Anpassungstiefe.

Multimodalität: wenn Text und Bild zusammenkommen.

Moderne Modelle verarbeiten nicht mehr nur Text, sondern auch Bilder, Audio und teilweise Video. GPT-4o, Claude und Gemini sind multimodal — sie können ein Foto „sehen“, eine Sprachnachricht „hören“ und beides in Verbindung mit Text interpretieren.

Technisch funktioniert das ähnlich wie bei Text: Bilder werden in Embedding-Vektoren übersetzt, in denen ähnliche Bildinhalte ähnliche Vektoren haben. Diese Vektoren werden dann im gleichen Modell verarbeitet wie Text-Vektoren. Der Transformer kann zwischen Modalitäten „aufmerksam“ sein — das Bild beeinflusst, was als nächstes Wort der Antwort generiert wird.

Praktische Anwendungen im Mittelstand: Automatische Erkennung von Schäden auf Fotos im Schadenmanagement. Klassifikation von Produktbildern. Übersetzung von gescannten Dokumenten. Auswertung von technischen Zeichnungen. Voicebot, der Sprache versteht und beantwortet.

Wichtig: Die Bildverarbeitung ist nicht in allen Domänen gleich gut. Allgemeine Fotos funktionieren oft sehr gut, spezialisierte technische Bilder (etwa Röntgenaufnahmen oder mikroskopische Aufnahmen) weniger. Wer Multimodalität einsetzen will, sollte mit der eigenen Bildkategorie testen, nicht mit generischen Beispielen aus Anbieter-Demos.

Was Sie aus diesem Wissen ableiten können.

Aus dem Verständnis der Funktionsweise lassen sich vier praxistaugliche Schlüsse ziehen, die in Entscheidungssituationen helfen.

Erstens: Prompts sind nicht egal. Die Wahl der Eingabe steuert massiv die Ausgabe — weil das Modell nur auf das reagiert, was es sieht. Klare, strukturierte, mit Beispielen versehene Prompts produzieren signifikant bessere Ergebnisse als pauschale Fragen. Investition in Prompt-Engineering ist günstig und lohnt sich.

Zweitens: Halluzinationen sind kein Übergangsproblem. Die Architektur produziert sie strukturell. Eine Lösung, die mit KI arbeitet und keine Mechanismen für den Umgang mit Halluzinationen hat, ist unvollständig.

Drittens: Token-Effizienz ist Kostenfaktor. Wer 50 Mitarbeiter mit einem Office-Copilot ausstattet und nicht versteht, dass deutsche Texte mehr Tokens brauchen als englische, kalkuliert die Kosten zu niedrig. In Summe können das 30 bis 50 Prozent Mehrkosten ausmachen.

Viertens: Multimodalität öffnet neue Anwendungsfälle, die in der Strategie häufig fehlen. Wer bisher nur an Text-KI gedacht hat, sollte Bild- und Sprachverarbeitung neu prüfen — viele mittelständische Anwendungsfälle (Schadenmanagement, Qualitätssicherung, Voicebot) werden erst dadurch praktikabel.

Sie wollen die Funktionsweise moderner KI gut genug verstehen, um auf Augenhöhe mitzuentscheiden? Unverbindlich anfragen — wir gehen gemeinsam die Grundlagen durch — und übersetzen sie in konkrete Konsequenzen für Ihre Anwendungsfälle.