Wie generieren große Sprachmodelle Antworten? | FAQ zur KI-Überwachung

Wie LLMs Antworten generieren

Große Sprachmodelle (LLMs) wie ChatGPT, Gemini und Perplexity rufen keine vorgefertigten Antworten aus einer Datenbank ab. Stattdessen generieren sie Antworten durch einen hochentwickelten Prozess der Mustererkennung und probabilistischen Vorhersage. Wenn Sie eine Eingabe machen, “sucht” das Modell nicht nach Informationen – es sagt vorher, welche Wörter oder Ideen als Nächstes kommen sollten, basierend auf allem, was es während des Trainings gelernt hat. Dieser grundlegende Unterschied ist entscheidend für das Verständnis moderner KI-Systeme. Der Prozess umfasst mehrere Transformationsstufen: vom Zerlegen des Textes in handhabbare Einheiten bis hin zur Verarbeitung durch Milliarden miteinander verbundener Parameter. Jede Stufe verfeinert das Verständnis des Modells und erzeugt immer anspruchsvollere Bedeutungsrepräsentationen.

Tokenisierung: Sprache in Einheiten zerlegen

Die Antwortgenerierung beginnt mit der Tokenisierung, einem Prozess, der Rohtext in diskrete Einheiten, sogenannte Tokens, umwandelt. Diese Tokens sind nicht immer vollständige Wörter; sie können Buchstaben, Silben, Teilworteinheiten oder ganze Wörter sein, je nach Tokenizer-Design. Wenn Sie zum Beispiel “Erkläre, wie Photosynthese funktioniert” eingeben, zerlegt das Modell diesen Satz in Tokens, die es mathematisch verarbeiten kann. Ein Satz könnte beispielsweise in Tokens wie [“Erkläre”, “wie”, “Photo”, “synthese”, “funktioniert”] aufgeteilt werden. Diese Tokenisierung ist essenziell, weil neuronale Netze mit numerischen Daten und nicht mit Rohtext arbeiten. Jedes Token wird einer eindeutigen Kennung zugeordnet, mit der das Modell arbeiten kann. Unterschiedliche LLMs verwenden unterschiedliche Tokenizer – einige nutzen Byte-Pair-Encoding, andere andere Algorithmen –, aber das Ziel bleibt gleich: menschliche Sprache in ein für mathematische Berechnungen geeignetes Format zu bringen.

Token-Embeddings und Positionskodierung

Nach der Tokenisierung wird jedes Token in ein Token-Embedding umgewandelt – einen numerischen Vektor, der semantische und lexikalische Informationen über dieses Token enthält. Diese Embeddings werden während des Trainings gelernt und existieren in einem hochdimensionalen Raum (oft 768 bis 12.288 Dimensionen). Tokens mit ähnlicher Bedeutung liegen in diesem Raum nahe beieinander. So wären die Embeddings für “König” und “Kaiser” beispielsweise nahe beieinander positioniert, weil sie semantische Eigenschaften teilen. Zu diesem Zeitpunkt enthält jedes Token-Embedding jedoch nur Informationen über das einzelne Token, nicht über seine Position in der Sequenz oder seine Beziehung zu anderen Tokens.

Um diese Einschränkung zu überwinden, verwendet das Modell eine Positionskodierung, die Informationen über die Position jedes Tokens in der Sequenz hinzufügt. Dies geschieht meist durch trigonometrische Funktionen (Sinus- und Kosinuswellen), die jedem Ort eine einzigartige Positionssignatur verleihen. Dieser Schritt ist entscheidend, weil das Modell nicht nur wissen muss, welche Wörter vorhanden sind, sondern auch, in welcher Reihenfolge sie erscheinen. Die Positionsinformation wird zum Token-Embedding addiert und erzeugt so eine angereicherte Repräsentation, die sowohl “was das Token ist” als auch “wo es sich in der Sequenz befindet” kodiert. Diese kombinierte Darstellung gelangt dann in die zentralen Verarbeitungsschichten des Transformers.

Die Transformer-Architektur: Der Motor der Antwortgenerierung

Die Transformer-Architektur bildet das Rückgrat moderner LLMs und wurde im bahnbrechenden Paper “Attention Is All You Need” von 2017 eingeführt. Anders als ältere sequentielle Modelle wie RNNs und LSTMs, die Informationen Token für Token verarbeiten, können Transformer alle Tokens einer Sequenz gleichzeitig analysieren. Diese parallele Verarbeitung beschleunigt sowohl das Training als auch die Inferenz massiv. Der Transformer besteht aus mehreren gestapelten Schichten, die jeweils zwei Hauptkomponenten enthalten: Multi-Head Attention und Feed-Forward Neural Networks. Diese Schichten arbeiten zusammen, um das Verständnis des Modells für den Eingabetext schrittweise zu verfeinern.

Multi-Head Attention: Der Kernmechanismus

Multi-Head Attention ist vermutlich die wichtigste Komponente der Transformer-Architektur. Sie ermöglicht es dem Modell, gleichzeitig verschiedene Aspekte des Eingabetextes zu fokussieren. Jeder “Head” arbeitet unabhängig mit eigenen Gewichtungsmatrizen und erlaubt es dem Modell, verschiedene linguistische Beziehungen zu erfassen. Zum Beispiel könnte ein Attention-Head auf grammatikalische Beziehungen spezialisiert sein, ein anderer auf semantische Bedeutungen und ein dritter auf syntaktische Muster.

Der Attention-Mechanismus arbeitet mit drei Schlüsselvektoren für jedes Token: Query (Q), Key (K) und Value (V). Der Query-Vektor stellt das aktuelle Token dar, das fragt: “Worauf sollte ich achten?” Die Key-Vektoren repräsentieren alle Tokens der Sequenz und antworten: “Das bin ich.” Das Modell berechnet Attention-Scores durch das Skalarprodukt zwischen Query- und Key-Vektoren – das misst, wie relevant jedes Token für die aktuelle Position ist. Diese Scores werden mit Softmax normalisiert, sodass die Attention-Gewichte zusammen eins ergeben. Schließlich berechnet das Modell eine gewichtete Summe der Value-Vektoren mit diesen Attention-Gewichten und erzeugt eine kontextangereicherte Repräsentation für jedes Token.

Betrachten Sie den Satz: “Die Geschäftsführerin sagte dem Manager, dass sie den Vertrag genehmigen würde.” Der Attention-Mechanismus muss erkennen, dass sich “sie” auf die Geschäftsführerin und nicht auf den Manager bezieht. Der Query-Vektor für “sie” wird hohe Attention-Gewichte für “Geschäftsführerin” haben, weil das Modell gelernt hat, dass Pronomen meist auf Subjekte verweisen. Diese Fähigkeit, Mehrdeutigkeiten aufzulösen und langfristige Abhängigkeiten zu verstehen, macht Attention-Mechanismen so leistungsfähig. Mehrere Attention-Heads, die parallel arbeiten, ermöglichen es dem Modell, diese Informationen zu erfassen und gleichzeitig auf andere sprachliche Muster zu achten.

Feed-Forward-Netzwerke und Schichtverfeinerung

Nachdem der Attention-Mechanismus jedes Token verarbeitet hat, wird die Ausgabe durch Feed-Forward Neural Networks (FFNs) geleitet. Das sind relativ einfache mehrschichtige Perzeptrons, die unabhängig auf jedes Token angewendet werden. Während Attention Informationen über alle Tokens der Sequenz verteilt, verfeinert der FFN-Schritt die kontextuellen Muster, die durch Attention bereits integriert wurden. Die FFN-Schichten extrahieren höherstufige Merkmale und Muster aus der Attention-Ausgabe und bereichern die Repräsentation jedes Tokens weiter.

Sowohl Attention- als auch FFN-Komponenten verwenden Residualverbindungen und Layer-Normalisierung. Residualverbindungen ermöglichen einen direkten Informationsfluss von einer zur nächsten Schicht und verhindern Informationsverlust in tiefen Netzwerken. Die Layer-Normalisierung stabilisiert das Training, indem die Ausgaben jeder Schicht normalisiert werden. Diese Techniken stellen sicher, dass die Repräsentationen beim Durchlauf durch viele Schichten (moderne LLMs haben 12 bis über 96 Schichten) kohärent und bedeutungsvoll bleiben. Jede Schicht bereichert die Token-Embeddings mit immer abstrakteren, höherstufigen sprachlichen Informationen.

Iterative Verarbeitung durch gestapelte Schichten

Der Transformer verarbeitet die Eingabe durch mehrere gestapelte Schichten, wobei jede Schicht die Token-Repräsentationen verfeinert. In der ersten Schicht gewinnen Tokens Bewusstsein für ihren unmittelbaren Kontext und Beziehungen zu benachbarten Tokens. Mit dem Informationsfluss durch weitere Schichten entwickeln Tokens ein immer komplexeres Verständnis für langfristige Abhängigkeiten, semantische Beziehungen und abstrakte Konzepte. Die Repräsentation eines Tokens in Schicht 50 eines 96-Schichten-Modells enthält weitaus mehr Kontextinformationen als in Schicht 1.

Diese iterative Verfeinerung ist entscheidend für das Verständnis komplexer sprachlicher Phänomene. Frühe Schichten erfassen vielleicht grundlegende syntaktische Muster, mittlere Schichten identifizieren semantische Beziehungen, und späte Schichten verstehen abstrakte Konzepte und Argumentationsmuster. Das Modell lernt diese Hierarchien nicht explizit – sie entstehen natürlich während des Trainings. Wenn ein Token die letzte Schicht erreicht, kodiert seine Repräsentation nicht nur seine wörtliche Bedeutung, sondern auch seine Rolle in der gesamten Eingabesequenz und seine Beziehung zur gestellten Aufgabe.

Von Repräsentationen zu Wahrscheinlichkeitsverteilungen

Nach der Verarbeitung durch alle Transformer-Schichten hat jedes Token eine endgültige Repräsentation, die reichhaltige Kontextinformationen enthält. Das eigentliche Ziel des Modells ist es jedoch, das nächste Token in der Sequenz zu generieren. Dafür wird die finale Token-Repräsentation (meist das letzte Token der Eingabesequenz) durch eine lineare Ausgabeschicht und anschließend eine Softmax-Funktion projiziert.

Die lineare Ausgabeschicht multipliziert die finale Token-Repräsentation mit einer Gewichtungsmatrix und erzeugt Logits – unnormierte Scores für jedes Token im Vokabular. Diese Logits zeigen die rohe Präferenz des Modells für jedes mögliche nächste Token. Die Softmax-Funktion wandelt die Logits in eine Wahrscheinlichkeitsverteilung um, in der alle Wahrscheinlichkeiten zusammen eins ergeben. Diese Wahrscheinlichkeitsverteilung stellt die Einschätzung des Modells dar, welches Token als Nächstes folgen sollte. Lautet die Eingabe beispielsweise “Der Himmel ist”, könnte das Modell “blau” eine hohe Wahrscheinlichkeit zuweisen und anderen Farben oder abwegigen Wörtern eine geringere.

Token-Generierung und Dekodierungsstrategien

Sobald das Modell eine Wahrscheinlichkeitsverteilung über das Vokabular erzeugt hat, muss es entscheiden, welches Token generiert wird. Der einfachste Ansatz ist das Greedy Decoding, bei dem immer das Token mit der höchsten Wahrscheinlichkeit gewählt wird. Das kann jedoch zu repetitiven oder wenig optimalen Antworten führen. Anspruchsvollere Methoden sind Temperatur-Sampling – das die Wahrscheinlichkeitsverteilung mehr oder weniger gleichmäßig macht – und Top-k-Sampling, das nur die k wahrscheinlichsten Tokens berücksichtigt. Beam Search hält mehrere Kandidatensequenzen offen und wählt die insgesamt beste basierend auf der kumulierten Wahrscheinlichkeit.

Das ausgewählte Token wird dann an die Eingabesequenz angehängt und der gesamte Prozess wiederholt sich. Das Modell verarbeitet die ursprüngliche Eingabe plus das neu generierte Token und erzeugt eine Wahrscheinlichkeitsverteilung für das nächste Token. Dieser iterative Prozess läuft weiter, bis das Modell ein spezielles End-of-Sequence-Token generiert oder eine maximale Längengrenze erreicht ist. Deshalb werden LLM-Antworten Token für Token generiert, wobei jedes neue Token von allen vorherigen in der Sequenz abhängt.

Lernen aus riesigen Trainingsdaten

Die beeindruckenden Fähigkeiten von LLMs resultieren aus dem Training mit Milliarden von Tokens aus unterschiedlichsten Quellen: Bücher, Artikel, Coderepositorien, Gespräche und Webseiten. Während des Trainings lernt das Modell, das nächste Token vorherzusagen, gegeben alle vorherigen. Dieses einfache Ziel, milliardenfach auf riesigen Datensätzen wiederholt, lässt das Modell Muster über Sprache, Fakten, Argumentation und sogar Programmierung aufnehmen. Das Modell merkt sich keine konkreten Sätze, sondern lernt statistische Muster darüber, wie Sprache funktioniert.

Moderne LLMs enthalten Milliarden bis Hunderte Milliarden Parameter – anpassbare Gewichte, die gelernte Muster speichern. Diese Parameter werden durch einen Prozess namens Backpropagation verfeinert, bei dem die Vorhersagen des Modells mit den tatsächlichen nächsten Tokens verglichen werden und Fehler zur Anpassung der Parameter dienen. Der Umfang dieses Trainings ist enorm: Das Training eines großen Modells kann Wochen oder Monate auf spezieller Hardware dauern und enorme Mengen Strom verbrauchen. Ist das Modell jedoch erst trainiert, kann es Antworten in Millisekunden generieren.

Feintuning und Alignment für bessere Antworten

Das reine Training eines Sprachmodells erzeugt Modelle, die zwar flüssig schreiben, aber auch ungenaue, voreingenommene oder schädliche Inhalte produzieren können. Um dem entgegenzuwirken, wenden Entwickler Feintuning- und Alignment-Techniken an. Feintuning bedeutet, das Modell mit kuratierten Datensätzen hochwertiger Beispiele weiterzutrainieren. Alignment umfasst, dass menschliche Experten Modellausgaben bewerten und dieses Feedback nutzen, um das Modell mit Techniken wie Reinforcement Learning from Human Feedback (RLHF) weiter zu verfeinern.

Diese Nachbearbeitungsprozesse sorgen dafür, dass das Modell hilfreicher, harmloser und ehrlicher wird. Sie verändern nicht den grundlegenden Antwortgenerierungsmechanismus, sondern lenken das Modell in Richtung besserer Antworten. Deshalb liefern verschiedene LLMs (ChatGPT, Claude, Gemini) auf dieselbe Eingabe unterschiedliche Ergebnisse – sie wurden unterschiedlich feinabgestimmt und ausgerichtet. Der menschliche Einfluss ist dabei unerlässlich; ohne Alignment wären LLMs weniger nützlich und potenziell schädlich.

Warum LLM-Antworten natürlich und kontextbezogen wirken

LLMs generieren erstaunlich menschlich wirkende Antworten, weil sie aus Milliarden Beispielen menschlicher Kommunikation gelernt haben. Das Modell hat Muster aufgenommen, wie Menschen Argumente strukturieren, Emotionen ausdrücken, Humor einsetzen und ihren Ton an den Kontext anpassen. Wenn Sie ein LLM um Ermutigung bitten, entscheidet es sich nicht bewusst für Empathie – es hat einfach gelernt, dass bestimmten Anfragen in den Trainingsdaten bestimmte Antwortmuster folgen.

Dieses erworbene Verständnis für Gesprächsdynamik, kombiniert mit der Fähigkeit des Attention-Mechanismus, den Kontext aufrechtzuerhalten, erzeugt Antworten, die kohärent und kontextuell angemessen wirken. Das Modell kann einen konsistenten Charakter wahren, sich an frühere Teile eines Gesprächs erinnern und seinen Ton an die vermeintlichen Bedürfnisse des Nutzers anpassen. Diese Fähigkeiten entstehen aus den während des Trainings gelernten statistischen Mustern, nicht durch explizite Programmierung. Deshalb können LLMs nuancierte Gespräche führen, subtile Implikationen verstehen und kreative Inhalte generieren.

Grenzen und die Rolle des Kontextfensters

Trotz ihrer Raffinesse haben LLMs wichtige Einschränkungen. Sie können jeweils nur eine begrenzte Menge Kontext verarbeiten, definiert durch das Kontextfenster (typischerweise 2.000 bis 200.000 Tokens, je nach Modell). Informationen außerhalb dieses Fensters gehen verloren. Außerdem haben LLMs keinen Echtzeitzugang zu aktuellen Informationen; sie arbeiten nur mit Wissen aus ihren Trainingsdaten. Sie können “halluzinieren” – also mit Überzeugung falsche Informationen generieren, die plausibel klingen. Sie tun sich auch schwer mit Aufgaben, die präzise mathematische Berechnungen oder logisches Schließen über reines Mustererkennen hinaus erfordern.

Diese Grenzen zu verstehen ist entscheidend, um LLMs effektiv zu nutzen. Sie sind hervorragend bei Aufgaben rund um Sprachverständnis, -generierung und -erkennung, sollten aber für Aufgaben, die Echtzeitinformationen, präzise Berechnungen oder garantierte Genauigkeit erfordern, mit anderen Werkzeugen kombiniert werden. Während sich die LLM-Technologie weiterentwickelt, entwickeln Forscher Methoden wie Retrieval-Augmented Generation (RAG), die es Modellen ermöglichen, auf externe Informationsquellen zuzugreifen, und Chain-of-Thought-Prompting, das schrittweises Denken anregt.