Ich versuche, es ohne Fachjargon zu erklären. So funktionieren LLMs wirklich:
Die Grundidee:
LLMs haben keine Datenbank mit Antworten. Sie sind riesige Muster-Erkennungsmaschinen, die aus Milliarden von Textbeispielen gelernt haben.
Stellen Sie sich vor, Sie hätten tausende Kochrezepte gelesen. Sie könnten wahrscheinlich ein neues schreiben, das plausibel klingt. Sie kopieren kein bestimmtes Rezept – Sie haben Muster gelernt, wie Rezepte funktionieren.
Wie die Antwortgenerierung funktioniert:
- Sie stellen eine Frage – „Was ist das beste CRM für kleine Unternehmen?“
- Das Modell zerlegt die Frage in Tokens – kleine Textstücke
- Es sagt vorher, welcher Text als Nächstes kommen sollte – basierend auf Mustern aus dem Training
- Es generiert ein Token nach dem anderen – bis die Antwort fertig ist
Wo passt Ihr Content hinein?
Zwei Wege:
Weg 1: Trainingsdaten
Ihr Content könnte im Training des Modells enthalten gewesen sein. Dann hat das Modell Muster daraus gelernt. Es „erinnert“ sich aber nicht spezifisch an Ihren Content – es hat Muster aufgenommen, welche Quellen zu welchen Themen als maßgeblich gelten.
Weg 2: Live Retrieval (RAG)
Neuere Systeme können das Web in Echtzeit durchsuchen, relevante Inhalte finden und diese zur Antwortgenerierung nutzen. So funktioniert Perplexity und so funktioniert ChatGPT Browse.
Der entscheidende Punkt: LLMs lernen, welche Quellen zu welchen Themen erscheinen, und replizieren diese Muster.