Die meisten Menschen haben „LLM“ oft genug gehört, um nicht mehr zu fragen, was es bedeutet. Das ist ein Problem, denn das mentale Modell, mit dem die meisten Teams arbeiten, ist in einer Weise falsch, die echtes Geld kostet. Sie behandeln LLMs wie Suchmaschinen mit besserer Grammatik, wie Datenbanken, die alles wissen, oder wie Denkmodelle, die nur den richtigen Prompt brauchen. Nichts davon trifft zu, und jede dieser Annahmen führt zu einer anderen Kategorie von Ausfällen im Produktivbetrieb.
Hier die ehrliche Version: Ein Large Language Model ist eine probabilistische Textmaschine. Es sagt das nächste Token in einer Sequenz anhand von Mustern voraus, die es aus riesigen Mengen an Trainingsdaten gelernt hat. Es schlägt nichts nach. Es denkt nicht. Es erzeugt die wahrscheinlichste klingende Fortsetzung dessen, was Sie ihm gegeben haben. Das Verständnis dieses einen Mechanismus erklärt den Großteil dessen, was mit LLMs gut funktioniert – und fast alles, was schiefläuft.
Wo die kostspieligen Annahmen liegen
- LLMs sagen wahrscheinlichen Text voraus, keine korrekten Fakten – Sprachgewandtheit und Wahrheitsgehalt hängen nicht zusammen.
- Transformer ermöglichen weitreichenden Kontext, nicht Verständnis.
- Halluzinationen sind ein strukturelles Merkmal der Next-Token-Prediction, kein behebbarer Fehler.
- RAG und Fine-Tuning existieren, weil Basis-LLMs nicht zuverlässig auf private oder aktuelle Daten zugreifen können.
- Größere Modelle sind im Durchschnitt leistungsfähiger, aber nicht ehrlicher.
Was ist ein Large Language Model?
Ein LLM ist ein Typ von KI-Modell, der auf Deep Learning basiert – genauer gesagt ein tiefes neuronales Netzwerk, das mit riesigen Mengen an Textdaten trainiert wurde, um Aufgaben rund um menschliche Sprache auszuführen. Das Verstehen und Generieren menschlicher Sprache ist das, worauf diese Architektur optimiert ist – in einem Umfang, der einen universellen Einsatz ermöglicht.
Large Language Models sind KI-Systeme, aber eine spezielle Art davon. Sie sind weder regelbasierte Systeme noch traditionelle Klassifikatoren. Das Stanford-IT-Team beschreibt sie als Foundation Models – große, universell einsetzbare Modelle, die nachgelagert für viele Aufgaben angepasst werden können. Databricks definiert sie direkter: Ein LLM ist ein Typ von KI-Modell, das mittels Deep Learning auf großen Textkorpora trainiert wird, um eine breite Palette an Sprachaufgaben ohne aufgabenspezifisches Training für jede einzelne auszuführen.
Das Wort „large“ leistet in dieser Bezeichnung echte Arbeit. Diese Modelle reichen von Hunderten Millionen bis zu Hunderten Milliarden Parametern. Der Maßstab ermöglicht es, dass dasselbe zugrunde liegende Modell ein juristisches Dokument zusammenfassen, Python-Code schreiben, eine Supportfrage beantworten und Spanisch übersetzen kann – ganz ohne zwischen den Aufgaben neu trainiert zu werden.
Was sie nicht können – und genau das bringt alle durcheinander: Sie können keine Fakten nachschlagen, Behauptungen nicht mit der Realität abgleichen und nicht in annähernd derselben Weise denken, wie Menschen dieses Wort verwenden. Sie lernen, wie Large Language Models aussehen. Sie lernen nicht, was wahr ist. Diese Unterscheidung ist für jede Entscheidung darüber relevant, wo und wie Sie sie einsetzen.
Wie Large Language Models funktionieren: Next-Token-Prediction und Wahrscheinlichkeit
LLMs werden mit großen Datenmengen trainiert – Texten aus Büchern, Code-Repositories, Websites, Foren und Fachartikeln – und das Trainingsziel ist einfach zu beschreiben, aber schwer vollständig zu erfassen: das nächste Token vorhersagen. Was folgt auf eine Sequenz von Tokens? Das Modell lernt die statistischen Beziehungen zwischen Tokens über Milliarden von Trainingsbeispielen hinweg, bis es für nahezu jede Eingabe plausible Fortsetzungen erzeugen kann.
Das ist alles. Das ist der Mechanismus. Alles andere ist Architektur und Skalierung, die auf diesem einen Ziel aufbauen.
Google Developers beschreibt Sprachmodellierung als die Aufgabe, das nächste Wort oder eine Folge von Wörtern vorherzusagen. ApX Machine Learning formuliert es noch direkter: LLMs werden darauf trainiert, das nächste Wort in einem Satz vorherzusagen, was sie zu hochentwickelten Autovervollständigungssystemen macht. Der „large“-Teil bedeutet, dass das Modell genug Text verarbeitet hat, damit diese Vorhersagen bemerkenswert kohärent, kontextbewusst und flüssig wirken. Es fühlt sich nicht wie Autovervollständigung an, wenn Sie GPT-4o verwenden. Doch der zugrunde liegende Mechanismus ist weiterhin genau das.
Neuronale Sprachmodelle verarbeiten Sprache als Token-Sequenzen. Zur Inferenzzeit berechnet das Modell für das nächste Token eine Wahrscheinlichkeitsverteilung über seinen gesamten Wortschatz, zieht daraus ein Sample, hängt das Ergebnis an und wiederholt den Vorgang. Die Ausgabe, die Sie sehen, ist das Produkt mehrerer Tausend solcher miteinander verketteten Sampling-Entscheidungen.
Deshalb sind KI-Ausgaben probabilistisch statt deterministisch. Führen Sie denselben Prompt zweimal aus, erhalten Sie möglicherweise leicht unterschiedliche Antworten. Das Modell schlägt keine Antwort aus einer Datenbank nach. Es konstruiert sie Token für Token auf Basis von Wahrscheinlichkeiten.
Was ein Token tatsächlich ist
Ein Token ist die Einheit, die das Modell liest und schreibt. In der Verarbeitung natürlicher Sprache sind Tokens nicht immer vollständige Wörter. Sie sind Fragmente: „unbelievable“ könnte zu drei Tokens werden: „un“, „believ“, „able“. Kurze, häufige Wörter bestehen in der Regel aus einem einzelnen Token. Satzzeichen und Leerzeichen erhalten oft eigene Tokens. Die meisten LLMs arbeiten mit einem Wortschatz von etwa 50.000 bis 100.000 möglichen Tokens.
Das ist wichtig, weil das Modell niemals „Sätze“ oder „Ideen“ sieht. Es sieht eine Sequenz von Ganzzahlen, von denen jede ein Token repräsentiert, die in einen Typ neuronalen Netzwerks eingespeist wird, der den vollständigen Kontext verarbeitet, um vorherzusagen, welche Ganzzahl wahrscheinlich als Nächstes folgt. Die Ausgabe ist ebenfalls eine Token-Sequenz, die wieder in lesbaren Text dekodiert wird.
Token-Anzahlen bestimmen außerdem Kosten und Kontextgrenzen. Wenn Plattformen Ihnen mitteilen, dass ein Modell ein Kontextfenster von 128.000 Tokens unterstützt, bedeutet das, dass es ungefähr 90.000 bis 100.000 Wörter Kontext gleichzeitig halten kann, bevor es beginnt, frühere Eingaben zu vergessen.
Warum Ausgaben selbst dann selbstsicher wirken, wenn sie falsch sind
Das ist der Punkt, den ich im Support am häufigsten erkläre – und der die größten praktischen Folgen hat. Das Modell wählt Token-Fortsetzungen mit hoher Wahrscheinlichkeit aus. Es bewertet nicht, ob diese Tokens faktisch korrekt sind. Das Trainingssignal lautete „sieht diese Fortsetzung wie natürliche Sprache aus?“ und nicht „ist das wahr?“.
LLM-Ausgaben klingen daher flüssig und selbstsicher, weil flüssiger und selbstsicher klingender Text in den Trainingsdaten statistisch häufig vorkommt. Bei der Generierung natürlicher Sprache zu einem bestimmten Thema kann das Modell eine völlig erfundene Antwort im selben Ton wie eine korrekte erzeugen. Gleiche Satzstruktur, gleiche Relativierungsmuster, gleiche autoritative Sicherheit. Modelle können plausibel klingenden Text generieren, der vollständig falsch ist.
Das ist eine Halluzination, und sie ist kein Fehler. So sieht Next-Token-Prediction aus, wenn die wahrscheinlichste Fortsetzung zufällig falsch ist.
🤔 Denken Sie darüber nach:
Derselbe Mechanismus, durch den LLM-Ausgaben natürlich und lesbar wirken, macht sie bei Faktensuchen unzuverlässig. Sprachgewandtheit entsteht durch die Vorhersage statistisch wahrscheinlicher Sprache. Genauigkeit setzt voraus, zu wissen, was wahr ist. Das Modell optimiert auf Ersteres. Es besitzt keine Zielfunktion, die mit Letzterem verknüpft ist.
Die Transformer-Architektur hinter jedem modernen LLM
Jedes große LLM, das heute im Produktivbetrieb eingesetzt wird – GPT-4o, Claude, Gemini, Mistral, Llama – basiert auf einer Transformer-Architektur. Zu verstehen, was das praktisch bedeutet und nicht nur den Namen zu kennen, verändert Ihre Sicht darauf, was diese Modelle können und was nicht.
Transformer-Modelle nutzen eine mathematische Technik namens Self-Attention, die dem Modell ermöglicht, bei der Vorhersage des nächsten Tokens die Relevanz jedes anderen Tokens in der Eingabe zu gewichten. Databricks beschreibt es so: Die Transformer-Architektur ermöglicht LLMs, weitreichenden Kontext und komplexe Sprachmuster im großen Maßstab zu verarbeiten, indem sie lernt, welche Teile einer Eingabesequenz unabhängig von ihrem Abstand zueinander relevant sind. Das ist die praktische Bedeutung der Transformer-Architektur: Das Modell liest nicht von links nach rechts in einem festen Fenster. Es betrachtet den gesamten Kontext gleichzeitig und richtet mehr Aufmerksamkeit auf die Tokens, die für jede Vorhersage wichtig sind.
Vor Transformern hatten neuronale Sprachmodelle Schwierigkeiten mit weitreichenden Abhängigkeiten. Wenn ein Satz mit „das Unternehmen, das im vergangenen Jahr die drei Start-ups übernommen hat ...“ begann und das Pronomen „es“ zwanzig Wörter später erschien, verloren frühere Architekturen häufig den Bezug dazu, worauf sich „es“ bezog. Der Self-Attention-Mechanismus in Transformer-Modellen löst dies konstruktionsbedingt: Jedes Token kann unabhängig von seiner Position direkt auf jedes andere Token achten.
So aufgebaute Deep-Learning-Modelle lassen sich während des Trainings zudem stark parallelisieren, was teilweise erklärt, warum Training in diesem Maßstab möglich wurde. Sie müssen einen Satz nicht sequenziell verarbeiten. Auf moderner Hardware können Sie alle Positionen gleichzeitig verarbeiten.
Ein Detail, das genannt werden sollte: Die Modelle, die als „generative pretrained“ Modelle bezeichnet werden – die GPT-Familie ist das deutlichste Beispiel –, sind Transformer, die mit einem kausalen Sprachmodellierungsziel trainiert werden: das nächste Token anhand aller vorherigen Tokens vorhersagen. Diese konkrete Kombination aus Transformer-Architektur und massivem Pretraining-Maßstab ist das, worauf sich der Begriff „LLM“ im Jahr 2026 üblicherweise bezieht.
Was „auf Milliarden von Tokens trainiertes Modell“ in der Praxis bedeutet
Databricks weist darauf hin, dass große Transformer-Modelle auf Milliarden bis Billionen von Tokens aus verschiedenen Quellen trainiert werden. Die praktische Folge dieses Maßstabs ist Generalisierung. Ein Modell, das auf ausreichend vielfältigen Texten trainiert wurde, lernt Sprachmuster, die sich ohne zusätzliches Training für jede einzelne Aufgabe über Themen, Stile und Aufgaben hinweg übertragen lassen.
Deshalb kann ein einzelnes Basismodell einen Vertrag zusammenfassen, einen regulären Ausdruck schreiben, einen medizinischen Begriff erklären und Marketingtexte generieren. Die Trainingsdaten haben es allen diesen Bereichen gleichzeitig ausgesetzt. Die Parameter, die die erlernten statistischen Beziehungen kodieren, sind das verdichtete Ergebnis der Verarbeitung großer Datensätze mit Beispielen praktisch jeder Art von Sprachverwendung.
Auch die Anzahl der Parameter ist hier relevant. Deutlich größere Modelle mit Hunderten Milliarden Parametern neigen dazu, über Sonderfälle und komplexe Aufgaben hinweg besser zu generalisieren. Größer bedeutet jedoch auch höhere Kosten zur Inferenzzeit. Daher ist die Modellauswahl meist ein Kompromiss zwischen Leistungsfähigkeit und Kosten und nicht bloß die Frage, die größte verfügbare Option zu wählen.
Vortrainierte Modelle in diesem Maßstab sind konstruktionsbedingt universell einsetzbar. Domänenspezifische Anpassungen, Fine-Tuning auf proprietären Datensätzen oder Retrieval-augmented Generation auf internem Wissen kommen anschließend auf dieser allgemeinen Grundlage aufbauend hinzu.
Wofür LLMs branchenübergreifend tatsächlich eingesetzt werden
Sprachmodelle sind KI-Systeme, die sich schnell von der Forschung in den Produktivbetrieb bewegt haben. Laut dem McKinsey & Company state of AI report nutzen 65 % der Organisationen generative KI regelmäßig in mindestens einer Geschäftsfunktion – nahezu doppelt so viele wie zehn Monate zuvor. Das ist kein Experimentieren. Das ist operativer Einsatz im großen Maßstab. Für die meisten Business-Teams ist es daher nicht länger optional, Fähigkeiten und Grenzen von LLMs zu verstehen. So sieht der praktische Einsatz in verschiedenen Rollen tatsächlich aus:
- Kundensupport-Teams nutzen LLMs, um Antwortentwürfe zu generieren, lange Ticketverläufe zusammenzufassen und eingehende Anfragen nach Absicht zu klassifizieren. Die Verringerung der Bearbeitungszeit ist real. Das Risiko besteht darin, dass der Entwurf auf eine vom Modell halluzinierte Richtlinie verweist, die der Agent dann versendet, weil sie plausibel klang. Bei allem mit Kundenkontakt bleibt eine menschliche Prüfung erforderlich.
- Content- und Marketing-Teams nutzen LLMs zur Texterstellung in großem Umfang: erste Entwürfe, Varianten für Betreffzeilen, Iterationen von Anzeigentexten und Lokalisierung. Die Ausgabe muss bearbeitet werden. Doch der Geschwindigkeitsgewinn bei der Erstellung erster Entwürfe ist real, und die meisten Teams, die es ausprobieren, kehren nicht mehr zurück.
- Softwareentwickler nutzen Modelle zur Code-Generierung als tägliches Werkzeug. Die Stack Overflow Developer Survey 2025 ergab, dass 84 % der Entwickler KI-Tools in ihrem Entwicklungsprozess nutzen oder dies planen. Dieselbe Umfrage zeigte die größte Frustration: 66 % berichten, dass „KI-Lösungen, die fast richtig, aber eben nicht ganz richtig sind“, sie am meisten Zeit kosten. Das ist das Halluzinationsproblem in einer anderen Domäne.
- Analysten und Wissensarbeiter nutzen LLMs, um große Dokumentenmengen abzufragen und zusammenzufassen: Geschäftsberichte, juristische Einreichungen, Forschungsarbeiten und Kundenfeedback. Das Modell kann Informationen schneller extrahieren und strukturieren als ein menschlicher Leser, aber die Ausgabe muss weiterhin überprüft werden, wenn sie für Entscheidungen relevant ist.
- Enterprise-Teams setzen zunehmend Pipelines für Retrieval-augmented Generation (RAG) ein, um ein Basis-LLM Fragen anhand interner Dokumente und Wissensdatenbanken beantworten zu lassen. Das Modell muss nicht auf proprietären Daten feinabgestimmt werden. Stattdessen ruft es zur Inferenzzeit relevante Textabschnitte ab und stützt seine Antwort auf das, was es gefunden hat. LLMs können auch in multimodalen Modellen verwendet werden, die Bilder und Dokumente gemeinsam verarbeiten, sowie in Reasoning-Modellen, die sich einer schrittweisen Zerlegung von Problemen annähern – beide Kategorien entwickeln sich jedoch noch weiter.
Zum Thema Enterprise-RAG: Der Anwendungsfall, den ich im Support am häufigsten sehe, lautet im Kern: „Wir möchten unsere interne Dokumentation abfragen und echte Antworten bekommen, nicht einen Link auf eine Confluence-Seite aus dem Jahr 2021.“ Das ist ein berechtigtes Problem. In Latenode können Teams einen Workflow über integriertes RAG für hochgeladene PDFs und CSVs mit ihrer internen Wissensdatenbank verbinden, eine Abfrage über das KI-Modell ausführen, das über ein einziges Dropdown ihren Anforderungen entspricht, und die strukturierten Ergebnisse an Slack, ein CRM oder ein Helpdesk weiterleiten. Es ist keine Einrichtung einer externen Vektordatenbank erforderlich. Ganz gleich, ob Sie ein Compliance-Tool, einen Support-Assistenten oder eine interne Suchebene entwickeln: Dieselbe Automatisierungsoberfläche übernimmt sowohl die Retrieval-Logik als auch das nachgelagerte Routing.
Fine-Tuning und Prompt Engineering: Wie Teams LLMs an die reale Arbeit anpassen
Ein Basis-LLM, das auf allgemeinen Daten trainiert wurde, ist nützlich. Ein Basis-LLM, das für Ihre konkrete Aufgabe, Ihren Wortschatz oder Ihr Ausgabeformat angepasst wurde, ist wesentlich nützlicher. Es gibt drei zentrale Wege für diese Anpassung, und Teams greifen regelmäßig zuerst nach dem teuren.
Fine-Tuning bedeutet, ein vortrainiertes Modell zu nehmen und das Training mit einem domänenspezifischen Datensatz fortzusetzen – Ihren Supporttickets, Ihrer Produktdokumentation oder Ihren Kundenverträgen. LLMs können feinabgestimmt werden, um sich anders zu verhalten: Ihren Unternehmenston zu verwenden, Ihre interne Nomenklatur zu verstehen oder Ausgaben in einem bestimmten Format zu erzeugen. LLMs können auf diese Weise mittels überwachtem Lernen oder Reinforcement Learning aus menschlichem Feedback trainiert werden, wodurch beide Verfahren die Gewichte des Modells auf Ihre gewünschten Ausgaben ausrichten. Fine-Tuning verändert grundlegend, was das Modell weiß und wie es reagiert.
Prompt Engineering ist günstiger und schneller. Es bedeutet, die Eingabe an das Modell – den Prompt – so zu strukturieren, dass die Ausgabe beeinflusst wird, ohne das Modell selbst zu verändern. System-Prompts, Few-Shot-Beispiele, Anweisungen für schrittweises Denken und Einschränkungen für Ausgabeformate: All das gehört zum Prompt Engineering. Die meisten allgemeinen Anpassungsaufgaben erfordern kein Fine-Tuning und lassen sich vollständig über sorgfältiges Prompt-Design bewältigen. Dafür sind die Fähigkeiten von LLMs zur Verarbeitung natürlicher Sprache geschaffen.
Der dritte Weg ist RAG. Wie MIT Sloan festgestellt hat, ermöglicht Retrieval-augmented Generation Teams, LLM-Antworten auf proprietäre oder Echtzeitdaten zu stützen, indem relevante Dokumente zur Inferenzzeit abgerufen und in den Prompt-Kontext eingefügt werden. Die Fähigkeiten von LLMs zur Sprachverarbeitung bleiben erhalten. Sie geben dem Modell lediglich besseres Material, mit dem es arbeiten kann. RAG erfordert kein Retraining und verändert keine Modellgewichte. Es ist ein Architekturmuster, kein Trainingsverfahren.
Wann sich Fine-Tuning lohnt und wann Prompt Engineering ausreicht
Hier die praktische Aufteilung: Prompt Engineering bewältigt die meisten allgemeinen Anpassungsaufgaben. Fine-Tuning ist sinnvoll, wenn das Modell bei domänenspezifischem Wortschatz, Tonfall oder Ausgabeformat selbst nach sorgfältigen Prompt-Iterationen dauerhaft scheitert.
Große Modelle, die auf vielfältigen Daten vortrainiert wurden, haben bereits bei den meisten Themen eine starke Ausgangsleistung. Wenn das Fehlermuster darin besteht, dass das Modell Ihre internen Produktnamen oder juristischen Fachbegriffe nicht versteht, beheben einige gezielt ausgewählte Few-Shot-Beispiele im Prompt dies häufig, ohne das Modell anzutasten. Modelle benötigen in der Regel überraschend wenige Beispiele im Kontext, um ihren Ausgabestil deutlich anzupassen.
Fine-Tuning rechtfertigt den Aufwand für Datenaufbereitung und Trainingskosten, wenn Sie Hunderte bis Tausende gelabelte Beispiele für exakt das gewünschte Ausgabeverhalten haben, die Domäne so spezialisiert ist, dass allgemeines Prompting dauerhaft nicht ausreicht, und das Verhalten stabil sein soll, ohne von der Prompt-Länge abzuhängen. Masked-Language-Modeling-Ziele werden auch in bestimmten Fine-Tuning-Varianten speziell für Klassifikationsaufgaben eingesetzt.
Das Muster, das ich im Support immer wieder sehe: Teams investieren in Fine-Tuning, bevor sie getestet haben, ob ein gut strukturierter Prompt das Problem löst. Das ist verkehrt. Beginnen Sie mit Prompt Engineering. Dokumentieren Sie, wo es scheitert. Erstellen Sie erst dann einen Fine-Tuning-Datensatz für die Lücken, die sorgfältigem Prompting standhalten. Diese Reihenfolge zu überspringen bedeutet meist, einen teuren Datensatz zu erstellen, um ein Problem zu lösen, das eine fünfminütige Überarbeitung des Prompts behoben hätte.
Vier LLM-Irrtümer, die zu schlechten Entscheidungen führen
Das sind keine philosophischen Debatten. Jeder davon ist ein praktischer Entscheidungsfehler, der in realen Implementierungen auftritt. Ich stütze mich auf die Analyse von ApX Machine Learning zu verbreiteten LLM-Irrtümern und die Aufschlüsselung von Machine Learning Mastery dazu, wo Teams Fehler machen, denn diese Fehler sind gut dokumentiert und die Folgen sind konsistent.
Irrtum 1: LLMs verstehen Sprache wie Menschen. Das tun sie nicht. Ein LLM erfasst keine Bedeutung. Es lernt statistische Muster in Sprache und sagt anhand dieser Muster voraus, was als Nächstes kommt. Das Modell besitzt kein Verständnis der physischen Welt, keine inneren Zustände und keine Absichten. Es produziert Ausgaben, die wie Verständnis aussehen, weil es auf Texten trainiert wurde, die von Menschen geschrieben wurden, die Dinge verstanden haben. Das ist nicht dasselbe. Der daraus entstehende praktische Fehler: Teams verlassen sich zu sehr darauf, dass das Modell mehrdeutige Eingaben, Sonderfälle und logisch widersprüchliche Anfragen erkennt, weil es „versteht“, was gefragt wird. Das tut es nicht. Es sagt Sprache voraus, die zum Muster passt.
Irrtum 2: LLMs sind Faktendatenbanken. Das sind sie nicht. LLMs basieren auf Musterlernen, nicht auf Wissensspeicherung mit einer Nachschlagefunktion. Wenn ein Modell eine Faktenfrage beantwortet, generiert es die plausibelste Antwort auf Grundlage seines Trainings, statt eine verifizierte Wissensdatenbank abzufragen. Das ist die strukturelle Ursache von Halluzinationen. Das Modell kann selbstsicher eine nicht existierende Studie zitieren, ein Zitat jemandem zuschreiben, der es nie gesagt hat, oder eine Statistik mit einer erfundenen Zahl nennen. Generative KI-Systeme dieser Art verfügen in ihrer Architektur über keinen Schritt zur Wahrheitsprüfung. Der praktische Fehler: Teams behandeln Modellausgaben ohne Überprüfung als Recherchequelle. Das funktioniert gut, bis es das nicht mehr tut – und dann scheitert es vor einem Kunden oder einer Aufsichtsbehörde.
Irrtum 3: Größer bedeutet präziser. Leistungsfähiger, ja. Bei Fakten nicht unbedingt präziser. Modelle wie GPT-4o und Claude erkennen, dass ihnen eine Frage gestellt wird, und wurden mit Reinforcement Learning aus menschlichem Feedback trainiert, um hilfreiche Antworten zu erzeugen. Hilfreich zu sein und korrekt zu sein, korreliert, ist aber nicht dasselbe. Ein größeres Modell schreibt häufig eine überzeugendere falsche Antwort als ein kleineres. Proprietäre Modelle verbessern sich weiterhin bei Benchmarks, und Skalierung korreliert mit besserem Reasoning bei komplexen Aufgaben. Doch das Halluzinationsrisiko verschwindet nicht durch Skalierung.
Irrtum 4: LLMs haben stabile Meinungen und Persönlichkeiten. Was wie Persönlichkeit aussieht, ist ein Trainingsartefakt. Das Modell wurde durch seine Trainingsdaten und seinen Fine-Tuning-Prozess, einschließlich Reinforcement Learning aus menschlichem Feedback, darauf ausgerichtet, Antworten mit einem konsistenten Tonfall und einer scheinbaren Haltung zu erzeugen. Das ist kein stabiler innerer Zustand. Es ist eine erlernte Ausgabeverteilung. Modelle wie ChatGPT können bei derselben Frage unterschiedliche Positionen vertreten – abhängig davon, wie der Prompt formuliert ist, was in ihren Trainingsdaten enthalten ist und welche Sampling-Temperatur verwendet wird. LLMs erzeugen über mehrere Durchläufe hinweg weiterhin unterschiedliche Ausgaben. Der praktische Fehler dabei: Teams entwickeln Workflows, die von konsistentem Modellverhalten ausgehen, und stellen dann fest, dass sich das Modell bei geringfügig verändertem Prompt, längerem Kontext oder einem Modell-Update anders verhält.
📊 In der Praxis:
LLMs generieren Text auf Grundlage erlernter Verteilungen, nicht durch die Abfrage einer verifizierten Wissensdatenbank. Das bedeutet, dass ein selbstsicher klingendes Zitat vollständig erfunden sein kann – gleiche Syntax, gleiche Spezifität, komplett ausgedacht. Die Sprachgewandtheit einer halluzinierten Antwort ist normalerweise identisch mit der einer korrekten. Die Überprüfung muss außerhalb des Modells erfolgen, nicht durch sorgfältiges Lesen der Ausgabe.
