Was ist ein großes Sprachmodell (LLM)?

Ein großes Sprachmodell (LLM) ist eine Form künstlicher Intelligenz auf Basis eines neuronalen Netzes mit Transformer-Architektur, trainiert auf Hunderten Milliarden Tokens Text, um statistische Muster in Sprache zu lernen. Das Ergebnis ist ein Modell, das zusammenhängenden Text erzeugen, Fragen beantworten, Dokumente zusammenfassen, Code schreiben und mehrstufige Gespräche führen kann, ohne für eine dieser Aufgaben ausdrücklich programmiert worden zu sein.

LLMs sind die Grundlage von Systemen wie GPT-4, Claude, Gemini und Llama. Sie sind in weniger als drei Jahren von der Forschungskuriosität zur Infrastruktur im Unternehmen geworden und treiben heute Servicebots ebenso an wie interne Wissensassistenten und die automatische Dokumentation von Datenpipelines. Zu verstehen, was sie sind und was sie nicht sind, ist inzwischen Voraussetzung für jeden, der KI im Unternehmen baut oder steuert.

So arbeiten LLMs

LLMs bauen auf der Transformer-Architektur auf, die Google 2017 vorgestellt hat. Im Kern arbeiten sie, indem sie vorhersagen, was als Nächstes kommt. Aus einer Folge von Tokens (Wörter, Wortteile oder Zeichen) lernt das Modell, die wahrscheinlichste Fortsetzung vorherzusagen. Über genug Text und mit genug Rechenleistung trainiert, ergibt dieses schlichte Ziel ein Modell, das bemerkenswert gut verallgemeinert.

Tokens, Attention und Kontextfenster

Text wird in Tokens zerlegt, im Schnitt rund 0,75 Wörter je Token. Das Modell verarbeitet Tokens durch Schichten von Self-Attention, die jedes Token mit jedem anderen Token der aktuellen Eingabe in Beziehung setzen. Dieser Attention-Mechanismus ist es, der LLMs weitreichende Bezüge verfolgen lässt: das Subjekt eines Satzes von vor 400 Tokens, einen Verweis von vor drei Absätzen. Frühere Modelle wie LSTMs taten sich damit schwer.

Die Gesamtzahl der Tokens, die das Modell auf einmal verarbeiten kann, ist das Kontextfenster. Das frühe GPT-3 hatte 4.096 Tokens. Modelle auf dem Stand von 2026 verarbeiten 128.000 bis 1 Million Tokens. Ein größeres Kontextfenster heißt, dass das Modell mehr von einem Gespräch, einem Dokument oder einer Codebasis im Arbeitsspeicher hält, und das wirkt sich unmittelbar auf die Qualität von RAG-Anwendungen im Unternehmen aus.

Vortraining und Fine-Tuning

Die Entwicklung eines LLM hat zwei Hauptphasen. Das Vortraining ist teuer und wird von den Laboren für Foundation Models geleistet (OpenAI, Anthropic, Google, Meta): Training auf Text in Internetgröße, Ergebnis ist ein Allzweckmodell. Fine-Tuning ist günstiger und wird von Unternehmen geleistet: Ein vortrainiertes Modell wird mit einem kleineren, kuratierten Datensatz an ein Fachgebiet, eine Aufgabe oder ein Verhalten angepasst. Fine-Tuning kann dem Modell die Begriffe, den Ton oder das Spezialwissen eines Unternehmens beibringen, ohne es von Grund auf neu zu trainieren.

Trainingsdaten und Größe

Das „groß“ in großem Sprachmodell meint zwei Dinge: die Zahl der Parameter (Gewichte) im neuronalen Netz und die Menge der Trainingsdaten. GPT-3 hatte 175 Milliarden Parameter. Moderne Spitzenmodelle werden in Billionen gemessen. Diese Größe ist es, die emergente Fähigkeiten hervorbringt, also Verhalten, das erst in großem Maßstab auftaucht und nie ausdrücklich trainiert wurde: mehrstufiges Schlussfolgern, Lernen im Kontext, Codeerzeugung.

Die Datenqualität im Training zählt mindestens so viel wie die Menge. Modelle, die auf schlecht kuratierten Daten trainiert wurden, lernen deren Fehler nachzubilden: Verzerrungen, sachliche Irrtümer, Widersprüche. Das Prinzip „garbage in, garbage out“ wirkt mit vervielfachter Kraft, wenn ein Modell seine Trainingsverteilung auswendig gelernt hat und sie selbstbewusst wiedergibt.

Das Problem der Datenherkunft

Für KI-Teams im Unternehmen wird die Herkunft der Trainingsdaten zunehmend zu einer rechtlichen und einer Governance-Frage. Fragen, die inzwischen bei Datenteams landen: Auf welchen Daten wurde dieses Modell trainiert? Dürfen wir seine Ausgaben kommerziell nutzen? Verstehen wir, welche Verzerrungen es aufgenommen haben könnte? Das sind Fragen der Data Governance, und dieselbe Disziplin, die die Datenbestände eines Unternehmens steuert, muss sich nun auf die KI-Systeme erstrecken, die Daten verbrauchen und erzeugen.

Stärken und Grenzen

LLMs sind bei einer Gruppe von Aufgaben wirklich gut: Informationen aus vielen Quellen zusammenführen, zusammenhängende längere Texte erzeugen, übersetzen, zusammenfassen, Fragen mit Kontext beantworten, Code schreiben und erklären sowie strukturierte Daten umformatieren. Diese Fähigkeiten übertragen sich über Fachgebiete hinweg: Ein auf allgemeinem Text trainiertes Modell kann medizinische Literatur, Rechtsverträge und Finanzberichte behandeln, ohne für jedes davon eigens trainiert worden zu sein.

Harte Grenzen, die auch mehr Größe nicht behebt

Drei Grenzen sind struktureller Natur, sie verschwinden nicht dadurch, dass Modelle größer werden:

• Wissensstichtag. LLMs werden auf einer festen Momentaufnahme von Text trainiert. Sie wissen nicht, was gestern geschehen ist, aktualisieren sich nicht laufend und beantworten Fragen zu Ereignissen nach ihrem Stichtag selbstbewusst, als hätten sie die Daten gesehen. Deshalb verbinden Unternehmen LLMs fast immer mit Abrufsystemen.
• Halluzination. LLMs erzeugen plausibel klingenden Text, indem sie wahrscheinliche Tokens vorhersagen. Werden sie zu etwas außerhalb ihrer Trainingsverteilung befragt, sagen sie nicht „Das weiß ich nicht“, sondern erzeugen eine selbstbewusst klingende Antwort, die vollständig erfunden sein kann. Der eigene Eintrag zu KI-Halluzination behandelt das ausführlich.
• Von Haus aus kein privates Wissen. Ein Foundation-LLM weiß nichts über die Daten Ihres Unternehmens, Ihre internen Systeme, Ihre Kunden oder Ihre Prozesse, es sei denn, Sie geben diesen Kontext im Prompt mit oder über einen Abrufmechanismus. Dafür gibt es RAG und Fine-Tuning, und deshalb ist die Qualität des mitgegebenen Kontexts oft der begrenzende Faktor für die Qualität von KI im Unternehmen.

LLMs im Unternehmen

Der Einsatz von LLMs im Unternehmen folgt in der Regel einer von drei Architekturen:

1. API-Zugang zu Foundation Models, also die Anbindung an OpenAI, Anthropic oder Google über eine Schnittstelle. Schnell einsatzbereit, kein Trainingsaufwand, aber alle Prompts gehen an fremde Infrastruktur. Fragen zu Datenstandort und Datenschutz gelten hier.
2. Selbst betriebene offene Modelle, also Llama 3, Mistral oder ähnliche Modelle mit offenen Gewichten auf eigener Infrastruktur. Die Daten bleiben im Haus, es braucht aber ML-Kapazität für Betrieb, Optimierung der Inferenz und Aktualisierungen.
3. Nachtrainierte Fachmodelle, also ein Basismodell, angepasst an die Begriffe, den Ton und das Fachwissen eines Unternehmens. Höchste Leistung bei speziellen Aufgaben, höchste Anfangskosten.

Alle drei Architekturen teilen denselben Bedarf: Retrieval-Augmented Generation, um das Modell in aktuellem, privatem, unternehmenseigenem Wissen zu verankern. Ein LLM ohne eine Schicht für den Informationsabruf ist ein Allzweck-Textgenerator. Mit einer gut gesteuerten Abrufschicht wird es zu einem Erkenntnissystem für das Unternehmen.

Data Governance für LLMs

LLMs stellen Anforderungen an die Data Governance, die die meisten bestehenden Rahmenwerke nicht abdecken. Drei Bereiche sind am wichtigsten:

Governance der Eingaben: welchen Kontext Sie dem Modell geben

Jeder Prompt trägt Daten. Nutzen Beschäftigte ein LLM, um Fragen zu Kunden, Patientenakten oder Finanzprognosen zu beantworten, können die sensiblen Daten in diesen Prompts das Unternehmensnetz verlassen. Die Governance der Eingaben, also festzulegen, welche Daten unter welchen Bedingungen an welche Modelle gehen dürfen, ist eine neue betriebliche Anforderung an Datenteams.

Governance der Ausgaben: erzeugte Inhalte überprüfen

Den Ausgaben eines LLM lässt sich nicht ungeprüft trauen. Sie brauchen Überprüfung: Deckt sich diese Antwort mit unseren Metadaten? Stimmt diese Zusammenfassung? Hat das Modell echte Quellen genannt? Organisationen, die in einen Datenkatalog und einen Knowledge Graph investiert haben, können das LLM auf gesteuerte, maßgebliche Quellen richten und machen die Überprüfung damit handhabbar. Ohne diese Grundlage ist jede Ausgabe eine Faktenprüfung von Hand.

Governance der Modelle: Version, Drift und Rechenschaft

Wie Software haben Modelle Versionen. Wie Daten können sie driften. Ein Modell, das im März gut lief, kann sich im Juni anders verhalten, weil dieselbe Eingabe nach einer Aktualisierung des Anbieters eine andere Ausgabe ergibt. Governance der Modelle verfolgt, welche Version im Einsatz ist, überwacht die Leistung auf Drift und führt einen Audit-Trail darüber, wofür das Modell genutzt wurde. Das ist das Feld von LLMOps.

Wie Dawiso LLM-Abläufe stützt

Die Rolle von Dawiso im LLM-Stack des Unternehmens ist die des gesteuerten Context Layer, der Antworten eines LLM vertrauenswürdig macht. Fragt ein Nutzer einen KI-Assistenten „Was bedeutet Abwanderungsrate bei uns?“ oder „Welche Datensätze speisen den monatlichen Umsatzbericht?“, sollte die Antwort aus einer gesteuerten, versionierten Quelle kommen und nicht aus dem allgemeinen Training eines LLM.

Das Business Glossary liefert die kanonischen Definitionen, die ein LLM zu Fachbegriffen abrufen sollte. Der Data Catalog liefert das maßgebliche Verzeichnis der Datensätze, ihrer Verantwortlichen und ihrer Qualitätskennzahlen. Der Dawiso MCP Server stellt diese gesteuerte Wissensbasis über das Model Context Protocol für LLM-Agenten bereit, sodass externe KI-Systeme den Graphen von Dawiso nach verlässlichem, aktuellem Unternehmenskontext abfragen können, bevor sie Antworten erzeugen.

Das Ergebnis: LLMs, die Fragen aus dem Unternehmen anhand gesteuerter Quellen beantworten, rückverfolgbar bis zu den Datenbeständen, die jede Antwort getragen haben.

Fazit

Große Sprachmodelle sind eine wirklich verändernde Technik, aber ihr Wert im Unternehmen hängt vollständig an der Infrastruktur um sie herum. Ein LLM ohne verlässlichen Kontext ist ein selbstbewusster Textgenerator mit Hang zur Halluzination. Ein LLM, das an einen gesteuerten Knowledge Graph, ein gepflegtes Business Glossary und gut katalogisierte Datenbestände angebunden ist, ist die Grundlage von Erkenntnis im Unternehmen. Das Modell liefert die Sprachfähigkeit, die Data Governance liefert die Verlässlichkeit.