Was sind KI-Leitplanken?

KI-Leitplanken sind programmierbare Beschränkungen auf Ebene der Infrastruktur, die Ein- und Ausgaben eines großen Sprachmodells unabhängig vom Modell selbst abfangen und prüfen. Sie sitzen zwischen Ihrer Anwendung und dem Modell und prüfen jede Anfrage, bevor sie das Modell erreicht, und jede Antwort, bevor sie den Nutzer erreicht. Ihr Zweck ist, die Risiken zu senken, die generative KI mit sich bringt: Missbrauch, Sicherheitslücken und unbeabsichtigtes Verhalten.

Leitplanken zählen, weil ein Modell allein keine Garantien gibt. Es wird einer böswilligen Anweisung folgen, sensible Daten wiederholen oder eine selbstbewusste, aber falsche Antwort erzeugen, wenn nichts es aufhält. Die Leitplanken sind die Schicht, die durchsetzt: „Das Modell darf frei erzeugen, aber nur, was diese Regeln besteht, erreicht das System oder den Nutzer.“

Was KI-Leitplanken sind

Eine Leitplanke ist eine Prüfung, die außerhalb des Schließens des Modells läuft. Weil dem Modell nicht zuverlässig zuzutrauen ist, sich selbst zu überwachen, wirken Leitplanken als unabhängiges Tor: Sie sehen sich an, was hineingeht und was herauskommt, und blockieren, verändern oder markieren alles, was gegen die Richtlinie verstößt. Genau diese Trennung ist der Punkt. Selbst wenn ein Modell per Jailbreak oder Manipulation aus der Spur gebracht wird, kann eine gut gesetzte Leitplanke für die Ausgabe immer noch verhindern, dass sensible Daten oder schädliche Inhalte das System verlassen.

Eingabe und Ausgabe

Leitplanken zerfallen in zwei große Gruppen, die sich danach unterscheiden, wo sie laufen:

• Leitplanken für die Eingabe (vorbeugend). Sie laufen, bevor das Modell eine Anfrage sieht. Sie erkennen Muster von Prompt Injection, entfernen oder blockieren personenbezogene Daten, ordnen Inhalte ein und schränken die Themen ein, mit denen sich ein Modell befassen darf.
• Leitplanken für die Ausgabe (nachgelagert). Sie bewerten die Antwort des Modells, bevor sie zurückgegeben wird. Sie prüfen die Treue zur Quelle, sieben abfließende PII aus und filtern Toxizität und andere unsichere Inhalte.

Im Betrieb laufen beide zusammen: Die Leitplanke für die Eingabe verengt, worum das Modell gebeten wird, und die für die Ausgabe prüft, was es tatsächlich erzeugt hat.

Wege der Umsetzung

Leitplanken werden auf wenigen Wegen umgesetzt, oft in Kombination:

• Regelbasiert. Deterministische Muster und reguläre Ausdrücke, schnell und vorhersagbar, gut für bekannte Formate wie Kreditkartennummern oder verbotene Begriffe.
• Auf Embeddings beruhend. Prüfungen auf semantische Ähnlichkeit, die umschriebene oder verschleierte Inhalte erwischen, an denen eine wörtliche Regel vorbeigeht.
• Modellgestützt. Ein eigenes Modell (oder ein Klassifikator) beurteilt, ob ein Inhalt sicher, quellentreu oder beim Thema ist, nützlich für feine Entscheidungen, die Regeln nicht ausdrücken können.

Diese Ebenen übereinanderzulegen bringt die Geschwindigkeit der Regeln und zugleich die Abdeckung der semantischen und modellgestützten Prüfungen.

Wogegen sie schützen

Leitplanken sind vorab festgelegte Regeln und Filter, die LLM-Anwendungen vor einem wiedererkennbaren Bündel von Risiken schützen sollen: Datenabfluss, Verzerrung und Halluzination sowie böswillige Eingaben wie Prompt Injection und Jailbreaks. Die Sicherheitsarbeit der Branche, darunter die OWASP Top 10 for LLM Applications, deckt sich eng mit diesen Kategorien. Leitplanken für die Eingabe stumpfen die Angriffsfläche ab (Injection, Jailbreaks, sensible Daten im Prompt), Leitplanken für die Ausgabe begrenzen den Schaden (abgeflossene PII, toxische oder quellenferne Antworten). Keine der beiden beseitigt das Risiko für sich allein, und genau deshalb werden Leitplanken mit einer weiter gefassten Governance gepaart.

Leitplanken und Governance

Leitplanken und Governance werden leicht in einen Topf geworfen, arbeiten aber auf verschiedenen Ebenen. Leitplanken sind Durchsetzung zur Laufzeit: die Prüfung, die bei einer bestimmten Anfrage oder Antwort auslöst. Governance ist die Richtlinie und der Kontext hinter dieser Prüfung: was als sensibel gilt, welche Daten maßgeblich sind, wer sie verantwortet und was ein Agent tun darf. Eine Leitplanke, die „sensible Daten blockiert“, ist nur so gut wie die Definition von sensibel, die sie speist. Ohne gesteuerten Kontext setzen Leitplanken Vermutungen durch, mit ihm setzen sie echte, gleichbleibende Grenzen durch.

Wie Dawiso dazu passt

Leitplanken sind die Schicht der Durchsetzung, Dawiso ist der gesteuerte Kontext, der diese Durchsetzung richtig macht. Eine Leitplanke, die sensible Daten blockieren soll, braucht eine maßgebliche Definition davon, welche Daten sensibel sind. Eine Prüfung auf Treue zur Quelle muss wissen, was die vertrauenswürdige Quelle überhaupt ist. Genau das liefert Dawiso:

• Klassifizierung, die „sensibel“ festlegt. Die Klassifizierung von Daten und die Verantwortung geben Leitplanken eine gesteuerte, gleichbleibende Antwort darauf, was zu schützen ist, statt Rätselraten je Anwendung.
• Fachliche Bedeutung für die Quellentreue. Das Business Glossary und der Datenkatalog legen fest, was Begriffe bedeuten und welche Quellen maßgeblich sind, sodass eine Leitplanke für die Ausgabe beurteilen kann, ob eine Antwort in den richtigen Daten geerdet ist.
• Weniger Halluzinationen vorgelagert. Ein starkes Grounding auf gesteuertem Kontext senkt die falschen Ausgaben, die eine Leitplanke für die Ausgabe sonst abfangen müsste.
• Ausgeliefert über offenes MCP. Der Context Layer liefert diesen Kontext über den MCP Server an jede MCP-fähige Anwendung und jeden MCP-fähigen Agenten.

Dawiso ersetzt Ihr Rahmenwerk für Leitplanken nicht. Dawiso speist es mit den gesteuerten Definitionen von sensibel, verantwortet und maßgeblich, die aus allgemeinen Filtern die Durchsetzung Ihrer tatsächlichen Richtlinie machen, als Teil einer weiter gefassten Praxis der AI Governance.

Fazit

KI-Leitplanken sind die unabhängigen Prüfungen, die bewerten, was in ein Modell hinein und aus ihm heraus geht. Sie teilen sich in vorbeugende Leitplanken für die Eingabe und nachgelagerte für die Ausgabe und werden mit Regeln, Embeddings und modellgestützten Klassifikatoren umgesetzt. Sie sind unverzichtbar, um Prompt Injection, Datenabfluss und unsichere Ausgaben zu blockieren. Leitplanken setzen aber eine Richtlinie durch, die sie nicht selbst festlegen. Geben Sie ihnen gesteuerten Kontext, also was sensibel ist, wer dafür einsteht und was maßgeblich ist, und sie setzen echte Grenzen durch statt Vermutungen.