Garbage in, KI-Garbage out: warum Governance wichtiger ist als je zuvor
Der Satz „Garbage In, Garbage Out“ (GIGO) ist seit den 1950er-Jahren ein Grundpfeiler der Informatik. Er benennt eine einfache Wahrheit: Die Qualität des Ergebnisses hängt von der Qualität der Eingabe ab. Da künstliche Intelligenz (KI) heute fest zum Geschäftsbetrieb gehört, gilt dieser Grundsatz mehr denn je.
KI-Systeme stützen sich, wie ausgefeilt sie auch sein mögen, stark auf die Daten, die sie bekommen. Sind die Eingabedaten fehlerhaft, also veraltet, widersprüchlich oder unvollständig, spiegelt das Ergebnis genau diese Mängel wider und führt möglicherweise zu falschen Entscheidungen.
KI steckt inzwischen in Dashboards, in Kundenservice-Bots, in Analysewerkzeugen und in Entscheidungsprozessen. Dabei gibt es ein grundlegendes Problem: KI-Systeme kennen kein Konzept von Wahrheit. Sie erkennen nicht, wenn Daten zerstückelt, doppelt vorhanden, veraltet oder zweckentfremdet sind. Sie lernen und sagen vorher, allein auf Basis der Muster, die man ihnen gibt.
Unternehmen verlassen sich stärker auf Daten und vertrauen ihnen weniger
Laut dem Bericht State of Data and Analytics 2024 von Salesforce halten 76 % der Führungskräfte es durch KI für wichtiger denn je, datengetrieben zu arbeiten. Zugleich vertrauen nur 36 % von ihnen der Genauigkeit der eigenen Unternehmensdaten, ein Rückgang um 27 % in nur einem Jahr.
Das ist eine gefährliche Kombination: wachsende Abhängigkeit von Daten und KI bei gleichzeitig sinkendem Vertrauen in genau die Daten, auf denen beides steht. So entsteht der Anschein von Genauigkeit, mit automatisierten Ergebnissen, die geschliffen und klug wirken und auf brüchigem Grund stehen.
Was ist Data Governance, und warum hängt KI davon ab?
Sind die Daten unsauber, hält KI nicht inne und warnt auch nicht. Sie rechnet einfach schneller und verstärkt fehlerhafte Annahmen mit voller Überzeugung.
KI-Technologien sind darauf ausgelegt, große Datenmengen schnell zu verarbeiten, Muster zu erkennen und Erkenntnisse zu erzeugen. Ohne belastbare Data Governance können sie dabei bestehende Datenprobleme unbemerkt verstärken. Wird ein KI-Modell etwa auf verzerrten oder unvollständigen Daten trainiert, führt es diese Verzerrungen und Lücken in seinen Vorhersagen und Empfehlungen wahrscheinlich fort.
Beispiele aus der Praxis, in denen KI-Systeme wegen schlechter Datenqualität irreführende Ergebnisse geliefert haben, gibt es reichlich. Sie zeigen, wie dringend Unternehmen der Datenintegrität Vorrang geben müssen, bevor sie KI einsetzen.
Die Folgen schlechter Datenqualität zeigen sich oft nicht sofort. Ein Finanzbericht kann ein starkes Quartal ausweisen und die tatsächlichen Zahlen dennoch verfehlen, wenn er auf veralteten Umsatzdefinitionen beruht. Ein Abwanderungsmodell kann frühe Warnzeichen übersehen, weil die Kennzeichnung je nach Region uneinheitlich ist. Und eine Bedarfsprognose in der Lieferkette kann zu überhöhten Bestellungen führen, wenn sie auf doppelten Einträgen aus einem nicht angebundenen System beruht.
Vertrauen durch Data Governance aufbauen
Das Problem ist nicht die KI selbst. Es ist das, womit wir sie füttern. Und damit sind wir bei einer grundlegenden, oft übersehenen Disziplin: der Data Governance.
Wer das volle Potenzial von KI heben will, braucht zuerst einen belastbaren Rahmen für Data Governance. Solche Praktiken verbessern nicht nur die Datenqualität, sie legen auch das Fundament für KI-Anwendungen, denen man vertrauen kann.
Dazu gehört:
- ein gemeinsames Business Glossary festlegen und pflegen
- die vollständige Lineage zentraler Kennzahlen und Datensätze nachvollziehen
- genau sehen, woher Daten kommen, wie sie genutzt werden und wer für sie verantwortlich ist
- die Regeln und die Logik hinter KPIs und Berechnungen dokumentieren
AI Governance für einen verantwortungsvollen Einsatz einbeziehen
Über die Data Governance hinaus brauchen Unternehmen auch AI Governance, damit KI verantwortungsvoll und ethisch eingesetzt wird. Zentrale Bausteine sind:
- Modelldokumentation: genaue Aufzeichnungen zu KI-Modellen führen, einschließlich Zweck, Datenquellen und Entscheidungswegen.
- Risikobewertung: mögliche Risiken von KI-Anwendungen bewerten und sicherstellen, dass sie den regulatorischen Vorgaben entsprechen.
- Nachvollziehbarkeit: die Arbeitsweise der KI für Beteiligte verständlich machen und so Vertrauen und Verantwortung stärken.
GIGO vermeiden und mit Dawiso verlässliche KI aufbauen
KI liefert Ergebnisse auf Basis der Daten, die sie bekommt. Und je überzeugter das Ergebnis wirkt, desto gefährlicher kann es sein.
Wer KI einsetzen will, muss zuerst dafür sorgen, dass die eigenen Daten sauber, geregelt und verstanden sind. Mit Dawiso bekommen Sie die Struktur und den Überblick, um GIGO zu vermeiden, KI-Risiken zu senken und ein Fundament aus Vertrauen zu legen.
