KI-Systeme wirken neutral, spiegeln aber die Daten und Entscheidungen wider, aus denen sie entstanden sind. Enthalten historische Daten Ungleichbehandlungen, kann ein Modell diese übernehmen und sogar verstärken. Bias entsteht dabei selten absichtlich, sondern meist aus Datenlage, Modellwahl und fehlender Prüfung. Für Unternehmen ist das in zweifacher Hinsicht relevant: Verzerrte Ergebnisse können Menschen benachteiligen und rechtliche Folgen haben, und sie sind schlicht fachlich falsch.
Wie entsteht Bias?
- Nicht repräsentative Daten: Eine Gruppe ist in den Trainingsdaten unterrepräsentiert. Eine Spracherkennung, die überwiegend mit Hochsprache trainiert wurde, versteht Dialekt schlechter.
- Historischer Bias: Die Daten bilden frühere Entscheidungen ab. Ein Modell, das aus vergangenen Einstellungen lernt, bevorzugt womöglich Profile, die den bisherigen Beschäftigten ähneln.
- Mess- und Labelfehler: Kategorien wurden uneinheitlich oder subjektiv vergeben.
- Stellvertretende Merkmale: Scheinbar neutrale Angaben wie Postleitzahl oder Lücken im Lebenslauf können mit sensiblen Merkmalen zusammenhängen.
- Automation Bias: Menschen vertrauen maschinellen Vorschlägen zu sehr und hinterfragen sie nicht mehr.
Bei generativer KI zeigt sich Bias etwa in stereotypen Darstellungen, wenn ein Bildgenerator bestimmte Berufe einseitig abbildet oder Texte unausgewogene Annahmen enthalten.
Typische Beispiele
- Ein Werkzeug zur Vorauswahl von Bewerbungen bewertet Lebensläufe mit untypischem Werdegang systematisch schlechter.
- Ein Modell zur Ticketpriorisierung unterschätzt Anfragen eines kleinen Standorts, weil dieser in den Daten kaum vorkommt.
- Ein Prognosemodell wurde mit Daten aus einer einzigen Region trainiert und liefert für andere Märkte unzuverlässige Ergebnisse.
- KI-generierte Bilder für Marketingmaterial zeigen einseitige Rollenbilder.
Worauf Unternehmen achten sollten
- Ergebnisse getrennt für relevante Gruppen testen, etwa nach Sprache, Standort oder Altersgruppe, soweit das zulässig ist.
- Trainingsdaten vor dem Einsatz auf Repräsentativität prüfen.
- Entscheidungen über Menschen nicht vollständig automatisieren, sondern mit Human in the Loop absichern.
- Mitarbeitende für Automation Bias sensibilisieren.
- Modelle laufend überwachen, da sich Daten und damit Verzerrungen im Zeitverlauf verändern können.
Abgrenzung
In neuronalen Netzen bezeichnet „Bias“ auch einen technischen Parameter: einen Verschiebungswert, den ein Neuron zusätzlich zu seinen Gewichten lernt. Mit Verzerrung im obigen Sinn hat diese Bedeutung nichts zu tun. Methoden der Explainable AI helfen, Verzerrungen sichtbar zu machen.
KI-Beratung ansehen