Bias
Auch: Verzerrung, algorithmische Voreingenommenheit
Definition
Bias bezeichnet systematische Verzerrungen in KI-Ergebnissen, die meist aus unausgewogenen Trainingsdaten stammen und Gruppen benachteiligen können.
Besonders heikel ist Bias in Recruiting, Kreditvergabe und Leistungsbewertung, wo er zu Diskriminierung im Sinne des AGG führen kann. Der AI Act verlangt deshalb bei Hochrisiko-KI unter anderem Anforderungen an die Datenqualität. Praktisch hilft es, KI-Ergebnisse stichprobenartig nach Gruppen auszuwerten und Entscheidungen immer von Menschen treffen zu lassen.