16.08.2022 • 9 Min.

Die Sorge wächst, dass die Systeme der künstlichen Intelligenz (KI), auf die immer häufiger zurückgegriffen wird, bestimmte Gruppen benachteiligen. Das liegt daran, dass die Daten, aus denen diese Systeme lernen, oft selbst voreingenommen sind, zum Beispiel aufgrund von Diskriminierungsmustern in der Vergangenheit. Wenn maschinelle Lernsysteme nicht sorgfältig überwacht werden, könnten sie diese Voreingenommenheit verstärken und sogar noch verschlimmern. Ein Gesichtserkennungssystem beispielsweise, das auf einem Datensatz mit überwiegend weißen Gesichtern trainiert wurde, wird schwarze Gesichter wahrscheinlich weniger genau erkennen. Dies könnte schwerwiegende Auswirkungen auf Bereiche wie die Strafverfolgung haben, wo KI-Systeme eingesetzt werden, um Entscheidungen darüber zu treffen, wer angehalten und durchsucht werden soll. Es besteht die Gefahr, dass diese Systeme bestehende soziale Ungleichheiten verschärfen, wenn sie nicht stärker zur Rechenschaft gezogen werden.