Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck
Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck
19.07.19
Künstliche Intelligenz und Algorithmen werden zunehmend in alltägliche Prozesse integriert. Gerade im „Wissenschaftsjahr 2019 Künstliche Intelligenz“ ist dieser Trend auch an den Hochschulen zu verspüren. Aber kritikfrei? Es braucht qualitativ hochwertige diskriminierungsfreie Daten, sowie ausgebildete Personen, die sicher mit diesen Daten umgehen können. Wir waren im Gespräch mit Prof. Dr. Katharina Simbeck von der HTW Berlin.
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Wie äußerst sich Diskriminierung durch Algorithmen?
Heutige Bilderkennungssysteme beispielsweise funktionieren für hellhäutige Menschen besser, als für dunkelhäutige Menschen. Der Grund dafür ist, dass diese Systeme mit zu vielen hellhäutigen Menschen trainiert wurden. Die Bilderkennungssysteme wurden eben nicht auf alle Menschen trainiert, sondern mit Daten die selbst bereits Diskriminierung beinhalten. Ein Algorithmus, oder eine Künstliche Intelligenz, lernt dann unvollständig oder das Falsche. Das System reproduziert diese Unausgeglichenheit, indem es diskriminiert. Ein weiteres Beispiel ist die Spracherkennung, wie automatisch generierte Youtube-Untertitel. Diese werden dann am besten erstellt, wenn man ordentliches Englisch spricht. Mit anderen Sprachen funktioniert es schlechter. Fast gar nicht, wenn regionale Dialekte ins Spiel kommen, oder bei afroamerikanischen Bürgern, die ein eingefärbtes Englisch sprechen.
Wie kann die Diskriminierung durch Künstliche Intelligenz verhindert werden?
Im Arbeitsleben werden die Prozesse digitalisiert, wir hantieren ständig mit Computern und elektronischen Geräten. Wir generieren in allen Lebensbereichen immer mehr Daten. In Zukunft werden diese Daten als Grundlage für alle Arten von Entscheidungen genutzt, oder allen möglichen Systemen als Lerndaten zur Verfügung stehen. Wenn auf der Basis solcher Daten Entscheidungen getroffen werden sollen, dann muss immer die Frage gestellt werden, ob diese Datengrundlage diskriminierungsfrei ist. In der Regel sind sie das von sich aus noch nicht weil, das Leben nun mal nicht diskriminierungsfrei ist.
Welche konkreten Risiken bringt die Diskriminierung durch Daten mit sich?
Die Gefahr besteht in der Annahme, dass datenbasierte Entscheidungen automatisch objektiv und richtig sind. Das ist einfach nicht der Fall. Es heißt so schön: „Vertraue nie einer Statistik, die du nicht selbst gefälscht hast.“ Nur weil Daten verwendet wurden, sind sie eben nicht objektiv. Trotz der Verwendung von Daten, Algorithmen und Analysen herrscht eben dieses Diskriminierungspotenzial. Diesem Rattenschwanz muss man sich bewusst sein.
Das Video wurde von KUXMA GmbH & Co. KG produziert. Redaktion und Regie übernahm Josephine Kuthning.
Ähnliche Beiträge
KI und der Paradigmenwechsel in der Bildung: Von Sorge zu Chance
Der Bildungsbereich durchläuft einen Paradigmenwechsel, der vor allem durch künstliche Intelligenz (KI) vorangetrieben wird. In diesem Blogartikel betrachtet Steve Joordens, Professor für Psychologie an der University of Toronto Scarborough, die Auswirkungen dieses Wandels auf die Zukunft der akademischen Welt. Auf Grundlage seines langjährigen Fachwissens und der digitalen Transformationsinitiativen seiner Universität tritt er einen Schritt zurück, um die breiteren Auswirkungen des KI-getriebenen Wandels zu betrachten.
Steve Joordens
Interoperabilität und darüber hinaus: Zu einem Konsens über die Zukunft der Hochschulbildung in Europa
Welche Art von gemeinsamer Vision ist erforderlich, um Zugang, Qualität und gemeinsame Werte in der europäischen Hochschulbildung zu gewährleisten? Thomas Ekman Jørgensen, Direktor für politische Koordinierung und Vorausschau bei der European University Association, argumentiert, dass die digitale Interoperabilität politische Fragen aufwirft, die mehr als nur technische Lösungen erfordern – sie verlangen vor allem einen Konsens über die zukünftige Gestaltung der europäischen Hochschulbildung.
Thomas Ekman Jørgensen
Editor’s Pick: fünf internationale Programm-Highlights auf dem U:FF 2025
Rasmus arbeitet beim Stifterverband und dem European Digital Education Hub – und teilt, worauf er sich beim University:Future Festival 2025 besonders freut. Von Interoperabilität und KI in der Bildung bis zu studentischer Mitgestaltung und bildungspolitischen Weichenstellungen: Für ihn steckt im Programm jede Menge Zukunftspotenzial – und die besten Gespräche starten in der Kaffeepause.
