Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck
Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck
19.07.19
Künstliche Intelligenz und Algorithmen werden zunehmend in alltägliche Prozesse integriert. Gerade im „Wissenschaftsjahr 2019 Künstliche Intelligenz“ ist dieser Trend auch an den Hochschulen zu verspüren. Aber kritikfrei? Es braucht qualitativ hochwertige diskriminierungsfreie Daten, sowie ausgebildete Personen, die sicher mit diesen Daten umgehen können. Wir waren im Gespräch mit Prof. Dr. Katharina Simbeck von der HTW Berlin.
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Wie äußerst sich Diskriminierung durch Algorithmen?
Heutige Bilderkennungssysteme beispielsweise funktionieren für hellhäutige Menschen besser, als für dunkelhäutige Menschen. Der Grund dafür ist, dass diese Systeme mit zu vielen hellhäutigen Menschen trainiert wurden. Die Bilderkennungssysteme wurden eben nicht auf alle Menschen trainiert, sondern mit Daten die selbst bereits Diskriminierung beinhalten. Ein Algorithmus, oder eine Künstliche Intelligenz, lernt dann unvollständig oder das Falsche. Das System reproduziert diese Unausgeglichenheit, indem es diskriminiert. Ein weiteres Beispiel ist die Spracherkennung, wie automatisch generierte Youtube-Untertitel. Diese werden dann am besten erstellt, wenn man ordentliches Englisch spricht. Mit anderen Sprachen funktioniert es schlechter. Fast gar nicht, wenn regionale Dialekte ins Spiel kommen, oder bei afroamerikanischen Bürgern, die ein eingefärbtes Englisch sprechen.
Wie kann die Diskriminierung durch Künstliche Intelligenz verhindert werden?
Im Arbeitsleben werden die Prozesse digitalisiert, wir hantieren ständig mit Computern und elektronischen Geräten. Wir generieren in allen Lebensbereichen immer mehr Daten. In Zukunft werden diese Daten als Grundlage für alle Arten von Entscheidungen genutzt, oder allen möglichen Systemen als Lerndaten zur Verfügung stehen. Wenn auf der Basis solcher Daten Entscheidungen getroffen werden sollen, dann muss immer die Frage gestellt werden, ob diese Datengrundlage diskriminierungsfrei ist. In der Regel sind sie das von sich aus noch nicht weil, das Leben nun mal nicht diskriminierungsfrei ist.
Welche konkreten Risiken bringt die Diskriminierung durch Daten mit sich?
Die Gefahr besteht in der Annahme, dass datenbasierte Entscheidungen automatisch objektiv und richtig sind. Das ist einfach nicht der Fall. Es heißt so schön: „Vertraue nie einer Statistik, die du nicht selbst gefälscht hast.“ Nur weil Daten verwendet wurden, sind sie eben nicht objektiv. Trotz der Verwendung von Daten, Algorithmen und Analysen herrscht eben dieses Diskriminierungspotenzial. Diesem Rattenschwanz muss man sich bewusst sein.
Das Video wurde von KUXMA GmbH & Co. KG produziert. Redaktion und Regie übernahm Josephine Kuthning.
Ähnliche Beiträge
Behind the Screens – Mit Christien Bok
Das Hochschulforum Digitalisierung lebt von lebendigen Begegnungen, frischen Ideen und Menschen, die anpacken. Ohne die Community ist das HFD undenkbar. 10 Jahre HFD zu feiern, heißt also vor allem 10 Jahre Community-Beteiligung zu feiern! Deswegen stellen wir in dieser Porträtreihe Mitglieder aus der Community vor, die 10 Jahre HFD-Geschichte mitgeprägt haben. Dabei interessiert uns: Was ist ihr individueller Beitrag zur digitalen Transformation an Hochschulen? Welche besonderen Erkenntnisse ziehen sie aus ihrer Arbeit? Was motiviert sie? Dieses Mal mit: Christien Bok.
Christien Bok
Infopaket „Social Reading in der Hochschule – wissenschaftliches Lesen als soziales Erlebnis“
Verbundprojekt Co³Learn
Akademische Integrität und eine neue Bewertungskultur im Zeitalter von KI: ein Interview mit Edward Palmer
(Generative) KI hat das Prüfungssystem auf den Kopf gestellt. Die Angst vor Betrugsversuchen durch Studierende dominiert nach wie vor die Diskussion. Doch an der Universität von Adelaide in Australien hat sich der Fokus auf akademische Integrität und die Unterstützung der Studierenden verlagert. In diesem Interview erklärt Edward Palmer, Professor und Direktor der Unit of Digital Education and Training an der School of Education, die Auswirkungen von KI auf Prüfungen und wie sich Einstellungen zu Prüfungen ändern müssen.
Dr. Jannica Budde
