Direkt zum Inhalt
Startseite
Podcast Facebook Twitter LinkedIn YouTube RSSRSS Newsletter
  • DE
  • EN

Suchformular

Neuen Kommentar schreiben

Dieser Beitrag gehört zum Dossier:
Dossier

Künstliche Intelligenz

Verändert Künstliche Intelligenz die Bildung? Wie lehren und lernen wir in Zukunft? Welche Kompetenzen erfordert die KI-Welt von morgen? Welche Chancen und Risiken bietet die Technologie für die Hochschulbildung?
Roboterfigur - vermutlich ohne Künstliche Intelligenz

Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck

Künstliche Intelligenz und Algorithmen werden zunehmend in alltägliche Prozesse integriert. Gerade im "Wissenschaftsjahr 2019 Künstliche Intelligenz" ist dieser Trend auch an den Hochschulen zu verspüren. Aber kritikfrei? Es braucht qualitativ hochwertige diskriminierungsfreie Daten, sowie ausgebildete Personen, die sicher mit diesen Daten umgehen können. Wir waren im Gespräch mit Prof. Dr. Katharina Simbeck von der HTW Berlin.

 

 

Wie äußerst sich Diskriminierung durch Algorithmen?

Heutige Bilderkennungssysteme beispielsweise funktionieren für hellhäutige Menschen besser, als für dunkelhäutige Menschen. Der Grund dafür ist, dass diese Systeme mit zu vielen hellhäutigen Menschen trainiert wurden. Die Bilderkennungssysteme wurden eben nicht auf alle Menschen trainiert, sondern mit Daten die selbst bereits Diskriminierung beinhalten. Ein Algorithmus, oder eine Künstliche Intelligenz, lernt dann unvollständig oder das Falsche. Das System reproduziert diese Unausgeglichenheit, indem es diskriminiert. Ein weiteres Beispiel ist die Spracherkennung, wie automatisch generierte Youtube-Untertitel. Diese werden dann am besten erstellt, wenn man ordentliches Englisch spricht. Mit anderen Sprachen funktioniert es schlechter. Fast gar nicht, wenn regionale Dialekte ins Spiel kommen, oder bei afroamerikanischen Bürgern, die ein eingefärbtes Englisch sprechen.

 

Wie kann die Diskriminierung durch Künstliche Intelligenz verhindert werden?

Im Arbeitsleben werden die Prozesse digitalisiert, wir hantieren ständig mit Computern und elektronischen Geräten. Wir generieren in allen Lebensbereichen immer mehr Daten. In Zukunft werden diese Daten als Grundlage für alle Arten von Entscheidungen genutzt, oder allen möglichen Systemen als Lerndaten zur Verfügung stehen. Wenn auf der Basis solcher Daten Entscheidungen getroffen werden sollen, dann muss immer die Frage gestellt werden, ob diese Datengrundlage diskriminierungsfrei ist. In der Regel sind sie das von sich aus noch nicht weil, das Leben nun mal nicht diskriminierungsfrei ist.

Bilderkennung, Spracherkennung und Co. durch Algorithmen. Bleibt es divers?Bilderkennung, Spracherkennung und Co. durch Algorithmen. Bleibt es divers? Bild: [https://unsplash.com/photos/YVuWpmiIWJo Andres Umana]

Welche konkreten Risiken bringt die Diskriminierung durch Daten mit sich?

Die Gefahr besteht in der Annahme, dass datenbasierte Entscheidungen automatisch objektiv und richtig sind. Das ist einfach nicht der Fall. Es heißt so schön: „Vertraue nie einer Statistik, die du nicht selbst gefälscht hast.“ Nur weil Daten verwendet wurden, sind sie eben nicht objektiv. Trotz der Verwendung von Daten, Algorithmen und Analysen herrscht eben dieses Diskriminierungspotenzial. Diesem Rattenschwanz muss man sich bewusst sein.

Das Video wurde von KUXMA GmbH & Co. KG produziert. Redaktion und Regie übernahm Josephine Kuthning.

Tags: 
Künstliche Intelligenz
Gleichberechtigung
CC-BY-SA LogoDieser Text steht unter der Lizenz Creative Commons Namensnennung - Weitergabe unter gleichen Bedingungen 4.0 International - CC BY-SA 4.0. Bitte nennen Sie bei einer möglichen Nachnutzung den angegebenen Autorennamen sowie als Quelle das Hochschulforum Digitalisierung.
  • Blog von Till Rückwart
  • Neuen Kommentar schreiben
  • Druckversion
(If you're a human, don't change the following field)

Your first name.

(If you're a human, don't change the following field)

Your first name.

(If you're a human, don't change the following field)

Your first name.

Switch to plain text editor

Weitere Informationen über Textformate

Simple HTML

  • Adds captions, from the title attribute, to images with one of the following classes: image-left image-right standalone-image
  • Zulässige HTML-Tags: <a> <em> <strong> <cite> <blockquote> <code> <ul> <ol> <li> <dl> <dt> <dd> <h2> <h3> <h4> <table> <th> <tr> <td> <span> <p> <br> <hr>
  • HTML - Zeilenumbrüche und Absätze werden automatisch erzeugt.
  • Internet- und E-Mail-Adressen werden automatisch umgewandelt.
  • You may use [view:name=display=args] tags to display views.

Plain text

  • Keine HTML-Tags erlaubt.
  • Internet- und E-Mail-Adressen werden automatisch umgewandelt.
  • HTML - Zeilenumbrüche und Absätze werden automatisch erzeugt.
Image CAPTCHA

Enter the characters shown in the image.

Kooperationspartner:

Stifterverband für die Deutsche Wissenschaft CHE Centrum für Hochschulentwicklung Hochschulrektorenkonferenz

Förderer:

Bundesministerium für Bildung und Forschung
Kontakt | Impressum | Datenschutz

Wir erneuern unsere Website und brauchen Ihren Input!

Das Hochschulforum Digitalisierung möchte Ihre Ideen in die Gestaltung der Website einbeziehen. Dafür bitten wir Sie herzlich, an unserer Umfrage teilzunehmen.
Als Dankeschön können Sie einen von drei Hoodies vom Hochschulforum Digitalisierung gewinnen.

Hinweis: Die Umfrage wird über Google Formulare durchgeführt. Durch Klicken auf den Button werden Sie zum Google Formular weitergeleitet.

Suchformular

  • Wir
    • Das Hochschulforum: Über uns
    • Stakeholder-Dialog
    • Kernteam des HFD
    • Projektpartner
    • Team

    • Jobs
  • Strategien
    • Strategien für die Digitalisierung in Studium und Lehre
    • Peer-to-Peer-Strategieberatung
    • Peer-to-Peer-Fachbereichsberatung
    • Magazin stategie digital
    • HFD Strategie-Benchmark
    • HFDlead - Netzwerk Strategie & Digitalisierung
    • Strategiekonferenzen
    • HFD-Strategie-Werkstatt
    • Selbstlernkurs Digitalisierungsstrategien
    • Online-Kurs Digitalisierungsstrategien
    • HFD-Showroom
  • Netzwerk
    • Das Netzwerk für die Hochschullehre
    • HFDnet
    • HFDcon
    • HFD Summer Schools
    • HFDxChange - kollegiale Beratung
    • HFD Hangouts
    • HFDcert
    • Curriculum-Barcamp
    • Train-the-Trainer-Programm: Lernen in Netzwerken
    • Infopoint Hochschullehre: Grundlagenveranstaltungen
    • Infopoint Hochschullehre: Digitale Prüfungen
    • Qualifizierungsspecial "Quickstarter Online-Lehre" - Videobeiträge
  • Innovation Hub
    • Der Innovation Hub
    • HFDvisions
    • Zukunftsfähige Lernräume
    • Studentische Zukunfts-AG #DigitalChangeMaker
    • AG Digital Accessibility
  • Arbeitsgruppen
    • Prüfungsformate & -szenarien für die digitale Hochschulbildung
    • HFDlead

    • Rückblick
    • AG Künstliche Intelligenz, Algorithmen und Big Data
    • HFD Community Working Groups 2018-2020
    • Ad-hoc-Arbeitsgruppen 2020
    • Ad-hoc-Arbeitsgruppen 2018 - 2019
    • Ad-hoc-Arbeitsgruppen 2017 - 2018
  • Call for Experts
  • Themendossiers
    • Übersicht Themendossiers

    • Anrechnung & Anerkennung
    • Beiträge vom University:Future Festival 2021
    • Bildungsverständnis
    • Blended Learning
    • Blockchain
    • Curriculumentwicklung
    • Data Literacy
    • Digitale Prüfungen
    • EdTech
    • Geflüchtete
    • Gute Lehre
    • Diversität & Barrierefreiheit
    • Hochschullehre in Krisenzeiten
    • Internationalisierung
    • Künstliche Intelligenz
    • Learning Analytics
    • Lernräume
    • Open Educational Resources
    • Open Science
    • Plattformen
    • Strategie
    • Studierende
    • Technologie
    • Urheberrecht
    • Weiterbildung & Lebenslanges Lernen
  • Studierende
    • Zukunfts-AG #DigitalChangeMaker
    • HFD-Student-Community - Mitmachen!
    • Hackathons
  • Termine
  • Media
    • Videos vom HFD
    • Podcast
    • Pressespiegel
    • Pressemitteilungen
    • Newsletter-Archiv
    • Guidelines für Blog-Autor:innen
  • Weitere Aktivitäten
    • Bologna Digital

    • Digital Learning Map

    • EdTech-Kompass

    • Rückblick
    • Themenwoche 2018
    • Das HFD 2014-2016
    • Themengruppen 2014-16
  • Publikationen
    • Publikationsliste
    • HFD-Sammelband
  • University:Future Festival
    • University:Future Festival 2023
    • Let's Talk:Campus
  • Blog