Wie können Hochschulen Verantwortung übernehmen, um Bias-Sensibilität im Umgang mit KI nicht nur punktuell, sondern strukturell, wirksam und nachhaltig zu verankern? Diese Frage stand am Anfang des Diskussionspapiers, das nun einige Empfehlungen und Antworten gibt.

Der aktuelle Diskurs zu generativer KI konzentriert sich stark auf Prüfungsbetrug, Kontrolle und Effizienz. Fragen von Bias, Diskriminierung und epistemischer Gerechtigkeit bleiben dagegen zu oft im Hintergrund. Diese Lücke wollen Sarah Becker und Johanna Leifeld mit ihrem Diskussionspapier ein Stück weit schließen.

Generative KI wirkt oft objektiv, sachlich, neutral. Sie reproduziert aber gesellschaftliche Ungleichheiten und Machtverhältnisse. Zahlreiche Studien zeigen, dass KI-Systeme systematische Verzerrungen aufweisen können – etwa entlang von Geschlecht, Herkunft, Sprache oder sozialem Status (vgl. Noble, 2018; Kruspe et al., 2024; Gengler, 2024). Solche Bias-Effekte sind dabei kein rein technisches Problem fehlerhafter Algorithmen, sie sind Ausdruck gesellschaftlicher Ungleichheiten, die in Daten, Modellen, Entwicklungs- und Nutzungskontexten eingeschrieben sind.

Hochschulen müssen deshalb lernen, KI nicht nur technisch, sondern gesellschaftlich und machtkritisch zu bewerten. Schließlich sind sie nicht nur Orte des Lernens und der Forschung, sondern zentrale gesellschaftliche Institutionen der Wissensproduktion und -legitimation.

Bias in KI ist ein strukturelles Problem, argumentieren die Autorinnen. Ihnen reicht es deshalb nicht, Studierende und Lehrende zur kritischen Prüfung einzelner KI-Outputs aufzufordern. Hochschulen brauchen Governance, Qualifizierung, Partizipation und klare institutionelle Verantwortung, damit sie nicht immer wieder in die Bias-Falle tappen.

Die Aspekte Ausbildung und Sensibilisierung sind für Becker und Leifeld besonders wichtig: Hochschulen bilden die Menschen aus, die KI künftig entwickeln, einsetzen, regulieren und bewerten. Wenn dort keine Bias-Sensibilität vermittelt wird, prägt das weit über die Hochschule hinaus die Gesellschaft von morgen. Entsprechend spielt der Titel der Publikation auf den Ausdruck “baby robots” an: Wenn generative KI und Assistenzprodukte wie Siri oder Alexa immer besser, populärer, einflussreicher werden, dann sollte der Umgang mit Trainingsdaten, Systemarchitekturen und Prompts ähnlich verantwortungsvoll sein wie bei der Kindererziehung.

Vor diesem Hintergrund verfolgt das Diskussionspapier drei Ziele:

• Erstens eine Sensibilisierung für Bias als zentrales, bislang marginalisiertes Thema im hochschulischen KI-Diskurs.
• Zweitens soll der aktuelle Stand zu KI und Bias an deutschen Hochschulen sichtbar gemacht werden.
• Drittens richtet es den Blick nach vorn und fragt, was sich künftig ändern muss und wie.

Somit ist dieses Diskussionspapier keine reine Problembeschreibung, sondern auch ein Beitrag zur Frage, wie Hochschulen den Umgang mit KI verantwortungsvoll gestalten können und sollten.

Hier finden Sie die komplette Publikation: