Der Wissenschaftsrat hat Empfehlungen zur Hochschulbildung in Zeiten generativer KI vorgelegt – mit intellektueller Souveränität als zentraler Leitidee. Wir haben mit drei Personen aus der HFD-Community gesprochen, die als Mitglieder der 2024 eingesetzten Arbeitsgruppe an der Entstehung des Berichts mitgewirkt haben: über Prüfungen, Infrastrukturen, KI-Kompetenzen, rechtliche Orientierung – und darüber, wie aus Empfehlungen konkrete Umsetzung werden kann.

Redaktionshinweis: Die schriftlichen Interviews wurden separat geführt.

Sie haben jetzt für knapp zwei Jahre in der WR-AG mitgewirkt. Wie blicken Sie auf diesen Wurf?

Inga Gostmann: In den zwei Jahren Mitarbeit in der Arbeitsgruppe habe ich erlebt, wie zwischen Wissenschaftler*innen unterschiedlicher Disziplinen Bedenken und Ideen auf höchstem Niveau diskutiert wurden. Statt sich mit Allgemeinposten zufrieden zu geben, wurde immer mehr ins Detail gegangen – mehr an einem Problem verstanden, unterschiedliche Meinungen noch feiner ausdiskutiert und noch mehr Expert*innen befragt. Meine Meinung als Student*in wurde immer ernst genommen: ich habe einen Vortrag gehalten und auch studentische Stimmen platzieren können, die nicht meine eigene sind. In dem Papier sehe ich das hohe Maß an Wissenschaftlichkeit und den Willen, weiter zu fragen und sich nicht mit einfachen Antworten zufrieden zu geben, sowie das Mitdenken vieler unterschiedlicher Perspektiven widergespiegelt.

Niels Pinkwart: Es war für mich die erste Mitwirkung in einer AG des WR – ich finde das Ergebnis sehr gut gelungen. Wir hatten am Anfang des langen Prozesses die Befürchtung einer „Impossible Mission“ dergestalt, dass das Papier bereits veraltet sein wird wenn es erscheint. Das ist denke ich nicht der Fall.

Doris Weßels: Es war eine sehr intensive, multi-perspektivische und bisweilen auch emotionale Auseinandersetzung rund um die Herausforderungen, aber auch Chancen des KI-Einsatzes in der Hochschulbildung. Mir ist sehr bewusst geworden, dass die Sichtweisen der unterschiedlichen Hochschultypen und der jeweiligen Fachdisziplinen sehr unterschiedlich sind, was sich bei den Ängsten vor der fundamentalen Veränderung sehr deutlich widerspiegelte. Geistes- und Sozialwissenschaftler:innen sehen sich nach meiner Beobachtung mit größeren Herausforderungen konfrontiert als viele Lehrende im MINT-Bereich. Wir hatten leider nur eine studentische Vertreterin in unserer AG. Von daher dominierte zwangsläufig die Sicht der Lehrenden, was sicherlich ein prozessualer Kritikpunkt sein könnte.

Der Titel ist interessant und ein Statement für sich. Erklären Sie uns, was es mit intellektueller Souveränität in Zeiten von generativer KI auf sich hat. Ist sie gefährdet oder gewinnt sie und warum gerade diese Fokussierung?

Inga Gostmann: Intellektuelle Souveränität bedeutet für mich, sich durch eigenes analytisches Denken und Wissen um Methoden, Kultur und Fakten des eigenen Fachs selbstständig an Wissensproduktion beteiligen zu können. Genereller bedeutet es auch selbst denken, Entscheidungen treffen und handeln zu können. Intellektuelle Souveränität ist essentiell für Wissenschaft und in Zeiten von generativer KI umso wichtiger. Die Frage, wer KI-Outputs noch beurteilen kann, wenn alle nur noch KI verwenden, ist vielleicht ein Klischee und eine Überspitzung, aber sie zeigt gut, warum es wichtig ist, intellektuell souverän zu bleiben.

Niels Pinkwart: Das Papier des Wissenschaftsrats enthält einige Spannungsfelder, unter denen Hochschulbildung in Zeiten generativer KI steht. So kann ein KI-Einsatz z. B. lernförderlich sein oder Barrieren abbauen – oder aber auch das exakte Gegenteil bewirken und daher eine Gefahr darstellen. Intellektuelle Souveränität ist die im Papier enthaltene Leitidee. Sie wird durch KI bei allen mit der Technologie einhergehenden Chancen potenziell gefährdet und es muss Ziel des Handelns im Bildungssystem sein, sie zu erhalten und zu fördern.

Doris Weßels: Ich finde den Titel hervorragend gewählt, denn es geht um das Bewahren unserer menschlichen Souveränität in einer immer engeren Interaktion mit den KI-Systemen, die in rasanter Entwicklungsgeschwindigkeit ihre Leistungsfähigkeit steigern, so dass wir uns bereits auf dem Weg zum Human-AI-Hybrid wähnen. Für mich ist AI Leadership die zentrale Zukunftskompetenz in der KI-Ära, um den Einsatz von KI-Systemen in einem werteorientierten, transparenten und reflektierten Rahmen zu steuern, ohne die Entscheidungshoheit an die eingesetzten KI-Technologien abzugeben. Diese Kompetenz wird in der aktuellen Evolutionsphase der agentischen KI immer bedeutsamer und muss in die Hochschullehre einfließen, was bisher leider nur punktuell zu beobachten ist.

Der richtige Umgang mit generativer KI fordert das Hochschulsystem auf vielen Ebenen heraus. Was sind aus Ihrer Sicht als Studentin die wichtigsten Punkte und zentrale Empfehlungen?

Inga Gostmann: Ich finde es sehr wichtig, Hochschulen als soziale Lernorte wieder zu beleben. Zu Beginn meines Studiums war es ganz normal, dass man sich nach den Vorlesungen noch in der Cafeteria getroffen und diskutiert hat – dabei habe ich extrem viel gelernt. Nach den Lockdowns in der Pandemie war das erstmal gar nicht mehr so. Ich finde, es wird schon wieder besser und ich merke auch, dass viele Lehrende sich sehr viel Mühe geben, solche Situationen zu erzeugen und zu ermöglichen. Wie im Papier beschrieben muss es aber mehr Maßnahmen als die Bemühungen einzelner Lehrender und Studierender geben; es braucht zum Beispiel bessere Lernorte und Betreuung. Darüber hinaus braucht es meiner Meinung nach einen Bruch mit der aktuellen Austeritätspolitik, also zum Beispiel höhere BAföG-Sätze, besser bezahlte Lehre und Zukunftssicherheit für Studiengänge.

Niels Pinkwart: Die erarbeiteten Empfehlungen wirken auf vielen Ebenen und rufen zum Handeln ganz verschiedener AkteurInnen auf. Für Hochschulleitungen sind wesentliche Punkte u. a. die Ausführungen zu leistungsfähigen und souveränen Infrastrukturen – als technische Basis für intellektuelle Souveränität – sowie zur Umgestaltung von Prüfungen sehr relevant. Aber auch die im Papier enthaltenen Betrachtungen zu KI-freien Zonen und gezielter Wiedergestaltung sozialer Lernorte sind nach meiner Auffassung ganz wesentliche Handlungsfelder.

Doris Weßels: Die größte Herausforderung für unsere strukturkonservativen Organisationen im Bildungsbereich ist die Veränderungsdynamik generativer KI und die Unvorhersehbarkeit der Entwicklung in Verbindung mit dem Gefühl, den amerikanischen oder chinesischen Tech-Giganten ausgeliefert zu sein. Wir sollten in unseren Hochschulen endlich akzeptieren, dass wir Experimente in diesen fluiden KI-Zeiten wagen müssen. Das bedeutet, dass wir Experimentierfelder wie z. B. Reallabore nutzen sollten und Lehrenden ganz bewusst Freiraum für die Erprobung neuer didaktischer Ansätze geben müssen. Aber die Lehrenden müssen auch Rückendeckung aus den Führungsebenen erhalten, die eigentlich der Treiber der organisationalen Veränderungen sein müssten und ihre Organisation viel stärker auch als lernende Organisation verstehen sollten.

Welche Empfehlungen könnten die größte Auswirkung auf Studierende, Curricula und Hochschulen haben?

Inga Gostmann: Wenn es um einfach prüfbare Veränderungen geht, könnte ich mir gut vorstellen, dass die Empfehlung der Umgestaltung von Prüfungsformaten zu großen Änderungen führen kann. Prüfungsformate sind ja normalerweise etwas, das ungerne angefasst wird und wo es noch wenige kreativere Optionen abseits lang bestehender Formate gibt (so habe ich es zumindest bis jetzt meist erlebt). Weniger leicht prüfbar, aber zur meiner Meinung größten Veränderung rät der Wissenschaftsrat, wenn er zu einer Kultur der Vertrauens, Neugierde und Freude an der wissenschaftlichen Arbeit rät. Ich habe mich in meiner Auseinandersetzung mit KI mit sehr vielen Lehrenden und Studierenden unterhalten und in so gut wie allen diesen Gesprächen ging es um Fragen der Kultur und des Austauschs. Ob Studierende sich Sorgen gemacht haben, dass ihre Arbeiten nun für KI-generiert gehalten werden, wie sorgfältig ihre Arbeiten gelesen und bewertet werden, sich mehr Feedback für ihre Leistungen wünschen oder Lehrende sich mehr Freiräume für Austausch mit Studierenden (zu KI) und zum Ausprobieren neuer Formate und mehr Verbindlichkeit in ihren Veranstaltungen wünschen – es geht um Fragen der Kultur.

Niels Pinkwart: Der in den Empfehlungen empfohlene KI-Kompetenzaufbau für Studierende wird – wenn umgesetzt – sicherlich ebenso für spürbare Änderungen in den Studien- und Prüfungsordnungen sorgen wie die Überarbeitung von Prüfungsformaten. Ein zentrales Element ist dabei die Beziehung zwischen Lernenden und Lehrenden. Die im Bericht benannte Förderung einer Kultur des gegenseitigen Vertrauens, der Neugierde und Freude an der eigenständigen Erkenntnisarbeit – auch und gerade als Gegenposition zu Diskussionen die sich im Wesentlichen um Täuschung, Verbot und Misstrauen drehen – wäre ein Aspekt, der wichtige Veränderungen mit sich bringen kann.

Doris Weßels: Ich hoffe sehr, dass der letzte Absatz auf S. 68 seine vollumfängliche Wirkung entfaltet und uns Mut und Kraft für die tiefgreifenden Veränderungsprozesse in der Hochschulbildung gibt. Es handelt sich um den Appell, die Chancen von generativer KI in zweierlei Hinsicht zu nutzen. Generative KI wirkt auf der einen Seite wie das vieldiskutierte Brennglas und macht bestehende Defizite und Reformbedarfe in der Hochschulbildung immer sichtbarer, sollte aber zugleich auch als Katalysator für grundlegende Veränderungen dienen. Die Potenziale liegen darin, KI nicht nur zu beobachten oder defensiv zu regulieren, sondern sie gezielt für neue Kooperationen, innovative Lehr- und Prüfungsformen und eine zukunftsfähige, qualitätsorientierte Weiterentwicklung der Hochschulbildung einzusetzen. Unsere Empfehlungen sind aus meiner Sicht sehr ausgewogen in der Chancen-Risiken-Betrachtung, aber die Herausforderungen liegen in der konkreten Operationalisierung zentraler Aspekte wie z. B. der kontinuierlichen KI-Qualifizierung der Lehrenden, Veränderungen in der Aufbauorganisation von Hochschulen, Weiterentwicklung der Curricula bis hin zu zielführenden neuen Prüfungsformen.

In Zeiten sinkender Budgets und in Konkurrenz um Studierendenzahlen: Wie steht es um die finanzielle Ausstattung und die Verständigung zwischen Bund/Ländern/Hochschulen? Wer ist wofür verantwortlich?

Inga Gostmann: Ganz unabhängig vom Empfehlungspapier möchte ich sagen: Jede*r ist verantwortlich, dort aktiv gegen Budgetkürzungen zu werden, wo man sie unmittelbar erlebt oder befürchten muss.

Niels Pinkwart: Die ganz große Frage nach der Hochschulfinanzierung ist wichtig und sehr aktuell. Im engeren Sinne bezogen auf das aktuelle Papier ist mein Eindruck, dass Hochschulen, Bund und Länder in der WR-AG hervorragend zusammengearbeitet haben. Einige der Empfehlungen der AG werden bei Umsetzung sicher finanzielle Ressourcen benötigen. Hier wäre meine Empfehlung, eher auf Kooperation als auf Konkurrenz zu setzen – gerade z. B. bei der Infrastruktur, aber auch bei der Beförderung rechtlicher Orientierung.

Doris Weßels: Aus meiner Sicht ist unser Bildungsföderalismus eine große Belastung in diesem notwendigen Adaptionsprozess. Wir erleben immer wieder eine Verantwortungsdiffusion, langwierige Abstimmungsprobleme und damit einhergehenden Frust bei allen Beteiligten.

Was müsste aus Ihrer Sicht in den nächsten Schritten konkret passieren? Wen und was braucht es dafür? Welche Rolle könnte das HFD in diesem Kontext spielen?

Inga Gostmann: Es muss weiterhin und auch immer mehr unterschiedliche fachliche und überfachliche Qualifizierungsangebote für Hochschulangehörige zu KI geben, sowie Orte des Austauschs. Das HFD könnte solche Angebote machen. An Hochschulen muss jetzt darüber entschieden werden, wie die Empfehlungen des Wissenschaftsrats an der jeweiligen Hochschule konkret aussehen, also welche Maßnahmen ergriffen werden. Das HFD könnte diesen Prozess begleiten und die einzelnen Hochschulen dabei unterstützen, den eigenen Weg zur Umsetzung der Empfehlungen zu finden – und dabei auch Studierende der jeweiligen Hochschule einzubinden.

Niels Pinkwart: Die Empfehlungen des Wissenschaftsrats zeigen recht deutlich auf, dass die zahlreichen mit generativer KI einhergehenden Herausforderungen ein abgestimmtes Handeln auf verschiedenen Ebenen erfordert. Es braucht dazu Studierende wie Lehrende und Fakultäts- wie Hochschulleitungen und Landesregierungen ebenso wie ggf. den Bund. Zusammen können aus den Empfehlungen des WR konkrete Umsetzungsprojekte werden – und das HFD kann mit seinen Formaten vermutlich gut dazu beitragen, einige der Umsetzungprojekte (gerade solche bei denen verschiedene Stakeholder zu beteiligen sind) zu befördern.

Doris Weßels: Ich würde mir ein deutlicheres politisches Statement als Signal des Veränderungswillens unserer Bundesregierung wünschen. Immerhin hat unsere Bundesregierung nun endlich eine interministerielle Taskforce für Künstliche Intelligenz (KI) eingesetzt, die ich bereits im Mai 2023 empfohlen hatte. Ziel ist es, eine Übersicht über die laufenden KI-Maßnahmen in den Ministerien zu gewinnen und bis Oktober aufeinander abzustimmen.

Wenn wir uns in einem Jahr wiedersehen: Welche Veränderung würden Sie sich wünschen?

Inga Gostmann: Ich wünsche mir, dass in einem Jahr endgültig Schluss mit dem gegenseitigen Misstrauen zwischen Lehrenden und Studierenden in Bezug auf KI ist.

Niels Pinkwart: Natürlich würde ich mir wünschen, dass das WR-Papier dann in den Hochschulen, aber auch im Bund und den Ländern intensiv diskutiert wurde und einige der Empfehlungen auch bereits umgesetzt wurden. Schritte hin zur einer besseren rechtlichen Orientierung wären begrüßenswert. Konkret wäre ich als Wissenschaftler auch sehr froh darüber, wenn zu diesem Zeitpunkt die Empfehlungen zur Forschung zu Lernwirksamkeit von KI-Anwendungen zu konkreten diesbezüglichen Förderprogrammen geführt hätten.

Doris Weßels: Ich würde mir sehr wünschen, dass wir die Kräfte länderübergreifend stärker gebündelt haben und noch mehr zukunftsorientierte Gestalter:innen in den Ministerien und mutige Pionier:innen mit „good practices“ in den Führungsebenen der Hochschulen, im Verwaltungsbereich und bei den Lehrenden sehen. Ganz besonders wichtig sind aber die Studierenden mit ihren Ansprüchen und Wünschen für eine zeitgemäße Bildung, die bislang viel zu wenig gehört wurden. Sie sind die zentrale Stakeholdergruppe in diesem fundamentalen Change-Prozess!