Die europäische KI-Verordnung macht Vorgaben für Institutionen, die KI-Anwendungen selbst anbieten oder einsetzen. Jetzt gab es ein Update. Das neue Rechtsgutachten vom KI:Expertisezentrum.nrw beantwortet Fragen dazu, inwieweit Hochschulen von der Verordnung betroffen sind und was sie in der Umsetzung beachten sollten.

Die KI-Verordnung der Europäischen Union ist seit August 2024 in Kraft. Jetzt wurde sie durch die sogenannte „Digital Omnibus-Verordnung“ ergänzt, die unter anderem Vereinfachungen bieten sowie die Timeline zur Umsetzung der Verordnung präzisieren soll. Außerdem wird durch das Update die Rechtssicherheit verbessert.

Prof. Dr. Thomas Hoeren hat bereits für die erste Version der Verordnung ein Rechtsgutachten für das KI:Expertisezentrum.nrw verfasst. Für die aktualisierte Fassung hat er seine Analyse der Verordnung überarbeitet und seine Einschätzung dazu angepasst, welche Auswirkungen die neuen Regelungen für Hochschulen haben.

Das Wichtigste zuerst: Auch weiterhin müssen sich Hochschulen in den allermeisten Fällen an die Verordnung halten. Die Ausnahme des Wissenschaftsprivilegs greift in den wenigsten Fällen. Deshalb ist es umso wichtiger, dass sich Hochschulen mit den Richtlinien auseinandersetzen, um ihren Verpflichtungen im Bereich KI auch gerecht zu werden.

Eine wichtige Ergänzung durch das Omnibus-Update betrifft den Schutz vor Missbrauch mittels KI-Systemen. Denn auch Hochschulen sind in der Pflicht, sicherzustellen, dass die von ihnen bereitgestellten KI-Anwendungen nicht zur Erstellung von nicht einvernehmlichem intimen Material oder von Material über sexuellen Kindesmissbrauch genutzt werden können.

Auch der Zeitplan, in dem Hochschulen die Richtlinien umsetzen müssen, wurde in der aktualisierten Verordnung angepasst. Je nach Risikoklasse müssen die verschiedenen Vorgaben unterschiedlich schnell umgesetzt werden. In Bereichen, in denen das Risiko als gering bewertet wird, wird der Druck reduziert, während die Richtlinien in Bezug auf Hochrisikobereiche, wie zum Beispiel die oben erwähnten Sicherheitsaspekte, bereits bis zum 2. Dezember 2026 umgesetzt werden müssen.

Die Omnibus-Verordnung definiert auch weitere Pflichten, denen Hochschulen in KI-Bereichen nachkommen müssen. So müssen sie zum Beispiel ein Inventar führen, in dem alle ihre KI-Werkzeuge, -projekte und -systeme aufgelistet sind, ergänzt um weitere Informationen, unter anderem zu Zweck, Nutzendenkreis und Status der rechtlichen Freigabe.

Im Gutachten können Sie nachlesen, was sich für Hochschulen noch geändert hat und wie sich die Richtlinien und ihre Updates konkret auf den Arbeitsalltag an Hochschulen auswirken. Dies betrifft zum Beispiel Regelungen zu Prüfungen, Learning Analytics und KI-gestützter Zulassung.