Ob in Gremien, auf Podien oder in Seminarräumen: An unseren Hochschulen wird aufgeregt über den Einsatz von Künstlicher Intelligenz in Forschung und Lehre diskutiert. Darf ich meine Forschungsdaten in ChatGPT eintragen? Müssen bewährte Prüfungsformen durch neue ersetzt werden, weil sich der Eigenbeitrag von Studenten zunehmend schlechter erkennen lässt? Inwieweit dürfen KI-Instrumente bei der Ausarbeitung von Gebrauchstexten wie E-Mails und Drittmittelanträgen zum Einsatz kommen, aber auch in wissenschaftliches Arbeiten Eingang finden? Diese und weitere Fragen treiben die Mitglieder der Hochschulen dieser Tage um – und es sind zweifelsohne drängende Fragen.

Die größte Dringlichkeit besitzt diese: Können es sich deutsche Universitäten wirklich leisten, ihre digitale Autonomie preiszugeben, indem sie sich durch die Nutzung von KI-Werkzeugen nicht nur langfristig, sondern möglicherweise sogar unwiderruflich von privatwirtschaftlich organisierten Unternehmen abhängig machen? Und all das, ohne einen nennenswerten Einfluss auf oder auch nur einen Einblick in die politische Agenda, die Qualitätssicherungsverfahren und die ethischen Grundlagen dieser Unternehmen zu haben, die sich fraglos auf die weitere Evolution dieser Werkzeuge und deren hochschulische Nutzung auswirken?

Der Einsatz von KI stellt die Autonomie im Bildungssystem in vielfacher Hinsicht grundsätzlich infrage. In den gesellschaftlichen Debatten findet dieser Umstand bislang nicht ausreichend Berücksichtigung. Die Gefährdung der Autonomie beginnt schon in den Schulen, in denen die Plattformisierung nicht nur die autonomen Gestaltungsfähigkeiten von Lehreinrichtungen untergräbt, sondern auch die pädagogische Unabhängigkeit von Lehrkräften. Die Forschung zur Nutzung von KI-Sprachmodellen weist auf beunruhigende Folgen hin: Verzerrungen und Schlagseiten in Trainingsdaten und Algorithmen, die diesen Modellen zugrunde liegen, drohen zu problematischen normativen Monokulturen, perspektivischer Verengung oder einseitiger Repräsentation von Inhalten zu führen. Wie techniksoziologische Erkenntnisse zeigen, formen digitale Infrastrukturen sowohl die Art des Wissens, das Forscherinnen und Forscher generieren können, als auch die Art und Weise, wie sie in ihrer täglichen Praxis miteinander in Beziehung treten.

Wir müssen davon ausgehen, dass KI-Werkzeuge die soziale und erkenntnistheoretische Organisation von Forschungsfeldern schon jetzt maßgeblich beeinflussen und das zukünftig immer stärker tun werden. Gleichzeitig hängen wir mit dem Versuch, diese Zusammenhänge nicht nur zu verstehen, sondern auch zu gestalten, notorisch der sich allzu rasch verändernden Realität hinterher. Auch in dieser Hinsicht bleiben wir hinter den Techfirmen zurück, die sogar das Nachdenken über sozio-technische Gestaltungsentwürfe für die Zukunft des Bildungssystems, des Lernens und der Wissenskoproduktion dominieren. Das besorgniserregende Resultat dieser Entwicklungen: Hochschulen büßen ihre digitale Unabhängigkeit immer weiter ein.

Schleichender Autonomieverlust

Nun ließe sich zwar einwenden, dass sich Hochschulen durchaus autonom für die Nutzung externer digitaler Tools entscheiden, nicht selten sogar fundiert durch demokratische Prozesse in Gremien. Leider ist dies jedoch allzu oft ein trügerischer Anschein, denn autonome Entscheidungen kommen dort an eine Grenze, wo sie Autonomie als solche aushöhlen. Und das ist hier regelmäßig der Fall: Die zahlreichen neuen Anwendungen von KI haben alte Abhängigkeiten vertieft und neue ergeben – und durch die Nutzung vieler externer Tools binden sich Hochschulen in einer Weise an Unternehmen, die sich kaum noch aufkündigen lässt. Das gilt umso mehr, insofern diese Nutzung zugleich ein Training mit überwiegend hochwertigen Daten darstellt, das der Leistungsfähigkeit der Algorithmen so massiv zuträglich sein dürfte, dass konkurrierende Produkte, die von den Universitäten selbst entwickelt werden könnten, um Längen abgehängt zu werden drohen.

Die Entwicklung eigener Lösungen vonseiten der Universitäten wird durch spärliche Grundfinanzierung, mangelnde Ressourcenkoordinierung und institutionelle Trägheit ausgebremst. Durch ihr Nutzungsverhalten tragen Hochschulen noch zusätzlich zum Verlust ihrer Konkurrenzfähigkeit mit den Techunternehmen bei. Insgesamt ergibt sich so ein in Teilen selbst verschuldeter Autonomieverlust, dem die Hochschulen – allen Investitionen in den Aufbau eigener Dateninfrastrukturen und digitaler Ökosysteme sowie Onlinelehrplattformen zum Trotz – bislang wenig entgegenzusetzen haben.

Dass Hochschulen in problematischer Weise digitale Abhängigkeiten eingehen, ist freilich nicht auf KI-Instrumente beschränkt: Auch die Nutzung von Google Scholar, Zoom, der Plagiatssoftware Turnitin und ähnlichen Programmen zementiert die Abhängigkeit von Technologiekonzernen. Viele Universitäten haben sich nach anfänglichen Bedenken mit der Nutzung dieser Programme abgefunden. Auch die bereitwillige Unterwerfung unter das lukrative Geschäftsmodell wissenschaftlicher Großverlage (an der auch die Open-Access-Transformation wenig ändert, solange sie profitorientierten Modellen weiter Tür und Tor öffnet) ist vielsagend hinsichtlich der Bereitschaft der Hochschulen, ihre Autonomie ohne Not aufzugeben.

Alternative Open Source

Gerade angesichts der Leistungsfähigkeit und der Multifunktionalität von KI-Werkzeugen, die zugleich mehrstufige Abhängigkeiten erzeugen und wesentlich deren Risiken ausmachen, darf sich hier nicht das Gleiche noch einmal ereignen. Resignation kann sich die Forschungslandschaft Europas im wachsenden Wettbewerb mit Ostasien und Nordamerika nicht leisten. Stattdessen gilt es, möglichst umgehend ein umfassendes Programm zu entwerfen, um die digitale Autonomie der Universitäten zu stärken.

Dazu braucht es zunächst einmal eine sachgerechte Diskussion: In der Debatte um die digitale Selbstbestimmung Europas kommen Bildung und Wissenschaft bisher kaum vor, obwohl sich gerade in diesem Sektor innerhalb kurzer Zeit besonders tiefe und irreversible Abhängigkeiten ergeben, die auf bedenkliche Weise in andere gesellschaftliche Bereiche ausstrahlen. Angesichts der bedeutenden Verantwortung, die der Wissenschaft in Transformationsprozessen zukommt, kann der gesellschaftliche Impact der Nutzung solcher Tools in Forschung und Lehre kaum überschätzt werden. Wenn uns die digitale Selbstbestimmung von Hochschulen tatsächlich ein Anliegen ist, dann darf sich die Debatte nicht um einzelne Werkzeuge drehen, sondern muss den ganzen Werkzeugkasten auf den Prüfstand stellen. Zugleich braucht es Ressourcen und Freiräume, die Hochschulen zur Entwicklung eigener, für ihre Zwecke ausreichend leistungsfähiger Werkzeuge befähigen.

Um die digitale Autonomie von Forschung und Lehre zu retten, müssen Politik und Hochschulen ihrer Verantwortung im Aufbau hochschulisch getragener KI-Lösungen auf drei verschränkten Ebenen gerecht werden: Den Hochschulen obliegt die Stärkung und radikale Modernisierung der digitalen Hochschullehre. Dazu zählen eigene Infrastrukturen, deren nachhaltige Nutzung sowie die Rekrutierung und Bindung kompetenten Personals für Aufbau, Pflege und Weiterentwicklung. Die Bundesländer und die Bundesregierung sind in der Pflicht, sowohl hierfür als auch für die eigenständige Entwicklung von KI-Instrumenten und Large-Language-Models-Anwendungen ausreichende Mittel zur Verfügung zu stellen, die im Sinne von Open Science in das Erstellen öffentlicher Güter investiert werden, von denen europäische Hochschulen und Forschungseinrichtungen in der Breite profitieren. Schließlich braucht es auf EU-Ebene neue Marktzugangsbedingungen für multinationale Technologie- und Plattformkonzerne, damit diese ihre KI-Instrumente innerhalb Europas und mit europäischen Forschern und Start-ups gemeinsam als Open-Source-Lösungen entwickeln.

Die digitale Abhängigkeit von Hochschulen wächst unbemerkt und droht unumkehrbar zu werden. Dem lässt sich nur begegnen, wenn Politik und Hochschulen ihre Verantwortung annehmen und die Abhängigkeit in einer gemeinsamen Anstrengung aufbrechen. Anderenfalls sieht es für eine verantwortungsvolle Nutzung von KI an den Hochschulen schlecht aus. Den Preis für die mangelnde digitale Unabhängigkeit von Forschung, Lehre und Bildung zahlt unsere Gesellschaft als Ganzes.

Amrei Bahr ist Juniorprofessorin für Philosophie der Technik und Information an der Universität Stuttgart. Maximilian Mayer ist Juniorprofessor für Internationale Beziehungen und globale Technologiepolitik an der Universität Bonn.