Digitale Autonomie: bedroht durch KI

fTeilen

Seit der Einführung von ChatGPT hat die Künstliche Intelligenz die Welt
der Hochschulbildung im Sturm erobert. Methoden der Künstlichen
Intelligenz können bei der Erstellung und Individualisierung von
Lehrmaterialen helfen oder Lernende mit Hinweisen unterstützen.

Doch der
unkritische Umgang mit den neuen Werkzeugen birgt auch Risiken. Wie diese
aussehen und wie man ihnen begegnen kann, ist Thema des Workshops
„Rearticulating Autonomy. Artificial Intelligence and Digital Autonomy in
Higher Education“, der vom 7. bis zum 9. Mai am Zentrum für
interdisziplinäre Forschung (ZiF) der Universität Bielefeld stattfindet.
Auch zwei öffentliche Veranstaltungen stehen auf dem Programm.

„Die neuen KI-Tools sind im Bildungswesen durchaus von Nutzen, etwa wenn
es um individualisierte Lernprogramme geht oder um den leichteren Zugang
zu Bildungsmöglichkeiten“, erklärt Benjamin Paaßen, Juniorprofessor für
Wissensrepräsentation und Maschinelles Lernen an der Universität
Bielefeld. Digitale Werkzeuge bringen aber nicht nur Vorteile, sondern
auch Risiken mit sich. Sie können Lernprozesse behindern – zum Beispiel,
wenn wichtige Aufgaben an ein Programm abgegeben werden, anstatt sie
selbst zu bearbeiten. Außerdem können sie dazu führen, dass Menschen oder
Institutionen an bestimmte Anbieter gebunden werden. Diese Anbieter
könnten durch finanziellen Druck, die Nutzungsbedingungen oder den Zugriff
auf Nutzerdaten Einfluss auf den Bildungsprozess nehmen.

So besteht die Gefahr, dass sie eine monopolartige Stellung erlangen.
„Zusammengenommen sieht es aus, als sei die Autonomie von Lernenden,
Lehrenden und den Hochschulen als Ganzes bedroht“, so Paaßen. Paaßen
leitet den Workshop am ZiF zusammen mit der Philosophin Juniorprofessorin
Dr. Amrei Bahr von der Universität Stuttgart und Maximilian Mayer,
Juniorprofessor für Internationale Beziehungen und globale
Technologiepolitik an der Universität Bonn.

Die Diskussion um die digitale Souveränität, wie sie bereits seit einiger
Zeit in Politik und Ökonomie geführt wird, ist mit dem Workshop nun auch
im Bildungswesen angekommen – laut Amrei Bahr höchste Zeit: „Für Bildung
und Forschung steht einiges auf dem Spiel, wenn KI-Tools allzu
leichtfertig eingesetzt werden.“ So verstärke die Nutzung entsprechender
Tools auch Fehlanreize im Bildungssystem, etwa eine Abkehr von diskursiven
Formaten zugunsten standardisierter Prüfungen, die mit KI erstellt und
ausgewertet werden können. Zudem bestehe die Gefahr, inhaltlich einen
Mainstream zu zementieren, da KI-Tools häufig Vorkommendes verstärkt
aufgreifen – zulasten der Vielfalt von Theorien und sprachlichen
Ausdrucksformen. „Umso wichtiger, dass die Universitäten nun ihre
Möglichkeiten nutzen, um den Umgang mit KI-Werkzeugen gezielt zu
gestalten“, so Bahr. „Dazu müssen auch grundsätzliche Fragen geklärt
werden: Welches Selbstverständnis haben die jeweiligen Fächer? Welche
Fähigkeiten setzen sie zwingend voraus? Wie kann ein verantwortungsvoller
KI-Einsatz hier konkret aussehen?“

Um auszuloten, was genau vor sich geht, wenn KI-Verfahren in der
Hochschullehre zum Einsatz kommen und wie dort digitale Autonomie
gesichert werden kann, haben die Leiter*innen Forschende aus Informatik
und Künstlicher Intelligenz, Philosophie, Erziehungswissenschaft,
Psychologie, Jura und Politik- und Sozialwissenschaft ans ZiF eingeladen.
„Wir werden analysieren, welche KI-Werkzeuge in der Hochschulbildung
aktuell verwendet werden, wie die Nutzung die Autonomie beeinflusst und
was in diesem Kontext unter Autonomie zu verstehen ist. Wir möchten Ideen
erarbeiten, wie KI-Werkzeuge eingesetzt werden können, um die Autonomie
der Beteiligten zu erhöhen, statt sie einzuschränken“, so Maximilian
Mayer. „Wir sind überzeugt, dass interdisziplinäre Zusammenarbeit nötig
ist, um die verschiedenen Forschungsansätze zusammenzuführen und die
technischen Grundlagen ebenso wie praktische Anwendungen und ihre
Auswirkungen zu verstehen, außerdem den rechtlichen Hintergrund und die
Möglichkeiten von Regulierung.“

Im Rahmen des Workshops finden zwei öffentliche Veranstaltungen statt:
–       am 7.5. um 19 Uhr die Lesung „KI-Literatur. Über Menschen und
Daten“ von Berit Glanz (Reykjavík)
–       am 8.5. um 19 Uhr die Podiumsdiskussion „KI und Autonomie in der
Hochschullehre“ mit Amrei Bahr (Stuttgart), Wiebke Esdar
(Berlin/Bielefeld), Anne K. Krüger (Berlin) und Katharina Zweig
(Kaiserslautern)
Die Arbeitssprache des Workshops ist Englisch, die öffentlichen
Veranstaltungen finden auf Deutsch statt. Die Leiter*innen stehen für
Medienanfragen gerne zur Verfügung.