KI-Experte Stefan Feuerriegel wirft einen Blick auf die Gefahr
automatisierter Fake-News-Kampagnen und zeigt Möglichkeiten auf wie man
ihr begegnen kann.

KI-Tools können inzwischen quasi auf Knopfdruck überzeugende Texte,
Bilder, Stimmen und sogar Videos erzeugen. Können wir in Zukunft unseren
Augen, unseren Ohren und unserem gesunden Menschenverstand überhaupt noch
trauen?

Stefan Feuerriegel: Wie überzeugend solche künstlich erzeugten Inhalte
sind, sieht man am Beispiel des Bildes von Papst Franziskus, das im
Frühling viral ging. Bei diesem Bild konnte man als Laie kaum noch
erkennen, ob das echt war. Solche Fälschungen konnten begabte
Grafikerinnen und Grafiker natürlich auch früher schon erstellen, aber in
diesem Fall war es eine Person, die auf die Schnelle dutzende Versionen
dieses Fotos produziert hat. Das hat gezeigt, was mittlerweile ganz
einfach und ohne besondere Fähigkeiten möglich ist. Aktuell kriegen die
KIs einzelne Details noch nicht so ganz hin, der Hintergrund stimmt
manchmal nicht ganz, Hände tendieren noch dazu, zu viele oder zu weniger
Finger zu haben. Aber die Technologie wird ja auf Hochtouren
weiterentwickelt und optimiert. In den nächsten Monaten wird das schon
ganz anders aussehen.

Was mach KI-generierte Fake News besonders gefährlich?

Leider sind die Fakes mit fehlerfreien Texten und authentischen Bildern
inzwischen nicht nur sehr überzeugend, sondern man kann die
Fehlinformationen dank KI auch personalisieren und individuell auf die
Religion, das Geschlecht oder die politische Gesinnung der einzelnen
Konsumenten abstimmen und in jeder Zielgruppe Hass oder Wut säen. Man kann
einen Bot bauen, der nicht mehr einfach nur eine Nachricht postet, sondern
ganz persönlich auf Facebook oder Twitter Menschen anschreibt und sogar
auf Antworten reagiert und Unterhaltungen führt. Das geht bis hin zu Fake-
Anrufen, bei denen man gezielt eine Stimme generiert, die so klingt wie
ein Familienmitglied.

Wenn man mit Tippfehlersuchen und Fingerzählen bald nicht mehr
weiterkommt: Was sind die Anhaltspunkte, anhand derer wir die Fakes
erkennen können?

Allein anhand des Inhalts gibt es keine. Oder zumindest bald nicht mehr.
Entweder man verlässt sich darauf, dass man bestimmten Quellen vertrauen
kann, oder man muss unabhängig recherchieren. Wobei Faktenfälscher
natürlich auch mit KI erstellte Webseiten und Quellen platzieren können.
In sozialen Netzwerken sind die Bilder außerdem so klein, dass man solche
Fehler gar nicht mehr erkennen kann. Es kursieren Bilder und Videos im
Netz, bei denen aufgrund der geringen Auflösung nicht mehr eindeutig
geprüft werden kann, ob sie echt sind oder gefälscht. Das macht es schwer,
Fehlinformation von echten Inhalten zu unterscheiden. Bei kriegerischen
Konflikten spielt die Macht von Bildern und die Bedeutung der sozialen
Medien zum Beispiel eine große Rolle und kann eine immense politische
Sprengkraft entwickeln. Auch in diesem Kontext sehen wir neben
herkömmlichen Fakes bereits den Einsatz von KI-generiertem Material.

Treten wir gerade in ein neues Zeitalter der Desinformation ein?

Viele meiner Kolleginnen und Kollegen sagen, wir leben eigentlich schon in
Zeiten von Fake News. Das Problem wird sich verschärfen. Die entscheidende
Frage ist, wer nutzt diese neuen Möglichkeiten? Ich habe weniger Sorge,
dass irgendjemand privat mit ChatGPT oder DALL·E Fehlinformationen streut.
Der- oder diejenige hat selten die Reichweite und auch meist kein
Interesse daran, einen großen Einfluss damit auszuüben. Wir müssen
stattdessen auf die Akteure schauen, die diese Tools für großangelegte
Desinformationskampagnen nutzen, sie gezielt kalibrieren oder sogar eigene
Tools entwickeln, die keine eingebauten Sicherheitsmechanismen besitzen.

Wirklich gefährlich wird es, wenn die großen Player ins Spiel kommen,
vielleicht sogar ein staatlicher Akteur mit einer gewissen politischen
Agenda, in einem nichtdemokratischen Staat. Im Rahmen des russischen
Überfalls auf die Ukraine sehen wir, dass ein großer Aufwand für
prorussische Propaganda betrieben wird. Wieso sollten die dafür
Verantwortlichen nicht auch mit den neuen Tools arbeiten, wenn die es
ermöglichen, schneller zu reagieren und authentisch wirkende Inhalte in
viel größeren Dimensionen zu produzieren? Es wäre naiv zu glauben, dass
diese Möglichkeit nicht genutzt wird.

Kommen die Fact Checker da überhaupt noch hinterher?

Wir wissen, dass menschliche Fact Checker bis zu 24 Stunden brauchen, um
eine Nachricht zu prüfen. In dieser Zeit kann sie längst viral gegangen
sein. Gerade bei aktuellen Krisen ist das rechtzeitige Eindämmen von
Fehlinformationen eine immense Herausforderung. Facebook und Twitter
nutzen inzwischen generative KI, um Fake News automatisiert zu
identifizieren. Momentan wird auch der Einsatz sogenannter Wasserzeichen
diskutiert, anhand derer Plattformen KI-generierte Inhalte erkennen und
rausfiltern können. Dafür müssen die Plattformen mitspielen. Es bringt
nichts, wenn Twitter diese Möglichkeit nutzt, die Fehlinformation dann
aber auf WhatsApp viral geht. Es kann außerdem immer noch Akteure geben,
die sich nicht daran halten und ihre eigene KI ohne Wasserzeichen
programmieren.

Wie kann man der Flut an KI-Fehlinformationen begegnen?

Ich persönlich bin noch viel vorsichtiger geworden bei den Inhalten, die
ich konsumiere. Wir müssen viel mehr aufpassen, was wir lesen, gerade in
den sozialen Netzwerken. Das Problem ist vielen leider noch nicht bewusst.
Wir wissen zwar, dass KI jetzt schöne Texte und Bilder produzieren kann,
aber haben noch nicht auf dem Schirm, wie diese Technologie missbraucht
werden kann.

Die Plattformen müssen in die Pflicht genommen werden, sie sitzen an der
Quelle der Informationen. Wir Nutzerinnen und Nutzer sehen nur die Posts,
aber die Plattformen sehen, ob im Hintergrund irgendein Computerprogramm
diese Inhalte sendet oder ein echter Mensch dahintersteckt. Die Betreiber
der Netzwerke können zudem ihre Mitglieder daran erinnern, Informationen
kritisch zu hinterfragen und zu überprüfen. Plattformen könnten auch viel
mehr tun, um Fake News herauszufiltern - einige bemühen sich, andere
weniger.

Als zweites Standbein müssen wir jeden Einzelnen und die breite
Öffentlichkeit informieren und vorbereiten. Wir brauchen Trainings zu
Medienkompetenz und Digital Literacy, die Desinformationen durch KI
berücksichtigen und sich stetig mit dem technischen Fortschritt
weiterentwickeln.

Und dann stellt sich drittens die Frage, was die Politik tun sollte und
wieviel Regulierung sinnvoll ist. Das ist ein heikles Thema, weil
Reibungspunkte mit dem Recht auf Meinungsfreiheit entstehen können. KI
steht auch im EU-Parlament mittlerweile ganz oben auf der Tagungsordnung.
Ich glaube, wir können relativ zügig gute Lösungen erarbeiten, was
regulatorische Rahmenbedingungen angeht.

Sind wir gewappnet für das, was auf uns zukommt? Wo ist die Forschung
gefragt?

Nein, wir sind nicht ausreichend vorbereitet. Wir haben es mit einer neuen
Technologie zu tun, die wir besser verstehen müssen und da braucht es viel
mehr Grundlagenforschung. Zum Glück wird, nicht zuletzt an der LMU stark
in dem Bereich geforscht. Die Linguistik, die Soziologie, die
Politikwissenschaften und viele weitere Disziplinen beschäftigen sich mit
diesem komplexen Themenbereich. Die Verhaltenswissenschaften arbeiten
daran, überhaupt erst einmal zu verstehen, wie Menschen auf solche
künstlich generierten Informationen reagieren. Die Rechtsfakultät
beschäftigt sich mit den rechtlichen Hürden und balanciert das hohe Gut
der Meinungsfreiheit mit lösungsorientierten, umsetzbaren Ansätzen aus.
Die Informatik muss herausfinden, was technologisch überhaupt machbar ist.
Wir haben hier ein interdisziplinäres Umfeld, wo viele Forschungsbereiche
gemeinsam eine Forschungsagenda entwickeln.

Gesellschaftlicher Wandel erfordert ein umfassendes Umdenken. Seit fünf
Jahren beschäftigen sich Promovierende im BayWISS-Verbundkolleg „Life
Sciences und Grüne Technologien“ mit innovativen Lösungsansätzen in den
Lebenswissenschaften. Beim 5. Netzwerktreffen am 10. November am Campus
Weihenstephan präsentierten Forschende ihre Projekte und bewerteten das
Potenzial von Künstlicher Intelligenz.

Die jährlichen Netzwerktreffen des BayWISS-Verbundkollegs widmen sich
aktuellen Themen der Lebenswissenschaften, dabei immer im Fokus: die
Förderung von Lösungsansätzen zur Sicherung einer nachhaltigen Entwicklung
im Einklang mit den Sustainable Development Goals der Vereinten Nationen.
Promovierende und Forschende der beteiligten Hochschulen und Universitäten
präsentieren dabei ihre aktuellen Projekte, geben Einblicke in die
Entwicklung neuer Forschungsvorhaben oder in spannende Zukunftsthemen.
„Die Netzwerktreffen bieten eine wertvolle Plattform für den Austausch
zwischen etablierten und jungen Forschenden“, sagt Prof. Dr. Christoph
Moning, Vizepräsident für Forschung und Wissenstransfer an der Hochschule
Weihenstephan-Triesdorf (HSWT).

Die Verbundkollegprecher:innen Prof. Dr. Jörg Ewald (HSWT) und Prof. Dr.
Corina Vloth-Schuster (Universität Bayreuth) blickten in ihrer Begrüßung
auf die Meilensteine des BayWISS-Verbundkollegs seit der Gründung 2018
zurück. 25 Promovierende und 43 Professor:innen wurden seitdem
aufgenommen. Zu den drei Trägerhoschulen – die HSWT als Sitzhochschule, TH
Deggendorf und Universität Bayreuth – sind sechs weitere
Mitgliedshochschulen beigetreten. Dazu gehören die TU München, Ludwig-
Maximilians-Universität München, Universität Passau, HAW Landshut,
Hochschule Ansbach und Hochschule Neu-Ulm.

KI in den Lebenswissenschaften

Das 5. Netzwerktreffen beleuchtete, wie die aus der Forschung entstehenden
Innovationen und nachhaltigen Entwicklungen in Bereichen wie Energie und
Landnutzung, oder Digitalisierung und Technologisierung von der Anwendung
von Künstlicher Intelligenz profitieren und welchen Herausforderungen die
Forschenden gegenüberstehen.

Vier Doktorand:innen der HSWT stellten in Zusammenhang mit diesem
Themenkomplex ihre Forschungsprojekte vor. Matías Olivera thematisiert in
seinem Projekt die Identifizierung der Ursache für Schäden bei der
Produktion von Topfkräutern und die Entwicklung von Vermeidungsstrategien
und Gegenmaßnahmen. Leonie Hahn forscht an der Entwicklung eines
Frühwarnsystems für den Bewässerungsbedarf von Forstkulturen. In seiner
Arbeit beschäftigt sich Christoph Bader mit der Frage nach der Akzeptanz
eines On-Farm-Energiemanagementsystems im automatisierten Milchviehstall.
Die Gewinnerin des BayWISS-Preis 2022, Sabine Wittmann, setzt sich in
ihrem Projekt mit der Optimierung der pflanzlichen Rohstoffproduktion in
Indoor Farming Systemen auseinander.

Viele weitere Forschungsthemen konnten im anschließenden Programmpunkt
Science Café mit einer Postersession und Networking begutachtet werden. In
verschiedenen Workshops ging es um die Unterstützung von KI-Modellen bei
der wissenschaftlichen Arbeit. Prof. Dr. Marin Zec, Professor für
angewandte Informatik an der Hochschule München, erörterte und diskutierte
in einer Keynote die wachsende Rolle und die Grenzen der Künstlichen
Intelligenz bei der Wissensarbeit.

Innovative Kooperationskultur im Fachforum Verbundpromotion

Das Fachforum Verbundpromotion des Bayerischen Wissenschaftsforums
(BayWISS) https://www.baywiss.de/verbundpromotion setzt sich aktuell aus
elf Verbundkollegs zusammen. BayWISS-Verbundkollegs sind themenspezifische
Plattformen und Netzwerke für junge und erfahrene Forschende und stärken
die Kultur des wissenschaftlichen Austauschs zwischen bayerischen HAWs und
Universitäten. Unterstützt werden im BayWISS-Verbundkolleg „Life Sciences
und Grüne Technologien“ Promotionsprojekte aus den Lebens- und
Umweltwissenschaften, die thematisch in den Bereichen nachhaltige Land-
und Forstwirtschaft, Klimawandel, Umwelt und Biodiversität,
Ernährungssicherheit und Management der natürlichen Ressourcen angesiedelt
sind.

Verfasserin: Amanda Murtezaj, Pressereferentin HSWT

agung am 29./30.11.2023 in Münster – Kooperation des Exzellenzclusters
„Religion und Politik“ der Uni Münster und der Forschungsstelle „Islam und
Politik“ mit dem Bundesinnenministerium – Mit Podium über Antisemitismus,
Nationalismus und Islamismus – Khorchide: „Forschung hat Verschmelzung von
Islamismus & Nationalismus lange übersehen“

Forschungsergebnisse über politischen Islamismus und autoritären
Nationalismus präsentiert kommende Woche eine internationale Tagung am
Exzellenzcluster „Religion und Politik“ der Universität Münster. „Seit den
1990er Jahren hat sich der Blick der Wissenschaft auf den Islamismus durch
Al-Qaida und die Ereignisse des 11. September 2001 zur Sicherheitspolitik
verschoben“, sagt der islamische Theologe Prof. Dr. Mouhanad Khorchide.
„Der nicht-gewalttätige politische Islamismus und seine Verschmelzung mit
dem Nationalismus wurden dabei übersehen. Neuere Forschungen schließen
diese Lücke.“

Veranstalter der Tagung „Politischer Islamismus und autoritärer
Nationalismus“ am 29./30.11.2023 in Münster sind der Exzellenzcluster und
die Forschungsstelle „Islam und Politik“ am Zentrum für Islamische
Theologie (ZIT) der Universität Münster in Kooperation mit dem
Bundesinnenministerium. ZIT-Leiter Khorchide hat die Veranstaltung mit der
Religionspsychologin PD Dr. Sarah Demmrich vom Exzellenzcluster und der
Islamwissenschaftlerin PD Dr. Evelyn Bokler-Völkel sowie dem islamischen
Theologen Abdulkerim Şenel vom ZIT vorbereitet. Eine öffentliche
Diskussion am 29.11.23 befasst sich auch mit dem Verhältnis von
Antisemitismus, Nationalismus und Islamismus.

In den Vorträgen geht es mit Blick auf Deutschland etwa um
Präventionsarbeit gegen auslandsbezogenen Extremismus, um Antisemitismus
unter Muslimen und Musliminnen, um türkischen Rechtsextremismus, um die
Muslimbruderschaft sowie rechtspopulistisches und islamistisches
Gedankengut als Herausforderung für eine demokratische muslimische
Zivilgesellschaft. Das Verhältnis von Islamismus und Nationalismus wird
systematisch aus politikwissenschaftlicher und ideengeschichtlicher Sicht
beleuchtet. Auf dem Programm stehen auch Beiträge zur Lage in Ländern wie
der Türkei, Marokko und Jemen.

„Die Befunde, die wir auf der Tagung diskutieren, konzentrieren sich auf
den legalistischen Islamismus und subtile Methoden, mit denen er
rechtsstaatliche Demokratien herausfordert“, führt Mouhanad Khorchide aus.
„Wir nehmen auch den Einfluss ausländischer Regierungen und die
Verflechtungen von Islamismus und Nationalismus in den Blick. Sie werden
oft als separate Phänomene betrachtet, weisen jedoch zunehmend
Überschneidungen auf.“ (exc/vvm/tec)