Forschungsprojekt untersucht Desinformations-Kampagnen
Falschinformationen im Netz spielen eine immer größere Rolle, wenn es
darum geht, wirtschaftliche und machtpolitische Interessen in der realen
Welt durchzusetzen. Das Forschungsprojekt KIMONO am Forschungsinstitut
(FI) CODE an der Universität der Bundeswehr München untersucht, wie
Desinformations-Kampagnen frühestmöglich erkannt, klassifiziert und
beobachtet werden können.
Innerhalb der vergangenen zehn Jahre sind die Sozialen Medien zu einer
zentralen Informationsquelle für Milliarden Menschen weltweit geworden.
Spätestens seit dem Arabischen Frühling 2011 ist klar, wie viel Einfluss
Facebook, Twitter und Co. auch auf politische Prozesse haben. Doch
gezielte Desinformationskampagnen können Menschen manipulieren und so zu
einer massiven Schwächung des Vertrauens in die Demokratie, ihre
rechtsstaatlichen Prinzipien sowie in die Meinungsfreiheit führen.
Desinformation kann ganze Staaten destabilisieren
Zudem besteht die Gefahr, dass staatliche Akteure Beeinflussungskampagnen
in Sozialen Medien nutzen, um gegnerische Staaten zu destabilisieren
(hybride Kriegsführung). Im Projekt KIMONO am FI CODE der Universität der
Bundeswehr München arbeiten Wissenschaftlerinnen und Wissenschaftler
daran, derartige Kampagnen möglichst frühzeitig zu erkennen, um deren
Entwicklung und Verbreitung zu beobachten und geeignete Gegenmaßnahmen
einleiten zu können.
Prof. Michaela Geierhos, Professorin für Data Science und Technische
Direktorin am FI CODE, leitet die deutsch-israelische
Forschungskooperation KIMONO: „Um im Ernstfall angemessen reagieren zu
können, ist es essenziell, die gezielte Verbreitung von
Falschinformationen in Sozialen Medien wissenschaftlich zu untersuchen und
die dahinterliegenden Muster und Netzwerke möglichst frühzeitig zu
erkennen“, so Geierhos.
An welchen Merkmalen erkennt man Fake News?
Das Projektteam nutzt für die Datenakquise eine klassische Pipeline: Diese
ruft entsprechende Daten von verschiedenen Social-Media-Plattformen wie
Twitter, Facebook und Instagram ab und speichert sie zunächst in einer
Datenbank. Zur Auswertung wenden die Wissenschaftlerinnen und
Wissenschaftler verschiedene State-of-the-Art-Algorithmen des flachen und
tiefen Lernens an. In die Analyse und Klassifikation fließen auch Merkmale
wie etwa das Beziehungsnetzwerk der jeweiligen nutzenden Person, die
sprachliche Gestaltung der Posts oder Informationen über die Posting-
Häufigkeit und Followerzahl ein – die beiden letztgenannten Faktoren sind
insbesondere für die Erkennung sogenannter Social Bots relevant.
Anforderungskatalog für ein Frühwarnsystem
Im Ergebnis soll eine Softwareunterstützung entstehen, um Kampagnen nicht
nur schnell zu erkennen und explizit zu markieren, sondern zusätzlich noch
ergänzende Erklärungen bereitzustellen, warum ein bestimmter Social-Media-
Beitrag als Teil einer irreführenden Informations- und
Beeinflussungskampagne eingestuft wird. Prof. Geierhos: „Es ist wichtig,
dass die Nutzenden die Klassifizierung verstehen und das Ergebnis
transparent bleibt. Nur so können sinnvolle Maßnahmen abgeleitet werden.“
Ein weiteres Ziel des Projekts ist die Bereitstellung eines
Anforderungskataloges, der für die spätere Entwicklung eines Early-
Warning-Systems herangezogen werden soll.
Das Projekt KIMONO (Kampagnenidentifikation, -monitoring und
-klassifikation mittels Methoden des Social Media Mining zur Integration
in ein KI-basiertes Frühwarnsystem) wird vom Bundesministerium der
Verteidigung gefördert und läuft noch bis zum Jahr 2023.
