Wenn der Fake-Chef anruft: Echtzeit-Warnsystem gegen gefälschte Videokonferenzen

fTeilen

Deepfakes dienen Betrug und Identitätsdiebstahl – selbst dort, wo der
Mensch seinen Augen und Ohren im Allgemeinen traut: Videokonferenzen in
Unternehmen geraten zunehmend ins Visier von Kriminellen. Fraunhofer-
Forschende arbeiten daran, Betrugsversuche in Echtzeit zu erkennen.

Videokonferenzen erleichtern die Kommunikation über Standorte hinweg und
ermöglichen es trotzdem, sich in die Augen zu schauen. Doch immer öfter
darf man zweifeln, ob die Augen des Gegenübers echt sind. Denn Deepfake-
Technologien können heute Stimmen und Bilder in Echtzeit so realistisch
wie noch nie fälschen. Opfer eines solchen Deepfake-Zoomcalls, bei dem
alle Teilnehmendem – inklusive seinem Chef – KI-generiert waren, wurde der
Finanzdirektor eines Unternehmens in Singapur 2025. Er kam mit einem
Schrecken davon: Die Behörden konnten den von ihm überwiesenen Betrag von
knapp 500 000 US-Dollar später sichern.

Allein in Singapur verzeichnete die dortige Cyber Security Agency (CSA) im
ersten Quartal 2026 einen riesigen Anstieg solcher Videobetrugsfälle. So
gab es dort nur im Januar über 1200 Fälle. Im Vorjahresmonat waren es 43.
Doch das Problem ist global. Nach Prüfung von über einer Milliarde Fälle
weltweit resümiert der Entrust Identity Fraud Report 2026:
»Identitätsbetrug ist nicht mehr opportunistisch, sondern inzwischen
industrialisiert, global organisiert und kommerziell optimiert.« Grund
genug für Fraunhofer-Forschende wie Prof. Martin Steinebach, Chef-IT-
Forensiker am Fraunhofer-Institut für Sichere Informationstechnologie SIT
in Darmstadt, mit Hochdruck an diesem Thema zu arbeiten.

»Videokonferenzen sind für die Deepfake-Erkennung eine Herausforderung«,
weiß der Experte: »Die Bild- und Tonqualität schwankt, da die Netzqualität
variiert. Weil die Datenströme komprimiert werden, gehen genau jene
Bildfehler verloren, an denen frühere Erkennungsmethoden Deepfakes oft
festgemacht haben.« Hinzu kommen automatische Weichzeichnungsfilter,
wechselnde Beleuchtung, Rauschen und Bewegungen im Hintergrund. Ein
Detektor darf auf solche normalen Videokonferenz-Effekte nicht fälschlich
reagieren.

Lokale Lösung für Echtzeiterkennung

Steinebach und sein Team aus Experten am Fraunhofer SIT und am Fraunhofer
Heilbronn Forschungs- und Innovationszentrum (HNFIZ) für Cybersicherheit
haben im Rahmen eines ATHENE-Forschungsprojekts eine Lösung entwickelt,
die Video- und Audio-Deepfake-Erkennung kombiniert. Die KI-basierte
Software soll Teilnehmenden bei sicherheitskritischen Videocalls
kontinuierlich Hinweise liefern, wie wahrscheinlich ein Deepfake ist. Die
Warnung erfolgt visuell: »Wenn ein Gespräch im Augenblick viele
Indikatoren aufweist, gibt das System eine Wahrscheinlichkeit aus, ob es
sich hier um Deepfake handeln könnte«, so der Forscher. »Dann ist aber
immer noch der Mensch gefragt, der mit gezielten Rückfragen oder auch
einem Rückruf auf einem anderen Kanal die Echtheit seines Gegenübers
verifizieren muss.«

Die Analyse kann lokal auf einem leistungsfähigen Laptop laufen, ohne dass
Bild- oder Tondaten an einen externen Server übertragen werden müssen.
Damit ist sie datenschutzkonform und für Unternehmen geeignet, die
vertrauliche Gespräche führen, etwa mit Vorständen, Finanzabteilungen oder
externen Partnern. »Für die lokale Echtzeitanalyse unserer Lösung reicht
ein Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher«,
sagt Steinebach.

Interessant dürfte die Lösung auch für Anbieter von Videokonferenzsystemen
sein, die sie als Plugin oder fest eingebaute Sicherheitsfunktion in
Systemen wie Teams, Zoom oder vergleichbaren Unternehmenslösungen
integrieren könnten. Ebenso möglich wäre eine zentrale
Unternehmensinfrastruktur: ein geschützter Serverbereich, über den
besonders wichtige Gespräche analysiert werden. Die genaue Form hängt vom
Einsatzszenario, den vorhandenen Ressourcen und den
Datenschutzanforderungen ab.

KI schlägt Signalverarbeitung

»Eine Beobachtung, die wir anfangs gemacht haben, war, dass klassische
Signalverarbeitungsmethoden bei Echtzeiterkennung heute sehr schnell an
ihre Grenzen kommen. Maschinelles Lernen war wesentlich schneller und
effizienter«, berichtet Steinebach. Er füttert das selbstlernende System
mit echten und manipulierten Audio- beziehungsweise Videodaten und es
lernt, Unterschiede selbstständig zu erkennen. Im Audiobereich nutzte das
Team unter anderem öffentlich verfügbare Datensätze mit rund 19 000 echten
und etwa 160 000 gespooften, also manipulierten, Aufnahmen.

Entscheidend ist dabei, dass die Trainingsdaten ein realistisches
Videokonferenzumfeld möglichst gut abbilden. Deshalb müssen typische
Effekte, wie sie in Videokonferenzen auftreten, mit abgebildet werden:
Kompression, wechselnde Qualität, Weichzeichnungs-filter. In der KI
spreche man von Augmentation, erklärt Steinebach: »Man versieht das
Material mit den Störungen, die im realen Betrieb auftreten, und schult
das System so, dass es mit diesen umgehen kann.« Da es sich um ein
spezialisiertes Modell für eine klar umrissene Aufgabe handelt, ist das
Training deutlich kleiner dimensioniert als bei großen Sprachmodellen.
»Spannend war, dass die Erstellung der Deepfakes in so einem
Echtzeitsystem fast zeitaufwendiger und schwieriger hinzubekommen war als
die Erkennung.«

Ausblick: Praxistest von Technik und Prozess

Der Demonstrator des Fraunhofer SIT befindet sich aktuell noch in der
Proof-of-Concept-Phase. Im nächsten Schritt planen die Forschenden, mit
Unternehmen und Videokonferenzsystemanbietern zusammenzuarbeiten, um die
Technologie zuverlässig, datenschutzfreundlich und nutzerfreundlich in
reale Infrastrukturen zu integrieren. Zudem gelte es, juristische Fragen
zu klären, etwa, ob Gesprächspartner der Analyse zustimmen müssen oder wie
Nutzungsbedingungen eines Videokonferenzsystems eine solche Funktion
abbilden.

Die weitere Entwicklung von Deepfakes sieht Martin Steinebach ambivalent.
Einerseits bestehe die Gefahr, dass sich bald auch so sicherheitskritische
Verfahren wie die Video-Identifizierung von Banken durch Deepfakes
fälschen lassen. Andererseits können kryptographische Absicherung,
zusätzliche Authentifizierung und technische Erkennungssysteme das Risiko
senken. Wichtig bleibt jedoch die Kombination aus Technik und Prozess:
Wenn in einer Videokonferenz plötzlich eine Überweisung gefordert wird,
sollte ein zweiter, unabhängiger Kommunikationskanal genutzt werden.