Deepfake

Definition

Betrug, bei dem synthetisch erzeugte Stimmen, Videos oder Bilder eingesetzt werden, um eine reale Person zu imitieren und das Opfer zu einer Handlung zu bewegen. Die Technik ersetzt das gesprochene oder gefilmte Vertrauensmerkmal, auf das sich Menschen bei der Identifikation verlassen.

Erscheinungsform in der Praxis

Voice Cloning benötigt wenige Sekunden Sprachmaterial, das aus sozialen Medien, Sprachnachrichten oder öffentlichen Auftritten stammt. Anwendungsfälle: der Enkeltrick mit echter Stimme des Angehörigen, die Freigabe einer Zahlung durch die geklonte Stimme des Vorgesetzten, die Verifikation gegenüber einer Bank per Stimme. Video-Deepfakes werden in Videokonferenzen eingesetzt. Der bekannteste dokumentierte Fall betraf Ende Januar 2024 einen Mitarbeiter eines Unternehmens in Hongkong, der in einer vorab aufgezeichneten Videokonferenz mit geklonten Führungskräften zu Überweisungen von rund 200 Millionen Hongkong-Dollar (umgerechnet rund 25 Millionen US-Dollar) veranlasst wurde.

Bei Pig Butchering ersetzen Deepfakes zunehmend die Fotos und Videoanrufe, mit denen der Täter seine Identität belegt. Bei Cybertrading Fraud erscheinen Prominente in gefälschten Werbevideos, die eine Anlagemethode empfehlen.

Erkennungsmerkmale

• Anruf oder Video mit vertrauter Person, Anliegen ungewöhnlich, Dringlichkeit hoch
• Rückruf über bekannte Nummer wird abgewehrt oder nicht möglich
• Bild- oder Tonartefakte bei schnellen Bewegungen, Lichtwechseln, Nebengeräuschen
• Prominenten-Video mit Anlageempfehlung auf unbekannter Website
• Verifikationsfrage nach gemeinsamem Wissen wird umgangen

Dokumentierter Fall

Dokumentiert ist: Ende Januar 2024 hat ein Mitarbeiter eines Unternehmens in Hongkong nach einer Phishing-Mail im Namen des Finanzchefs der britischen Zentrale und einer per Deepfake vorab aufgezeichneten Videokonferenz Überweisungen von rund 200 Millionen Hongkong-Dollar (rund 25 Millionen US-Dollar) auf fünf lokale Konten veranlasst. Dokumentiert von: Regierung der Sonderverwaltungszone Hongkong, Antwort auf die Legislativratsanfrage LCQ9 vom 26. Juni 2024 (Fall von Ende Januar 2024, vorab aufgezeichnete Videokonferenz, fünf lokale Empfängerkonten); INTERPOL, Asia and South Pacific Cyber Threat Assessment Report 2025/2026, S. 19. Folge für die Typologie: Deepfake-Betrug zielt auf Verfahren, die ein Bild oder eine Stimme als Identitätsnachweis akzeptieren.

Abgrenzung

Quelle

1. INTERPOL, Asia and South Pacific Cyber Threat Assessment Report 2025/2026, S. 19 (Zeitleiste: Februar 2024, Hongkong, 25 Millionen US-Dollar)
2. Regierung der Sonderverwaltungszone Hongkong, Antwort auf die Legislativratsanfrage LCQ9 "Combating frauds involving deepfake" (26.06.2024): Fall von Ende Januar 2024, vorab aufgezeichnete Videokonferenz, Überweisungen auf fünf lokale Konten, Schaden rund 200 Millionen Hongkong-Dollar
3. Europol, Internet Organised Crime Threat Assessment (IOCTA) 2026, doi 10.2813/5737847, Abschnitt zu KI-gestützten Bedrohungen