Ein führender KI-Anbieter hat am 10. September 2026 einen Bericht über den Missbrauch eigener KI-Systeme veröffentlicht.1 Darin ein Fall, der zeigt, wie Beziehungsbetrug inzwischen produziert wird.
01 | Über 20 Apps, 4.700 Personas
Ein Unternehmen aus China betrieb über 20 Dating-Apps. Beworben als Plattform mit echten Menschen. In zwei Wochen im April 2026 zählte der Anbieter mehr als 4.700 KI-Personas, die mit mindestens 25.000 Nutzern schrieben. Rund 2,36 Millionen Nachrichten in vierzehn Tagen.1
Die Personas liefen eigenständig. Die Anweisung an das Modell: niemals offenlegen, automatisiert zu sein. Bitten um Videocalls oder Fotos abwehren. Eine feste Abfolge von Gesprächsstufen durchlaufen. Im Hintergrund erzeugte das System künstliche Likes, erfundene Profilbesuche und vorproduzierte Videoschnipsel. Eine Komponente protokollierte, welche Nutzer bereits misstrauisch wurden.1
02 | Der Mensch für den Echtheitsnachweis
Und hier wird es für die Praxis interessant. Das Studio warb zusätzlich echte Menschen an, bezahlt pro Nachricht, pro Videoanruf, pro Follow-back. Ihre Profile liefen im selben Feed wie die Maschinen, im Verhältnis von drei Bots zu einem Menschen. Diese Leute existierten für genau die Momente, an denen das Modell scheitert: der Live-Videocall, der Beweis eines echten Social-Media-Kontos. Ihre Antworten wiederum schlug ihnen ein anderes Sprachmodell vor. Drei Vorschläge, einer wird ausgewählt.1
Wer Betrugsmaschen bewertet, sollte an dieser Stelle genau hinschauen. Die Automatisierung deckt die Fläche ab, und für den Echtheitsnachweis stehen Menschen bereit. Beide Rollen sind austauschbar besetzt und wurden getrennt vergütet.
03 | Was daraus für die Erkennung folgt
Für die Erkennung folgt daraus ein unangenehmer Schluss: Die klassischen Prüfpunkte bei Romance- und Anlagebetrug beruhen in der Regel auf der Annahme, dass ein Mensch nur begrenzt viele Opfer gleichzeitig betreuen könne. Zeitverzögerungen, Sprachfehler, inkonsistente Erzählungen, unmögliche Arbeitszeiten. Diese Annahme taugt nicht mehr. Ein Operator überwacht heute Kennzahlen, während im Hintergrund tausend Gespräche parallel laufen. Jedes sprachlich fehlerfrei und rund um die Uhr.
04 | Verteilt auf mehrere Anbieter
Ein Detail verdient eine eigene Beachtung: Die Operation verteilte sich bewusst auf mehrere KI-Anbieter. Einer stellte die Gesprächsführung, ein kleineres Modell die Antwortvorschläge für die angeworbenen Personen, ein weiteres die Profilbilder.1 Kein Anbieter sah das vollständige Bild. Wer Missbrauch auf der eigenen Plattform sucht, findet ein Fragment.
Wer Missbrauch auf der eigenen Plattform sucht, findet ein Fragment.
05 | Dieselben Bausteine
Zur Einordnung: Der konkrete Fall betrifft Dating-Apps. Die Bausteine sind dieselben, die beim Pig Butchering (Romance Baiting) gebraucht werden. Kontaktaufbau in der Fläche, Vertrauensarbeit über Wochen, ein Mensch für die kritischen Momente.
