Mann wurde von einer künstlichen, künstlichen Freundin um über 100 Millionen Dollar betrogen

Ein Einwohner Shanghais verlor mehr als 27.000 Dollar (ungefähr 111 Millionen kolumbianische Pesos), nachdem er in eine virtuelle Beziehung mit einem angeblichen Partner gelockt worden war, der mithilfe künstlicher Intelligenz erschaffen worden war, berichteten chinesische Staatsmedien.

Die Betrüger nutzten Tools generativer künstlicher Intelligenz, um realistische Videos und Fotos einer nicht existierenden Frau zu erstellen, berichtete der öffentlich-rechtliche Sender CCTV.

Der Mann war von der Echtheit ihrer Beziehung überzeugt und überwies insgesamt rund 200.000 Yuan (rund 27.580 Dollar oder 113 Millionen kolumbianische Pesos) auf das Konto, von dem er glaubte, dass es seiner Partnerin gehörte.

Mithilfe dieser manipulierten Inhalte wollten die Betrüger ihn dazu bewegen, Geld für die Finanzierung eines Geschäftsvorhabens und die Deckung der medizinischen Kosten eines Familienmitglieds beizusteuern. Um ihre Beweislage zu untermauern, fälschten sie medizinische Dokumente und einen gefälschten Ausweis.

Unter Berufung auf eine Untersuchung der Behörden erklärte CCTV, die Operation sei von einem „Team von Betrügern durchgeführt worden, die Videos und Fotos verschickten, die mithilfe künstlicher Intelligenz oder durch die Kombination mehrerer Bilder erstellt wurden.“

Die staatlichen Medien betonten außerdem, dass das Opfer die Frau, mit der er in Kontakt stand, „nie persönlich getroffen“ habe. In einem von CCTV veröffentlichten Video wurden Bilder einer Frau in verschiedenen Situationen gezeigt, etwa wie sie mit einer Farbpalette in der Hand eine Straße entlanggeht.

Bei betrügerischen Machenschaften werden zunehmend Tools künstlicher Intelligenz eingesetzt, die äußerst realistische visuelle und schriftliche Inhalte erzeugen können.

Anfang des Monats warnte das Technologieunternehmen Meta seine Benutzer vor den Risiken des Online-Datings und erklärte, dass Betrügereien mit generativer KI auf dem Vormarsch seien.

Meta machte die Benutzer auf die Zunahme von Online-Liebesbetrügereien aufmerksam, bei denen Kriminelle falsche Identitäten erstellen, um Menschen auf Partnersuche auszunutzen.

Zu diesen Taktiken gehört der Einsatz generativer künstlicher Intelligenz, um ihre Falschmeldungen überzeugender zu gestalten.

„Dies ist ein neues Werkzeug im Arsenal der Betrüger“, sagte David Agranovich, Metas Direktor für globale Bedrohungsunterbrechungspolitik. Ihm zufolge ändern die Verantwortlichen für diese Betrügereien ständig ihre Strategien, weshalb die Plattformen ihre Erkennungsmethoden aktualisieren müssen.

Meta-Apps wie Instagram und WhatsApp verwenden Systeme zur Erkennung verdächtigen Verhaltens, anstatt sich ausschließlich auf Bilder zu konzentrieren . So sind sie trotz KI-Tricks in der Lage, betrügerische Aktivitäten zu erkennen. „Dadurch sind unsere Erkennung und Anwendung etwas widerstandsfähiger gegenüber generativer KI“, sagte Agranovich. Als Beispiel nannte er eine kürzlich aufgelöste Operation, die ihren Ursprung in Kambodscha hatte und sich gegen Menschen richtete, die Chinesisch und Japanisch sprachen.

Forscher von OpenAI haben herausgefunden, dass bei dem Betrugsschema Tools des in San Francisco ansässigen Unternehmens für künstliche Intelligenz zum Erstellen und Übersetzen von Inhalten verwendet wurden, berichtete Meta.

Generative künstliche Intelligenz ist seit mehr als einem Jahr verfügbar, doch laut Rachel Tobac, CEO von SocialProof Security, hat ihre Nutzung durch Betrüger in den letzten Monaten zugenommen. „Sie können auch diese gefälschten Bots verwenden, mit denen Sie einen Charakter erstellen oder mithilfe eines Stimmklons Telefonanrufe tätigen können, ohne dass ein menschliches Eingreifen erforderlich ist“, warnte Tobac. Er fügte hinzu: „Sie werden als Agenten bezeichnet, aber sie werden nicht für den Kundendienst eingesetzt. Sie werden für automatisierte Betrügereien eingesetzt.“

Der Valentinstag (14. Februar) steht vor der Tür und in der nördlichen Hemisphäre hält der Winter Einzug. Betrüger sehen darin eine Gelegenheit, ihre Opfer emotional zu manipulieren. „Wir beobachten definitiv einen Zustrom von Betrügern, die die Einsamkeit mitten im Winter ausnutzen“, sagte Tobac.

Der Hauptzweck dieser Betrügereien besteht darin, an Geld zu gelangen , indem man das Vertrauen des Opfers gewinnt und dann um finanzielle Hilfe oder persönliche Informationen bittet, um auf Bankkonten zuzugreifen . „Eine höfliche Art der Paranoia hilft viel, ebenso wie die Überprüfung, ob die Leute auch die sind, für die sie sich ausgeben“, sagte Tobac.

Betrugsoperationen erstrecken sich über mehrere Plattformen und Meta erkennt nur einen Teil davon. Im Jahr 2023 löschte das Unternehmen mehr als 408.000 Konten in westafrikanischen Ländern, die dazu verwendet wurden, sich als Militärangehörige oder Geschäftsleute auszugeben und Opfer in Australien, Großbritannien, Europa und den Vereinigten Staaten anzulocken.

Im Rahmen seiner Bemühungen zur Bekämpfung dieser Betrügereien testet Meta ein Gesichtserkennungssystem, um verdächtige Profile zu identifizieren, die von Benutzern gemeldet oder von seinen Sicherheitstools erkannt werden.

*Dieser Inhalt wurde mit Hilfe künstlicher Intelligenz basierend auf Informationen von AFP neu geschrieben und von einem Journalisten und einem Redakteur überprüft.