Homem foi enganado em mais de US$ 100 milhões por namorada falsa gerada por IA

Um morador de Xangai perdeu mais de US$ 27.000 (aproximadamente 111 milhões de pesos colombianos) após ser enganado para um relacionamento virtual com um suposto parceiro criado usando inteligência artificial, informou a mídia estatal chinesa.

Os golpistas usaram ferramentas de inteligência artificial generativa para produzir vídeos e fotografias realistas de uma mulher inexistente, informou a emissora pública CCTV.

Convencido da autenticidade do relacionamento, o homem fez transferências totalizando aproximadamente 200.000 yuans (cerca de 27.580 dólares ou 113 milhões de pesos colombianos) para a conta que ele acreditava pertencer à sua companheira.

Os golpistas usaram esse conteúdo manipulado para persuadi-lo a contribuir com dinheiro para financiar um empreendimento comercial e cobrir despesas médicas de um membro da família. Para reforçar o caso, eles falsificaram documentos médicos e uma identidade falsa.

Citando uma investigação das autoridades, a CCTV disse que a operação foi realizada por uma "equipe de golpistas que enviaram vídeos e fotos criados por IA ou pela combinação de múltiplas imagens".

A mídia estatal também destacou que a vítima “nunca conheceu” pessoalmente a mulher com quem teve contato. Em um vídeo divulgado pela CCTV, imagens de uma mulher foram mostradas em diferentes cenários, como segurando uma paleta de tintas e caminhando por uma rua da cidade.

Ferramentas de inteligência artificial que podem gerar conteúdo visual e escrito altamente realista estão sendo cada vez mais usadas em esquemas fraudulentos.

No início deste mês, a empresa de tecnologia Meta alertou os usuários sobre os riscos do namoro online , dizendo que os golpes de IA generativa estão aumentando.

O Meta alertou os usuários sobre o aumento de golpes românticos online, onde criminosos criam identidades falsas para tirar vantagem de pessoas que procuram um parceiro.

Essas táticas incluem o uso de inteligência artificial generativa para tornar suas fraudes mais convincentes.

"Esta é uma nova ferramenta no arsenal dos golpistas", disse David Agranovich, diretor de política global de interrupção de ameaças da Meta. Segundo ele, os responsáveis ​​por essas fraudes estão constantemente mudando suas estratégias, por isso as plataformas devem atualizar seus métodos de detecção.

Meta apps como Instagram e WhatsApp usam sistemas que identificam comportamentos suspeitos em vez de focar apenas em imagens , o que lhes permite detectar atividades fraudulentas apesar dos truques de IA. "Isso torna nossa detecção e aplicação um pouco mais resilientes à IA generativa", disse Agranovich. Como exemplo, ele mencionou uma operação recentemente desmantelada que teve origem no Camboja e tinha como alvo pessoas que falavam chinês e japonês.

Pesquisadores da OpenAI descobriram que o esquema de fraude usou ferramentas da empresa de inteligência artificial sediada em São Francisco para criar e traduzir conteúdo, informou a Meta.

A inteligência artificial generativa está disponível há mais de um ano, mas seu uso por fraudadores cresceu nos últimos meses, de acordo com Rachel Tobac, CEO da SocialProof Security. "Eles também podem usar esses bots falsos que permitem que você crie um personagem ou faça chamadas telefônicas usando um clone de voz sem a necessidade de intervenção humana", alertou Tobac. Ele acrescentou: "Eles os chamam de agentes, mas eles não são usados ​​para trabalho de atendimento ao cliente. Eles são usados ​​para golpes de forma automatizada."

Com o Dia dos Namorados se aproximando em 14 de fevereiro e o inverno chegando ao hemisfério norte, os golpistas veem uma oportunidade de manipular emocionalmente suas vítimas. "Estamos definitivamente vendo um fluxo de golpistas tirando vantagem da solidão no meio do inverno", disse Tobac.

O principal objetivo desses golpes é obter dinheiro ganhando a confiança da vítima e, então, pedir ajuda financeira ou informações pessoais para acessar contas bancárias . "Ser educadamente paranoico ajuda muito, assim como verificar se as pessoas são quem dizem ser", disse Tobac.

As operações fraudulentas estão espalhadas por diversas plataformas, e o Meta detecta apenas uma parte delas. Em 2023, a empresa removeu mais de 408.000 contas em países da África Ocidental usadas para se passar por militares ou empresários e atrair vítimas na Austrália, Reino Unido, Europa e Estados Unidos.

Como parte de seus esforços para combater essas fraudes, a Meta está testando um sistema de reconhecimento facial para identificar perfis suspeitos denunciados por usuários ou detectados por suas ferramentas de segurança.

*Este conteúdo foi reescrito com auxílio de inteligência artificial, com base em informações da AFP, e foi revisado por um jornalista e um editor.