Um homem em Xangai, na China, perdeu mais de US$ 27.000 (cerca de R$ 150 mil) após ser enganado para um relacionamento online com uma namorada falsa gerada por inteligência artificial, informou a mídia estatal chinesa na quarta-feira.

Os golpistas usaram um programa de IA generativa para criar vídeos e fotos realistas de uma jovem mulher imaginária, de acordo com a emissora pública CCTV. A vítima transferiu quase 200.000 yuans (cerca de US$ 27.580) para o que ele pensou ser a conta bancária de sua namorada.

Uma pessoa falsa criada com IA

Os criminosos usaram vídeos e fotos falsos para convencê-lo de que ela precisava de fundos para abrir um negócio e ajudar um parente a pagar despesas médicas.

Eles até criaram registros médicos e uma carteira de identidade fictícia para dar credibilidade ao seu esquema. Na verdade, esses golpes deepfake geralmente criam personas fictícias que são convincentes para 70% das pessoas, de acordo com a empresa de segurança Kaspersky.

A operação foi realizada por uma “equipe de golpistas que enviaram vídeos e fotos criados por IA ou combinando múltiplas imagens”, disse a CCTV, citando uma investigação policial. A vítima “nunca conheceu” sua suposta namorada pessoalmente, observou o canal.

Um vídeo transmitido pela CCTV mostra fotos de uma mulher em diferentes situações, como posando com uma paleta de tinta ou em uma rua da cidade.

O surgimento de ferramentas de inteligência artificial capazes de gerar imagens, vídeos e textos convincentes está dando origem a golpes cada vez mais sofisticados ao redor do mundo, pois é possível simular imagens, vídeos e até chamadas de áudio e vídeo com extremo realismo.

No início deste mês, a gigante de mídia social dos EUA Meta pediu aos usuários da internet que tenham cuidado com relacionamentos online, observando que os golpes que usam IA generativa estão aumentando.

E no ano passado, a World, a plataforma de criptomoedas de Sam Altman (o CEO da OpenAI), apresentou uma ferramenta de verificação de “humanidade” que aponta nessa direção: um sistema que valida que do outro lado de um chat há uma pessoa real e não uma IA golpista.

Brad Pitt, um clássico

No início deste ano, viralizou o caso de uma francesa que acreditava estar em um relacionamento com o ator Brad Pitt, que terminou em um golpe de mais de 800 mil euros que ele pediu que ela pagasse por algumas supostas cirurgias; A estrela de Hollywood também serviu de isca para capturar o interesse de uma aposentada argentina, disposta a vender seu apartamento para encontrar seu suposto amor.

Sandra Bullock também foi usada como desculpa: perfis falsos em nome de sua irmã Gesine abundam no Facebook, enganando os homens e fazendo-os acreditar que estão iniciando um relacionamento secreto com a atriz.

Nada, porém, supera a história de Paul Frampton , o físico inglês que acreditava estar em um relacionamento com a modelo tcheca Denise Milani, e que acabou preso em Devoto por quase dois anos por lhe fazer um favor que acabou sendo usá-lo como mula.