Os departamentos de segurança pública em várias cidades pediram recentemente que a população permanecesse vigilante após a ocorrência de vários casos de fraude recorrendo a ferramentas de IA terem sido expostos.
Em um caso recentemente revelado pelo departamento de segurança pública de Baotou, na região autônoma da Mongólia Interior, a vítima foi induzida a iniciar uma transferência total de 4,3 milhões de yuans (US$ 612.000) por meio de uma conta da empresa após ter a realização de um chat de vídeo com alguém com a aparência de uma amizade.
Com a cooperação do banco, a polícia conseguiu interromper uma transferência de 3,37 milhões de yuans, mas anunciou que ainda está tentando recuperar 931.600 yuans que haviam já sido enviados.
Em 20 de abril, um homem de sobrenome Guo, representante legal de uma empresa de tecnologia em Fuzhou, província de Fujian, recebeu uma videochamada via WeChat de um golpista. Usando ferramentas de IA para assumir a identidade de um amigo de Guo, o golpista pediu-lhe ajuda.
O "amigo" de Guo disse que estava licitando um projeto em outra cidade e queria usar a conta da empresa de Guo para enviar uma oferta de 4,3 milhões de yuans. Ele prometeu pagar a Guo imediatamente.
O golpista enviou então um número de conta bancária para Guo e depois disso forneceu uma captura de tela do comprovante de transferência bancária para a conta da empresa de Guo.
Guo transferiu então 4,3 milhões de yuans para a conta fornecida em dois pagamentos separados.
Quando Guo ligou para o seu amigo real para confirmar a conclusão das transferências, seu amigo negou que tivesse feito uma videochamada ou pedido a transferência de dinheiro.
"Ele conversou comigo por videochamada e confirmei também seu rosto e voz no vídeo. É por isso que baixamos a guarda", acrescentou Guo.
O caso foi alvo de atenção nas redes sociais e chocou os internautas, que disseram que as pessoas que confiam e não têm consciência, como crianças e idosos, são especialmente vulneráveis a esse tipo de golpe. Eles pediram ao governo para fortalecer a gestão de tecnologias relacionadas.
Em 24 de maio, a Internet Society of China divulgou também uma declaração sobre o esquema de troca de rostos de IA. Ele disse que, à medida que a tecnologia "deepfake" - que costuma ser usada para imitar as vozes e aparência de outras pessoas em vídeos e gravações de áudio - se torna mais disponível gratuitamente, os produtos e serviços relacionados aumentaram gradualmente.
Está se tornando cada vez mais comum que algumas pessoas usem IA para fins criminosos, incluindo fraude e calúnia. As pessoas precisam estar vigilantes e fortalecer sua consciência para evitar que sejam vítimas de golpes, disse o comunicado.
As pessoas devem estar mais conscientes da proteção de informações pessoais e não fornecerem imagens de seus rostos, impressões digitais e outros dados biométricos a estranhos. Eles não devem divulgar detalhes de suas carteiras de identidade, cartões bancários, códigos de verificação e outras informações semelhantes, afirmou.
Ele lembrou as pessoas para gerenciarem cuidadosamente suas contas nas mídias sociais, especialmente ao fazerem login em dispositivos desconhecidos, por forma a evitar que suas informações privadas sejam roubadas.
Nos tempos da IA, textos, vozes, imagens e vídeos provavelmente serão profundamente sintetizados. Em casos como o de Guo, é necessário verificar as informações por meios adicionais, como ligar para a pessoa envolvida na transferência, em vez de transferir apenas dinheiro diretamente após a comunicação por texto ou outro meio sem verificação, independentemente de quem seja a outra parte, disse.
Em novembro, a Administração do Ciberespaço da China, o Ministério da Indústria e Tecnologia da Informação e o Ministério da Segurança Pública emitiram em conjunto as disposições para a administração da síntese aprofundada dos serviços de informação da Internet, tornando claras as restrições à geração, substituição e manipulação de rostos humanos, bem como a síntese e imitação de vozes humanas.
Algumas plataformas e empresas lançaram iniciativas para proibir o uso de tecnologia de IA generativa para criar e publicar conteúdo infrator, incluindo, entre outros, direitos de retrato e direitos de propriedade intelectual.
Zhou Linna, professora da Escola de Segurança do Ciberespaço da Universidade de Correios e Telecomunicações de Beijing, disse que a "troca de face AI" está se tornando uma ferramenta mais comum de fraude online e que pode alimentar desconfiança e mais medo na sociedade.
“A tecnologia AI é nova e pode ser muito conveniente, mas pode também afetar nossas vidas de maneira negativa”, disse Zhou. "É necessário melhorar e criar leis e regulamentos para usar e governar adequadamente essa tecnologia".
