Um fluxo de vídeos com a cantora norte-americana Taylor Swift e Rachel Brosnahan do drama de TV de sucesso Maravilhoda Sra Maisel falando chinês fluentemente, bem como comediantes chineses falando inglês perfeito, se tornaram virais na Internet nos últimos dias. Em vez de serem boas surpresas, esses videoclipes geraram medo e discussões sobre a regulamentação da tecnologia, já que foram gerados por inteligência artificial (IA).

Nesses vídeos, Taylor “fala” chinês fluentemente com apenas um pequeno sotaque. Além disso, o movimento da boca corresponde às palavras chinesas. Rachel também sobe no palco e pronuncia chinês fluente com facilidade, dizendo: "É por isso que preciso ficar realmente famosa. Se você é famosa, todo mundo te ama".

Guo Degang, um famoso artista chinês de crosstalk, pode ser visto fazendo crosstalk em inglês fluente num vídeo.

Mais tarde foi revelado que todos esses vídeos foram gerados por software de IA. O software é capaz de criar os videoclipes mencionados acima, com o simple envio dos vídeos originais e a seleção do idioma em que deseja que as pessoas falem, noticiou a mídia chinesa.

Os vídeos geraram discussões acaloradas online.

"Aqueles vídeos fizeram meu cabelo ficar em pé. Imagine quão facilmente essa tecnologia pode ser usada para destruir a reputação de alguém", disse um usuário da plataforma chinesa Sina Weibo, semelhante ao X.

“A tecnologia é verdadeiramente uma faca de dois gumes. As consequências podem ser terríveis se a IA se desenvolver sem regulamentação”, observou outro usuário do Sina Weibo.

Usar IA para fazer vídeos como Taylor falando chinês e Degang falando inglês pode violar seus direitos, já que a lei chinesa estipula que trabalhos como crosstalk não podem ser usados sem a aprovação do proprietário dos direitos autorais. Além disso, as imagens das pessoas não podem ser usadas a menos que sejam aprovadas pelas próprias pessoas, disse Yue Shenshan, advogado baseado em Beijing.

Na semana passada, as autoridades indonésias reportaram que um suposto vídeo do presidente indonésio, Joko Widodo, fazendo um discurso em chinês, era uma farsa produzida com ferramentas de IA. O clipe acumulou milhões de visualizações. A mídia encontrou o clipe original, que mostra o líder falando em inglês durante uma gala em 2015.

Nos últimos anos, a tecnologia de IA tem sido amplamente aplicada à criação secundária de vídeos curtos, como troca de rosto e mudança de voz por IA. Nos anos anteriores, os produtores de dramas de TV também usaram essa tecnologia para substituir os rostos dos atores.

Há também casos em que bandidos usaram tecnologia de IA para mudar rostos, enganar crianças e cometer crimes. Essa tecnologia também tem sido usada para divulgar notícias falsas e espalhar boatos.

O Comitê Técnico Nacional de Normalização da Segurança da Informação da China elaborou um projeto de requisitos básicos de segurança para serviços geradores de IA e solicitou opiniões públicas em outubro.

Os requisitos descrevem critérios de segurança fundamentais para serviços geradores de IA, abrangendo segurança de corpus, segurança de modelo, medidas de segurança e avaliações de segurança. Estes critérios são aplicáveis a fornecedores que oferecem serviços geradores de IA ao público na China. Os prestadores de serviços podem realizar avaliações de segurança de forma independente ou contratar terceiros para fazê-lo, de acordo com estes critérios. Os requisitos também podem servir de referência para as autoridades reguladoras relevantes na avaliação da segurança dos serviços geradores de IA.

No que diz respeito à futura regulamentação da IA, Qin An, vice-diretor do Comitê de Especialistas em Contraterrorismo e Governança de Segurança Cibernética da Sociedade Chinesa de Direito Policial, disse ao Global Times que uma etapa envolve proteger as informações dos cidadãos, enquanto outra etapa exige que as plataformas marquem claramente vídeos ou fotos manipulados por IA.

Em geral, a IA ainda está em estágios iniciais de desenvolvimento e os riscos não foram totalmente expostos, observou Qin, acrescentando a importância de ser adotada uma atitude tolerante e cautelosa em termos de desenvolvimento da IA, de modo a não sufocar o desenvolvimento inovador desta tecnologia.