Inteligência artificial é usada para criar vídeos enganosos que iludem consumidores nas redes sociais

Em um cenário digital permeado por avanços tecnológicos, Marcos Mion e Drauzio Varella tornaram-se vítimas de uma nova ameaça: deepfakes enganosos que promovem produtos fictícios. Golpistas, valendo-se da inteligência artificial (IA), manipulam vídeos nas redes sociais para vender supostas soluções para o autismo e produtos milagrosos para a pele.

Uma recente reportagem do Fantástico expôs a prática dos golpistas, que utilizam deepfakes — arquivos com alterações de voz, imagem ou vídeo geradas por IA — para ludibriar consumidores. No caso de Mion, um trecho em que ele aborda o autismo de seu filho foi manipulado, dando a falsa impressão de que falava sobre a cura da condição. Já Drauzio Varella teve um vídeo falso divulgado, no qual supostamente recomendava produtos para a pele.

A repercussão desses vídeos falsos revelou um desafio enfrentado pelas redes sociais, que nem sempre conseguem remover rapidamente conteúdos enganosos. Tal demora resulta em prejuízos para as personalidades envolvidas e para os consumidores que acreditam nessas edições fraudulentas, muitas vezes adquirindo produtos inexistentes.

Embora se discuta na indústria a implementação de marcas d’água ou sinalizações indicativas de deepfakes, ainda não há medidas concretas nesse sentido. A batalha contra a disseminação dessas falsificações continua, com especialistas buscando maneiras de identificar e conter esse tipo de conteúdo enganoso.

Na internet, serviços como Voicify e Cover.ai possibilitam treinar vozes e gerar áudios específicos. Quanto mais “limpos” forem os áudios originais, mais convincentes são os deepfakes. A facilidade em encontrar longos trechos de áudio de alta qualidade de celebridades que participam de podcasts facilita a criação dessas falsificações.

Perante essa crescente ameaça digital, a conscientização sobre os perigos dos deepfakes e a busca por soluções tecnológicas tornam-se imperativas para proteger a integridade de personalidades públicas e a confiança dos consumidores nas plataformas online.