Crescimento dos deepfakes gera alerta global sobre fraudes digitais e confiança na inteligência artificial

O avanço de tecnologias de inteligência artificial generativa e a proliferação de deepfakes altamente realistas estão acendendo um sinal de alerta em governos, empresas e instituições financeiras em todo o mundo. Segundo um relatório divulgado pelo Fórum Econômico Mundial, o aumento de golpes sofisticados baseados em vídeos, áudios e imagens falsificados coloca em risco a confiança pública na integridade digital.

O estudo cita um caso emblemático ocorrido recentemente, no qual um engenheiro foi induzido a transferir mais de US$ 25 milhões após participar de uma videoconferência fraudulenta criada com IA, envolvendo deepfakes de seus superiores hierárquicos. O episódio reforça o potencial destrutivo de fraudes digitais hiperrealistas e evidencia a dificuldade das vítimas em distinguir o falso do verdadeiro.

Especialistas ouvidos pelo Fórum afirmam que sistemas de detecção automatizada de conteúdo gerado por IA ainda estão em estágio inicial, e que as medidas de autenticação humana, como reconhecimento facial e biometria, também estão sob risco de serem manipuladas.

O alerta também destaca a necessidade urgente de regulamentação e de padrões globais para identificação, rastreamento e sinalização de conteúdos manipulados, antes que esses mecanismos sejam usados em escala para influenciar eleições, desestabilizar mercados ou extorquir indivíduos e empresas.

Líderes do setor de tecnologia e representantes de governos reunidos em fóruns como o G20 e o BRICS já começaram a discutir diretrizes para mitigar riscos éticos e sociais da IA generativa, com propostas que incluem selos de verificação digital, obrigatoriedade de marca d’água e sistemas de auditoria algorítmica.

Enquanto soluções definitivas ainda não emergem, o relatório conclui com um apelo: “A confiança na era digital depende de ação coordenada, transparente e urgente para conter os abusos da inteligência artificial”.

FONTE: weforum.org