Deepfakes: uma nova ameaça à segurança e à confiança na informação

• Type: Academic Work
• Date: 2024

Authors

Filipa Lopes (Author) FEUP; Inês Aparício (Author) FEUP; Sara Esteves (Author) FEUP

Scientific classification

CORDIS: Technological sciences > Technology > Information technology

Other information

Subject: Deepfakes; Inteligência Artificial; Desinformação; Literacia Digital; Autenticidade da informação

Resumo (PT): Deepfakes são ficheiros de vídeo, imagem ou voz manipulados usando Inteligência Artificial (IA), com o intuito de fazer com que o conteúdo falso pareça autêntico. Estes tornaram-se numa nova forma de disseminar desinformação, especialmente desafiadora devido ao seu realismo e à rapidez com que se propagam em notícias online e redes sociais. Este relatório analisa a tecnologia deepfake em vídeo, examinando a sua natureza, os seus usos e as ameaças que podem representar para a segurança e confiança na informação. Começa por abordar o contexto e a dualidade dos deepfakes, explorando as suas aplicações positivas (no entretenimento, educação, investigação) e negativas (desinformação, crimes e fraudes), sublinhando a importância de uma reflexão ética sobre o uso desta tecnologia. Seguidamente, são descritos os dois principais modelos de IA utilizados na criação de deepfakes: os autoencoders e as redes adversárias generativas. São, igualmente, abordadas as técnicas de deteção de deepfakes com recurso à IA, testando-se três ferramentas online: o Deepware, o Deepfake-O-Meter e o TrueMedia.org. De seguida, são descritos outros métodos de verificação de autenticidade, complementares à IA, que incluem a análise visual, fisiológica, de metadados, de assinaturas digitais, marcas de água e blockchain. A análise realizada destaca a necessidade de estratégias mais abrangentes para lidar com deepfakes, reconhecendo as limitações dos métodos de deteção atuais, com ou sem IA. Nesta sequência, é enfatizada a importância das literacias digital, mediática e informacional como armas poderosas contra a desinformação e a fraude, pois capacitam os cidadãos a navegar no mundo digital de forma crítica e segura e sensibilizam-nos para a necessidade de adoção de mecanismos para proteger a autenticidade e integridade da informação que ajudem a combater o uso malicioso desta tecnologia. São sugeridos alguns recursos para formação nesse sentido, destacando-se o papel das bibliotecas universitárias e escolares na disseminação destas literacias. Conclui-se que os deepfakes são um fenómeno complexo que requer uma resposta coordenada de toda a sociedade, envolvendo cidadãos, plataformas de comunicação social, governos e instituições responsáveis pela regulamentação e criação de políticas éticas.

Abstract (EN): Deepfakes are modified video, image, or audio files created using artificial intelligence (AI) to make the fabricated information appear authentic. They have emerged as a new method of disseminating disinformation and are particularly problematic due to their realism and the speed with which they spread in online news and social media. This report examines video deepfake technology, its characteristics, applications, and the potential threats it poses to information security and trust. The first part looks at the background and duality of deepfakes, exploring their beneficial uses (in entertainment, education, and research) alongside their harmful uses in disinformation, criminal activity, and fraud, highlighting the need for ethical reflection on the use of this technology. The following section describes the two primary AI models used to generate deepfakes: autoencoders and generative adversarial networks. The methods of identifying deepfakes using AI are also examined by evaluating three online tools: Deepware, Deepfake-O-Meter, and TrueMedia.org. It is then outlined other approaches to authenticity verification that complement AI, such as visual and physiological analysis, metadata examination, digital signatures, watermarks, and blockchain technology. The research points to the need for more robust methods to combat deepfakes, acknowledging the shortcomings of current detection methods, regardless of the involvement of AI. In this context, it highlights the importance of digital, media, and information literacies as essential tools in the battle against disinformation and fraud, empowering citizens to navigate the digital landscape critically and safely, while at the same time raising awareness of the need to implement measures that protect the authenticity and integrity of information, thereby preventing the nefarious exploitation of technology. The final section discusses the importance of university and school libraries in promoting these skills. Some resources for training in this area are also recommended. We conclude that deepfakes are a multifaceted issue that requires a unified response from society, including citizens, media platforms, governments, and other bodies tasked with regulating and formulating ethical policies.

Language: Portuguese

Type (Professor's evaluation): Educational

No. of pages: 39