Você sabia que existe uma ferramenta feita por inteligência artificial, a qual é capaz de criar vídeos super-realísticos de famosos, ou até mesmo seus, falando ou fazendo coisas que nunca aconteceram? Ela tem nome e se chama deepfake, uma perigosa forma de manipular acontecimentos a favor dos interesses de seu usuário e trazendo diversos malefícios para suas vítimas.
O Deepfake surgiu em 2017, na plataforma do Reddit, sendo usado pelo criador para a produção de vídeos pornográficos de celebridades mulheres, e mesmo depois dele ser expulso pela comunidade, a tecnologia já tinha sido desenvolvida e compartilhada para que fosse mais fácil de ser automatizada por machining learning software, facilitando seu uso. Segundo Guilherme Bacellar, pesquisador de Segurança Cibernética e Fraude na Unico, empresa especializada em identidade digital, apesar do uso indevido, há boas formas de aplicar a tecnologia. Por exemplo, experienciar a recriação de personagens que tanto admiramos por Inteligência Artificial, ele destaca que o problema está na utilização dessa tecnologia e reforça a importância da promoção de medidas contra fraudes causadoras de danos morais e financeiros promovidos pelo deepfake.
Após se popularizar, o deepfake passou a ser utilizado em várias situações, em sua maioria com o propósito de manipular os fatos e lucrar em cima da visibilidade que os vídeos recebem ao serem rapidamente compartilhados no ambiente digital. Sendo bem característico o uso em figuras políticas e em atores com o objetivo de criar discursos falsos ou espalhar fake news. Por ser muito difícil de identificar e muito fácil de enganar o público, os deepfakes já causaram muitas vítimas, como a apresentadora e jornalista Renata Vaconcellos, do Jornal Nacional, a qual teve suas falas alteradas com o foco de modificar os dados de uma pesquisa de intenção de votos das Eleições de 2022 por meio de uma edição feita com ferramentas de criação de deepfake.
Figura 1: Usos para o deepfake: Manipulação eleitoral, engenharia social, ataques de desinformação automatizados, roubo de identidade, fraude financeira, golpes e fraudes, produção de pornografia de celebridades.
É observável que o deepfake é nocivo para a sociedade podendo prejudicar a integridade de um indivíduo e até ameaçar a democracia nacional, então é preciso tomar alguns cuidados para evitar seus danos. Para identificar vídeos gerados por software, esteja atento a sinais de suspeita. Os indivíduos neles apresentados frequentemente exibem comportamentos e declarações extremas ou controversas, alinhadas com suas opiniões públicas já discutidas. Além disso, possíveis indícios visuais incluem cortes abruptos nas falas, atrasos nas piscadas, expressões faciais pouco naturais e uma aparência de pele que pode parecer artificial. Esses elementos suscitam dúvidas, uma vez que a replicação perfeita do comportamento facial humano é uma tarefa desafiadora para a tecnologia atual.
Antes de compartilhar um vídeo tente aplicar essas dicas para saber se há presença de deepfake e, juntamente, pesquisar informações sobre o conteúdo porque provavelmente haverá notícias sobre ou até o vídeo original, para que dessa forma, você não contribua com a disseminação de mentiras e desinformação. Por mais engraçado e chocante que seja um vídeo, conteúdos como deepfakes envolvem a imagem de outro ser humano e não deixa de ser ilegal usá-la sem a permissão do dono.
Figura 2: Imagem de vídeo feito com deepfake que posiciona Silvio Santos, do SBT, em um dos mais lembrados cenários da Rede Globo, emissora concorrente
Alguns cuidados adicionais são essenciais diante da proliferação de ferramentas de fácil acesso. O deepfake, em particular, tornou-se uma ameaça generalizada, sendo aplicável por qualquer indivíduo com conhecimento e recursos mínimos. Basta um vídeo disponível na internet do alvo, que pode ser uma pessoa comum, para que a manipulação seja possível.
Portanto, é importante estar atento ao compartilhar conteúdo e controlar quem tem acesso às suas fotos e vídeos. Essa precaução é fundamental para evitar tornar-se vítima de situações desagradáveis. Através da edição, é possível transformar um simples momento de lazer em um elemento comprometedor, seja para criar falsas provas ou depoimentos que não são seus. Isso pode resultar na deturpação da sua imagem e até mesmo na criação de um álibi falso para incriminá-lo. Esteja consciente da sua presença online e da privacidade das suas informações, protegendo-se assim contra potenciais riscos de manipulação e difamação.
Devemos sempre ter cuidado já que a cada dia que passa a capacidade tecnológica aumenta, sendo mais difícil de distinguir a veracidade de vídeos e áudios, mesmo com o auxílio de ferramentas desenvolvidas para detectar deepfake, como as plataformas Sentinela, FakeCatcher, We Verify e a ferramenta Vídeo Authenticator da Microsoft. É necessário grandes esforços para acompanhar o ritmo de evolução dessa ameaça, e também a tecnologia sozinha não é capaz de resolver todos os problemas gerados pelo deepfake, logo a conscientização e cooperação dos consumidores de conteúdo online são imprescindíveis.
Referências Bibliográficas
BRITT, Kaeli. How are deepfakes dangerous? Disponível em: https://www.unr.edu/nevada-today/news/2023/atp-deepfakes Acesso em: 22 de janeiro de 2024.
MACHADO, Amanda. O que é deepfake e por que você deveria se preocupar. Disponível em: https://tecnoblog.net/responde/o-que-e-deep-fake-e-porque-voce-deveria-se-preocupar-com-isso/ Acesso em: 22 de janeiro de 2024.
MCFARLAND, Alex. 5 melhores ferramentas e técnicas de detecção de Deepfake (janeiro de 2024) Disponível em:https://www.unite.ai/pt/best-deepfake-detector-tools-and-techniques/ Acesso em: 22 de janeiro de 2024.