Campanha DeSantis usa imagens ‘Deepfake’ para atacar Trump, sugerem especialistas

Enquanto o governador Ron DeSantis, da Flórida, começa a atacar agressivamente o ex-presidente Donald J. Trump, sua campanha espalhou três imagens do ex-presidente abraçando o Dr. inteligência artificial.

As imagens – que à primeira vista parecem genuínas e são intercaladas com fotos reais em um vídeo de campanha – mostram Trump abraçando e beijando o Dr. Fauci, que liderou a resposta à pandemia do país e foi alvo de duras críticas de DeSantis. O governador tem usado a pandemia para se contrapor ao seu principal rival na indicação presidencial republicana.

Uma conta no Twitter administrada pela campanha de DeSantis postou as imagens, parte de um vídeo atacando Trump, na segunda-feira. A agência de notícias Agence France-Presse informou pela primeira vez que eles pareciam falsos na quarta-feira.

A campanha do governador não respondeu a um pedido de comentário.

Os aliados republicanos de Trump criticaram a campanha de DeSantis na quinta-feira. O senador JD Vance, de Ohio, escreveu no Twitter: “Manchar Donald Trump com imagens falsas de IA é completamente inaceitável”. A representante Marjorie Taylor Green, da Geórgia, concordou, dizendo: “Esses anúncios falsos de campanha de IA precisam ser retirados imediatamente”.

Por sua vez, a equipe de DeSantis sugeriu que as imagens eram obviamente falsas, comparando-as aos memes divulgados por Trump e seus aliados. Mas essas imagens – que incluíam um vídeo do Sr. DeSantis em um terno feminino adaptado de “The Office” e uma “gravação” de uma conversa entre o Sr. DeSantis, Adolf Hitler e o Diabo – claramente pretendiam ser engraçadas e fáceis de entender. discernir como adulterado.

No Twitter, Christina Pushaw, diretora de resposta rápida da campanha DeSantis, compartilhou uma fotografia falsa do Sr. DeSantis cavalgando um rinoceronte (uma referência às acusações de que ele é um “republicano apenas de nome” ou RINO), escrevendo: “Acho que isso pode ser uma imagem gerada por IA. Quem sabe?” A imagem, que parecia ser photoshopada, já havia sido postada por Trump em seu site Truth Social.

À medida que a campanha de 2024 esquenta, o uso de tais deepfakes tem sido uma preocupação urgente para aqueles que estudam imagens manipuladas, que graças às novas tecnologias são mais fáceis de gerar do que nunca. Embora os americanos tenham se tornado muito mais céticos em relação às reportagens impressas, digitais e transmitidas pela mídia, dizem os especialistas, eles estão mais propensos a confiar em vídeos e imagens que podem examinar com seus próprios olhos. O advento dos deepfakes pode mudar isso.

“Este é o grande problema de segurança da informação do século 21”, disse Matthew Stamm, professor associado de engenharia elétrica e de computação da Drexel University, que revisou as imagens de Trump e Fauci e duvidou fortemente de sua autenticidade.

Depois que o presidente Biden anunciou que buscaria a reeleição, o Comitê Nacional Republicano divulgou um vídeo com imagens geradas por IA, incluindo a China invadindo Taiwan, alegando retratar um futuro potencial se ele vencesse novamente em 2024. Ao contrário do vídeo de DeSantis , o anúncio da RNC reconheceu, em pequenos caracteres brancos no canto superior esquerdo da tela, que havia sido “construído inteiramente com imagens de IA”.

Hany Farid, professor da Universidade da Califórnia, em Berkeley, disse que o uso de tais táticas só aumentaria.

“Continuaremos a ver campanhas, atores patrocinados pelo Estado, trolls e pessoas que querem semear o caos usar essas imagens falsas para conduzir suas próprias agendas”, disse Farid, que também concluiu que as imagens postadas pela campanha DeSantis eram mais provavelmente falso.

Enquanto ele descreveu as três imagens como “muito desajeitadas” – apontando falhas no cabelo e na orelha de Trump, bem como letras sem sentido no que parecia ser um selo da Casa Branca e uma bandeira americana com um padrão bizarro de estrelas – ele disse que a inteligência artificial generativa estava se tornando rapidamente mais sofisticada. Por exemplo, disse ele, a tecnologia já havia se adaptado para produzir mãos com aparência mais autêntica, uma falha inicial em seu realismo.

“Esses são sinais bem conhecidos de que um gerador de imagens sintéticas baseado em IA provavelmente foi usado para criar essas imagens”, disse Farid, acrescentando que alguns especialistas estão começando a revisar sistematicamente materiais de campanha em busca de sinais de que contenham deepfakes.

Ele disse que os políticos agora têm uma desculpa pronta quando representações genuínas de suas ações – como a infame fita “Access Hollywood” de Trump – aparecem em público.

“Eles têm negação plausível”, disse Farid. “Eles podem dizer que é falso.”

Jonathan Swan e Shane Goldmacher relatórios contribuídos.