48 JULHO | DEZEMBRO 2021 Peele e criado usando o popular software de código aberto FakeApp – e foi expressamente rotulado como um serviço público de alerta para deepfakes. Emjunhode 2019, “Mark Zuckerberg”pediuaopúblicoqueimaginasse “um homem com total controle” sobre “seus segredos, sua vida, seufuturo”emumvídeocriadopelos artistas Daniel Howe e Bill Posters. Mesesdepois, poucoantesdaeleição noReinoUnido, Posters (cujo verdadeironomeé–acho–BarneyFrancis) soltoumaisdeepfakes,agorade“Boris Johnson”e“JeremyCorbyn”, comum candidato endossando o outro, para posteriormente se revelar como um exemplo da desinformação. Como dia da eleição nos Estados Unidos se aproximando, o ritmoacelerou. Emjulhode2020, oCenter for Advanced Virtuality do MIT concluiu um dos projetos mais conceitualmente interessantes até aqui: um deepfake de RichardNixon falando à nação sobre a malfadada missão à Lua – discurso que fora, sim, redigidopara o casode os astronautas da Apollo 11 não teremvoltado à Terra. No início, umalerta dizia: “Isso não é real”. No final, outro: “Este projeto demonstra o perigo da desinformação”. Emsetembro, novos deepfakes de Vladimir Putin e Kim Jong-un foramencomendados por umgrupo de boa governança chamadoRepresentUs – de novo, para alertar para o perigo da desinformação. Emoutubro: umdeepfake do deputadoMatt Gaetz, da Flórida, encomendado por um adversário a fim de vincular Gaetz à ameaça da desinformação. Emdezembro: umdeepfake da rainha da Inglaterra, criado por um estúdiode efeitos especiais indicado aoOscar para servir de “lembrete de que não podemosmais acreditar em nossos próprios olhos”. Destes exemplos, nenhumfoi concebido para realmente tapear; todos visavam aumentar a conscientização sobre o potencial perigo. Em busca de indícios de que gente do mal estava usando a inteligência artificial para obter ganhos políticos, o que encontrei foi um campo emergente de firmas de detecção, projetos bancados por governos, startups, acadêmicos, artistas e organizações sem fins lucrativos que pareciam depender uns dos outros paramanter vivo o interesse em deepfakes. Era uma espécie de complexo industrial do deepfake – ou, talvez, uma solução em busca de um problema. Em janeiro, um trio de acadêmicos da Harvard, da Penn State e da Washington University em St. Louis publicou um artigo que examinava a eficácia de um deepfake no qual a “senadora ElizabethWarren” chamavaDonald Trump de “um bosta”. O vídeo, apresentado como “vazado”, convenceu 47% dos 5.750 participantes do estudo. Vá lá, soa um pouco alarmante. Mas, para fazer o experimento, os pesquisadores tiveram, é claro, de criar o deepfake. Para tal, contrataram uma firma chamada DeepFakeBlue, que faz deepfakes “éticos” para “gerar conscientização”. O artigo, ao resumir a ameaça representada pela tecnologia, citou o vídeo de Ali Bongo. Dada a relação desproporcional entre deepfakes para “conscientizar” e deepfakes “reais”, é difícil não se perguntar se a turminha da inteligência artificial simplesmente gosta do barato de criar humanos sintéticos, mas se sente no dever de vestir suas monstruosas criações com o manto do serviço público. Como em JurassicPark, digamos (há, também, um fecundo gênero de deepfakes fantásticos e bizarros que são, contudo, menos convincentes: Donald Trump como Honey Boo Boo, Lula comoMariahCarey – e tendema ser criados por ilusionistas apolíticos). Segundoumtrabalhoacadêmicosobre deepfakes,onúmerodetrabalhosacadêmicos sobre deepfakes cresceu de zero em2017 para 60 em2018 e 414 até julho de 2020. Aatençãoda imprensa adeepfakes seguiuumatrajetóriasemelhante.Em 2016,antesqueotermo“deepfake”existisse,umaequipedeacadêmicoscriou um software seminal de “reconstitui- “Até agora, 487 jornalistas nos procuraram porque queriam fazer um deepfake de Donald Trump ou Putin. Isso representa 98% dos pedidos que recebemos” QUEM | QUANDO | COMO | ONDE | POR QUÊ E O QUE ESTÁ POR VIR. . .
RkJQdWJsaXNoZXIy NDQ1MTY1