Deepfakes nas eleições da cidade de Buenos Aires

A consolidação democrática na América do Sul, marcada por transições complexas após períodos ditatoriais, enfrenta novos desafios na era digital ^[1]. As eleições legislativas de 18 de maio de 2025 na cidade de Buenos Aires evidenciaram um novo tipo de vulnerabilidade democrática: a interferência de deepfakes — vídeos manipulados por inteligência artificial — em momentos decisivos do processo eleitoral. O episódio, sem precedentes na política argentina, representa não apenas um alerta institucional, mas um verdadeiro desafio às democracias sul-americanas.

Incidente das deepfakes na eleição portenha

A campanha eleitoral de 2025 para os cargos legislativos da Cidade Autônoma de Buenos Aires foi palco de um episódio sem precedentes: a circulação massiva de um vídeo gerado por inteligência artificial na véspera da votação. Esse vídeo, descrito como uma deepfake, simulava a imagem e a voz do ex-presidente Mauricio Macri.

O conteúdo falso afirmava que Macri estaria retirando a candidatura de Silvia Lospennato, candidata do seu partido (PRO), e chamando o eleitorado a votar em Manuel Adorni, o candidato do partido do atual presidente Javier Milei, La Libertad Avanza ^[2]. A peça foi produzida com IA e simulava, com impressionante verossimilhança, voz e imagem do ex-presidente.

A estratégia visava confundir os eleitores a poucas horas do pleito. Segundo estimativas, o vídeo alcançou 14 milhões de visualizações na rede social X (ex-Twitter) ^[3]. Embora Macri tenha negado imediatamente o conteúdo e classificado o episódio como “um grave ato de profundo desrespeito às regras eleitorais e à democracia”, o dano já estava feito. Candidatos da coalizão “Buenos Aires Primero” denunciaram o caso ao Tribunal Eleitoral, que agiu rapidamente.

Casos semelhantes de deepfakes e desinformação em contextos eleitorais já foram registrados em outros lugares, como na eleição presidencial do Brasil em 2022 (com deepfakes de Bolsonaro e Lula), nos Estados Unidos (com imagens de Donald Trump sendo falsamente preso ou usadas para incentivar o voto afro-americano) e na Romênia (em que notícias falsas contribuíram para a anulação do processo de eleição presidencial).

Denúncia e a resposta do Tribunal Eleitoral

Na madrugada do dia da votação, 18 de maio, o Tribunal Eleitoral da Cidade de Buenos Aires emitiu a Resolução nº 89/2025, ordenando que a plataforma X removesse, em até duas horas, as publicações com o vídeo falso. A fundamentação foi clara: a proteção ao direito ao voto informado e à integridade do processo democrático ^[4].

O Tribunal também comunicou o ocorrido ao Ministério Público, mas não impôs penalidades aos usuários que postaram ou compartilharam o vídeo que utilizou a deepfake, revelando uma limitação estrutural: como responsabilizar judicialmente milhares de replicadores em um ecossistema digital que valoriza a viralização acima da veracidade?

Contexto político e constitucional argentino e sul-americano

O sistema eleitoral argentino é considerado robusto, embora enfrente desafios contínuos em áreas como equidade de gênero, disputas partidárias internas e a incorporação de tecnologias e meios de comunicação para a transparência e informação pública. O país vivenciou períodos marcados por ditaduras, sendo a mais sangrenta a que antecedeu o retorno à democracia em 1983, para o qual a participação massiva da cidadania e dos partidos políticos foi determinante.

Como ensina a professora Carolina Cyrillo, da UFRJ (Universidade Federal do Rio de Janeiro), o constitucionalismo sul-americano desenvolve-se no contexto das transições políticas pós ditaduras e a Guerra Fria, e sob a sombra de eventos como a Operação Condor, que envolveu altas autoridades de vários países em terrorismo de Estado e total ausência de proteção dos direitos humanos ^[5].

Esse esforço de reconstrução institucional e proteção dos direitos fundamentais no pós-ditadura, que caracteriza o constitucionalismo sul-americano, enfrenta agora um novo tipo de desafio: o avanço de tecnologias digitais capazes de comprometer a integridade da informação pública e, com ela, a própria legitimidade dos processos democráticos. Se antes a ameaça ao Estado de Direito vinha de ações estatais autoritárias, hoje ela pode surgir de conteúdos falsos criados por inteligência artificial, como as deepfakes.

Trata-se de uma ameaça mais difusa, mas não menos perigosa, pois opera dentro do próprio ambiente democrático, explorando suas brechas. Nesse sentido, a regulação das tecnologias digitais, especialmente em períodos eleitorais, emerge como uma nova fronteira da proteção dos direitos fundamentais, exigindo dos marcos jurídicos uma resposta à altura dos riscos que a manipulação da realidade impõe à democracia constitucional.

Debate sobre deepfakes e regulação

O incidente das eleições legislativas na Cidade de Buenos Aires intensificou o debate sobre a regulamentação de redes sociais e conteúdos manipulados em contextos eleitorais. As deepfakes são consideradas um nível superior das fake news, utilizando inteligência artificial (IA) para criar versões sintéticas de imagem, vídeo ou áudio que fazem uma pessoa dizer ou fazer algo que nunca fez. A utilização sistemática de deepfakes entrou no cenário político pela porta da frente.

Um dos principais pontos do debate é se a verdade dos fatos tem relevância no ecossistema digital. Para os chamados “engenheiros do caos”, o importante é que a mensagem funcione, ou seja, que mobilize, divida ou escandalize, gerando “engagement” (curtidas ou retuítes). Nesse sentido, as fake news não são erros, mas parte central de uma estratégia deliberada. O uso da IA generativa nesse contexto inaugura um novo nível para essa estratégia.

Propostas de resolução e o caminho a seguir

O incidente em Buenos Aires impulsionou a apresentação de propostas concretas para enfrentar o problema. O deputado nacional Julio Cobos apresentou um projeto de lei para restringir a circulação de conteúdos manipulados com inteligência artificial em períodos eleitorais. O objetivo é proteger a vontade do cidadão diante de informação enganosa. O projeto considera “conteúdo manipulado” como qualquer produto audiovisual ou sonoro criado para induzir falsamente uma pessoa razoável a acreditar que representa fatos ou expressões reais, excluindo mudanças menores que não alteram o sentido ^[6].

Além da regulamentação legal, outras propostas e necessidades emergem da discussão. É fundamental melhorar a moderação de conteúdos nas redes sociais e promover o letramento digital para o exercício da cidadania. A complexidade do tema, envolvendo tecnologia e redes sociais, mostra que não há respostas definitivas e que a forma como as sociedades argentina e brasileira, por exemplo, encaram a questão pode ser diferente.

No Brasil, o tema da inteligência artificial e deepfakes foi regulamentado pelo Tribunal Superior Eleitoral na Resolução nº 23.732/2024, que altera a resolução de propaganda eleitoral para coibir e punir a propagação de notícias falsas e de desinformação nas eleições municipais de 2024.

O debate entre a necessidade de regulamentação legal e a defesa da liberdade de expressão, a dificuldade em diferenciar mensagens cômicas de fraudes no ecossistema digital e os desafios práticos na responsabilização dos envolvidos demonstram que a sociedade e o sistema jurídico ainda estão se adaptando a essa nova realidade.

A proposta de legislação e o reconhecimento da importância da moderação de conteúdo e do letramento digital são passos necessários. No contexto do constitucionalismo sul-americano, enfrentar o desafio das deepfakes e da desinformação é crucial para preservar os avanços democráticos e garantir que a tecnologia sirva à participação política informada e autêntica, e não à manipulação da vontade popular. A forma como a Argentina e outros países da região lidarão com esses desafios moldará o futuro de suas democracias.

______________________________________

^[1] CYRILLO, C. Redemocratização na Argentina e no Brasil: da Operação Condor ao Sistema Interamericano de Direitos Humanos. Revista da Defensoria Pública da União, v. 20, n. 20, p. 21-37, 25 jun. 2024.

^[2] UOL. Deepfake na eleição de Buenos Aires aumenta debate sobre regulamentar redes. 22 de maio 2025. Disponível aqui.

^[3] Disponível aqui. Ver também: Videos truchos y campañas sucias: con las mentiras de siempre nos alcanzaba. Disponível aqui. Tras el escándalo por el video falso de Macri, crece el reclamo para regular los contenidos hechos con Inteligencia Artificial en campañas: “No es un chiste”. Disponível  aqui.

^[4] Diante da circulação do vídeo manipulado, os apoderados da Aliança “Buenos Aires Primero”, Ezequiel Jarvis e Matías Ezequiel Giampaolo, apresentaram uma denúncia perante o Tribunal Eleitoral. O Tribunal Eleitoral, como organismo competente para supervisionar o adequado desenvolvimento do processo eleitoral, entendeu que se encontrava facultado a adotar as medidas necessárias para garantir a integridade do processo. Assim, o Tribunal Eleitoral da Cidade de Buenos Aires interveio e emitiu a Resolução N° 89/2025 na madrugada do domingo, 18 de maio. A resolução ordenou à rede social X (anteriormente Twitter) que, em um prazo improrrogável de duas horas a partir da notificação, procedesse à eliminação das publicações identificadas pelos denunciantes. A decisão foi fundamentada no fato de que essas publicações continham afirmações falsas sobre a renúncia da candidatura de Silvia Lospennato. O Tribunal justificou sua decisão no risco de violação ao direito a um voto informado, em resguardo da integridade do ato comicial e da manifestação autêntica da vontade popular (CABA, Argentina. TRIBUNAL ELECTORAL. JARVIS, EZEQUIEL EDGARDO SOBRE CAUSAS ELECTORALES – OTROS ELECTORAL. Número: ELE 78728/2025-0. CUIJ: ELE J-01-00078728-7/2025-0. Actuación : 821046/2025. Ciudad de Buenos Aires).

^[5] CYRILLO, C. Redemocratização na Argentina e no Brasil: da Operação Condor ao Sistema Interamericano de Direitos Humanos. Revista da Defensoria Pública da União, v. 20, n. 20, p. 21-37, 25 jun. 2024.

^[6] Disponível aqui.