A menos de cinco meses para o 1º turno das eleições municipais, que ocorre em todo Brasil, as deepfakes preocupam os especialistas em segurança cibernética e os políticos
Tem o mesmo rosto, a mesma voz, mas não é a pessoa. Vídeos de personalidades (principalmente) ou mesmo de anônimos com mensagens, às vezes, críveis são tão convincentes que é praticamente impossível diferenciar a verdade da ficção.
Os vídeos com tecnologia deepfakes podem ter finalidades de gracejos, mas também podem oferecer risco à democracia, conforme alerta a professora de direito digital do Centro Universitário de Brasília (CEUB) Carolina Jatobá
Ela explica que deepfake é uma forma avançada de manipulação de mídia que utiliza inteligência artificial (IA) para criar ou alterar vídeos e áudios de maneira altamente realista.
O termo “deepfake” é uma combinação de “deep learning” (aprendizado profundo), que se refere à técnica de IA usada para criar essas manipulações, e “fake” (falso), indicando que o conteúdo resultante é artificial ou fabricado.
Hora do voto
A menos de cinco meses para o primeiro turno das eleições municipais, que ocorrem em todo Brasil, excluindo apenas o Distrito Federal e o arquipélago Fernando de Noronha, as deepfakes preocupam os especialistas em segurança cibernética e também os políticos, com a disseminação de fake news utilizando suas imagens.
Essas manipulações de mídia, impulsionadas por aplicativos de inteligência artificial, representam uma ameaça significativa para a integridade das eleições, potencialmente minando a confiança dos eleitores e distorcendo a percepção da realidade.
Sensível
A professora Carolina Jatobá ressalta que o processo eleitoral pode ser ameaçado pela utilização das deepfakes por pré-candidatos ou contra políticos no período eleitoral. “É bastante sensível às investidas não éticas”. Isso escalona de forma rápida a propagação de conteúdo inexato ou irreal, e potencializa a desinformação, seja pela manipulação de discursos e entrevistas.
Desde da campanha eleitoral de 2018, a forte influência das redes sociais é uma ferramenta primordial de campanha. A pesquisadora ressaltou que o conteúdo de manifestação de expressão abusiva ou a criação de vídeos falsos, podem gerar suposto crime eleitoral.
Difamações
Nas eleições, as deepfakes apresentam uma ameaça multifacetada. Podem ser usadas para difamar candidatos, espalhar notícias falsas e distorcer a opinião pública.
Vídeos falsos de discursos inflamatórios ou confissões fictícias podem ser disseminados para influenciar a narrativa política e prejudicar a reputação de um candidato.
No vídeo abaixo, por exemplo, um vídeo “do presidente Lula” lamenta a utilização do pote de paçoca para ludibriar o consumidor. Isso é um exemplo de deepfake. Trata-se um vídeo assumidamente falso postado na página do artista Brunno Sartori
Segundo a professora Carolina Jatobá, para fornecer insights sobre os desafios enfrentados pelos órgãos reguladores e autoridades eleitorais é importante “identificar culpados por ser um fator preocupante, uma vez que verdadeiras milícias digitais contam com financiamento de grandes grupos de interesse. A verificação do dolo no caso concreto também é uma questão a ser considerada”, afirmou.
A verificação do “dolo”, ou seja, a intenção maliciosa por trás da criação pode ser verificada em disseminação de deepfakes em casos específicos.
Isso determina que, ao lidar com esses casos, é crucial investigar não apenas o conteúdo em si, mas também as motivações e intenções por trás de sua criação, para determinar a responsabilidade e aplicar medidas corretivas ou punitivas, se necessário.
Precaução
A professora ressalta que ainda há uma precarização de papéis institucionais definidos para o monitoramento, prevenção e detecção das deepfakes.
Mas que não é impossível mudar a situação. “É crucial a abordagem educativa, no sentido de conscientizar eleitores, além de gerar segurança, transparência e integridade ao processo eleitoral”.
Veja outros pontos abordados na entrevista:
Agência Ceub – Como as deep fakes podem ser utilizadas para influenciar ou manipular o processo eleitoral durante as eleições municipais de 2024?
Carolina Jatobá – As deepfakes são produtos da inteligência artificial, criadas a partir de técnicas de manipulação e som e imagem, podendo representar pessoas, situações e falas não necessariamente existentes.
Como o processo eleitoral deve se basear em fatos e, historicamente, ele é bastante sensível a investidas não éticas por parte de alguns candidatos, as deepfakes escalonam de forma rápida e exponencial a propagação de conteúdo inexato ou irreal, potencializando a desinformação.
Seja pela manipulação de discursos ou entrevistas, inclusive com o conteúdo de manifestação de expressão abusiva – ou a criação de vídeos falsos, que podem até gerar suposto crime eleitoral ou não.
Agência Ceub – Quais são os principais desafios legais enfrentados para combater a disseminação de deep fakes durante as campanhas eleitorais?
Carolina Jatobá – O principal fator que a lei deve lidar é com o tempo. Em curto espaço temporal, uma notícia pode ser disseminada com grande velocidade e afetar de forma talvez inexorável o pleito.
A identificação de culpados também é um fator preocupante, uma vez que verdadeiras milícias digitais contam com financiamento de grandes grupos de interesse.
A verificação do dolo no caso concreto é uma questão também a ser verificada, pois a disseminação pode ser proposital ou apenas fruto da própria falta de educação e a cultura de parte do eleitorado.
Agência Ceub – Existem jurisdições específicas ou leis em vigor que abordam a proliferação de deep fakes em contextos políticos eleitorais?
Carolina Jatobá – Sobre as jurisdições, cita-se principalmente a União Europeia, que está trabalhando em diretrizes específicas e já temos orientação da Comissão Europeia sobre a criminalização e vedação da inteligência artificial em alguns aspectos das eleições.
Estados dos EUA, como Califórnia e Texas, promulgaram leis que criminalizam a criação e disseminação de deepfakes destinados a influenciar eleições.
Além disso, o Congresso norte-americano está considerando legislação que aborda deep fakes em várias áreas, incluindo eleições.
O governo indiano estuda emendas à legislação eleitoral para lidar com o uso de deep fakes durante as eleições. As emendas propostas incluem a criminalização da disseminação de deep fakes destinados a influenciar eleitores. E a Austrália está avaliando mudanças na lei eleitoral.
No Brasil, a despeito de PL específico que ainda não está em vias de ser aprovado, o TSE editou Resolução importante sobre o tema.
Agência Ceub – Como os órgãos reguladores e as autoridades eleitorais podem identificar e mitigar o impacto das deep fakes nas eleições municipais?
Carolina Jatobá – O assunto da tecnologia carece de papeis institucionais muito definidos em relação ao monitoramento, prevenção e detecção das deepfakes.
No entanto, no que diz respeito às instituições eleitorais, é crucial a abordagem educativa, no sentido de conscientizar eleitores, além de gerar segurança, transparência e integridade ao processo eleitoral.
As respostas rápidas aos incidentes com possível remoção ou alerta de conteúdo por parte do Poder Judiciário é também muito relevante.
O parlamento deve criar uma legislação robusta e com indicadores de segurança a serem exigidos da plataforma no conhecimento e informação de que se trata de manipulação de dados com Inteligência Artificial e na colaboração para identificação e tratamento em casos relacionados a inquéritos ou investigações.
Agência Ceub – Quais são as implicações éticas das deep fakes na política, especialmente durante o período eleitoral?
Carolina Jatobá – As implicações éticas são semelhantes ao tratamento da lei eleitoral vigente. É possível condenação durante toda a fase do processo eleitoral: candidatura e registro, processo eleitoral, publicação do resultado e posse.
Em cada uma das fases é possível impugnação, além de uso abusivo de mídia/veículo durante a campanha e até a não expectativa de posse no cargo eletivo ou a perda/cassação do mandato eletivo
Agência Ceub – Quais medidas preventivas podem ser implementadas pelas plataformas de mídia social para conter a propagação de deepfakes durante as campanhas eleitorais?
Carolina Jatobá – A abordagem sugerida pelos países em que se discute o tema envolve a informação para o conhecimento do eleitorado que se trata do uso de IA em determinada mídia.
É possível também advertir que a fonte não é confiável.
Dada a lógica e dinâmica da rede, que trabalha com algoritmos que privilegiam a oferta de conteúdo semelhante ou idêntico ao que já existe, reforçando crenças e opiniões já internalizadas pelos usuários, uma opção seria sugerir uma opinião oposta para contrapor sua visão de mundo já alimentada pelo setor empresarial e marketing econômico, que pode ser inevitável quando se trata de produtos, mas muito deletério e limitante se falamos de ideias.
Agência Ceub – Existe alguma tecnologia ou método eficaz para detectar deep fakes e distinguir conteúdo autêntico de conteúdo manipulado?
Carolina Jatobá – Com a mera percepção humana pode ser difícil a detecção, pois os vídeos estão cada vez mais perfeitos. A verificação seria a partir da luminosidade, intensidade da voz, movimentação dos lábios, montagem do cenário. No entanto, como dito, os vídeos estão cada vez mais profissionais. Então, reputo ser essencial a colaboração da plataforma que hospeda o conteúdo. As plataformas têm acesso a softwares que podem detectar uso de inteligência artificial e informar se houve ou não manipulação do conteúdo original.
Essa obrigação é mais facilmente exigível da plataforma, que detém os meios de produção de tecnologia, Diferentemente do usuário, que são representativos de parcelas menos aculturadas da população, economicamente vulneráveis ou mesmo não expertos em tecnologia (a maioria do eleitorado, incluindo-se classes média e alta também).
Os softwares de detecção nem sempre são acessíveis e trabalham na abordagem de Redes Neurais Contra Redes Neurais, que tratam de adversarial machine learning para detectá-las. Esse método envolve uma corrida armamentista entre a criação de deep fakes cada vez mais realistas e aprimoramento dos algoritmos de detecção. Também é possível disponibilizar pela plataforma métodos de autenticação de origem para verificar a autenticidade de um vídeo rastreando sua origem desde a gravação até a distribuição. Isso pode incluir o uso de assinaturas digitais, metadados de vídeo e blockchain para garantir a integridade do conteúdo.
Agência Ceub – Como as deep fakes podem afetar a confiança do público no processo democrático e na integridade das eleições municipais?
Carolina Jatobá – Com a possibilidade de execução de fraudes, a comunidade eleitoreira deve ter consciência de que não deve acreditar em toda e qualquer mídia que estiver a seu alcance e conhecimento.
É dever das instituições, a exemplo do TSE Brasileiro, que previu a vedação do uso de IA para elaboração de quaisquer campanhas, monitorar o uso.
Haverá inevitavelmente, também, um sistema de checks and balances realizado entre os próprios partidos políticos.
Cada um verificará o conteúdo de outro partido, em uma checagem rápida e real, com efeitos preventivos.
Agência Ceub – Quais são os precedentes legais estabelecidos até o momento em casos relacionados ao uso de deep fakes em eleições ou política?
Carolina Jatobá – Como estamos falando de uma prática relativamente nova, não há entendimentos jurisprudenciais consolidados sobre o tema.
Nem mesmo os países que avançaram nas discussões legislativas tem exemplos de aplicação. Este é um tema que deve ser tratado de forma preventiva na maioria dos casos.
Uma vez que o tema é judicializado, os prejuízos já estarão contabilizados e a abordagem será indenizatória ou de exclusão de candidato ou eleito ao mandato ou cargo empossado.
Neste caso, a democracia se enfraquece. Ideal mesmo é que as plataformas já pudessem se organizar para evitar a ocorrência desse fenômeno antes mesmo que ele venha acontecer, gerando prejuízos atacáveis no âmbito do Poder Judiciário.
Agência Ceub – Além das deep fakes, existem outras formas de manipulação de mídia digital que devemos estar atentos durante as eleições municipais de 2024?
Carolina Jatobá – Sim, a Resolução do TSE proibiu chats e bots que simulam a conversa em tempo real com o candidato.
Também entendo ser muito prejudicial à formação de uma visão crítica a manipulação de algoritmos de recomendação de forma a promover conteúdo político tendencioso ou prejudicial, incluindo a amplificação de notícias falsas, discursos de ódio ou teorias da conspiração para públicos específicos com base em seus interesses e comportamentos online.
Vale destacar a preocupação com a liberdade de expressão e seus limites, a proibição do discurso de ódio e a obrigação de adoção de técnicas de segurança da informação de dados em toda a eleição, dando segurança ao eleitor de que o processo eleitoral é seguro e que não haverá vazamento de dados. A segurança cibernética demonstrável pelo Estado impede a propagação de notícias falsas.
Por Danyelle Silva e Filipe Fonseca
Supervisão de Luiz Claudio Ferreira
