Há diversos futuros distópicos previstos pela literatura. Apocalipse pós-nuclear, terrorismo biológico, extinção da natureza, escravatura alienígena. Mas nunca se havia pensado que a informação, a partir do seu excesso e deturpação, podia chacoalhar, arriscando derrubar, a base de sustentação da sociedade. Se isso parece ficção, saiba que já está acontecendo.

Uma mentira dita mil vezes

O hoax existe desde que existe a mentira. Ele é diferente do erro ingênuo, causado por desconhecimento, porque há um interesse associado na razão de se mentir, geralmente financeiro, político, satírico ou maldoso. Há exemplos consagrados na história, como a invasão alienígena narrada no rádio por Orson Welles e que causou uma histeria nacional em 1938 (cuja própria história pode ser um hoax também), o Despacho de Ems, que precipitou a guerra franco-prussiana de 1870, e o monstro do Lago Ness.

Essas histórias aparecem periodicamente, mas sempre restritas a um âmbito regional, tornando-se lendas urbanas e raramente alcançando repercussão nacional. Isso até a internet virar de cabeça pra baixo nossa forma de se comunicar. Agora, cada usuário é um veículo de comunicação em potencial que pode propagar qualquer ideia globalmente. Assim, o alcance dos hoaxes foi ampliado. O que começou com as correntes de email (fanta uva dá mesmo câncer?) e passou pelas trollagens juvenis do 4chan desembocou na crise atual das fake news.

A evolução da internet, propelida pela economia da atenção, pelas mídias sociais e pela forma de monetização baseada em cliques e engajamento permitiu que um mercado de notícias falsas se desenvolvesse. Esse excesso somou-se ao montante já produzido pela mídia tradicional, resultando na torrente de informação a que somos expostos e que nos afoga diariamente. Nossa ignorância em como consumir notícias e investigar suas fontes, somada a uma certa ingenuidade que deriva de nossa boa-fé diante da mídia pré-internet,  faz com que tratemos por verdade tudo aquilo que é exposto no mundo virtual.

De acordo com o ótimo Media Watch do Pedro Burgos, das dez páginas com notícias mais compartilhadas semanalmente no âmbito brasileiro do Facebook, entre seis a oito (dependendo da semana) compartilham notícias falsas. Na data da escrita desse texto, elas foram compartilhadas conjuntamente mais de 1,4 milhões de vezes. Ou seja, em uma semana, um milhão de desinformação é compartilhada, alcançando uma magnitude muitas vezes maior de leitores.

Quais são as consequências reais desse excesso? O tamanho do problema foi deflagrado nas eleições estadunidenses de 2016. Levando em conta que dois terços dos adultos norte-americanos consomem notícias e obtêm informações a partir das mídias sociais, diversos agentes abusaram da estrutura dessa nova forma de mídia.

Sabendo manipular a métrica do algoritmo do Facebook, jovens macedônios faturaram criando sites pró-Trump e espalhando manchetes sensacionalistas, facilmente compartilháveis. A estratégia envolvia misturar notícias reais com outras obviamente mentirosas para manter as aparências, causando um desserviço na construção de um debate sério para as eleições. Outro algoritmo enganado pelas fakes news foi o do Youtube. Conspiracionistas viram seus vídeos ganhando milhões de visualizações sem esforço, graças a alguma tendência intrínseca da programação de recomendação e auto-play que focava exponencialmente em vídeos calamitosos, que geravam mais engajamento.

Para além da questão monetária, as fake news se mostraram uma arma de guerrilha com impacto na segurança nacional, como demonstra a história da influência russa, que já está bem estabelecida. Interesses ligados ao governo de Moscou compraram propagandas no Facebook e direcionaram a desinformação para grupos estratégicos de eleitores americanos.

Assusta quão pouco esforço pode causar um impacto enorme. O pesquisador Jonathan Albright, usando métricas independentes em algumas páginas que ainda não haviam sido deletadas e contrariando dados revelados pelo próprio Facebook (que subestimaram a interferência russa), descobriu que pouco mais de 500 posts foram compartilhados mais de 340 milhões de vezes durante a eleição. Possivelmente, quase nenhum desses compartilhamentos foi de usuários reais. O uso de um exército de bots é outra estratégia conhecida no contexto da desinformação. Reproduzindo e compartilhando as notícias falsas diariamente, os bots conseguem propagar e ampliar o alcance da narrativa que se deseja construir, afogando notícias reais e criando barulho suficiente para gerar dúvidas em eleitores reais.

Essa estratégia já foi, inclusive, usada nas eleições brasileiras de 2014, e exposta pela brilhante série de reportagens da BBC Brasil. Considerando que 80 mil votos (num universo de 120 milhões de votantes) em 3 estados chaves mudaram o resultado da eleição dos Estados Unidos, não é irrealista questionar quantas pessoas foram influenciadas por essas notícias falsas  -  que alcançavam milhões de usuários  –  e qual o impacto disso no resultado final da eleição.

Se esse panorama parece ruim, o problema é que tende a ficar muito pior. Novas tecnologias de edição de imagem e som associadas com inteligências artificiais otimizadas tornarão indistinguíveis um fato de uma notícia falsa, corroendo a forma como conseguimos compreender a realidade e pondo em xeque a construção do conhecimento.

Infocalipse

Aviv Ovadya previu a crise das fake news antes de muita gente. Ele cunhou o termo “Infocalipse” numa palestra em São Francisco, para alertar o Vale do Silício sobre o que a desinformação tóxica poderia causar nas eleições de 2016.

Na época, Ovadya foi largamente ignorado. Hoje, como pesquisador de responsabilidade em mídias sociais para Universidade de Michigan, ele tenta alertar o mundo sobre o apocalipse iminente que novas tecnologias vão ocasionar.

No final de 2016, a Adobe demonstrou o VoCo. Basicamente, é um software de edição de áudio capaz de editar as frequências apresentadas produzindo resultados fidedignos. Um Photoshop para voz. Melhor (ou pior) ainda, com apenas alguns minutos de gravação de voz de qualquer pessoas a inteligência artificial do programa é capaz de, a partir das peculiaridades da onda sonora individual, prever e falar qualquer frase simulando a pessoa que teve a voz inserida. Vejam o vídeo e se assustem:

 

É fácil imaginar as implicações negativas desse tipo de tecnologia. Gravações com vozes de políticos ou celebridades poderiam ser recriadas proclamando horrores com intuito de denegrir imagens pessoais. A tecnologia não precisa nem ser usada para causar um impacto. A mera ideia de que existe uma tecnologia assim permite situações como a corrida eleitoral do Estados Unidos, quando Trump afirmou que os áudios vazados durante a eleição foram “obviamente” editados e isso bastou para milhares de seguidores acreditassem no que ele dizia.

O uso criminoso pode nos afetar também no cotidiano. Coletando áudio de alguns vídeos do Instagram e acrescentando no VoCo, golpistas podem te telefonar e do outro lado da linha você escutará cristalinamente a voz de seu parceiro, com todas entonações próprias da pessoa amada requisitando dinheiro ou desesperadamente dizendo ter sido sequestrada. Não há sangue frio que aguente uma situação destas.

As IAs atuais, baseadas em sistemas de redes neurais, são imbatíveis em reconhecer padrões. É uma qualidade que sustenta seu próprio funcionamento. Já existem IAs aplicadas para encontrar pistas e diagnosticar AVCs antes dos radiologistas e para ajudar pesquisadores a encontrar padrões de escrita em textos antigos. Sobre a escrita, uma IA consegue captar os trejeitos, as minúcias, que formam o estilo de qualquer autor e singulariza-los. Apesar de momentaneamente as IAs escritoras ainda não serem completamente realísticas, logo teremos golpes de “automated laser phishing” (algo como pesca automática a laser, apesar de phishing já ser um neologismo). Ovadya nomeou dessa maneira a evolução dos golpes por e-mail. Com algumas entradas no Facebook e Twitter, o estilo de escrita de qualquer amigo seu poderia ser emulado e usado num e-mail fidedigno para obtenção de dinheiro ou dados.

Vimos o impacto possível permitido pela alteração verossímil de som e texto. Porém a inteligência artificial possui uma capacidade impressionante de alterar vídeos também. Vejam as gifs abaixo:

Acrescentando cenários em tempo real.

 

À esquerda, a filmagem real e à direita a mudança de período do dia e estação do ano pela IA.
Desta última gif recomendo que vejam o vídeo completo. Com uma webcam comum, a equipe de pesquisadores conseguiu sobrepor suas expressões faciais sobre qualquer rosto.

 

O primeiro uso dessa tecnologia foi, como de costume, para pornografia. O mercado de deepfakes, como é chamada a união de videos pornôs com rosto de celebridades inseridos com apoio de inteligência artificial, explodiu e já vem sendo proibido. Mas ninguém está incólume a nova tecnologia. Podemos presenciar uma série de ofensas pessoais quando qualquer mal-intencionado decidir criar um vídeo desses com o seu rosto e “soltar na net” como se fosse real. Basicamente, qualquer pessoa pode ser inserida e editada num vídeo em qualquer situação, e de um jeito que nem o detetive virtual do Fantástico seria capaz de diferenciar a verdade da fabricação.

A facilidade de uso dessas tecnologias é outro ponto que anima e assusta. Muitos podem argumentar que o Photoshop existe há mais de uma década e que, embora seja também capaz de criar problemas semelhantes, estamos convivendo tranquilamente com ele. Entretanto, para entregar resultados satisfatórios o Photoshop exigia um certo grau de domínio e tomava um tempo considerável do criador. Agora, esses novos softwares conseguem criar vídeos verossímeis e indistinguíveis com o clique de alguns botões.

Quando juntamos todas tecnologias e a malícia das fake news, o cenário de caos fica evidente. Se por acaso surgir um vídeo editado com a voz e expressão facial semelhantes a de Kim Jong-un anunciando um ataque nuclear, o que é mais rápido: a tomada de uma ação precipitada como resposta de segurança nacional ou conferir a veracidade de um vídeo que não parece ter nada de falso?

Pior do que esse problema  (se é que me permitem usar uma hipérbole que justifique algo pior que um ataque nuclear mundial )  é a falsificação constante da realidade. Quando toda informação pode ser falsa, porque se importar? No que acreditar? As pessoas param de consumir notícias e entram num estado de apatia diante da realidade. Alcançamos a pós-verdade.

A pós-Verdade

Confiança. A base da construção e avanço da sociedade foi a confiança. Eu confio em seu conhecimento, habilidade e vivência como especialista, e você confia nos meus. Trocamos o resultado da expertise individual e o saber avança. E o colosso humano cresce.

No cenário atual, o excesso de desinformação erodiu a confiança. Especialistas são ridicularizados. A mídia é acusada de conspiracionista. A apatia com o que acontece ao entorno cresce. Uma página como “Bichinhos fofinhos pra quem tá cansado de política no feed” ter 600 mil curtidas é sintomático. Nada contra os animaiszíneos, mas demonstra a estafa com o atual modelo.

Este momento de descrédito da verdade foi denominado de pós-verdade, e o termo foi escolhido pelo dicionário Oxford como a palavra do ano de 2016. A palavra foi definida como “uma circunstância em que fatos objetivos são menos relevantes em moldar a opinião pública do que o apelo às emoções ou crenças pessoais”.

O resultado da desconfiança não é nada bom. Uma democracia funcional exige um nível de conhecimento baseado em fatos para pautar seus problemas e avançar na discussão. A reforma da previdência é necessária ou uma mentira? Precisamos auditar a dívida pública ou pagar os juros? Conciliar interesses exige que os diferentes setores sociais estejam conversando sobre a mesma coisa. Se cada um pode escolher no que acreditar, não há diálogo nem construção. Ninguém se move. Mike Caulfield colocou desta forma: a civilização avança descobrindo no que pode acreditar, para que gaste mais tempo discutindo o que não pode aceitar. Se você desacredita em tudo igualmente, não será apenas cínico, mas inefetivo.

Neste momento, em que o novo normal permite que texto, som e vídeo sejam editados e construídos com a ajuda da inteligência artificial para servir a qualquer interesse, qualquer um poderá oferecer opinião sobre qualquer assunto e baseá-la numa informação falsa que não pode ser refutada pela inverossimilhança da edição. É um ponto em que a validade do fato foi desacreditada. Não há consequências para um discurso dúbio (potencialmente danoso e corrosivo), pois não há verdade ou mentira.

Isso não é saudável. Do ponto de vista pessoal não podemos minimizar o discurso de cientistas que estudaram e possuem conhecimentos técnicos baseado em evidências científicas que, por sua vez, atenderam critérios estatísticos rigorosos de modo a constituir um fato.

O mesmo é válido para as conclusões de jornalistas que trabalham incessantemente na apuração e confirmação de dados.

Quanto ao futuro da notícia, para nos proteger já existem projetos de combate às fake news criadas por IA. Primeiro é preciso haver um esforço conjunto para monitorar o ecossistema de informações. Com acesso facilitado, por parte das redes socais, aos dados das notícias mais compartilhadas, grupos de checadores de fatos podem confirmar as notícias e oferecer ao usuário um alerta sobre a veracidade do que ele vê.

O Facebook experimentou essa ideia nas eleições italianas do começo do ano (o que representa um pequeno alento para o que vamos enfrentar nas nossas eleições). Eventualmente, a complexidade da edição de imagens vai dificultar a confirmação de vídeos. Por isso, AIs reversas, muito mais sensíveis a alterações de pixels, podem ser inseridas nos browsers e realizar confirmações no background, alertando aos usuários quando alguma imagem ou vídeo parecer suspeita. Aliando-se isso ao banco de dados da desinformação citado previamente, as grandes techs podem criar um novo paradigma visual e informar os leitores fluidamente enquanto ele navega. Algo que o Google vai tentar fazer aliando a Wikipedia ao Youtube.

Internamente, o sistema de monetização online precisa ser alterado. Os danos da recompensa por cliques e engajamento são bem conhecidos. A discussão persiste por não se chegar a acordos de novos modelos. Entretanto é necessário premiar a verdade, como sites reconhecidamente confiáveis, que praticam um jornalismo sério e averiguador e que precisam se sobressair em relação sites falsos como aqueles criados por jovens macedônios nas eleições presidenciais norte-americanas.

Citei alguns dos pontos que serão exploradas no site Fake News Horror Show, um esforço conjunto de especialistas e governos para antever o futuro da desinformação e prevenir seus impactos. Apesar desses esforços, o problema da pós-verdade possui uma outra faceta, mais individual e dolorosa de ser corrigida. Pois exige esforço ativo de cada um. Mas entendê-la representa a esperança de fugir da distopia da informação e progredir para um mundo melhor e mais honesto.

Honestidade intelectual

Foi publicado na revista Science o maior estudo já feito sobre fake news e como a desinformação se dissemina online. Em parceria com o Twitter, os cientistas do laboratório de mídia do MIT coletaram dados de 10 anos da plataforma, de modo que toda notícia polêmica e duvidosa de 2006 a 2016 foi analisada.

As conclusões são preocupantes. Uma notícia falsa alcança mais público e mais rapidamente do que notícias verdadeiras sob qualquer métrica analisada. Pior ainda, bots de notícias compartilham com a mesma frequência notícias falsas e verdadeiras.

A culpa, a vontade de espalhar mentiras, vem dos usuários reais. A conclusão maior, segundo o autor do estudo, consiste em que notícias que elicitam uma resposta emocional mais forte são as mais compartilhadas e que geram mais discussões.

E as fake news são moldadas para atingir dois pontos fracos emocionais. Elas atendem ao desejo de novidade e geram indignação  ( normalmente com alguma colocação fora do usual e que afeta pessoalmente o leitor ),  dois sentimentos potentes. Dessa forma, são projetadas para se disseminar frente a uma realidade que pode ser pacata e chata demais.

Esse é só um dos vieses inerentes do ser humano que explicam porque a mentira e a descrença conseguem se propagar e destruir a confiança na verdade. Por mais que prezemos pela nossa razão, trabalhos como o do vencedor do nobel Daniel Kahneman demonstram que somos afligidos por tendências que fogem do nosso controle. Tomar consciência disso para lutar ativamente contra essa programação natural é um passo imenso e dificílimo rumo a construção de um indivíduo mais livre e colaborador da sociedade.

O viés de confirmação é outra tendência inerente que coopera para acreditarmos e compartilharmos desinformação. Nós somos propensos a acreditar em informações que sustentem nosso ponto de vista. Isso representa uma tremenda armadilha, porque a aceitação e procura de informações pode ser totalmente redirecionada para que eu encontre somente o que já me satisfaz e reconforta. Mesmo quando confrontado com fatos suportados e baseados em evidências, esse viés faz com que adotemos uma posição defensiva de desmerecer a realidade que se apresenta e nos apegarmos ao que já acreditamos.

Pesquisas, como a do Pew Research Center, apontam que a maioria dos leitores não se importam quanto à veracidade do que leem. Eles só querem saber se aquela notícia ou manchete escandalosa apoia a sua visão de mundo.

E esse é o maior problema da desinformação atualmente. A dificuldade de combater nossos vieses naturais e de lutarmos contra nós mesmos em busca da honestidade intelectual. Se quisermos reconstruir a confiança em um mundo no qual não podemos ter certeza de nada, o esforço individual de cada um conta. O Pro Truth Pledge, organizado por milhares de cientistas mundialmente, buscam auxiliar na luta pessoal de cada um contra a mentira milenar. Vocês podem assumir o juramento. Abaixo as diretrizes propostas:

Juro me esforçar para:
Compartilhar a verdade
-Verificar: confirmar a veracidade da informação antes de aceitá-la e compartilhá-la;
-Equalizar: compartilhar toda a verdade, mesmo se alguns aspectos não apoiarem a minha opinião;
-Citar: compartilhar minhas fontes de modo que outros possam verificar as informações;
-Esclarecer: deixar claro o que são fatos e o que são minhas opiniões.

Honrar a verdade
-Reconhecer: quando outros estejam compartilhando informações verídicas, mesmo na presença de divergências de opinião;
-Reavaliar: se a veracidade de minha informação for contestada, abandona-la formalmente caso não possa defende-la;
-Defender: pessoas que sejam alvo de ataques por compartilhar informações verdadeiras, mesmo na presença de divergências de opiniões:
-Alinhar: minhas opiniões e ações às informações mais corretas disponíveis

Estimular a verdade
-Corrigir: pedir às pessoas que retirem informações já falsificadas por fontes confiáveis, mesmo que sejam meus aliados;
-Educar: pedir educadamente que parem de fazer referências à fontes sem credibilidade, mesmo que elas ofereçam apoio às minhas opiniões;
-Conceder: reconhecer que, quando os fatos estão sob disputa, as opiniões de especialistas têm maior chance de estarem corretas;
-Celebrar: os que voltaram atrás em afirmações incorretas e atualizaram suas opiniões de acordo com informações verdadeiras.

Não é fácil seguir essas orientações. Afinal, a própria lista reconhece isso e abre com a palavra “esforço”. São vários tópicos e exigem curiosidade, humildade e honestidade. Contudo, se me permitem a petulância, eu acrescentaria mais um item: idealismo.

Eu acredito que o esforço intelectual requisitado é justificável, porque acredito que esse é o caminho para aliviar as tensões irreconciliáveis, a falta de diálogo, o ódio crescente. Que vai se agravar com o uso de novas tecnologias.

Seguir estas recomendações é travar uma luta pessoal por um mundo mais confiável e que sabe em que quer se sustentar.

Boas eleições de 2018 para todos!


 

Leituras Adicionais

  • O livro online de Mike Caulfield sobre como checar um fato e consumir informações na internet.
  • A professora Mahzarin Banaji e sua empreitada para combater os vieses humanos e se libertar das amarras pré-programadas pela natureza.
  • Lee Mcintyre que escreveu um livro diagnosticando a mistura de tendências seculares e pós-modernas que desembocam no momento da pós-verdade.
  • Pros fãs de AI não tem como deixar de recomendar o Two-Minute Papers que permite um vislumbre do mundo maravilhoso (de verdade!) que está por vir.
  • Os sites de checagem de fatos brasileiros, que prestem um enorme serviço público: Lupa, Agência Pública, Aos Fatos.

 

Texto originalmente publicado no Medium do autor.