Novas eleições norte-americanas no horizonte adensam a discussão sobre os desafios das redes sociais. A desinformação mantém-se como um dos problemas que as redes sociais procuram resolver e, enquanto tentam, torna-se cada vez mais complexa. Se outrora o vídeo de alguém a discursar algo seria inequivocamente tomado como um acontecimento real, hoje não é bem assim – as chamadas deepfakes são um caso sério e a precisar de resposta.

O tema das deepfakes parece ainda estar a passar despercebido em Portugal, mas lá por fora já faz moça. Na China as deepfakes foram proibidas e no Facebook vão ser controladas. A empresa que controla os feeds de mais de dois mil milhões de pessoas por todo o mundo anunciou esta semana que vai começar a banir conteúdos alterados digitalmente, sejam fotografias (os vulgares Photoshops), ou vídeos (as tais deepfakes).

“Apesar de estes vídeos ainda serem raros na internet, representam um desafio significativo para a nossa indústria e sociedade à medida que o seu uso aumenta”, refere o Facebook em comunicado, lembrando que existem “razões benignas” para a alteração digital de vídeos, seja para tornar a imagem mais nítida ou áudio mais claro.

A abordagem do Facebook ao potencial crescimento das deepfakes online e em específico na sua plataforma passa por uma colaboração com a academia, governos e o resto da indústria de media. A empresa diz que tanto irá remover vídeos que tenham sido “editadas ou criadas” de “maneiras que não sejam evidentes para uma pessoa comum” e que possam levar a parecer que o sujeito desse vídeo “diz palavras que na verdade não disse”. O Facebook vai também eliminar conteúdos produzidos por inteligência artificial e que “misturem, substituem ou sobreponham conteúdo num vídeo, fazendo-o parecer autêntico”.

Conteúdo de paródia ou sátira ou um vídeo que tenha sido editado meramente para omitir ou trocar a ordem de palavras não serão abrangidos pelas novas intenções do Facebook (terá sido por esse motivo que a empresa decidiu manter um vídeo partilhado em Junho de 2019 e que, apesar deste distorcer palavras de Zuckerberg); todavia, está para perceber como irá o Facebook traçar a linha entre o que é deepfake e o que não é, ou entre o que é ou não paródia ou sátira, tendo em conta a escala planetária da empresa norte-americana.

Certo é que o Facebook diz está a investir em tecnologia que permita melhor identificar deepfakes, juntando para tal, e em diferentes projectos, investigadores, tecnológicas como a Microsoft ou empresas de media como a BBC ou a Reuters. O Facebook contará ainda com os seus parceiros de ‘fact-checking’ espalhados pelo mundo para revisão de conteúdos indevidamente classificados como deepfakes.