O Facebook quer ver as tuas nudes para “te proteger”

Activistas acham uma boa ideia. Especialistas em segurança online dizem que é uma má ideia.

A “revenge porn” – ou pornografia não-consensual – envolve a partilha de nudes ou outras imagens NSFW sem o consentimento da pessoa visada, muitas vezes, perpetuada por ex-parceiros. Para lidar melhor com estes casos, o Facebook está a fazer um pedido no mínimo estranho a alguns utilizadores. Que façam o upload das suas nudes através de uma mensagem para eles próprios no Messenger. O objectivo: evitar que essas imagens sejam partilhadas indevidamente por terceiros.

A partir do primeiro carregamento, estas imagens são avaliadas por um funcionário do Facebook e são encriptadas numa hash, uma espécie de impressão digital. Assim quando outro utilizador tentar partilhar a mesma imagem, seja no Facebook ou Messenger, ela será identificada e bloqueada de ser partilhada na plataforma.

Esta iniciativa foi aplaudida por alguns activistas de direitos online, mas especialistas em segurança cibernética alertam que esta partilha de dados com o Facebook pode ser insegura e denunciam questões éticas. Afinal, não deveria ser suposto mandar as nossas nudes ao Facebook para este evitar que ex-parceiros as partilhem livremente com amigos.

O Facebook está a testar esta metodologia na Austrália em parceria com as autoridades locais. Ao Quartz, fonte da empresa garantiu que as nudes partilhadas pelos utilizadores não vão ser usadas para treinar os sistemas de inteligência artificial que bloqueiam a pornografia na rede social. Mas este não é o único ponto importante e a merecer discussão – a eficiência desta técnica também pode ser posta em causa – a criação de um hash só permitirá identificar um ficheiro específico, podendo qualquer modificação na fotografia pôr em causa todo o sistema.

Todo o conteúdo partilhado no Facebook é monitorizado por sofisticados sistemas de inteligência artificial e aprendizagem automática, que filtram aquilo que não vai ao encontro com os termos e condições da plataforma. De outra forma não seria possível fazer esse controlo, uma vez que são mais de 2 mil milhões as pessoas que usam o Facebook todos os meses, uma grande parte dela partilha fotos e outros conteúdos no seu perfil ou através do Messenger.

O filtro prévio de conteúdos é necessário para manter a rede social saudável. E é fundamental aperfeiçoar os mecanismos automáticos que fazem esse trabalho, de forma a diminuir os erros cometidos pelos mesmos, isto é, os conteúdos que são indevidamente removidos. A pornografia não é permitida no Facebook e quem fizer o upload de imagens sensíveis tem essa publicação removida e arrisca-se a ficar com a sua conta temporariamente inacessível. Mas o Facebook já chegou a confundir um quadro famoso com uma nude.

Previous Uma app que te avisa das perturbações no Metro e outra que te orienta na Carris
Next O Firefox Quantum chegou para derrotar o Chrome