Meredith Whittaker: “Vemos as pessoas cada vez mais descontentes com o paradigma de vigilância”

Durante a semana passada, Lisboa tornou-se o centro do universo tecnológico. Entre a Altice Arena e a FIL – Feira Internacional de Lisboa, cinco pavilhões e cerca de uma dezena de palcos estiveram durante quatro dias dedicados a debater sobre tecnologia. Não sobre toda a tecnologia mas, sobretudo, sobre as suas aplicações comerciais, enquadradas na lógica capitalista hegemónica. Entre start-ups à procura dos primeiros investimentos, os famosos unicórnios, investidores e outros agentes do complexo industrial tecnológico, quase todos pareciam focados em escala, crescimento, investimento ou outros sinónimos de lucro – o mesmo se passou em quase todos os debates. E se em certos momentos a questão era como transformar esse lucro em impacto social positivo, ou em contributos para um mundo melhor, também houve conversas em que essa palavra mágica ficou de fora.

Foi esse o caso da conversa entre Meredith Withttaker, presidente da fundação do Signal, a app de mensagens encriptada e Julia Angwin, editora-chefe do The Markup, um projecto jornalístico sobre tecnologia. Numa hora ingrata, logo após o almoço, e com um título pouco sugestivo, “David contra Golias”, Whittaker e Angwin foram como representantes de David num duelo em que, tal como na lenda, pareciam partir em desvantagem mas revelaram todas as suas forças. Tanto o Signal, detido pela fundação homónima, como o The Markup são projectos sem fins lucrativos – e foi a partir desse lugar que partilharam uma visão diferente do que podem ser as tech. Como, de resto, têm feito ao longo das suas carreiras.

Se Julia Angwin tem usado o jornalismo como ferramenta para pensar e construir um mundo melhor, num percurso com décadas e várias distinções – entre elas um Pulitzer, um dos maiores prémios no mundo do jornalismo –, o percurso de Whittaker tem sido menos linear mas igualmente interessante. Recém chegada ao Signal, que só preside desde meados de Setembro, Meredith Whittaker conta com um currículo vasto no que toca à crítica, teórica e prática, da forma como a tecnologia interage com a sociedade. Com uma passagem de mais de uma década pela Google, foi responsável por uma área de integração de projectos Open Source, o Google Open Research, mas também pelas grandes manifestações de trabalhadores da tecnológica que ficariam conhecidas como Google Walkouts. Paralelamente, fundou com Kate Crawford o instituto AI NOW para a investigação dos impactos sociais da inteligência artificial, e manteve uma importante proximidade à política – depondo no congresso americano sobre as implicações da IA e chegando mesmo a Conselheira Sénior da Federal Trade Commission.

O percurso atribulado de Meredith foi o mote para o princípio da conversa. Num tom descontraído e contrastante com a formalidade e ortodoxia de outras intervenções, Whittaker, formada academicamente em Retórica, contou como foi parar “acidentalmente” à Google e como o ambiente da tecnológica na altura a surpreendeu. Explicou que não chegou às tech por paixão aos gadgets, e que teve sempre uma visão particular sobre a envolvente. “Tive o privilégio ou a experiência confusa de poder ver na primeira fila a metástase do modelo de negócio da vigilância”, conta, aproveitando para relembrar como ao longo deste percurso de questionamento se foi cruzando com Angwin que descreveu como uma das primeiras jornalistas a cobrir a tecnologia com uma perspectiva crítica.

Quanto vale a privacidade?

Como se lê em algumas das suas sinopses biográficas, Whittaker foi aprendendo com os temas com que se foi envolvendo, tendo passado por alguns dos principais debates do mundo em digitalização como a neutralidade da web, a privacidade ou as implicações dos grandes modelos de inteligência artificial, até sentir que precisava de mudar o seu papel em toda esta história, e reclamar uma maior agencialidade no curso das coisas. “Acabei por chegar à conclusão de que é bom ter uma boa análise, é óptimo estar à mesa das discussões, mas se não tens poder para tomar decisões, se não estás em posição de forçar uma decisão que seja melhor para a sociedade do que o que está a ser feito, não estás a fazer grande coisa. Isso levou-me a organizar os trabalhadores contra os contratos militares, contra as práticas de vigilância da Google e de outras, a fazer muita pesquisa. E, por fim, a acabar no Signal, o que é um grande privilégio.”

Meredith Whittaker subiu ao lugar mais alto da hierarquia do Signal depois da saída de Moxie Marlinspike. O americano, autor do protocolo de encriptação, criador da aplicação e fundador da fundação, decidiu no início de 2022 abandonar o lugar de CEO. O cargo foi temporariamente ocupado Brian Acton – um dos fundadores originais do WhatsApp – até que Meredith, que completava o trio do Conselho de Administração da Fundação assumiu o lugar.

Depois de se tornar numas das críticas mais vocais das tech, Meredith Whittaker viu na posição de liderança da fundação uma oportunidade para pôr em prática as suas ideias ao serviço dos valores em que acredita: “Um mundo sem privacidade é um mundo onde as estruturas de poder que existem actualmente se solidificam como betão, por isso esta é uma missão em que acredito muito e sou muito feliz por fazê-lo como trabalho.” E vê na sua passagem pelo Signal uma forma “ajudar a criar o template para a criação de tecnologia que não seja baseie o seu modelo de negócio em vigilância” como disse em entrevista ao Protocol na altura da sua nomeação.

Aliar tecnologia que respeite a privacidade dos utilizadores a um plano de negócios que assegure a sustentabilidade do projecto é um compromisso de que não pretendem abrir mão. Entre explicações sobre as tecnicalidades que distinguem a aplicação – como a encriptação não só do conteúdo das mensagens como dos metadados que lhes estão associados – a presidente da fundação fez questão de sublinhar a importância do modelo de negócio por considerar que é muitas vezes desvalorizado quando falamos de tecnologia.

“O Signal é uma fundação sem fins lucrativos e estamos estruturados para estar completamente focados na nossa missão. Isto significa que não temos acionistas, por isso não somos pressionados a dar prioridade ao crescimento infinito e ao lucro em vez da nossa missão; e isso significa também que não há uma saída milionária. Mesmo que me torne uma pessoa terrível amanhã e queira vender o Signal a uma entidade privada, não o poderia fazer”, explicou, partindo de imediato para comparar com o WhatsApp que “para começar, é do Facebook“ e por isso, está dependente de decisões de uma estrutura maior e com fins lucrativos. E que, mesmo que ofereça comunicações encriptadas pode potencial juntar alguns dos dados que colecta aos dados provenientes de outras redes sociais do grupo o que pode contrariar as promessas de privacidade que fazem.

As ideias de Whittaker foram corroboradas por Angwin que conta ter abandonado o WhatsApp quando se levantou a possibilidade de a aplicação aceder à lista de contactos. Apesar de essas intenções terem sido goradas, para a jornalista foi o sinal de que tudo pode mudar de um momento para o outro e de que, tendo uma profissão em que importa proteger as fontes com quem comunica, não poderia ficar dependente de uma plataforma com esse enquadramento.

A partir daí, a moderadora questionou sobre a relação das autoridades de cada país com a aplicação por não ceder os dados dos seus utilizadores, e a nota dominante da presidente do Signal manteve-se, dando exemplos recente de que como levam a sua missão acima de tudo: “Costumo usar uma analogia sobre isto que nos ajuda a chegar à raiz do problema. Imaginem que as autoridades vão à sede de uma fábrica de canetas com uma caneta e perguntam ‘podem dizer-me tudo o que foi escrito com esta caneta?’ e a empresa olha para eles e diz ‘claro que não, não é assim que as canetas funcionam’. E é claro que se pode dizer isso, porque não é assim que se fazem as canetas; mas também podiam ter posto giroscópios nas canetas, uma carrada de sensores, uma aplicação de IoT (Internet of Things) monstruosa… A analogia aqui é a seguinte: nós criámos o Signal da mesma forma, para que não tenhamos as informações.”

Pegando neste exemplo, Angwin sublinhou como a mudança de hábitos culturais tornou os protectores da privacidade nos “estranhos”, comparando com outros tempos em que o meio de comunicação dominante era o telefone e as escutas telefónicas necessitavam de um mandato validado por um juiz.

“Na frente, é um interface lindo, com um filtro que te mete com orelhas de gato e toda a gente adora, e, por trás, a informação sobre a tua cara pode ser vendida para treinar sistemas de reconhecimento facial para fins militares. E eu não acho que a maioria das pessoas esteja confortável com isso”, ressalvou Meredith Whittaker.

Para Whittaker esta inversão permite-nos uma grande reflexão — é que a vigilância é o modelo de desenvolvimento da tecnologia, a forma como se financia e como se mantém sustentável, e que é muito difícil viver fora deste paradigma. Contudo não deixa de notar o princípio de uma nova inversão. “Vemos as pessoas cada vez mais descontentes com o paradigma de vigilância que está no coração da indústria da tecnologia e, ao mesmo tempo, à procura de alternativas. De perceber como sair deste estado em que quase todos os momentos da vida, por mais mundanos ou insignificantes, sejam sujeitos a constante vigilância por uma combinação de estados e empresas, mesmo que tenhamos leis que reflectem que as pessoas se preocupam com isso.”

O lugar da tecnologia na construção de um mundo melhor

Se as leis reflectem a preocupação, o modelo de negócio das big tech fez com que esta fosse sendo remetida para segundo e terceiro plano. Julia Angwin mais uma vez com um exemplo pessoal conta que, em jeito de brincadeira, costuma dizer que o seu site – onde não há rastreadores – paga uma “taxa de privacidade” por querer respeitar os seus leitores, levantando a questão para um milhão, a do financiamento. Neste ponto a presidente do Signal explica que apesar de servirem uma ampla região pelo globo, a sua equipa continua a ser pequena e dependente de doações. Aproveitando para notar mais uma dimensão importante da vigilância, Meredith relembra que esta recolha de dados incessante sobre os utilizadores costuma ser um dos factores de decisão para mudanças em aplicações e que, no caso do Signal, não têm forma de saber o que os utilizadores utilizam mais ou menos, gostam mais ou menos, a não ser perguntado-lhes. Ainda assim, confirma que a aplicação terá em breve uma secção de stories, depois de terem percebido como a podiam desenvolver de forma privada.

Quase para o fim, ficou a questão do alcance da aplicação e da relação com as diferentes jurisdições. “Trabalhamos para manter o Signal acessível em qualquer lado, onde quer que haja App Store, Play Store ou dê para descarregar o app do nosso site”, disse, e dando o exemplo do Irão explicam como funcionam perante bloqueios, recorrendo à comunidade que criam servidores proxy que fazem com que as pessoas no Irão consigam aceder. “Nós fazemos o que podemos para servir as pessoas, mesmo que signifique como no caso do Irão, fintar o bloqueio do governo. O que nunca faremos é abdicar da privacidade.”

“Se a pergunta for: dão-nos a chave de encriptação ou saem, nós saímos; porque não temos intenções de fornecer uma versão comprometida da aplicação que poderia prejudicar os utilizadores”, continua.

Num evento marcada por crescimento, lucro, expansão, gadgets, AI e blockchain, a nota desta conversa não podia ser mais divergente. A certo momento, Julia Angwin questiona Meredith Whittaker sobre em que mundo queria viver. Whittaker voltou a expandir os horizontes e a deixar a nota de que é preciso alargar a forma de ver o mundo: “A tecnologia não será o foco na minha resposta. Temos de olhar para problemas sociais fundamentais: clima, desigualdade, os factores básicos que são problemas sociais reais por todo o mundo, e perguntar-nos questões fundamentais: como garantimos que as pessoas têm recursos de que precisam para viver e desfrutar da vida com as pessoas de quem gostam? Como garantimos que têm acesso a cuidados de saúde? Como aumentamos a igualdade? Como chegamos a esses objectivos? Essas são as perguntas para que quero a resposta, depois podemos perguntar-nos qual o papel da computação.”