Este artigo era para ser completamente diferente. Começou com um motivo simples: ao explicar entre amigos de que se tratava o ragebait reparei que, apesar de ser um conceito relativamente popular na internet, fora da bolha que frequenta os centros da cultura web o fenómeno era praticamente desconhecido. Com este pressuposto, e a quantidade de ragebait que ultimamente prolifera na internet, pareceu-me que havia motivo mais do que suficiente para escrever um pequeno artigo. Mas se a primeira versão partia do livro Outrage Machine, de Tobias Rose-Stockwell, em que o jornalista nos traça um mapa deste fenómeno, desta feita uso a minha experiência pessoal como referência, sobretudo para demonstrar que ninguém está imune a ver a sua energia e emoção instrumentalizada por um algoritmo com fins difusos.
Antes de mais, vale a pena começar pelo óbvio. Uma explicação simples do que é o ragebait e de como se fundou este conceito. Surgindo como uma iteração do já famoso e banal clickbait, o ragebait, como o próprio nome indica, é uma versão do apelo sensacionalista à interação que se baseia no potencial de irritação da audiência. Um potencial tão premente que não só o ragebait se tornou uma táctica habitual para tentar obter cliques online em negócios que dependem da remuneração publicitária, como se tornou praticamente na cultura dominante em certos espaços da internet — já devem estar a imaginar quais.
A geração de espaços na internet (em que a indignação é um dos principais motores do engajamento) é tal que, para além da formulação bait – isco, é comum falar-se de rage farming – cultivo. Isto é, referir-se a prática não como algo circunstancial — utilizado individualmente — mas como algo sistémico. O separador “For You” da rede social X, anteriormente conhecida como Twitter, é, e tem-se vindo a tornar cada vez mais, um dos principais exemplares desta cultura.
Quem sabe o que é melhor para mim?
“Cada vez menos sujeitos de deliberação e ação, cada vez mais nódulos de reação, membranas conscientes, hiper-sensibilizadas, mas apenas isso, a consciência afeiçoada a ser apenas dispositivo de reação, aos estímulos, às sensações, ao fluxo que cada mais, se constitui como meio imersivo da sua existência.”
– André Barata
Quando entramos na homepage do X, sobre o campo onde podemos redigir as nossas publicações, surgem discretamente dois separadores — do lado esquerdo, o “For You”, e do lado direito, o “Following” — que representam, no fundo, duas formas distintas de utilizar o Twitter. Enquanto o separador “Following” nos conduz para um feed onde predominam as publicações daqueles que seguimos, organizados de forma algorítmica mas com algum peso cronológico, é o “For You” que merece a nossa atenção. Afinal de contas, aquela que é descrita como uma experiência personalizada da rede social, é bem demonstrativa de alguns dos seus maiores defeitos e das mais perversas assunções que estão na base da nossa socialização online.
A primeira constatação que devemos fazer sobre esta divisão é que aquilo que é apresentado como “Para nós” não é aquilo que nós escolhemos activamente. Numa primeira camada de subversão da nossa agencialidade, discretamente, as redes sociais alteraram por completo o paradigma da navegação online. Nas últimas duas décadas e sem que tenha havido propriamente uma racionalização do fenómeno, passámos de personalizar a nossa experiência online, saltitando de site em site, para consumir passivamente o que consideram ser adequado ao nosso perfil. Não somos nós, utilizadores, que decidimos onde ir, mas as redes sociais que calculam — no sentido mais matemático do termo —onde nos querem levar. E se isso pode ter um efeito prático útil, os efeitos secundários merecem mais atenção.
Mudando por instantes de exemplo, olhemos para o caso da Google e de como para a maioria de nós seria praticamente inimaginável a utilização da internet sem intermediação deste motor de busca. Foi através da pesquisa no Google que muita gente desbravou grande parte da internet e descobriu o mundo digital para além da meia dúzia de links que sabia de cor. O algoritmo da Google permitiu uma expansão dos horizontes da internet mas com um custo associado. Se por um lado, a mesma página que era utilizada para mostrar resultados descobertos pelo algoritmo era passível de ser comprada como espaço publicitário, por outro sucediam-se as estratégias de manipulação do algoritmo, que subvertiam a lógica da indexação e faziam websites duvidosos subir em flecha no ranking.
A gratuitidade das pesquisas no Google é compensada pela captura de dados que servem a criação de perfis publicitários para a exposição a anúncios. E se a sua dimensão tecnológica — programável, algorítmica — o deixa à mercê da manipulação, o próprio design cultiva uma desconfiança saudável ao utilizador. Ao fazermos uma pesquisa no Google são-nos apresentadas dezenas, se não centenas ou milhares, de resultados, que mesmo que não sirvam para mais nada, servem para dar uma ideia de que aquilo que consultamos é apenas uma ínfima parte do que existe. Isto significa que mesmo que não percebamos como funciona o algoritmo da Google, mesmo que continuemos a ser completamente explorados por este gigante monopólio, o seu design acabe por comunicar parte da incerteza que lhe está associada — embora, mesmo assim, muita gente acredite que tudo o que está na internet aparece no Google. O mesmo não acontece nas redes sociais.
Criadas, prometidas, debatidas, como uma espécie de virtualização do espaço público, as redes sociais transportam a tensão entre o comercial, algorítmico e o pessoal, para um novo ambiente. Se no caso do motor de busca na Google, uma pesquisa proactiva gera uma centena de resultados que podemos escolher seguir ou não, no caso das redes sociais, todo o nosso lastro se converte numa espécie de pesquisa permanente para a qual existe um resultado perpétuo. O feed. E se isto aparentemente nos ajuda, tal como no caso da Google, a seguir por mares nunca dantes navegados, será seguro navegar sem direção ao sabor de uma corrente que desconhecemos? A resposta é não.
Tal como no caso da Google a ideia de criar um motor de busca não tinha como objectivo explicito criar um dos maiores monopólios da história da humanidade, no caso das redes sociais também parte dos problemas surgem mais de concepções erradas do que de planos maquiavélicos. Os feeds algorítmicos das redes sociais, tal como o “For You”, podem ser úteis para fazer sentido de uma plataforma com um ritmo de publicação absolutamente estonteante, para descobrir mais sobre temas do nosso interesse, para emular uma certa aleatoriedade característica dos espaços públicos, mas a sua génese comercial, privada, lucrativa e, em certa instância, ideológica, deve ser racionalizada. Se as redes sociais prometem o que é melhor para nós, prometendo uma experiência personalizada, é preciso não esquecer a espinha dorsal destas plataformas.
Calculando a tua vida social
Nos últimos anos têm sido sucessivos os casos em que através da manipulação das redes sociais — quer da componente comercial, quer da componente tecnológica – se tem permitido a subversão da democracia, o aumento do populismo e o triunfo de agendas anti-cientificas, e de moralidade duvidosa. Das perseguições no Myanmar, ao caso Cambridge Analytica, passando pelo negacionismo da Covid-19, a lista é praticamente infinita. Contudo, depressa se têm encontrado bodes expiatórios, que substituem qualquer análise sistémica por uma imputação de culpas circunstancial. E se isso tem um resultado prático, e permite perceber a natureza de alguns actores, em pouco contribui para perceber o papel das redes sociais na sua ascensão — o papel das redes sociais na objectificação, não no sentido corrente de tratar uma pessoa como um objecto, mas no sentido recuperado de Marx por Justin Joque no livro Revolutionary Mathematics, em que se analisa o objecto pela forma como intermedia relações humanas.
Não há qualquer dúvida do papel das redes sociais na intermediação de cada vez mais relações humanas. Se tudo começou com conexões com família e amigos no Facebook, ou até anteriormente no Hi5, hoje as redes sociais ocupam um espaço tal que intermediam relações até entre cidadãos e o estado – pensemos por exemplo na publicação no Twitter da Câmara Municipal de Lisboa sobre a proposta de nomear a ponte sobre o Trancão e a celeuma que gerou. Ainda assim, são insuficientes as tentativas de expor os critérios que as redes usam para intermediar estas relações. Se a busca do lucro é óbvia, e em todas as instâncias de uma rede social, a ideia de nos manter ligados e expostos a publicidade é a base, esse dado não basta para conceber que outros critérios entram em jogo quando se tenta comprimir tanta informação apresentando um resumo personalizado para cada utilizador da plataforma.
“O objetivo do Twitter é proporcionar-lhe o melhor do que está a acontecer no mundo neste momento. Para tal, é necessário um algoritmo de recomendação para destilar os cerca de 500 milhões de Tweets publicados diariamente até um punhado de Tweets de topo que acabam por aparecer na linha de tempo Para si do seu dispositivo.” Assim começa o post no blogue do Twitter onde a empresa levanta o véu sobre o algoritmo que rege o “For You”. Resumidamente o processo divide-se em três passos – que decorrem antes de algo nos ser apresentado no feed. Primeiro a plataforma acumula os tweets candidatos, depois usa um algoritmo de aprendizagem automática para os ordenar em função da probabilidade de nos agradar e gerar interações, e por fim, aplica um filtro que exclui aqueles que provém de fontes bloqueadas, contém conteúdo impróprio ou já nos passaram pelo feed antes.
Este processo é extraordinariamente importante para manter a rede utilizável — um pouco como os nossos sentidos filtram os estímulos em nosso redor, os algoritmos filtram o conteúdo ao ponto de tornarem a experiência aceitável. O problema está na forma como é difícil calcular uma vida social sã, e encontrar um ponto de equilíbrio entre a gestão da plataforma (financeira) e a experiência do utilizador, quando os seus objectivos são muitas vezes distintos. Não seria o melhor “Para mim” que o Twitter me dissesse para desligar a app de vez em quando?
“Why the hell do people share?” O paradoxo da popularidade
Um dos melhores exemplos de como esta gestão algorítmica de conteúdo se torna paradoxal surge bem descrita por Rose-Stockwell no seu livro, e volta a encarrilar-nos no trilho do debate sobre a exploração das emoções. É o caso do Upworthy. Financiado por um dos co-fundadores do Facebook, Chris Hughers, o Upworthy apresentava-se como um site dedicado a contar histórias positivas. Mas se a sua missão parece meritória, a forma como o fizeram é reveladora da perversa relação entre marketing e conteúdo online. Mais do que uma estratégia editorial que pautasse a escolha de notícias pelas quais as pessoas se podiam interessar, o sucesso do site deveu-se a uma estratégia de marketing agressiva que procura optimizar ao máximo a taxa de clicks, instrumentalizando os processos atrás descritos de funcionamento das redes sociais. Basicamente, cada artigo era publicado nas redes sociais com dezenas de títulos diferentes. Em seguida, algoritmos analisavam a performance de cada título replicando as fórmulas que mais atenção geravam. A estratégia valeu ao site o cognome ‘loja do clickbait’. Mas mais interessante foi a observação e a medida aquilo que atraía a atenção das pessoas na internet. Numa apresentação da empresa sobre como criar um viral surge o icónico slide “Why the hell do people share?”. A conclusão é que a maioria das pessoas partilha coisas que simultaneamente os deixem irritados e felizes, algo que a empresa sintetizou como “estou irritado mas entretido, tenho de fazer algo, click”.
“A nossa análise revelou que palavras negativas tiveram um efeito positivo na taxa de cliques, enquanto palavras positivas tiveram um efeito negativo na taxa de cliques. Isso sugere que uma maior proporção de palavras negativas aumenta a tendência para os utilizadores online acederem a uma notícia (e vice-versa para palavras positivas).”
– Tobias Rose-Stockwell, em Outrage Machine
Esta conclusão, embora seja meio anedótica, ilustra na perfeição o papel das emoções nas redes sociais, e, por outro lado, a forma como processar as emoções tecnologicamente rotunda numa espécie de jogo do gato e do rato. O mesmo tipo de dilema foi amplamente documentado pelo Facebook enquanto ia sucessivamente procurando afinar o seu algoritmo. Num dos casos, a empresa percebeu que os conteúdos que se difundiam mais rápido e de forma mais viral eram muitas vezes ilegais; então desenvolveu como heurística de moderação destes conteúdos uma fórmula que travava a aceleração de conteúdos que seguissem este padrão reconhecido. Contudo, rapidamente perceberam que ao fazê-lo acabavam por, injustamente, prejudicar o crescimento de conteúdos que nada tinham de ilegal.
Na ausência de olhos humanos no processo — a não ser no fim da linha da moderação, mal pagos, sujeitos a ver coisas horríveis e, em muitos casos, traumatizantes — as redes sociais têm de ser capazes de computar uma fórmula, ou um conjunto de fórmulas, que simulem a interpretação e façam prevalecer algo semelhante ao bom senso. Mas por muito que a Inteligência Artificial — a tal aprendizagem automática — evolua, este processo está sempre condenado a uma taxa de falibilidade perto do inaceitável dada a sua importância nas sociedades contemporâneas.
Um exemplo óbvio desta falência está à vista de todos. Para tentar evitar a proliferação de determinados temas, as redes sociais sinalizam determinadas palavras que consideram problemáticas, aplicando a mesma receita para todas as ocasiões. Assim, um post que mencione vacinas e sexo, ou drogas e a terra plana, pode acabar por ser algoritmicamente tratado da mesma forma quer tenha o intuito de esclarecer ou adicionar mais camadas à conspiração. E pior, fintar este condicionamento algorítmico é tão fácil, de um lado e de outro, quanto substituir letras por números fintando o filtro tecnológico, e tornando-o aproximadamente inútil.
“Estranhamente, pela natureza da profunda complexidade dos algoritmos, os seus criadores não compreendem realmente o ponto de origem específico de muitas das suas conclusões. São, em grande parte, caixas negras, que fornecem informações incríveis sem mostrar como chegaram às suas conclusões. Isto causou um problema. Simplificando, os programadores não sabem exatamente como funcionam.”
– Tobias Rose-Stockwell, em Outrage Machine
Todos vimos em sucessivos exemplos de utilização do ChatGPT como estes sistemas são propícios ao erro, e a erros tão imprevisíveis que até são apelidados de alucinações. Aquilo que não vemos é que erros do mesmo género podem acontecer sucessivamente nos nossos feeds. Como descreve Meredith Whittaker, presidente do Signal, a I.A. artificial corporativa que hoje faz parangonas pelo mundo todo não é nada mais nada menos que uma iteração do modelo de negócio das redes, pelo que é o exemplo perfeito para entendermos como este funciona. Se o ChatGPT é apelidado de máquina de salsichas, na medida em que aquilo que faz é comprimir dados como se triturasse carne e apresentá-los como se fosse uma salsicha (um pedaço de carne artificial), os algoritmos das redes são como trituradores sociais. É que um ponto importante do funcionamento destas tecnologias é que nem quem as programa sabe ao certo como funcionam. Em vez de se focar na lógica de seleção de conteúdo, os programadores focam-se em maximizar os resultados deixando para a computação exaustiva a tarefa de perceber uma maneira de os atingir (todos vimos como no ChatGPT esta maneira é por vezes completamente absurda).
Por um lado, criam ‘perfis’ digitais de quem somos com base numa compressão dos dados que recolheram da nossa utilização posterior, por outro, fornecem-nos o conteúdo que tem maior probabilidade de nos agradar, dentro das regras que estabeleceram à priori, e não por correlação com algum factor mundano. Assim, a nossa experiência social intermediada por algoritmos afasta-se cada vez mais de uma experiência real, e passa a ser cada vez mais uma experiência algoritmicamente estereotipada. Nós deixamos de ser nós, e passamos a ser a sombra dos nossos dados. E a realidade, deixa de ser a realidade e passa a ser a projecção desses menos dados.
Quando o mundo é uma bolha
“Mesmo que saibamos que compreender a forma como as máquinas ’realmente funcionam’ não é suficiente para as destituir de poder, a tentação é enorme de pensar que talvez — se compreendermos os algoritmos por detrás dos algoritmos suficientemente bem para os reinventar da forma correcta — possamos destituí-los desta vez.” Esta frase é de uma crítica ao livro de Justin Joque publicada na Damage Magazine. Na recensão sobre o livro, a autora elogia a forma como Joque situa a influência da matemática na intermediação social, e o papel de objectificação dos algoritmos, mas alerta para o facto de o seu argumento acabar por ignorar toda a economia política envolvente. Uma reflexão importante que ilustra como cheguei a este artigo.
Apesar de conhecer melhor do que o utilizador médio das redes sociais todos os truques, hacks e tácticas para manter os utilizadores agarrados, isso não me impediu de ser sugado pelo vórtice do ragebait. Isto acontece essencialmente por dois motivos. Primeiro porque como qualquer outro utilizador, estou exposto a uma quantidade enorme de conteúdos diariamente. E, como qualquer outro utilizador, recorro às emoções como heurística que me permita fazer algum sentido aquilo que vou vendo. E, segundo, porque esta tendência se tornou completamente cultural, ganhando uma dimensão social importantíssima. Ambos têm mais que se lhe diga.
No primeiro caso, a utilização das emoções como filtro, Rose-Stockwell estabelece uma divisão interessante no seu livro. Fala-nos de como certas emoções são mais individuais, enquanto outras, têm um papel social, servindo para sinalizar a nossa moral em relação a determinados assuntos. E para através dessa sinalização identificarmos os nossos pares e grupos de pertença. Stockwell, recorrendo ao conceito de emoções morais de Haidt, chama a nossa atenção para a forma como online a forma mais fácil de nos posicionar-nos perante o que quer que seja é ficando chateado com o seu contrário. E evidencia que essa é a estratégia mais eficiente quando somos sujeitos a tanto conteúdo e portanto nos sentimos impelidos a tomar posições sobre tanta coisa.
Já sobre o segundo aspecto, Tobias Rose-Stockwell, destaca três fenómenos: as reações em cadeia, o contágio, e quando o viral se torna notícia.Três fenómenos que ajudam a explicar aquilo em que a internet se tornou ultimamente e mostram como as nossas emoções morais, acima referidas, são exacerbadas pelo design das próprias redes sociais. Se numa primeira instância, como vimos, as redes sociais procuram meter no nosso feed aquilo com que é mais propício interagirmos, e se isso, é, comprovadamente, conteúdo carregado de emoção e passível de nos irritar, quando essa prática se dissemina o que temos é um ciclo vicioso de irritações, uma espécie de choque em cadeia. Seja numa lógica confirmatória – de concordar com a irritação — ou para demonstrar discórdia — somos impelidos a dar a nossa opinião, criando aquilo que em economia comportamental se chama uma cascata de informação. Análoga é a lógica do contágio.
Rose-Stockwell liga os pontos. Se os social media tendem a privilegiar conteúdo carregado de emoções negativas e moldam parte da imagem que temos do mundo, também nós vamos achar que o mundo é composto por coisas negativas e sentir necessidade de nos posicionarmos contra tanta negativa. Discretamente, a sucessão de irritações molda a imagem que colectivamente criamos do mundo, evidenciando as ameaças mesmo quando o seu perigo não é propriamente real, porque o sistema nos incentiva a este tipo de expressão se quisermos ter likes e interações. O mesmo acontece com a cobertura noticiosa — o terceiro ponto de fenómeno.
Numa altura em que as estruturas sociais foram substituídas por algoritmos, e os órgãos de comunicação social competem pela atenção na mesma plataforma que tudo o resto — e sendo, obviamente, também eles resultado de processos de socialização também eles cada vez mais intermediados por tecnologias e redes sociais —, a influência da mundividência das redes sociais nas editorias é por demais evidente. Sendo as redes sociais uma das principais janelas para o mundo da maioria das pessoas, o que lá acontece tende a ser sobredimensionado e reportado como se tivesse mais importância como realmente tem – todos já vimos notícias de virais ou feitas a partir de algo que aconteceu na outra ponta do mundo — e, para além disso, tende a ser publicado seguindo a mesma lógica. Isto é, optando pela perspectiva mais emocional e negativa com que se pode olhar para o assunto.
Juntando tudo isto, a uma realidade material em que a solidão triunfa, os espaços sociais mirram, e dimensões sobrevivenciais da nossa vida — como a habitação (ou o próprio planeta) — se vêem severamente ameaçadas, não é de admirar que a tendência para o negativo e chocante seja uma tentação. Importante será perceber quanta da energia se traduz em alguma acção e, pelo contrário, quanta da indignação não passa de tiros para o ar com pistolas de cartão numa encenação que alimenta os lucros dos monopólios digitais.
Curiosamente, enquanto escrevia este artigo fiz um tweet viral criticando uma notícia do Expresso e basta ver o tom e as respostas para perceber de onde veio tanta irritação (e interação). O espectro de interações vai desde aqueles que se indignam pela minha indignação — estilo ‘qual é o teu problema?’ — até aos que se indignam pela suavidade da minha indignação — estilo ‘como é que não irritas ainda mais?’, e quase todas as respostas demonstram uma falta de compreensão do ponto central do tweet. Bem como uma tentação para em vez de compreender ou debater o assunto, arrumá-lo rapidamente para campo com um julgamento moral sumário, relegando os protagonistas da história a posições no extremo do espectro social – ou eu enquanto invejoso, ou a protagonista da história do Expresso como uma implacável vilã. Se essa estratégia pode ser útil numa rede social onde se luta por atenção, onde para sermos ouvirmos precisamos de chocar e quebrar a monotonia, não podemos desprezar os efeitos desse hábito quando se alarga e alastra muito para além dos limites da sua plataforma.
