“E se tivermos um diálogo perfeitamente natural com um computador? Não seria como falar com outro ser humano?” Esta frase poderia ter sido extraída de um segmento de notícias recente, algures desde o surgimento do ChatGPT. Mas não foi. A sua origem remonta a uma época anterior à massificação da internet, e até à democratização dos computadores pessoais. Na verdade, serviu de enunciado do segmento dedicado a Eliza, no programa “Bits & Bytes”, exibido nos primeiros anos da década de 1980 na TV Ontario, e hoje disponível no YouTube.
Eliza foi considerado o primeiro exemplo de um chatbot, e foi criada por Joseph Weizenbaum enquanto investigador no MIT. Neste segmento, após a introdução extravagante, os apresentadores apressam-se a desmontar a ilusão submetendo-a ao ridículo. Mas a forma como o programa foi percepcionado na altura, e as reações fruto dessa percepção, não foram tão pacíficas. Eliza gerou discussão, motivou outros a criarem chatbots semelhantes, e representou um ponto de viragem na história da Inteligência Artificial. Mas também na carreira do seu criador.
Depois de uma vida toda dedicada à programação, observar a incompreensão em torno da sua criação foi a gota de água que fez transbordar em Weizenbaum uma torrente de reflexões sobre o papel da ciência, dos computadores, dos programas, e da inteligência artificial. Inspiradas não só em Eliza, mas em todo o seu percurso.
De Berlim ao MIT
Joseph Weizenbaum nasceu a 8 de Janeiro de 1923, em Berlim, no seio de uma família judaica. Apesar de ao longo da vida nunca ter abraçado a religião, ainda jovem testemunhou o crescimento da intolerância. Com a subida dos nazis ao poder, em 1933, acabou sendo expulso da escola. Depois disso, estudou numa escola para jovens judeus onde se apaixonou pela professora matemática, ouviu Yiddish pela primeira vez e conheceu judeus em situação de pobreza. Foi em casa que diz ter vivido a primeira experiência de anti-semitismo, ao ver o seu próprio pai (muito mais ligado à religião) gritar por ter levado “um judeu de leste tão sujo” para sua casa. E foi esse o momento que, muitos anos mais tarde, identificou como o princípio da sua dissidência — em 2008, numa entrevista.
Dado o seu contexto de classe média, a família pôde sair da Alemanha pouco depois, sem que Weizenbaum se apercebesse de mais do que que “estavam a fugir de algo terrível”. Partiram em direção aos Estados Unidos, onde vivia uma tia, um dia depois do seu décimo terceiro aniversário. E Weizenbaum juntava à bagagem daquela experiência que o fizera despertar para a injustiça do mundo, a sensação de ser estrangeiro a tudo. Já em Detroit, a braços com todos os desafios que viver num país diferente implicam para um jovem de 13 anos, continuou a dedicar-se à paixão pela matemática que chegara por via da professora, e que agora lhe parecia mais familiar em comparação com a estranheza da língua.
Foi pela matemática que enveredou na universidade, até uma breve paragem para servir na Força Aérea. Pela sua proveniência, não podia trabalhar com matérias sensíveis, como a descodificação de mensagens do inimigo, e por isso ocupou o cargo de meteorologista. Em 1946 voltou à universidade, e ao que seria um percurso normal, não fosse todo o momento histórico. Ainda na universidade de Wayne teve a oportunidade de colaborar no projecto de criação do “Whirlwind”, um computador que “ocupava uma sala”. E após a conclusão dos estudos foi trabalhar para a General Electric Corporation, onde fez parte da equipa de desenvolvimento do sistema de registos electrónicos do Banco da América e da linguagem de programação SLIP.
Toda essa experiência acumulada em tão poucos anos fez com que ganhasse alguma fama, o que lhe valeu um convite para integrar o MIT em 1963, onde orbitavam todos os nomes maiores da história da computação. Mas nem isso apagou as marcas da sua infância e da relação conturbada com a figura de autoridade que era o seu pai. Quando ingressou no instituto o seu pai já tinha falecido, mas nem por isso tinha deixado de exercer a sua influência. Como descreve na entrevista dada no último ano da sua vida, continuava a considerar o seu trabalho menor por ter internalizado as críticas exageradas que o pai lhe fazia, e por isso não o submetia para publicações.
Foi durante a temporada no MIT que Weizenbaum começou a dar sinais do seu descontentamento com o estado das coisas. Juntou-se a manifestações pelo fim da guerra do Vietnam e ao Union of Concerned Scientists, travou amizade com figuras proeminentes à esquerda, como Noam Chomsky, e começou a expressar as suas preocupações em colaborar com o aparato militar. Apesar de tudo, continuava dedicado à sua paixão pela matemática e pelo que fazia. Foi nesta altura que colaborou no projecto da ARPANET, o precursor da internet do Departamento de Defesa norte-americano, que se tornou professor, e, claro, que desenvolveu Eliza.
“Escrevi um programa que não é mais do que uma encenação”
Há algo a incomodar-te?” Qualquer psicólogo rogeriano podia fazer esta pergunta, e Joseph Weizenbaum sabia disso. E era por isso que era uma das possibilidades para início de uma conversa com Eliza. Criado como um projecto experimental para impulsionar o estudo da comunicação em linguagem natural entre humanos e máquinas, Eliza é um dos programas mais icónicos da história da computação e da inteligência artificial. Considerado o primeiro chatbot de sempre, o programa ficou especialmente conhecido na versão em que emulava uma Vpsicoterapeuta. Não só pelo avanço que representou, mas pelos efeitos que provocou.
Desenvolvido entre 1964 e 1967 para mostrar os limites da interação entre humanos e computadores utilizando linguagem natural, Eliza abriu uma caixa de pandora de onde saíram vários tipos de incompreensão da tecnologia e do seu potencial. “Poucos programas precisaram de mais [explicação]”, diz Weizenbaum na conclusão da introdução do artigo que publicou sobre o programa. Nessa mesma introdução, compara a descrição do seu funcionamento à revelação de um truque de magia que depois de vermos perde parte do seu encanto. E diz que é mesmo esse o objectivo.
Hoje, interagindo com uma das demos que existem do programa, rapidamente percebemos as suas limitações em comparação com as nossas expectativas. Eliza é um programa bastante simples, e que pouco se relaciona com a tecnologia que está por detrás de aplicações de chat como o GPT ou o Mistral. Funcionava com base em regras simples de processamento. Analisava as frases do utilizador, selecionava palavras-chave para a interação e aplicava padrões pré-definidos para gerar respostas. E é precisamente a sua simplicidade que reforça a pertinência de uma comparação com os dias de hoje, evidenciando o teor da encenação do software.
“Eu que sei o que está por detrás da cortina, também sei o quão trivial é.”
No livro que publica anos dez anos depois, em 1977, Weizenbaum destaca três categorias de reações que considerava imprevisíveis. O inventor de Eliza ficara surpreendido porque um grupo de psiquiatras achava que o Doctor, uma das versões de Eliza, podia ser optimizado e vir a tornar-se numa forma de psicoterapia automatizada; várias pessoas começaram a desenvolver relações emocionais com o programa – incluindo a sua secretária que o vira desenvolver o programa; e porque se espalhara a crença que Eliza era a solução para o problema do computador entender linguagem natural. O matemático via estas reações como as de um público, e o seu programa como “nada mais que um teatro”. E dizia também: “Eu que sei o que está por detrás da cortina, também sei o quão trivial é.” Nem de propósito, o nome do programa era inspirado na personagem Eliza Doolittle, da peça Pygmalion de Bernard Shaw e posteriormente do filme My Fair Lady, que aprende a falar com novos modos, mas não deixa de ser quem é por muito que siga um guião que lhe permita escondê-lo.
A versão mais popular de Eliza não era uma psicoterapeuta por a tecnologia ser especialmente ajustada a substituir essa profissão, ou porque Weizenbaum acreditava que a psiquiatria podia ser automatizada (muito longe disso). A escolha emergiu, precisamente, da necessidade de criar um setup em que o computador conseguisse manter uma conversa credível, e a opção pelo psicoterapeuta relacionou-se com o estilo estereotipado do discurso do terapeuta, que permitia que respostas vagas – “Dizes-me mais sobre isso?”, “Como é que isso te faz sentir?” – parecessem carregadas de significado e fundadas numa compreensão do discurso e do contexto.
Se Weizenbaum confessa ter escolhido a personagem do psicólogo para benefício da encenação, a forma como a sua criação foi sobreavaliada e realmente antropomorfizada foi o gatilho para uma reflexão sobre a imagem que o humano estaria a criar de si próprio.
O seu script básico constituía de “forma muito leviana um modelo de certos aspectos do mundo” – como escreve no artigo “ELIZA A Computer Program For the Study of Natural Language Communication Between Man And Machine” –, ter sido recebido de forma tão entusiasta e crédula mostrou como essa modelação, escondida atrás de um computador, era suficiente para se fazer passar por um humano, o que lhe causou uma grande inquietação. Nas suas palavras: “Qual pode ser a imagem que o psiquiatra tem do seu paciente quando se vê a si próprio, enquanto terapeuta, não como um ser humano empenhado que actua como curador, mas como um processador de informação que segue regras, etc.?”
“Será que o humano percebe a essência do humano?”
Depois de toda a celeuma em torno do lançamento de Eliza, Weizenbaum sentiu necessidade de fazer uma pausa nas suas criações e, motivado pelas novas interrogações, expandir o campo do seu conhecimento, debruçando-se sobre áreas como a psicologia, os estudos culturais e a literatura política. Foi desse novo lugar que produziu o último capítulo da sua vida, dedicado à crítica da inteligência artificial mas não só: de todo o aparato tecno-político que durante as décadas anteriores tinha ajudado a criar.
Weizenbaum, que durante a sua carreira se sentia “como um padre no templo da tecnologia” (palavras do próprio), abandonou o sacerdócio e dedicou-se a partilhar as preocupações que o foram acompanhando. O primeiro exemplar dessa crítica foi um artigo publicado no semanário alemão Die Zeit, com o sugestivo título “Pesadelo Informático”. Nesse artigo, Weizenbaum delinea uma explicação compreensiva da relação entre computadores, programas e a realidade, e ensaia questões filosóficas que ainda hoje balizam o debate em torno da IA. Não estava só preocupado com a forma como a tecnologia era vista, mas com todas as forças de legitimação dessas visões, e com a sua cristalização de geração em geração.
Embora o lançamento de Eliza tivesse sido o ponto de viragem da carreira de Weizenbaum, agora na condição de crítico não era só o seu programa que merecia a sua reflexão, mas todo o aparato informático e a forma como, a seu ver, este moldava cada vez a forma como a humanidade via o mundo e se via a si mesma. Para o matemático, não só se estava a colocar a questão errada — “Será que o computador capturou a essência do humano?”, em vez de “Será que o humano compreende a essência do humano?” – como o modo de responder a essa questão, e de gerar novas questões era progressivamente limitado pela linguagem da programação, também estava em risco.
“Onde um homem simples perguntaria: ‘Precisamos destas coisas?’, a tecnologia pergunta: ‘Que magia eletrónica os torna seguros?’. Onde um homem comum perguntaria: ‘Isto é bom?’, a tecnologia pergunta: ‘Isto vai funcionar?’ Desta forma, a ciência e até mesmo a sabedoria tornam-se aquilo que a tecnologia e, especialmente, o computador podem fazer.”
Para o matemático o problema advinha, sobretudo, da perda de consciência de que um modelo de algo sacrifica, obrigatoriamente, algumas dimensões daquilo que se modela. E da forma como isso é avaliado na ciência da computação, por testes de performance (hoje em dia: o ChatGPT dar respostas que parecem coerentes) em vez de teorias explicativas (compreendermos como o ChatGPT dá aquelas respostas).
Weizenbaum descrevia o progresso da computação como um pesadelo auto-confirmatório, uma espécie de ditadura da digitalização; em que os destinos da sociedade têm menos relação com a deliberação democrática e mais com as possibilidades tecnológicas que são imaginadas. “Onde um homem simples perguntaria: ‘Precisamos destas coisas?’, a tecnologia pergunta: ‘Que magia eletrónica os torna seguros?’. Onde um homem comum perguntaria: ‘Isto é bom?’, a tecnologia pergunta: ‘Isto vai funcionar?’ Desta forma, a ciência e até mesmo a sabedoria tornam-se aquilo que a tecnologia e, especialmente, o computador podem fazer.”, exemplifica.
A esta problemática junta outras: quem financia a tecnologia tem o poder de determinar os cursos que o seu desenvolvimento segue — a esse propósito Weizenbaum chega a dizer que deve a sua carreira a Stalin dado que foi a escalada militar e a corrida ao nuclear que canalizou fundos para projectos de desenvolvimento da computação como aqueles em colaborou; e a opacidade em torno da digitalização mascara, com o véu da performance, uma determinada forma de ver e modelar o mundo – como Eliza modelava a linguagem natural. “Torna-se agora extremamente importante compreender como é que estes sistemas são efetivamente construídos.” escrevia, recorde-se, em 1972.
Weizenbaum não era anti-tecnologia, nem totalmente anti-computadores, embora lendo algum do seu trabalho por vezes isso possa parecer. A sua crítica incide sobretudo pela forma como o computador carregou consigo uma carga ideológica, uma determinada visão política, com prioridades questionáveis que nos são impostas sobre o ditame da inovação tecnológica. Uma crítica que repete na tal entrevista que dá ao Jüdischen Zeitung no último ano da sua vida: “Em 1938, descobriu-se que um átomo pode ser dividido e que existe uma enorme energia na divisão. Apenas sete anos mais tarde, foram lançadas duas bombas atómicas! Isto é inimaginável se considerarmos o tempo que demorou até que a vacinação contra certas doenças prevalecesse. Ainda hoje se morre de malária”.
As suas reflexões não são um convite à rejeição da tecnologia, mas antes à sua apropriação, em todos os sentidos. À rejeição dos limites à imaginação impostos pela lógica desenfreada do tecno-solucionismo. À criação de novos imaginários políticos que possam enquadrar a tecnologia não só porque funciona mas porque é efetivamente boa. À inovação não só porque é útil aos grandes aparelhos militares mas porque resolve problemas sociais. E à resistência ao capitalismo selvagem que explora os mais pobres e agrava a crise climática. Um convite que até hoje permanece sem resposta.
Weizenbaum reformou-se da docência no MIT, em 1988, e voltou definitivamente para Berlim em 1996, onde se voltou a conectar com partes da sua identidade que fora minimizando. Desde então continuou a propagar as suas ideias, em aulas, palestras e conferências. Foi em Berlim que faleceu, no ano de 2008, cidade onde em 2017 foi fundado o Weizenbaum Institut, centro de investigação interdisciplinar sobre a digitalização.
Este artigo faz parte do Inventário, uma rubrica mensal do Shifter que recupera histórias, pontos de vista e personagens do passado que nos ajudam a desvendar e compreender o presente.
