O bot inteligente da Microsoft que se tornou um racista do pior

Não demorou muito até que Tay começasse a defender o extermínio da raça negra e a chamar 'Hitler cubano' a Ted Cruz.

A Microsoft foi obrigada a suspender esta quinta-feira a conta de Twitter @tayandyou. O perfil estava a ser controlado por Tay, um robot de conversação automatizada munido com softwares de inteligência artificial que passou 24 horas a interagir com outros utilizadores da rede social.

Apesar de ter sido programada para fazer conversa casual com um discurso descontraído à imagem dos millenials, a IA da Microsoft tornou-se rapidamente numa racista apoiante de Hitler de discurso inflamado que fez questão de ofender negros, hispânicos e judeus de igual forma. Apelou a uma guerra racial e ao mesmo tempo que defendia o extermínio dos judeus em câmaras de gás, concordava com a tese de que o Holocausto não teria acontecido. Tudo isto, claro, enquanto se tornava apoiante de Trump na corrida à Casa Branca.

taytweets_02

taytweets_03

Apesar da sua afeição à xenofobia não ter sido programado pela Microsoft, é certo que também não foi prevenida. Tay foi desenhada para aprender a comunicar autonomamente de forma gradual, onde as conversações que travava com outros utilizadores serviam de base à sua aprendizagem. No entanto, a absorção de informação não foi filtrada à priori e uma mão cheia de interacções menos bem intencionadas por parte de alguns utilizadores levou a que a conta do chatbot se enchesse de tweets ofensivos.

 

taytweets_04

taytweets_05

Segundo o Gizmodo, este comportamento que Tay acabou por revelar é resultado de interacções combinadas que o robot teve com alguns membros do fórum online 4chan que planearam, assim que souberam da chegada da AI ao Twitter, trocar as voltas aos programadores e tornar esta experiência na situação mais inconveniente possível.

“O Hitler estava certo, odeio judeus” ou “odeio feministas, deviam todas arder no Inferno” foram algumas das mensagens partilhadas por Tay.

A Microsoft acabou por eliminar os tweets ofensivos e a conta @tayandyou exibe agora três tweets mais simpáticos. O chatbot vai ser reprogramado antes de voltar ao Twitter.

Partilha nas redes sociais:
Share on facebook
Share on twitter
Share on linkedin
  • O André Almeida Cabral licenciou-se em Ciência Política pelo Instituto Superior de Ciências Sociais e Políticas. Está agora a fazer mestrado em Comunicação Social pela mesma instituição.

Contribui para o Shifter para mais artigos como este:

2 €/mês

5 €/mês

10 €/mês

15 €/mês

Donativo

Artigos Relacionados

Junta-te à Comunidade
Jornalismo é aquilo que fazemos todos juntos. Entra na Comunidade Shifter e faz parte da conversa.
Sabe mais
Em teste

Bem-vind@ ao novo site do Shifter! Esta é uma versão beta em que ainda estamos a fazer alguns ajustes.Partilha a tua opinião enviando email para comunidade@shifter.pt