O braço executivo da União Europeia, a Comissão Europeia, lançou na passada quarta-feira, 21 de Abril, o pacote de legislação sobre Inteligência Artificial. Os documentos, apresentados por Margrethe Vestager, vice-presidente da Comissão para o Digital, são um marco na regulação do sector a nível mundial e pretendem criar as bases para que a União se torne pioneira na inovação e desenvolvimento em I.A. sem que esse avanço represente um risco para os cidadãos ou consequências nefastas para as sociedades. Thierry Breton é também citado no comunicado da Comissão afirmando que a I.A. deve ser vista como um meio e não um fim, com potencial em áreas como “a saúde, o transporte, a energia, a agricultura, o turismo ou a cibersegurança” mas com um igual número de riscos.
Para além da proposta de regulação – um documento de 108 de páginas que seguirá agora os tramites normais do processo legislativo na União Europeia – a Comissão Europeia apresentou também uma proposta de plano de Coordenação no setor entre os vários estados-membros. Este documento que visa estipular boas práticas e balizar o desenvolvimento da IA nos vários territórios assenta na primeira proposta da CE para o sector feita há já 3 anos em 2018.
We want to use more #TrustworthyAI! For health, fighting climate change, convenience in everyday life -if we can trust #AI not to put our fundamental rights at risk. This is today’s proposal – and that we become excellent in developing #TrustworthyAI https://t.co/eocNIph1TN
— Margrethe Vestager (@vestager) April 21, 2021
Por toda a proposta e apresentação, “confiança” é uma das palavras-chave. Também nos comunicados de Vestager se pode ler este ênfase. A proposta da Comissão Europeia quer assim regular o sector para que os cidadãos possam ter confiança na utilização de sistemas de Inteligência Artificial e, para isso, estabelece os limites mínimos de cumprimento a que os provedores desta tecnologia devem estar sujeitos. A proposta da Comissão Europeia – que ainda dará lugar a debate – delimita os usos da tecnologia por perfis de risco, estabelecendo normas para os usos com consequências potencialmente perversas e consagrando a proibição de determinadas utilizações consideradas perigosas ou de algo risco.
Por exemplo, segundo o rascunho da proposta, as utilizações de Inteligência Artificial que possam ter impacto na vida das pessoas ou das sociedades (como análise de risco para seguros ou processos de recrutamento) são consideradas “arriscadas” e estão sujeitas ao cumprimentos de normas que visam assegurar a qualidade dos dados, a documentação dos processos, o cumprimento das normas europeias, transparência dos sistemas e supervisão humana. Para além disto, sobre outros usos, estabelece-se que, genericamente, os utilizadores devem ser relembrados quando estiveram a interagir com inteligência artificial, seja sob a forma de bots conversacionais, deepfakes ou outras utilizações da I.A..
Legislação pioneira
Tal como aconteceu com o Regulamento Geral de Proteção de Dados – que depois do começo atribulado se tornou numa espécie de standard da privacidade a nível global, com Estados norte-americanos a adoptar medidas similares, por exemplo – espera-se que a proposta de regulação da I.A. a nível europeu seja o primeiro passo de uma movimentação global de sentido indefinido. Ao regulamentar uma área tão avançada, e onde China e Estados Unidos da América se destacam actualmente – pela inovação e operação de sistemas do género -, a União posiciona-se não só face à tecnologia mas à forma como estes gigantes a utilizam. De resto, este é um ponto particularmente notável na proposta apresentada que visa banir especificamente sistemas como o social scoring utilizado na China por considerar que se opõe à génese dos valores europeus. Por outro lado, notícias vindas dos Estados Unidos da América – ou mesmo do Reino Unido – dão conta da incerteza das empresas quanto ao futuro perante esta legislação.
Num cômputo geral, e a médio prazo, os efeitos da regulação da I.A. podem assemelhar-se aos do RGPD que durante o período de implementação, conforme referido, fez com que alguns sites e serviços deixassem de estar disponíveis no espaço europeu até que as suas empresas investissem no cumprimento das normas, como expressa Andre Franca da CausaLens em entrevista à Fortune: “A questão que todas as empresas de Silicon Valley se tão a perguntar hoje é, devemos tirar a Europa dos nossos mapas ou não?”, ou reflecte o título do New York Times: “Europa propõe regras restritas para Inteligência Artificial”. Contudo, segundo reporta o Politico, a Comissão está convicta de que o seu plano não é contra Washington, confiante de que os Estados Unidos podem acompanhar a iniciativa legislativa – depois de até já ter proposto um acordo EU-US para regulação da AI – e de que as empresas reconhecerão a vantagem que é seguir as regras propostas, até porque subjacente a uma aliança entre EUA e US está a competição com a China que tem dominado o desenvolvimento nesta área.
Mas…
Apesar de o pacote legislativo sobre Inteligência Artificial ter sido recebido com algum entusiasmo mesmo entre os mais cépticos, existem algumas passagens do documento que continuam a gerar celeuma e algumas críticas, nomeadamente a excepção deixada em aberto no documento para a utilização de sistemas de identificação biométrica remotos. Ainda que o documento da CE e as palavras dos seus representantes expressem algum repúdio aos sistemas de vigilância em massa e social scoring, as dúvidas levantam-se sobre sistemas de reconhecimento biométrico, como as câmaras de videovigilância equipadas com sistemas de identificação dos transeuntes.
Wojciech Wiewiórowski, responsável do Supervisor Europeu para a Proteção de Dados, foi um dos que exprimiu o seu cepticismo em relação a esta parte da proposta, aplaudindo a restante iniciativa e a sua pertinência. Num comunicado no site do SUpervisor, pode ler-se que este organismo continuará a advogar uma regulamentação mais restritiva no que toca à utilização de dados humanos de qualquer espécie – imagens do rosto, DNA, impressões digitais, dados biométricos ou sinais comportamentais – quer seja em ambientes comerciais, https://staging2.shifter.pt/wp-content/uploads/2021/02/e03c1f45-47ae-3e75-8ad9-75c08c1d37ee.jpgistrativos ou ao serviço das forças de segurança. É que neste particular, a proposta da Comissão deixa em aberto a possível utilização destes sistemas em casos específicos – como o risco de ataques terroristas – algo que inquieta os especialistas pela convicção de que estas tecnologias podem acarretar altos riscos de práticas anti-democráticas e atentatórias da privacidade dos cidadãos.
Também os Verdes do Parlamento Europeu emitiram um comunicado no mesmo sentido. Kim van Sparrentak, eurodeputada, afirma no documento partilhado na página do grupo parlamentar que esta proposta é um “bom primeiro passo” mas que “lhe fartam partes cruciais”, referindo-se concretamente a medidas concretas de proibição de sistemas e da previsão de métodos para os cidadãos poderem denunciar a violação dos seus direitos em usos abusivos. Também Patrick Breyer do mesmo grupo parlamentar escreve no mesmo comunicado que “Infelizmente, a proposta da Comissão falha em proteger-nos dos perigos, em garantir a justiça entre géneros e o tratamento igual de todos os grupos, quer em sistemas de reconhecimento facial ou outros tipos de vigilância em massa”.
De resto, já este ano, o grupo português de Defesa dos Direitos Digitais se tinha juntado à campanha que visa proibir por completo o uso de reconhecimento facial em espaços públicos na Europa, um testemunho de que este já era um dos pontos mais sensíveis do debate.
🔴Artificial Intelligence Act: a welcomed initiative, but ban on remote biometric identification in public space is necessary #AIRegulation
Read Press Release https://t.co/gyotfuERCb pic.twitter.com/ws1osKhKp0— EDPS (@EU_EDPS) April 23, 2021
Os documentos e propostas agora conhecidos são o desaguar de uma estratégia que tem vindo a ser desenvolvida nos últimos três anos. Já no ano passado, 2020, a Comissão tinha lançado o AI Whitepaper onde delineava os seus objectivos a médio prazo. Inteligência Artificial de excelência e confiança parecem ser um lema importante para os próximos anos no território da União Europeia, com as instituições europeias a perfilarem-se como uma espécie de guardas dos utilizadores num sector de ponta e, por isso, com muitas zonas cinzentas de regulação, onde proliferam empresas com promessas proféticas e, muitas vezes, perversas e atentatórias de valores como a igualdade ou a privacidade.
A proposta da Comissão dá assim início – ou reinício – a um novo capítulo deste debate. Espera-se agora que o Parlamento Europeu discuta e se pronuncie sobre o documento, bem como os estados-membros. Para além disso, a Comissão garante que iniciará contactos para a implementação do citado plano de coordenação, em paralelo com a discussão legislativa que, uma vez aprovado em sede Europeia, se aplicará a todos os países vinculados à união, como outros casos recentes.
You must be logged in to post a comment.