O Grupo Europeu de Ética para as Ciências e as Novas Tecnologias entregou recentemente à Comissão Europeia um parecer sobre a Democracia na Era Digital. Em que contexto é que tal ocorreu?

O Grupo Europeu de Ética para as Ciências e as Novas Tecnologias (EGE), de que tenho a honra de ser vice-presidente, reúne 15 especialistas de uma pluralidade de domínios académicos, científicos e profissionais, selecionados entre os 27 Estados-Membros da União Europeia (UE) e que assessoram a Presidente da Comissão Europeia, Ursula van der Leyen, no que diz respeito a políticas europeias a serem lançadas pela Comissão e que tenham uma forte dimensão ética. Este Grupo foi constituído em 1991 pelo Presidente Jacques Delors, que considerou que as políticas públicas, para serem consensuais em sociedades plurais como as europeias, carecem de uma revisão ética.

Assim sendo, e apesar do EGE ter autonomia para tomar a iniciativa de se pronunciar sobre temas identificados como relevantes do ponto de vista ético, o procedimento comum para os seus trabalhos é ser incumbida pela Presidente da Comissão Europeia para analisar eticamente temáticas específicas que a Comissão considera prioritárias para o futuro da Europa. O EGE, ao longo da sua história, tem analisado temas bastante diversos como sejam a gestão de crises, a inteligência artificial, o futuro do trabalho, a edição genómica, agricultura, energia, biologia sintética, segurança e vigilância, o papel dos valores no desenhar de políticas, etc.

Este último trabalho do Grupo Europeu de Ética sobre a Democracia na Era Digital, formalmente entregue em Bruxelas à Vice-presidente da Comissão Europeia Dubravka Šuica, foi-nos solicitado pela Presidente von der Leyen com o objetivo de guiar a Comissão nos esforços que terá de intensificar para responder positivamente aos desafios que as democracias europeias (e não só) hoje enfrentam e procurar robustecê-las.

A UE é a região do mundo com mais democracias plenamente funcionais. Mas a Comissão Europeia está ciente que as democracias liberais se deparam com problemas graves, de efeito corrosivo na sua integridade e bom funcionamento. Os índices internacionais evidenciam que, por um lado, há hoje mais países democráticos do que há meio século atrás, por outro, que o mundo se tornou menos democrático nos anos mais recentes. Este facto é preocupante. A democracia está em declínio – é a conclusão a retirar. E percebemos que, por exemplo, a diminuição da qualidade das democracias no mundo ocidental pode ser aferida, numa proporcionalidade inversa, pelos níveis de corrupção que vêm aumentando. Creio que também em Portugal temos esta perceção.

Compreende-se a primeira frase do Relatório do EGE: “a democracia está em risco”!

Que riscos foram identificados para os países democráticos no que se refere ao uso das novas tecnologias e do próprio avanço da inteligência artificial?

O EGE parte da conceção de que a democracia não é apenas um regime político, mas também e essencialmente um conjunto de valores e princípios éticos fundamentais, desde o respeito pela dignidade humana à promoção da justiça social e sempre no cumprimento integral dos direitos humanos. Os fatores de erosão da democracia são múltiplos, desde um individualismo exacerbado e egoísta que compromete a coexistência pacífica em sociedade, ao proliferar de populismos, mais ou menos assumidos, que vão reduzindo o amplo horizonte do futuro a um presente atrofiado, feito de medidas imediatistas e ditadas pela manipulação das reações. Temos uma clara e inequívoca perceção de que a democracia liberal ocidental está não só em declínio, mas em risco.

É neste contexto que se inscreve o Relatório Democracia na Era Digital, centrando-se nos impactos das tecnologias da informação e comunicação e da inteligência artificial nas democracias.

A perspetiva não é de crítica à inovação tecnológica. O EGE reconhece a importância da inovação e da tecnologia no apoio à democracia, por exemplo: nas novas possibilidades de participação na vida comunitária, no compromisso com causas sociais, como se tem verificado no plano ambiental e animal, e também de defesa dos direitos humanos em diversos contextos internacionais; mas não podemos esquecer ou desvalorizar os novos instrumentos de vigilância dos cidadãos, desde os mais ingénuos, como o de fazer uma operação numa caixa multibanco em que a presença da pessoa fica registada, aos mais invasivos da privacidade e liberdade dos cidadãos como o das câmaras ao vivo em tempo real, tão atraentes para aceder a uma praia ou ponto turístico e tão nocivas para vigiar os cidadãos. A vigilância social das pessoas e, entre outros malefícios, as novas modalidades de discriminação por decisões algorítmicas são temas fortes do Relatório.

O EGE destaca também os riscos que representam as disposições sociotécnicas atuais, incluindo a difusão de informações falsas ou manipuladoras do debate público, polarizadoras da discussão e dificultando a construção de consensos indispensáveis em democracia, manipuladoras também de eleições, como está comprovado (Brexit, eleição de Trump nos Estados Unidos), atingindo o âmago da democracia: cada pessoa um voto livre.

O Relatório examina diferentes aspetos da privacidade e a diminuição do espaço para os indivíduos agirem de forma autónoma: 

paradoxalmente, as tecnologias digitais vêm reduzindo a liberdade individual, quer de pensamento, quer de ação, ao mesmo tempo que parecem anunciar a extinção da privacidade como espaço próprio para a construção e fortalecimento da nossa identidade.

Um dos aspetos mais inovador e preocupante será o evidenciar da expansão das empresas tecnológicas, privadas, para o setor público, suscitando questões de (ausência de) benefícios justos para o público, que alimenta os seus lucros; do aumento do poder das entidades comerciais, que detêm dados pessoais dos cidadãos e capacidade para estabelecer padrões para exercer influência nas suas escolhas; e, ainda mais grave, enquadrando o acesso a bens públicos essenciais. Isto é, o acesso à saúde, à educação, à habitação processa-se, em 

grande parte através de plataformas digitais que podem ser reconfiguradas ou suprimidas pelas empresas tecnológicas que as detêm, subordinando o acesso a bens públicos a leis de mercado e poderes privados.

Que recomendações são feitas à Comissão Europeia neste parecer?

Estes desenvolvimentos ameaçam os valores identitários do sistema democrático. Ora, sendo a democracia a forma de governo mais adequada para concretizar os direitos e os valores fundamentais, o seu reforço torna-se uma necessidade ética. Esta é a base para a elaboração pelo EGE de um conjunto abrangente, sistematizado e pragmático de Recomendações, estruturar ações concretas que, na sua convergência, possam travar a deterioração da democracia e promover o seu desenvolvimento.

Recomenda-se uma conceção forte, substantiva, ampla de Democracia, que não a reduza apenas a atos eleitorais, nos quais, aliás, se verifica taxas de abstenção crescentes, mas como vivência partilhada dos direitos humanos. Daí que a Democracia tenha de ser mais inclusiva, o que constitui uma segunda Recomendação fundamental: estimular a participação cívica, investir na educação cívica e também na literacia digital para construir uma cidadania digital. Segue-se, naturalmente, uma Recomendação sobre o reconhecimento da importância da comunidade civil e do reforço das suas organizações.

Mas talvez as Recomendações mais relevantes sejam as que insistem sobre a necessidade de desenhar tecnologias que respeitem o que a democracia representa e os seus valores fundamentais, de regulamentação em conformidade e de implementação de políticas que a promovam, colocando as tecnologias ao serviço do bem comum, pelo que também excluindo a satisfação das necessidades básicas das leis do mercado.

Uma última recomendação incide sobre a necessidade da UE desenvolver uma diplomacia atenta aos recursos digitais para reforço de autoritarismos políticos e regimes ditatoriais, valorizando a democracia para os povos e para o planeta.

O que pode a União Europeia fazer ao nível da regulação nesta área?

É uma questão interessante. A maioria das pessoas opina que a UE pouco ou nada poderá fazer neste domínio além ir atrás dos avanços dos grandes blocos geopolíticos, os Estados Unidos e a China, não sendo sequer uma competidora à altura destes países.

A UE tem desenvolvido a sua política relativa à IA no respeito pelos valores e direitos fundamentais dos cidadãos, adotando um desenvolvimento da IA centrado no humano (human centered), desenhada por requisitos éticos (ethics by design) fundada na confiança (trustworthy AI) e avaliada a partir do risco que representa. Ou seja, são mais uma vez as preocupações éticas que moldam a regulamentação sobre IA, o que muitos consideram uma fraqueza. A acusação não é nova e já foi utilizada para outras políticas como a da experimentação animal ou dos ensaios clínicos ou ainda da proteção de dados. Porém, o que a experiência com estas Directrizes/Regulamentos mostra é que, apesar da controvérsia inicial que geraram, se tornaram paradigmáticas, assim influenciando o resto do mundo.

Estou confiante que o mesmo se verificará com a regulamentação europeia da IA.

De que modo os media podem ser melhor protegidos e a sua atuação reforçada no combate aos conteúdos falsos?

As redes sociais tornaram possível que qualquer cidadão publique qualquer conteúdo, sem qualquer escrutínio, nomeadamente de verdade, objetividade, isenção, parcialidade, rigor…, num ritmo temporal vertiginoso, em contínuo, sem horários de trabalho. De facto, trata-se meramente de opiniões, sem a exigência de fundamento ou de argumentação. O problema é que são travestidas de jornalismo, pelo que tomadas por factuais e sérias. O jornalismo profissional foi empurrado para competir com estes conteúdos debitados ao minuto sem qualquer confirmação de idoneidade – requisitos indispensáveis para os media. Paralelamente, os rendimentos com publicidade são cada vez mais escassos, sendo desviados para sites vários como os de influencers.

O jornalismo está em crise. E o jornalismo sério é um pilar da democracia. Porém, nesta nossa sociedade digital, cada vez tem menos condições para sobreviver. Salvá-lo deve ser uma responsabilidade pública o que terá de ser feito através de financiamento adequado. Creio que esta é uma inevitabilidade para que não sobrevivam apenas as grandes empresas de comunicação capazes de infiltrarem o seu poder em todos os demais poderes, como os da política ou das empresas. O desafio será o de atribuir financiamento sem beliscar a independência, um equilíbrio difícil que exigirá uma integridade robustecida dos jornalistas.

Uma das Recomendações do Relatório é precisamente “proteger e reforçar o poder dos jornalistas”, em prol da independência e rigor da informação, recomendando a criação de um mecanismo de alerta precoce que lhes permita apresentar queixas sobre desenvolvimento com forte impacto deletério nas democracias.