O regulamento europeu, que foi publicado no Jornal Oficial da União Europeia (UE) em 12 de julho, entra em vigor 20 dias após a publicação, sendo que tem de estar implementado até agosto de 2026.

Este diploma "tenta ser neutro na definição de IA, para que não fique ultrapassado no tempo e foca-se essencialmente na utilização que é feita da IA e não nas ferramentas em si mesmas", refere a associada de TMC - Tecnologia, Media e Comunicações da CMS Portugal.

"Não obstante, sendo esta uma área em constante evolução e que na maioria das vezes anda a uma velocidade bastante mais rápida que aquela que o legislador consegue alcançar, o maior desafio será que o regulamento se mantenha atual e que consiga acompanhar os desenvolvimentos tecnológicos", salienta Sara Rocha.

Sobre o impacto direto na vidas pessoas, a jurista recorda que atualmente a maioria das empresas "já recorre a sistemas de IA para inferir características comportamentais dos seus clientes, sendo estes monitorizados de forma substancial pelas empresas, apesar do Regulamento Geral de Proteção de Dados Pessoais [RGPD)".

Agora, o que o regulamento de IA "vem proibir são utilizações como, por exemplo, de categorização social por características identitárias, raciais, como o social 'scoring' que é muito associado à China".

Neste sentido, com o regulamento "as pessoas passarão a ter um nível superior de proteção com a proibição concreta de algumas destas utilizações".

Além disso, mesmo nas práticas que são permitidas, "as empresas passarão a ter de garantir salvaguardas adicionais, de forma a garantir que não existe viés, que existe intervenção humana" e "que são respeitados os direitos humanos".

O diploma pretende "é que quando a IA é utilizada com impacto na vida dos cidadãos são tomadas medidas adequadas e cuidados adicionais".

E exemplifica: "Se não nos faz muita confusão que, na sequência de uma compra, um 'website' nos recomende produtos semelhantes ao adquirido com recurso à IA, já nos fará alguma confusão que a medida de uma pena seja determinada, em exclusivo com base em IA, ou que um banco nos negue um crédito com base em IA".

Neste caso, "provavelmente quereremos saber o que fundamenta essa decisão e será relevante garantir que não existiu viés e, em última análise, que existiu intervenção humana", aponta.

Em suma, o que o regulamento pretende, "em primeiro lugar, é que o algoritmo seja explicável a quem é afetado e que este cumpra com as normas aplicáveis", reforça Sara Rocha.

Relativamente ao impacto nas empresas, este "será enorme por ser um regulamento transversal e que vai desde 'big tech' a PME e cobre vários setores de atividade e vários agentes".

Do marketing, aos recursos humanos, passando pelo setor jurídico ou financeiro, o novo regulamento terá impacto nas mais diversas áreas, mas "também será aplicável a infraestruturas críticas, como a energia, ou ao setor público, à educação, energia" e até a banca.

"O que as empresas terão de fazer é analisar a sua utilização de ferramentas de IA, mapear as utilizações existentes e definir objetivos concretos para a utilização da tecnologia, identificar lacunas e implementar as normas existentes no uso que fazem destas ferramentas, de forma a garantir o cumprimento da legislação aplicável", salienta.

Quanto às 'big tech' (grandes tecnológicas), estas vão ter de aplicar a lei.

"O risco que existe é que a tecnologia, uma vez mais, avance mais rápido do que o próprio regulamento e se encontrem formas tecnológicas de contornar estas proibições", mas o "objetivo é abranger todas as empresas e todos os sectores, desde que recorram a IA", remata.