Regulamento Europeu de Inteligência Artificial: um primeiro passo importante

O principal objetivo é o de garantir que os sistemas de IA colocados no mercado, e utilizados na EU, sejam seguros, assim como facilitar o desenvolvimento de um mercado único para sistemas legítimos e seguros.

À semelhança do alcance internacional do RGPD, o objetivo do AIA é que seja aplicado também a fornecedores ou utilizadores fora da UE. Assim, a proposta abrange:

• Fornecedores que colocam no mercado ou põem em serviço sistemas de IA no território da UE, independentemente de estarem estabelecidos na UE ou num país terceiro;
• Utilizadores de sistemas de IA localizados na UE;
• Fornecedores e utilizadores de sistemas de IA que estão localizados num país terceiro, se o resultado produzido pelo sistema for utilizado na UE.

O AIA segue uma abordagem baseada no risco, e diferencia entre as utilizações de IA que criam: 1) um risco inaceitável; 2) um risco elevado e 3) um risco baixo ou mínimo (como por ex.: chatbots).

1) Risco inaceitável

Aqui incluem-se, entre outras, práticas com potencial significativo para explorar vulnerabilidades de grupos específicos (crianças ou as pessoas com deficiência), para distorcer substancialmente o comportamento de uma forma que seja suscetível de causar danos, psicológicos ou físicos. Também se incluem sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público, assim como a classificação assente em IA para uso geral das autoridades públicas.

2) Risco elevado

Estes sistemas estão sujeitos ao cumprimento de determinados requisitos e a uma avaliação de conformidade antes da sua colocação no mercado. A classificação tem como base a finalidade e a função prevista desse sistema, assim como as modalidades para as quais é utilizado.

Aqui são identificadas duas categorias. A primeira para sistemas de IA concebidos para serem utilizados como componentes de segurança de produtos; e a segunda para outros sistemas de IA autónomos com implicações em matéria de direitos fundamentais.

Estamos a falar, por exemplo, de sistemas concebidos para serem utilizados para a identificação biométrica à distância, para fins de determinação do acesso a instituições de ensino, na tomada de decisões sobre cessações de relações contratuais de trabalho ou por autoridades policiais, em avaliações individuais de riscos relativamente a pessoas singulares, a fim de determinar o risco de a pessoa cometer ou voltar a cometer infrações.

Os sistemas deverão cumprir requisitos adicionais, tais como a realização de uma avaliação de conformidade, antes da colocação do sistema no mercado, obrigações de transparência e prestação de informações aos utilizadores e a implementação de medidas adequadas para evitar a utilização indevida e abusiva. Devem ainda ser implementados sistemas de gestão de riscos e critérios de qualidade para os dados utilizados na formação, validação e testes dos sistemas.

Comité Europeu para a Inteligência Artificial

O AIA estabelece ainda um Comité Europeu para a Inteligência Artificial, que será responsável por prestar aconselhamento e assistência à Comissão Europeia, contribuindo principalmente para a cooperação eficaz das autoridades nacionais de controlo, como também garantir a aplicação coerente da proposta.

Críticas

Embora o AIA represente um passo importante para assegurar o bom funcionamento do mercado interno dos sistemas, tem sido criticado por vários motivos, mas sobretudo pela falta de clareza na definição de IA e das categorias de riscos e pelo potencial desequilíbrio entre segurança e inovação. As mais recentes alterações foram referentes aos sistemas de IA generativa, como o já muito falado ChatGPT. As empresas que implementarem tais sistemas terão, em princípio, de divulgar qualquer material protegido por direitos de autor usado para desenvolver os seus sistemas.

Próximos passos

Depois de meses de intensas negociações, os Membros do Parlamento Europeu chegaram a um acordo político provisório sobre o Regulamento, no passado dia 27 de abril.

O texto poderá ainda ser sujeito a pequenos ajustes antes da votação em comissão, prevista para 11 de maio e espera-se que seja votado em plenário em junho. Após esta votação, espera-se o início das discussões entre os Estados Membros, o Parlamento e a Comissão. Se este prazo for cumprido, o AIA deverá ser adotado até ao final de 2023.