Governação de algoritmos e Comitê de Ética de IA

Estas máquinas podem trazer enormes benefícios, tanto para os utilizadores individuais como para empresas, tais como a poupança de tempo e redução de custos. Em contrapartida, também trazem riscos inevitáveis. Destes desafios surge a proposta regulatória da União Europeia, o Artificial Intelligence Act (“AIA”) que pretende regular os sistemas de IA com uma abordagem baseada nos diferentes tipos de risco.

Não obstante às recentes propostas regulatórias, como o AIA Act, estas não devem ser consideradas como a única solução para garantir que as empresas controlem, de forma ética, segura e transparente a IA em todas as fases da sua implementação. Constata-se, assim, a necessidade imprescindível de uma governança mais robusta em IA, que possa garantir o desenvolvimento, implementação e utilização de IA, no cumprimento da lei e de valores éticos, abrindo espaço para uma proatividade cada vez maior das empresas nessa direção.

Dentro das diversas propostas de governança existentes, existe também a sugestão de implementação de Comités de Ética para IA, através da criação de um grupo capaz de prevenir, detetar e mitigar os potenciais riscos emergentes da IA.

No recém-publicado estudo desenvolvido pelo Centro de Ensino e Pesquisa em Inovação da Fundação Getulio Vargas (FGV) propôs-se um “Framework para Comitês de Ética em IA”, que visa analisar a Governação de Inteligência Artificial (IA) nas diferentes organizações. O estudo faz parte de um programa de governação e gestão de riscos, que segue as tendências regulatórias da Europa, EUA e Brasil.

A primeira parte da publicação, contextualiza a pesquisa e apresenta alguns pontos de partida, definindo-se, nomeadamente, conceitos importantes como o de IA e refletindo-se sobre o estado da arte da discussão na comunidade científica e no mercado. Já a segunda parte, detalha os cinco pilares do framework para a adoção de comités de ética em IA e aprofunda as possibilidades de configuração encontradas na investigação para a constituição e o funcionamento dessas estruturas.

A terceira parte do estudo apresenta, em detalhe, como o framework deve ser aplicado às organizações, exemplificando de que forma as características podem ser selecionadas a cenários distintos, de acordo com etapas de maturidade dos programas de governança. Por último, a quarta parte apresenta três estudos de caso realizados no decorrer do trabalho de investigação, construídos através de entrevistas a stakeholders envolvidos nesta temática, bem como através de documentação pública.

A importância de um Comité de Ética acentua-se principalmente no contexto de uma empresa de grande dimensão ou que trabalhe com inteligência artificial de risco elevado. Quanto à estrutura do eventual comité, este pode constituir um órgão interno da empresa, subordinado à direção ou departamento específico da empresa, ou a um órgão externo à mesma, e qualquer um deles poderá ser, ou não, vinculativo. Relativamente à competência e finalidade do comité, este pode representar diversos papéis, desde o poder meramente informativo até ao poder deliberativo, este último com a missão de elaboração de diretrizes e tomadas de decisão, com a capacidade de impedir a continuidade de um projeto e avaliar o comportamento dos membros da empresa.

O comité de ética pode, por exemplo, acumular o poder de fazer recomendações, mas também o de interromper a execução de alguma tecnologia que não cumpra com os princípios de responsabilidade e transparência. Partindo da ideia basilar de um comité de ética e dos seus poderes, importa perceber a sua composição, principalmente a especialidade de cada componente do comité, os quais comportam diferentes formatos e especializações. O número, forma de admissão e remuneração dos membros no comité dependerá da empresa e do comité em questão.

Dado o atual avanço dos benefícios e riscos da IA, a formação de Comités de Ética para IA em empresas é hoje uma importante tendência que visa reforçar os requisitos essenciais de governação de IA, mitigando riscos existentes e garantindo um bom alinhamento com as tendências regulatórias.