O que são Sistemas de Recomendação e qual a sua importância?

	Eduardo Magrani, Consultor Sénior da Área de TMT da CCA Law Firm

A cada segundo, cerca de seis novos sites são publicados, mais de dois mil publicações são partilhadas no Instagram, mais de quatro mil fotos são carregadas no Facebook e mais de cinco mil tweets são publicados no Twitter. Em virtude destes números crescentes, os sistemas de recomendação tornaram-se ferramentas indispensáveis e omnipresentes e são atualmente utilizados para personalizar as escolhas e classificar os conteúdos em plataformas e aplicações em linha.

Os RS são algoritmos que selecionam - o que identificam como - informações relevantes, adaptando-as a utilizadores individuais através de técnicas de processamento de dados e inteligência artificial (“IA”). Desta forma, os RS são utilizados para as mais diversas finalidades, recomendando desde notícias relevantes, novos amigos ou conteúdos de publicidade direcionada e comportamental, podendo sugerir dietas ou exercícios personalizados, ou apresentar opções de percursos de viagem com base em informações sobre a densidade do tráfego, entre muitas outras possibilidades.

O poder sugestivo das recomendações baseadas em ações individuais pode ter impacto na autonomia individual e, por extensão, nos direitos humanos, bem como na autodeterminação individual e coletiva. Perante o aumento da importância destes sistemas, crescem proporcionalmente os riscos de efeitos adversos e surge daí a necessidade de haver regulações adequadas para se enfrentar os desafios multifacetados gerados pelos RS. Muitas destas regras jurídicas propostas são extraídas de diretrizes éticas, baseadas em valores como transparência, justiça, não maleficência, beneficência, responsabilização, privacidade, liberdade, autonomia, dignidade e solidariedade, com intuito de se mitigar eventuais efeitos negativos trazidos pelos RS.

Dentro do contexto regulatório, o Regulamento Geral sobre a Proteção de Dados (RGPD) representa um quadro normativo fundamental para abordar muitos dos riscos representados pelos RS. Como os dados são o motor desta tecnologia, o RGPD introduz uma estrutura positiva em prol de um maior controlo dos utilizadores sobre os seus dados, ao estabelecer uma série de direitos, princípios e requisitos para o tratamento de dados pessoais, incluindo no caso de decisões automatizadas e de criação de perfis.

Além do RGPD na Europa, o Digital Services Act (DSA) e o Artificial Intelligence Act (AI Act ou AIA) também desempenham um papel importante na regulamentação e tendências regulatórias aplicáveis aos RS.

O DSA visa estabelecer regras claras e parâmetros de responsabilidade para os prestadores de serviços digitais, de forma a garantir a segurança dos utilizadores, combater a disseminação de conteúdo ilegal e garantir a transparência nas práticas de moderação de conteúdo. Nesta linha, o DSA, ao tratar da transparência dos RS, estabelece que os fornecedores de plataformas em linha que utilizem RS devem inserir nos seus termos e condições, em linguagem clara e inteligível, os principais parâmetros utilizados nos seus RS, bem como quaisquer opções que permitam aos destinatários do serviço alterar ou influenciar estes parâmetros. Além disso, os fornecedores devem explicar por que motivo determinadas informações são sugeridas ao destinatário do serviço, incluindo, pelo menos: (i) os critérios mais significativos para determinar as informações sugeridas ao destinatário do serviço; (ii) os motivos da importância relativa destes parâmetros.

O AI Act, por sua vez, considerado como uma importante tendência regulatória voltada para o tema específico da IA, também toca o tema dos RS. O AIA possui o intuito de estabelecer regras harmonizadas para o desenvolvimento, a colocação no mercado e a utilização de sistemas de IA na União Europeia com o objetivo de garantir que os sistemas sejam confiáveis e facilitar o desenvolvimento de um mercado único para sistemas legítimos e seguros.

Ao propor uma regulação baseada em risco, o AIA estabelece requisitos mínimos de compliance pautados pela transparência, explicabilidade e supervisão humana, sobretudo para as IAs consideradas como de alto risco. Numa das alterações mais recentes no texto da proposta, o Parlamento Europeu definiu justamente aos RS utilizados por plataformas de media sociais como suscetíveis de serem sistemas considerados de alto risco.

No mundo hiperconectado em que vivemos, com todo o excesso de informação que permeia a nossa navegação em linha, os RS são de extremo valor para nos ajudar a encontrar mais rapidamente as informações que precisamos e que nos interessam. Entretanto, em conjunto com o seu enorme potencial, a tendência regulatória aponta para a necessidade de um maior compliance por parte das empresas que utilizam este tipo de tecnologia, com intuito de mitigar riscos e eventuais danos associados a RS.