A Mimecast avança na prevenção da perda de dados com recurso à IA

Dentro dos sistemas de TI de uma empresa, normalmente, as informações são compartimentadas por meio de políticas que garantem que os utilizadores só podem ter acesso aos dados da sua competência. Embora este tipo de abordagem também possa ser replicado com as ferramentas de IA Generativa, a sua introdução aumenta significativamente tanto o risco de compartilhamentos involuntários causados por erros humanos quanto a superfície de ataque à disposição de possíveis cibercriminosos.

“O que esperamos nos próximos meses é um cenário em que as empresas darão acesso a um número cada vez maior de informações aos sistemas de IA Generativa”, explica Ricard Torres, Senior Sales Engineer da Mimecast. “Na prática, os chatbots e agentes de IA terão uma grande liberdade de ação e o risco de que isso resulte numa exposição de informações confidenciais crescerá exponencialmente”.

Entre as ameaças mais relevantes estão técnicas como o jailbreak e a injeção de prompts. O jailbreak é normalmente definido como uma técnica que permite contornar ou superar os limites e controlos de segurança implementados num modelo de IA, para fazer com que ele execute ações ou produza conteúdos que vão além dos seus parâmetros normais de funcionamento. Na prática, o uso de técnicas de jailbreak pode permitir que um utilizador legítimo tenha acesso a informações que excedem seus privilégios.

Os ataques baseados em injeção de prompts, por sua vez, envolvem a “injeção” de comandos ocultos que podem levar a IA a realizar ações indesejadas, como inserir informações confidenciais em comunicações dirigidas a partes externas. Uma das estratégias potencialmente úteis para alcançar esse objetivo é inserir as instruções num documento, tornando-as invisíveis para os humanos (por exemplo, inserindo texto branco sobre fundo branco), mas relevantes para os sistemas de IA.

O papel da prevenção de perda de dados

Num cenário extremamente “verde” e em constante evolução, confiar exclusivamente nos controlos de segurança internos dos sistemas de IA não é suficiente. Para implementar uma proteção eficaz, é necessário intervir em todas as ferramentas de comunicação e colaboração, começando pelo e-mail. “O e-mail é a principal ferramenta por meio da qual as informações sensíveis podem ser divulgadas”, destaca Ricard Torres. “As tecnologias da Mimecast utilizam algoritmos de correspondência de padrões e análise semântica para identificar dados sensíveis dentro de e-mails e anexos”.

O sistema, explica Ricard Torres, também pode ser configurado para criptografar automaticamente determinados conteúdos ou impedir o envio desses conteúdos caso haja violação das políticas corporativas. Da mesma forma, é necessário controlar as plataformas de colaboração, como Microsoft Teams, Slack e Zoom. Nesse caso, a tarefa é atribuída a filtros avançados capazes de identificar palavras- -chave, expressões regulares e comportamentos atípicos para prevenir a fuga acidental de dados confidenciais.

“A eficácia da Mimecast é garantida pelo uso de sistemas de inteligência artificial, que permitem analisar com extrema precisão os conteúdos. Nesse caso, é basicamente combater o fogo com o fogo”, conclui Torres.

“A velocidade com que as empresas portuguesas estão adotando o uso da IA”, diz Nuno Martins, Country Manager da Ingecom Ignition para Portugal, “torna indispensável oferecer aos nossos mercados as ferramentas adequadas para se proteger contra os riscos associados a uma tecnologia poderosa, mas ainda pouco explorada do ponto de vista da segurança. A Ingecom permite que todas as empresas do nosso país aproveitem o poder da IA, reduzindo os riscos com o mínimo esforço”.

Conteúdo co-produzido pela MediaNext e pela Ingecom