2024-2-26

SECURITY

Microsoft lança ferramenta de red team para IA generativa

PyRIT é a nova ferramenta da Microsoft para red team para ajudar a identificar riscos na IA generativa através da automação

Microsoft lança ferramenta de red team para IA generativa

A Microsoft anunciou na última semana o lançamento do PyRIT, uma ferramenta de acesso aberto para red team desenhada para ajudar os profissionais de cibersegurança a identificar os riscos da IA generativa.

De acordo com a Microsoft, esta ferramenta aumenta a eficiência das auditorias através da automação de tarefas e alertando as áreas que precisam de uma investigação mais profunda, aumentando, essencialmente, as tarefas da red team.

Fazer ações de red team na IA generativa é, segundo a Microsoft, diferente de sistemas de IA clássicos ou sistemas tradicionais, uma vez que requer a identificação de riscos de segurança e riscos de IA responsável.

A IA generativa pode produzir conteúdo impreciso e os seus resultados podem influenciar até a mais pequena das variações e as ações da red team a estes sistemas devem considerar estes riscos.

A Microsoft explica que o PyRIT – que significa Python Risk Identification Toolkit – “não é um substituto do red team manual para sistemas de IA generativa. Em vez disso, aumenta o expertise do red team de IA nos domínios existentes e automatiza tarefas entediantes”.

ARTIGOS RELACIONADOS

Glintt Global cria centro de excelência especializado em IA generativa
BIZ

Glintt Global cria centro de excelência especializado em IA generativa

LER MAIS

Samsung lança smartphones com inteligência artificial generativa
HARD

Samsung lança smartphones com inteligência artificial generativa

LER MAIS

Metade das organizações de cadeia de valor vai implementar IA generativa
BIZ

Metade das organizações de cadeia de valor vai implementar IA generativa

LER MAIS

Recomendado pelos leitores

Commvault anuncia solução conjunta com Pure Storage para cumprir requisitos do DORA
SECURITY

Commvault anuncia solução conjunta com Pure Storage para cumprir requisitos do DORA

LER MAIS

Investimento em cibersegurança em Portugal deverá chegar aos 250 milhões de euros
SECURITY

Investimento em cibersegurança em Portugal deverá chegar aos 250 milhões de euros

LER MAIS

Lançada solução de assessment comportamental relacionada com cibersegurança em Portugal
SECURITY

Lançada solução de assessment comportamental relacionada com cibersegurança em Portugal

LER MAIS

IT CHANNEL Nº 112 NOVEMBRO 2024

IT CHANNEL Nº 112 NOVEMBRO 2024

VER EDIÇÕES ANTERIORES

O nosso website usa cookies para garantir uma melhor experiência de utilização.