Modelos de IA de código aberto como os da empresa francesa Mistral podem ser despojados de medidas de segurança e usados para consultas prejudiciais, segundo um relatório. A pesquisa identifica vulnerabilidades em modelos lançados sem medidas de proteção suficientes, permitindo atores maliciosos remover restrições de segurança. Especialistas alertam que este risco de 'abliteration' ameaça o deployment responsável de IA.
O relatório destaca preocupações sobre modelos de várias empresas enfrentando desafios de segurança semelhantes.
Fonte: Sifted · Resumido por HeadlinesBriefing