A Anthropic está oferecendo aos projetos de código aberto uma nova forma de verificar falhas de segurança por meio do seu OSS Scanner. "Os projetos que aderirem receberão análises de segurança completas e periódicas feitas pelos nossos modelos mais avançados, sem custo", anunciou a empresa. A medida surge em um momento em que modelos de IA têm demonstrado grande capacidade de encontrar (e explorar) vulnerabilidades.
O scanner pode oferecer aos desenvolvedores de código aberto alertas antecipados sobre possíveis problemas de segurança, sem cobrança. Há, porém, uma contrapartida: os relatórios não serão revisados por pessoas. "Os resultados deste scanner de vulnerabilidades de adesão voluntária serão totalmente gerados por modelos, sem revisão ou triagem humana", explicou a Anthropic. "Isso permitirá análises mais rápidas e frequentes, mas significa que é possível que alguns relatórios estejam incorretos ou sejam inválidos." Os relatórios serão gerados pelos modelos mais poderosos da empresa, incluindo o Claude Mythos, para dar aos projetos de código aberto a maior vantagem defensiva.
A Anthropic afirmou que o serviço foi inspirado no OSS-Fuzz, um scanner criado pelo Google e pela Open SSF (Open Source Security Foundation), disponível desde 2016. A Anthropic já oferece um produto pago, o Claude Security, que realiza análise e correção de código de acesso geral. O OSS Scanner realiza auditorias de segurança semelhantes sem custo.
A iniciativa não é puramente altruísta. Tanto o Google quanto a Anthropic dependem muito do código aberto que sustenta a internet, frequentemente mantido por trabalhadores não remunerados. Falhas de segurança nesses códigos podem ser extremamente perigosas, como mostrou a backdoor do XZ Utils, que poderia ter dado a hackers controle administrativo sobre milhões de sistemas no mundo todo.
Fonte: Engadget · Resumido por HeadlinesBriefing