Anthropic ofrece a los proyectos de código abierto una nueva forma de detectar fallos de seguridad a través de su OSS Scanner. "Los proyectos que se unan recibirán análisis de seguridad exhaustivos y periódicos realizados por nuestros modelos más potentes, sin coste alguno", anunció la empresa. La medida llega en un momento en que los modelos de IA han demostrado ser muy capaces de encontrar (y explotar) vulnerabilidades.
El escáner podría ofrecer a los desarrolladores de código abierto alertas tempranas sobre posibles problemas de seguridad sin cargo alguno. Sin embargo, existe una contrapartida: los informes no serán revisados por personas. "Los resultados de este escáner de vulnerabilidades de adhesión voluntaria se generarán íntegramente por modelos, sin revisión ni clasificación humanas", explicó Anthropic. "Esto permitirá escaneos más rápidos y frecuentes, pero significa que es posible que los informes sean incorrectos o no válidos." Los informes serán generados por los modelos más potentes de la empresa, incluido Claude Mythos, para dar a los proyectos de código abierto la mayor ventaja defensiva.
Anthropic afirmó que el servicio se inspiró en OSS-Fuzz, un escáner creado por Google y la Open SSF (Open Source Security Foundation) que está disponible desde 2016. Anthropic ya vende un producto de pago, Claude Security, que ofrece análisis y parcheo de código de acceso general. OSS Scanner realiza auditorías de seguridad similares sin coste alguno.
La iniciativa no es puramente altruista. Tanto Google como Anthropic dependen en gran medida del código abierto que sostiene internet, muy a menudo mantenido por trabajadores no remunerados. Los fallos de seguridad en ese código pueden ser sumamente peligrosos, como demostró la puerta trasera de XZ Utils, que podría haber dado a los hackers control administrativo sobre millones de sistemas en todo el mundo.
Fuente: Engadget · Resumido por HeadlinesBriefing