No último ano, modelos de IA de fronteira demonstraram que conseguem descobrir e explorar vulnerabilidades de segurança. A equipe de Chris Rohlf agora explora como esses modelos podem fortalecer a defesa cibernética por meio da análise e da redução automatizadas da superfície de ataque: usar a IA para mapear o código alcançável e, em seguida, remover ou restringir o acesso a tudo o que uma implantação não precisa expor.
A abordagem é importante porque encontrar e corrigir vulnerabilidades individuais escala mal. Corrigir um bug crítico não diz nada sobre as vulnerabilidades que permanecem. Já reduzir a alcançabilidade do código diminui a gravidade de vulnerabilidades desconhecidas, incluindo aquelas que estão sendo ativamente exploradas. As falhas subjacentes não são eliminadas, mas tornam-se mais difíceis de alcançar. Minimizar a superfície de ataque de uma base de código melhora a segurança sem a necessidade de encontrar ou corrigir uma vulnerabilidade específica.
O software tende a se tornar mais complicado com o tempo, à medida que abstrações, dependências e funcionalidades se acumulam, muitas vezes fazendo com que ele se comporte de forma diferente do que seus desenvolvedores pretendiam. Os atacantes exploram essa lacuna estudando como o código realmente se comporta. As técnicas automatizadas visam mover o código exposto desnecessariamente para trás de uma barreira apropriada, como passar de antes da autenticação para depois da autenticação, de zero clique para um clique, ou de ativado por padrão para opt-in explícito.
Os pesquisadores concentraram-se em três métodos: identificar o código alcançável em sua configuração padrão que a funcionalidade padrão nunca necessita, encontrar pares de opções que causam problemas quando configurados juntos, e localizar código complexo e sensível à segurança que é executado antes da autenticação ou de uma transição de estado do protocolo. Em 25 projetos que representam mais de cinco milhões de linhas de código, o Claude descobriu 493 problemas. Os resultados sugerem que desenvolvedores podem aplicar técnicas semelhantes ao seu próprio código para melhorar a segurança de forma econômica.
Fonte: Hacker News · Resumido por HeadlinesBriefing