Chez Block, la société derrière Square, Cash App et Afterpay, l'équipe de sécurité utilise OpenAI Defense Factory, où l'IA prend en charge la découverte de vulnérabilités, la détection et la réponse à une échelle qu'aucune équipe humaine ne pourrait égaler. Grâce à des systèmes comme OpenAI Daybreak, Block accomplit en quelques heures un travail qui prenait autrefois des semaines.
« L'IA réduit le temps qui sépare l'intention humaine de l'action », a déclaré James Nettesheim, directeur de la sécurité des systèmes d'information chez Block. « Pendant un temps, on a supposé que l'attaquant avait l'avantage, puisqu'il est plus rapide et plus agile. Mais avec des outils comme Daybreak et les progrès des outils d'OpenAI, les défenseurs peuvent riposter à armes égales et suivre le rythme rapide de l'adoption de l'IA. »
L'équipe sécurité de Block s'est attachée à adopter l'IA de manière responsable dans tous les workflows, de la génération de code aux opérations de sécurité. Nettesheim décrit cette technologie comme un nouveau coéquipier capable de passer à l'échelle. Des tâches comme l'analyse d'un bogue logiciel ou le traitement d'un journal, qui prenaient des jours, ne demandent plus qu'une fraction de ce temps, chaque résultat étant validé par un humain. Pour ajuster la détection, l'équipe peut rejouer une modification proposée sur sept mois de télémétrie de production en moins d'une heure, un travail qui impliquait auparavant de réinterroger manuellement des centaines d'anciens cas.
L'équipe a également appris à associer les modèles aux tâches. Le cadre de sécurité de Block achemine chaque travail vers le modèle approprié et prévoit des mécanismes permettant aux humains de reprendre la main ou aux agents de vérifier le travail les uns des autres. Le système de tri automatisé a permis une hausse de 50 % du débit de tri, une augmentation de 50 % de la collecte de renseignements et des enquêtes, ainsi qu'une nouvelle capacité de chasse aux menaces autonome. Selon Nettesheim, le système effectue environ 1 100 heures d'analyste d'investigation par trimestre, ce qui permet de passer en revue chaque alerte de manière approfondie.
Source: OpenAI Blog · Résumé par HeadlinesBriefing