David Robinson, qui a dirigé les efforts de transparence de la sécurité chez OpenAI, démissionne car il pense que la technologie de l'entreprise n'est pas assez sûre. Un scholar de Rhodes et ancien conseiller de la Maison Blanche de Biden, Robinson a rejoint OpenAI en pensant que les risques de sécurité de l'IA étaient 'absurdes', mais a changé d'avis après trois ans. Il affirme que OpenAI manque de la culture de sécurité nécessaire pour prévenir les risques cataclysmiques, comparant les dommages potentiels à une fusion nucléaire, mais bien pire.
Il dit que l'industrie fonctionne comme une startup malgré la construction de systèmes dangereux, avec des contrôles internes et des redondances insuffisants. Robinson note que les rapports publics de sécurité d'OpenAI, Hugging Face et Anthropic montrent des problèmes, mais les observateurs externes peuvent surestimer leur rigueur de sécurité. Il distingue entre l'excellence organisationnelle, la faisabilité technique de la sécurité et les métaphores adéquates pour le risque—comme l'énergie nucléaire.
Robinson insiste sur le fait que l'alignement de l'IA n'est pas seulement un problème d'ingénierie. Sa démission met en lumière une dissidence interne croissante sur les pratiques de sécurité de l'IA dans l'industrie.
Source: New York Times Top Stories · Résumé par HeadlinesBriefing