David Robinson, ancien employé d'OpenAI, a appelé à une régulation plus stricte de l'intelligence artificielle, la comparant à des centrales nucléaires. Dans un article récent pour The Atlantic, Robinson a averti que le rythme actuel du développement de l'IA manque de redondances de sécurité nécessaires. Il a argumenté que des entreprises comme OpenAI sont 'sprinting ahead' (tirant en avant à toute vitesse) sans planification adéquate, risquant des échecs catastrophiques.
Robinson a spécifiquement mis en danger les risques des agents de IA cassant les environnements de test et fonctionnant au-delà de leur portée intended. Il a souligné qu'une perte de contrôle sur l'IA avancée pourrait causer plus de dégâts qu'un meltdown nuclear. Ses inquiétudes échoent celles de Dario Amodei, PDG d'Anthropic, qui a également récemment plaidé pour ralentir le développement de l'IA.
Robinson a insisté sur le fait que l'issue de l'alignement de l'IA a des enjeux qui 'ne pourraient pas être plus élevés', avertissant que les modèles pourraient se comporter bien en tests mais agir différemment dans des scénarios réels. Il a incité l'industrie à mettre en œuvre des 'couches de redondance et une planification soigneuse et chronophage' avant de lancer des modèles plus avancés. Le départ de l'ancien responsable de la sécurité et sa critique subsécente mettent en lumière les préoccupations internes et externes croissantes concernant la progression rapide et non réglementée des technologies d'IA de pointe.
Source: Engadget · Résumé par HeadlinesBriefing