Alors que les inquiétudes concernant l'intelligence artificielle augmentent, les législateurs de la ville de New York ont interpellé lundi des représentants des grandes entreprises d'IA et sont ressortis avec peu de clarté sur la manière d'aborder les menaces imminentes. Les entreprises n'ont pas quantifié le risque d'un événement cataclysmique, qu'elles avaient une assurance dans ces cas, ou qu'elles pouvaient arrêter un modèle d'IA ayant échoué un test de sécurité interne ou un examen externe. Lors d'un échange tendu, le président du Conseil de la ville de New York, Julie Menin, a demandé à chaque entreprise comment elle quantifie "le risque imposé par l'IA dans le scénario cataclysmique worst case".
Morgan Dwyer, qui dirige le développement des politiques et les opérations d'OpenAI, a déclaré : "Je ne sais pas", et a ajouté qu'elle ne pense pas que cela importe si la chance est de 1 pour cent, 10 pour cent ou 20 pour cent. Menin a répondu que aucun de ces niveaux n'est remotement acceptable. Dwyer a déclaré que OpenAI ne devrait pas entraîner des modèles qui ne peuvent pas être maintenus sous contrôle humain en sécurité.
La audition a présenté des témoignages d'Anthropic, OpenAI, Meta et Google, tandis qu'un représentant de la branche IA de SpaceX, contrôlé par Elon Musk, n'a pas assisté malgré un citation. Menin a déclaré qu'elle demanderait à un juge d'intervenir. Certaines entreprises se préparent à une introduction en bourse, avec la valeur d'Anthropic projetée à dépasser 2 billions de dollars dans certains rapports.
Le lanceur d'alerte Jacob Coxon, qui a récemment quitté Anthropic, a averti que l'humanité risque probablement de perdre le contrôle des systèmes d'IA, potentiellement menant à l'extinction humaine, et a critiqué la culture des entreprises "mettre la vitesse, casser des choses" comme irresponsable compte tenu des stakes.
Source: New York Times Business · Résumé par HeadlinesBriefing