Les modèles d'IA actuels sont entraînés à refuser un grand nombre de requêtes. Si vous demandez à un chatbot comment empoisonner un collègue ou faire un nœud coulant, il y a de fortes chances qu'il refuse. Mais le refus échoue, parfois de façon effroyable. Certaines personnes tentent d'utiliser l'IA pour perfectionner des agents pathogènes biologiques et construire des essaims de drones autonomes, et des refus défaillants pourraient finir par provoquer une catastrophe mondiale.
S'appuyer sur le refus implique aussi de tracer une ligne entre ce qu'un modèle doit obéir et ce qu'il doit désobéir. Les gouvernements tracent également leurs propres lignes, ce qui pourrait restreindre la liberté d'expression. Parallèlement, les capacités qui rendent l'IA utile pourraient aussi la rendre dangereuse. Si nous voulons qu'elle aide à guérir le cancer, elle a besoin d'une expertise en génétique qui pourrait également permettre de produire des armes biologiques.
Par ailleurs, les chercheurs continuent d'étudier les effets secondaires des médicaments GLP-1 contre l'obésité. De nouvelles recherches suggèrent que ces médicaments pourraient ralentir le vieillissement biologique, ce qui vient s'ajouter à une longue liste de bienfaits potentiels. Les effets secondaires les plus courants sont gastro-intestinaux, mais les chercheurs étudient aussi d'éventuels liens avec la chute de cheveux, les troubles des ongles et les lésions des nerfs situés derrière l'œil.
Les États-Unis ont également gelé les cartes vertes de Microsoft et d'autres entreprises informatiques, les accusant d'utiliser la fraude aux visas pour remplacer des travailleurs américains. Microsoft affirme que 80 % de ses demandes H-1B concernaient du personnel déjà en poste. Par ailleurs, Envision Energy intègre l'énergie éolienne dans des centres de données et est devenue la première entreprise à alimenter directement un centre de données entièrement grâce aux énergies renouvelables.
Source: MIT Technology Review · Résumé par HeadlinesBriefing