Nick Bostrom est devenu célèbre pour avoir prédit la fin de l'intelligence artificielle il y a plus d'une décennie — obtenant le soutien de personnalités comme Elon Musk, Sam Altman et Bill Gates. Mais maintenant, il se retire de ces avertissements, concentrant son attention sur une question plus complexe : Et si l'IA réussissait au-delà des imaginations les plus folles de l'humanité ? Allons-nous nous ennuyer à mourir ? Sommes-nous trop infantiles pour comprendre ce qui arrive ?
L'invité animateur Spencer Klavan, rédacteur associé au Claremont Review of Books, interroge Bostrom sur les utilisations et abus potentiels de la superintelligence, l'éthique rationaliste et ce qui nous rend humains. Voici une transcription éditée d'un épisode de « Interesting Times ».
Bostrom dit que sa perspective n'a pas fondamentalement changé, mais le monde a changé. Quand il a commencé « Superintelligence » en 2008, les gens l'ont rejeté comme de la science-fiction. Maintenant c'est courant, donc il se concentre sur le côté positif, qui a aussi des aspects philosophiquement problématiques.
Sur les probabilités comme P(doom), Bostrom dit qu'il n'y a pas de mathématiques derrière elles — elles sont subjectives. Il se dit un « optimiste inquiet », enthousiaste à propos du côté positif mais inquiet que nous n'y arrivions pas.
Source: New York Times Top Stories · Résumé par HeadlinesBriefing