Nick Bostrom ganhou destaque por prever o fim da inteligência artificial há mais de uma década — obtendo apoio de figuras como Elon Musk, Sam Altman e Bill Gates. Mas agora ele está recuando desses avisos, concentrando sua atenção em uma questão mais complexa: E se a IA tiver sucesso além das imaginações mais selvagens da humanidade? Vamos ficar entediados? Somos infantis demais para entender o que está por vir?
O apresentador convidado Spencer Klavan, editor associado da Claremont Review of Books, pressiona Bostrom sobre os usos e abusos potenciais da superinteligência, ética racionalista e o que nos torna humanos. Abaixo está uma transcrição editada de um episódio de “Interesting Times”.
Bostrom diz que sua perspectiva não mudou fundamentalmente, mas o mundo mudou. Quando ele começou “Superintelligence” em 2008, as pessoas o descartaram como ficção científica. Agora é mainstream, então ele está mudando o foco para o lado positivo, que também tem aspectos filosoficamente problemáticos.
Sobre probabilidades como P(doom), Bostrom diz que não há matemática por trás delas — são subjetivas. Ele se autodenomina um “otimista inquieto”, animado com o lado positivo, mas preocupado que possamos não chegar lá.
Fonte: New York Times Top Stories · Resumido por HeadlinesBriefing