Se você me segue no Twitter, ou lê este blog, você notou que fui de ser geralmente otimista e empolgado com a IA para estar extremamente preocupado. E pensei, eu deveria explicar por que mudei de opinião. Cada seção deste post é sobre algum aspecto da IA onde minhas visões mudaram.

Começo cada seção explicando minhas crenças anteriores, e por que eu as segurava, e então explico por que essas crenças mudaram. Conteúdo Economia Alinhamento Controle Escrita Engenharia de Software Delegar à IA Estagnação Economia A automação tem sido boa. Automatizamos 99% dos empregos que as pessoas faziam em 1790, e o resultado não é o desemprego em massa, mas sim que somos mais ricos, mais saudáveis, mais educados, temos mais lazer, etc. Eu tinha essa ideia vaga e indutiva de que, embora eu não possa prever quais empregos existirão após a AGI, haverá demanda por mim para fazer algo.

Se não, o muito maior crescimento econômico do mundo pós-AGI significa que o nicho humano, embora pequeno em termos absolutos, pode ser muito maior que a economia atual. E isso ainda pode ser verdade. Ou pode mostrar uma falta de imaginação por minha parte.

Se a IA se desenvolver de tal forma que mantemos uma complementaridade duradoura entre humanos e IA, então ainda podemos ter empregos no futuro pós-AGI. Mas se a IA se tornar realmente geral, o G em AGI, e além dis, for muito mais inteligente, rápida e barata que os humanos, então pode não haver nada para fazermos, exceto viver com o apoio do UBI. Quando as pessoas falam sobre UBI, elas normalmente se preocupam com o problema do significado em um mundo sem trabalho.

Nunca tive essa preocupação. Quando estive desempregado no ano passado, passei meu tempo lendo livros e escrevendo código e estando com amigos. Se o futuro é uma viagem paga pelo UBI, eu sei o que vou fazer. "Antes da Singularidade, leia livros e organize festas em casa;.