Respostas abertas a uma carta de leitor. Um leitor me escreveu recentemente uma carta longa com muitas perguntas sobre aprender programação nesta era de LLMs. Depois de uma troca de mensagens, obtive permissão para citar extensivamente a carta para tentar dar algumas respostas públicas. Nenhuma das minhas respostas a considero particularmente rigorosa; a situação é tão incerta que só posso responder no melhor das minhas capacidades, mas não afirmo que tenham qualquer tipo de verdade imutável.

"Estou tentando entender como as pessoas que entendem profundamente o software pensam sobre aprendizado e competência na era da IA. Abordo isso quase como um historiador: perguntando diretamente às pessoas como dão sentido a uma transição tecnológica enquanto a vivem."

Há cerca de um ano, tornei-me fascinado por programação assistida por IA. Apesar de não ter formação formal em ciência da computação, com LLMs consegui construir um sistema bastante grande de TypeScript/JavaScript envolvendo APIs, PostgreSQL, pipelines de LLM, automação de pesquisa e fluxos de trabalho multimodelo. No início parecia quase mágico: a IA parecia reduzir a distância entre ter uma ideia e poder construí-la.

Mas agora estou tentando transformar esse sistema em um produto real de produção e estou lutando. Corrijo um erro com IA, depois outro aparece, depois outra parte se comporta de uma forma que não entendo totalmente. Após meses de refatoração, tive uma realização desconfortável: posso ter construído um sistema acima do meu próprio nível de compreensão. Quando tudo funciona, essa lacuna é quase invisível. Quando não funciona, torna-se muito real.

Às vezes genuinamente não sei o que fazer a seguir sem pedir a outro modelo. Isso me fez questionar se passei um ano construindo um produto, ou parcialmente construindo a aparência de um: algo sofisticado o suficiente para funcionar, mas que ainda não entendo profundamente o suficiente para realmente possuir.

Não sou anti-IA de forma alguma. Estou fascinado por esses sistemas e quero trabalhar com eles profissionalmente. Mas não tenho certeza de qual deve ser o relacionamento certo com eles.

Na verdade, também não tenho certeza, mas antes de prosseguir, acho mais transparente revelar minha posição. Ainda não decidi sobre a IA, mas tendo a não gostar dela, sabendo muito bem que pode ser incontrolável. Trabalho e experimento com ela, e muitas vezes me impressiona. Outras vezes, me frustra. Geralmente é quando mais me impressiona que mais a ressinto. Quando está ruim, pode ser frustrante, mas pelo menos posso absorver uma brasa de calor na ilusão de que o que passei mais de trinta anos aprendendo ainda é relevante. Quando está no seu melhor, às vezes penso: Onde me inscrevo para a jihad Butleriana? Minha posição sobre LLMs é apenas parcialmente baseada no meu próprio status socioeconômico. Sou velho o suficiente e já tive sucesso suficiente, para que, todas as outras coisas sendo iguais, eu possa sobreviver ao desemprego. Não tenho certeza, por outro lado, se qualquer sociedade baseada em conhecimento pode. Pode ser que os LLMs assumam empregos de programadores antes de outros empregos de colarinho branco. Afinal, a programação pode ser uma disciplina onde a verificação é mais fácil do que, digamos, gestão de sinistros de seguros. Ainda assim, se chegarmos a um ponto de desemprego em massa entre trabalhadores do conhecimento, não tenho certeza de que a sociedade como a conhecemos sobreviverá. Normalmente não falo muito sobre minha formação como economista, mas neste contexto acho relevante mencionar. Como economista, não consigo imaginar que o desemprego em massa de 30-40% não terá um impacto significativo na economia. Estou dolorosamente ciente dos argumentos de que isso já aconteceu antes: Pode haver perda de empregos, mas o avanço da tecnologia leva a novos empregos que nem sequer podemos imaginar hoje. Foi assim com a introdução da máquina de tricô, a máquina a vapor, o motor de combustão interna, computadores, etc. Isso só é parcialmente verdadeiro: Sim, novos empregos foram criados, mas muitas vezes não para aqueles que perderam seus empregos. Mineiros de carvão não se tornaram programadores da noite para o dia. O mesmo tipo de argumento foi usado quando a China foi admitida na Organização Mundial do Comércio...