Le processus d'écriture est une partie essentielle de la pensée. Utiliser l'IA pour générer du texte substantiel comporte le risque de produire des idées vagues ou incorrectes qui sont difficiles à détecter. De plus, utiliser l'IA sans la signaler est trompeur pour le lecteur.

Bien que l'IA excelle dans la transcription audio, l'analyse de données et le brainstorming, elle ne devrait pas remplacer l'acte fondamental d'écrire. Même avec des invites détaillées ou des modifications, l'auteur soutient que les avantages cognitifs d'écrire soi-même sont irremplaçables. L'auteur reconnaît les avantages de l'IA en termes de vitesse et d'effort, mais estime que les inconvénients l'emportent sur les avantages pour un contenu significatif.

L'objectif de la recherche est de former et de communiquer des croyances précises, un processus mieux servi par l'engagement personnel avec le texte. Comme l'a noté Paul Graham, écrire révèle les lacunes dans la connaissance et oblige à organiser les arguments, mettant en évidence des contradictions que l'IA pourrait facilement ignorer. L'auteur conclut que, bien que les modèles futurs puissent s'améliorer, l'IA actuelle reste inadaptée à la délégation de la pensée substantielle et de la communication.