Des personnes qui écrivaient rarement produisent maintenant des propositions de design, des plans d'affaires, de la documentation, des présentations, des tickets, des pull requests, des articles de blog et des comptes rendus de réunion générés par l'IA. Tout est illisible. L'IA m'aide à écrire mieux et plus vite, mais j'en ai assez de lire presque tout ce qui est écrit par l'IA. Dans cet essai, je veux exprimer ma frustration et décrire comment je trouve de la valeur dans l'IA pour l'écriture.

L'IA est terrible pour l'écriture. Un schéma : les gens utilisent l'IA pour construire quelque chose de nouveau, puis utilisent l'IA pour résumer rétrospectivement ce qu'ils ont construit dans un document de design. Lire un tel document n'est pas seulement difficile—c'est une punition. Le document de design n'est plus une proposition visant à bâtir un consensus, à embarquer les gens et à affiner les idées par une réflexion lente et délibérée—c'est un résumé fait par une machine, dans un détail épuisant, sans contexte ni perspective. C'est illisible. Inhumain. Les auteurs s'impatientent quand les gens ne s'engagent pas, et il est difficile de ne pas s'engager, parce que ce qu'ils ont construit fonctionne déjà.[1]

Je vois aussi des résumés de pull requests clairement écrits par des machines pour des machines. Ils sont riches en détails : ceci a été changé en cela, ceux-ci ont été séparés, ceux-là ont été fusionnés, ceci est resté intact, des tests ont été ajoutés pour cela, et ainsi de suite. Mais je reste à me demander : pourquoi faisons-nous cela ? Quelle est la valeur ? À quel point ce travail est-il risqué ou urgent ? Où voulez-vous mon avis ? À quoi dois-je faire attention ? Il en va de même pour les tickets ou les comptes rendus de réunion faits par l'IA. L'écriture, comme de plus en plus de choses dans le monde, consiste en des déclarations hors contexte.

Quelqu'un m'a écrit un message personnel sur un sujet sensible qui avait clairement été travaillé avec l'IA pour nuancer la conversation et ne pas m'offenser. Mais le message est devenu impersonnel, froid et décousu. Il avait toutes les parties, mais il n'avait pas de sens dans son ensemble. Je n'avais pas envie de le lire, ni d'y répondre. Je préférerais de loin que quelqu'un soit lui-même et écrive avec sa propre voix, ou avec un peu de passion, même s'il ne trouve pas tout à fait les mots, ou s'il risque de m'offenser. Dans les relations avec les autres, il y a de la vulnérabilité et du risque. En communiquant avec votre IA, il n'y en a aucun, et les tentatives d'éliminer la vulnérabilité et le risque élimineront le processus de la relation elle-même. Comme l'écrit Simon Sarris dans Resist Summary, un essai auquel je reviens sans cesse : Je pense qu'on devrait écrire autant que possible avec son propre empirisme, ses propres sens, en donnant au lecteur sa propre caractérisation de la vie ou des événements.—Simon Sarris, Resist Summary

Peut-être l'utilisation la plus paresseuse et la plus offensante de l'écriture par l'IA que j'aie vue : quelqu'un a utilisé l'IA pour résumer mes commentaires sur sa proposition comme sa réponse à mon intention ! Merci ! Je n'aurais pas pu mieux dire moi-même ![2]

Je n'ai pas le contexte que vous avez. Cynthia Dunlop a récemment partagé les résultats d'une enquête sur la lecture d'articles écrits par l'IA intitulée Report: How developers react to AI-scented blog posts. Pour la majorité des lecteurs, s'ils pensent qu'un article est assisté ou écrit par l'IA, ils arrêteront de lire (78 %) et éviteront l'auteur à l'avenir (71 %). Comme l'a écrit Bryan Cantrill à propos de cette recherche dans son essai The revolt of the reader : « notre cerveau tire une poignée d'éjection déclenchée par le LLM, nous sauvant en pleine phrase dans un acte d'auto-préservation. » Le résultat le plus fort de l'enquête était que les gens préféraient massivement l'écriture de l'auteur lui-même (98 %), avec tous ses défauts et idiosyncrasies, par rapport à une réécriture sans âme par une IA. Écrire authentiquement est l'un des meilleurs moyens de se connecter avec les gens. Cela me rappelle un commentaire de Bjarne Stroustrup, le créateur de C++, lors d'une table ronde à laquelle j'ai assisté il y a plus de dix ans sur l'écriture de livres : Quand je lis un livre, je sens vraiment que si je peux entendre la voix de l'auteur résonner dans ma tête—avec des accents bizarres et des particularités de leurs schémas de parole—alors je sens que quelque chose a réussi. Si cela semble sec,...