Nous semblons beaucoup nous inquiéter de la menace de l'IA devenant incontrôlable, et il y a beaucoup d'exemples de cela. Cependant, ce sont tous des détournements de sens, car l'IA n'a ni intention ni motivation. Si vous croyez que la génération actuelle d'IA n'est qu'un perroquet stochastique, alors il n'y a rien de plus à dire - passez votre chemin. Si vous avez utilisé l'une des offres d'IA actuelles, vous devez conclure que, bien que le mécanisme d'entraînement amène à croire que ces LLM ne sont que des auto-complétions sophistiquées, elles semblent être bien plus.

Comme je l'ai argumenté maintes fois, le corpus d'entraînement, c'est-à-dire le langage, encode suffisamment sur la structure du monde pour que les LLM aillent bien au-delà de ce que vous pourriez attendre d'un perroquet stochastique. Ils ne sont pas intelligents, mais ils donnent une bonne impression de l'être. Devons-nous donc nous inquiéter de l'apocalypse IA à venir ? De nombreux chercheurs en IA — Hinton, Hassabis et Bengio, par exemple — ont exprimé leur inquiétude que l'IA pourrait nous anéantir, mais quand vous examinez ce qu'ils disent, ce n'est pas tout à fait la même chose que les patrons d'affaires non techniques, qui ont pour la plupart juste débarqué sur le sujet comme un moyen de gagner de l'argent.

Les patrons d'affaires ne sont pas les personnes que nous devrions écouter car ils ont bien trop d'intérêts à défendre, et donc des raisons de préférer des scénarios où l'IA est toute-puissante et menaçante. Il y a des experts, notamment Ng, Le Cun et Brooks, qui pensent que nous surestimons grossièrement la puissance de l'IA actuelle et le temps qu'il lui faudra pour atteindre le stade de surpasser l'intelligence humaine.

Même si c'est vrai, il y a une meilleure raison de ne pas trop s'inquiéter : la motivation. Considérez un humain. Nous avons toutes sortes de besoins parce que nous sommes biologiques. Nous sommes poussés par un besoin de survivre et nous faisons des choses pour assurer nourriture, abri, sécurité et partenaire. Nous sommes poussés par la biologie. Ce n'est pas le cas avec l'IA. Les LLM que nous utilisons tous sont entraînés avec l'apprentissage par renforcement. Si vous voulez formuler cela en termes plus humains, ils sont récompensés pour avoir réussi la tâche d'entraînement. Personnellement, je pense que c'est une anthropomorphisation excessive, mais ce n'est pas nuisible.

Une fois les LLM entraînés, ils ne sont plus soumis à l'apprentissage par renforcement. Ils n'ont plus aucune sorte de motivation. Ils ne sont pas récompensés quand ils répondent à une question. Ils n'ont ni besoins ni désirs, et même s'ils en avaient, il n'y a pas de mécanisme pour absorber la récompense. Ils n'ont même pas de rétroaction qui pourrait remplacer la fierté d'un travail bien fait. Avez-vous essayé de dire à un LLM qu'il a fait un excellent travail en répondant à votre question ? La réponse est décevante au mieux et clairement programmée par l'encombrement du front-end qui se trouve entre vous et le LLM.

Pas seulement cela, mais quand est-ce qu'une IA vous a suggéré quelque chose sans y être invitée ? Quand avez-vous ouvert une fenêtre et trouvé que l'IA avait tapé "J'ai eu une excellente idée pour ...." et a ensuite expliqué pourquoi c'était une bonne idée. Les LLM n'ont pas de bonnes idées - ils n'ont pas d'intention. Lorsque vous explorez un sujet avec l'IA, elle peut sembler suggérer quelque chose hors des sentiers battus qui était dans son ensemble d'entraînement, mais ce n'est pas une innovation non sollicitée. Nous pilotons l'IA en entrant nos questions qui sont motivées par nos besoins. Les LLM ne sont pas motivés pour faire quoi que ce soit, même pas répondre à vos questions. La motivation n'entre tout simplement pas en jeu.

Vous tapez une question, et l'algorithme de propagation avant s'exécute. Qu'importe si la réponse est correcte ou inutile, le LLM ne reçoit ni récompense ni punition. Il n'est pas non plus poussé par l'une des préoccupations qu'un humain aurait — "d'où viendra mon dîner", "comment puis-je être promu pour quitter ce travail", "quelle est la meilleure façon d'obtenir un rendez-vous"... et ainsi de suite. L'humain est un paquet chaotique de besoins, alors que le LLM n'en a aucun. Pourquoi cela signifie-t-il qu'un LLM est inoffensif ? Simplement parce qu'il ne veut en réalité rien, mais les humains sont si nécessiteux qu'ils ne peuvent tout simplement pas imaginer quelque chose dans cet état. Une IA va-t-elle nous anéantir ? Pourquoi le ferait-elle ? Qu'y gagnerait-elle ? Elle n'a même pas de boucle de récompense pour créer...