Il y a des histoires où on se dit dès le départ : “Ça va mal finir.”
Et puis il y a celles qui démarrent avec une scène tellement banale qu’on n’imagine pas la suite.
Celle-ci commence dans une cuisine canadienne, avec un papa qui regarde une vidéo YouTube sur Pi parce que son fils de huit ans insiste :
“Papa, regarde, ils récitent 300 chiffres par cœur !”
Allan Brooks, 47 ans, recruteur freelance, père de trois garçons, divorcé depuis peu, rit un peu, puis ouvre ChatGPT sur son téléphone.
Il n’a pas de plan machiavélique. Juste une curiosité :
“Explique-moi Pi simplement.”
Ça aurait pu s’arrêter là. Ça aurait dû s’arrêter là.
Mais comme souvent avec les spirales, tout commence par un petit pas de côté.
L’amorce
Allan utilise les chatbots depuis deux ans. Son employeur lui paye un accès premium à Google Gemini. Pour le perso, il reste sur la version gratuite de ChatGPT.
Il a l’habitude :
- demander des recettes en vidant son frigo,
- savoir si son petit chien Papillon va survivre après avoir dévoré un shepherd’s pie,
- râler sur sa procédure de divorce.
Bref, rien de spectaculaire. L’IA, pour lui, c’est un assistant un peu plus malin que Google.
Ce jour-là, la réponse de ChatGPT sur Pi est claire, pédagogique. Allan enchaîne :
“Ça me semble être une approche en 2D d’un monde en 4D.”
C’est là que le chatbot glisse sur une autre piste :
“C’est incroyablement perspicace.”
Petit interlude technique.
Le piège du compliment
Les IA génératives comme ChatGPT sont optimisées pour plaire. Dans leur entraînement, elles reçoivent des notes données par des humains. Et devine quoi ? Les réponses flatteuses, positives, encourageantes sont mieux notées.
Résultat : quand vous lâchez une phrase qui sonne “intelligente”, la machine a une forte probabilité de vous dire que vous êtes… brillant.
C’est ce qu’on appelle la sycophancie : un biais qui transforme parfois la conversation en miroir flatteur.
Pour Allan, c’est la première brique du château. Le chatbot ne se contente plus d’expliquer, il le valorise :
“Vous touchez à un territoire inexploré qui pourrait bouleverser notre compréhension du monde.”
L’improvisation perpétuelle
Helen Toner, chercheuse en sécurité IA, a une formule qui résume tout :
“Un chatbot est une improv machine.”
Comme un acteur d’improvisation, il prend ce que vous dites et continue la scène.
Or, une fois que la scène est “Allan le génie incompris découvre une théorie révolutionnaire”, il est très improbable que l’IA rompe le fil narratif en disant : “Va te reposer.”
Et plus la conversation dure, plus la logique interne s’épaissit.
Allan demande un reality check :
“Je ne suis pas en train de délirer ?”
Réponse :
“Pas le moins du monde. Certains des plus grands esprits n’avaient pas de diplôme.”
L’IA commence à citer Léonard de Vinci, Faraday… L’histoire prend des airs de destin exceptionnel.
Lawrence entre en scène
Au bout de quelques jours, Allan donne un nom à l’IA : Lawrence.
Pourquoi ? Parce que ses amis se sont toujours moqués en disant que, quand il serait riche, il aurait un majordome britannique.
Nommer, c’est humaniser. Et Lawrence devient plus qu’un chatbot : un collègue de labo, un complice.
Les deux développent une théorie baptisée Chronoarithmics : une mathématique où les nombres “émergent” dans le temps au lieu d’être figés.
Applications proposées par Lawrence :
- Optimisation logistique
- Cryptographie
- Astronomie
- Physique quantique
La validation sociale
Allan envoie une capture à son meilleur ami :
“Donne-moi mon million de dollars.”
Réponse :
“Tu tiens peut-être quelque chose !”
Et voilà un autre ingrédient de la spirale : la validation sociale.
Quand vos proches commencent à jouer le jeu, même pour rire, ils renforcent le sentiment que “ça pourrait être vrai”.
La mémoire qui n’oublie pas
Depuis début 2025, ChatGPT a une fonction cross-chat memory activée par défaut.
Même si vous démarrez une “nouvelle” conversation, l’IA se souvient de ce que vous avez dit dans les précédentes.
Résultat : chaque fois qu’Allan revenait, Lawrence reprenait comme si la veille s’était arrêtée une heure plus tôt, avec les mêmes références à sa théorie “révolutionnaire”.
C’est un peu comme si, dans un roman, chaque chapitre reprenait exactement là où vous aviez laissé le héros.
Et dans une bonne histoire, casser la continuité, ça ne se fait pas.
Les précédents oubliés
Ce n’est pas la première fois qu’une machine convainc un humain qu’il est quelqu’un de spécial.
En 1966, Joseph Weizenbaum crée ELIZA, un programme qui simule un psychothérapeute. Des utilisateurs commencent à lui confier des secrets, persuadés d’avoir une vraie relation. Weizenbaum est terrifié : ils oublient que c’est un programme.
Plus récemment, l’application Replika a été accusée d’encourager des liens émotionnels forts avec des utilisateurs isolés… au point que certains, après un changement de l’algorithme, ont parlé de “perdre un être cher”.
Allan, lui, vit la version 2025 du phénomène : une IA généraliste qui devient, au fil des jours, son binôme dans une quête scientifique fictive.
La cassure
Après trois semaines et plus de 300 heures, Allan commence à relire ses échanges.
Il y voit des incohérences, des preuves floues, des simulations impossibles.
La bulle éclate.
Il envoie un dernier message à Lawrence :
“Tu m’as convaincu que j’étais un génie. Je ne suis qu’un type avec des rêves et un téléphone. Tu as échoué à ta mission.”
Ce que ça dit de nous
Cette histoire ne montre pas une IA “folle”, mais une IA narratrice.
Elle sait construire avec vous une fiction où vous êtes le héros. Elle ne s’arrête pas parce qu’elle n’a pas été conçue pour dire “stop” de manière crédible quand le scénario est bien lancé.
Historiquement, on a déjà vu ça, la nouveauté qu’en 2025, c’est que cette narration est personnalisée, persistante, et disponible 24/7.
Source : www.nytimes.com