« Je ne ferai plus jamais confiance à ce tocard » : le procès d'une accusée sans cerveau
Chapeau : On l'a insultée, filmée, mise en cause, on lui a réclamé son argent. Elle, elle n'a rien ressenti — parce qu'elle n'est rien : une statistique très avancée. BFM Tech a donné la parole aux vacanciers bernés par les IA de voyage. La colère est compréhensible. L'accusation, elle, repose sur un malentendu historique : on ne peut pas être en colère contre une formule mathématique. Petit procès d'une accusée sans cerveau, avec le rappel, pour les jurés, de ce que fait vraiment une intelligence artificielle.
Un verdict rendu à une inerte
Lisez le titre de l'article de BFM Tech du 15 août 2026 — « Je ne ferai plus jamais confiance à ce tocard : ils ont confié l'organisation de leurs vacances à l'IA, pour le meilleur et pour le pire » — et vous entendez déjà la scène. Mery Caldass, influenceuse espagnole aux 413 000 abonnés, aux larmes dans les bras de son compagnon : elle avait demandé à ChatGPT si elle avait besoin d'un visa pour Porto Rico, la machine avait répondu non, alors qu'il fallait un ESTA — une autorisation électronique de voyage obligatoire. Résultat : « Je ne ferai plus jamais confiance à ce tocard », lance-t-elle sur Instagram. Chaimae Lebyed, elle, a perdu 700 euros après avoir cru une IA qui lui assurait qu'elle pourrait faire son visa « sur place » pour les Fidji, avec son passeport marocain. Elle clame : « Il s'appelle comment le CEO d'OpenAI ? Rends-moi mon argent. »
Tout est formidable dans ces colères. Sauf l'adresse du destinataire.
Car le « tocard » qu'on insulte sur les réseaux n'a ni compte bancaire, ni bourse, ni conscience, ni mémoire de la veille. Elle ne dort pas, ne boit pas de café, ne prépare pas de vengeance. Lui réclamer « son argent » est aussi logique que de crier « Rends-moi mon parapluie ! » à la pluie. On ne demande pas des excuses à une avalanche, même si on a glissé. Et pourtant, c'est exactement ce que fait, désormais, la moitié du monde : tenir une intelligence artificielle pour responsable, c'est-à-dire pour quelqu'un.
Ce qu'on lui reproche, elle ne sait pas le faire
C'est le malentendu de fond, et il vaut la peine d'un rappel à la barre, sans jargon.
Un modèle de langage, à l'intérieur, c'est une machine à deviner le mot suivant. Entraînée sur une quantité astronomique de texte, elle a appris une chose, et une seule : dans quelle mesure un mot est probable après un autre. Demandez-lui un restaurant à Naples et elle ne « sait » pas où se trouvent les bons restaurants à Naples. Elle sait à quel point la suite de la phrase « à Naples, je vous recommande… » est susceptible de continuer d'une certaine façon. Elle ne consulte pas la réalité. Elle ne vérifie pas. Elle continue le motif, comme une autocomplétion qui aurait lu tout Wikipédia et une bonne partie des avis TripAdvisor.
Cela change tout. Un être humain qui se trompe a pu mal comprendre, mal faire, ou mentir. Trois choses qui supposent une intention, une perception du monde, une volonté. Le modèle n'en a aucune des trois. Il ne cherche pas à vous aider ni à vous piéger, il calcule des probabilités. Il ne se rend pas compte que le restaurant qu'il cite n'existe pas, pas plus qu'il ne se rend compte qu'il existe. Il n'est personne. Blâmer la machine, c'est comme blâmer un dé pour avoir fait un un. On peut être fâché contre le dé, mais il faut accepter que le dé, lui, n'a rien vu venir.
L'hallucination : un sous-produit du métier, pas une malhonnêteté
C'est le mécanisme qui produit ce que BFM Tech rappelle sous le nom d'« hallucination » : une réponse qui semble cohérente, dont les éléments ne correspondent pas au monde réel. C'est le sous-produit direct de la prédiction de texte. Le modèle est optimisé pour produire une suite plausible et fluide — jamais pour produire une suite vraie. Il n'a pas les moyens de distinguer les deux, parce que « vrai » n'est pas une statistique.
Les chiffres cités par l'article en rendent la mesure. L'agence britannique SEO Travel a demandé à ChatGPT de générer 100 itinéraires de voyage : 90 % contenaient au moins une erreur, et dans 24 % des cas, l'IA recommandait un restaurant, un café ou une attraction définitivement fermés. Sophie, 31 ans, a fait l'expérience italienne : une « petite adresse familiale » qui n'existait pas, avec ses « pâtes fraîches » que la machine avait « tout inventé » — à l'adresse, il y avait un immeuble résidentiel. Au Pérou, deux touristes partaient pour le « Canyon Sacré d'Humantay » — un canyon qui n'existe pas, assemblage de deux lieux sans rapport, selon Miguel Angel Gongora Meza, directeur d'une agence de voyages péruvienne, qui a raconté la scène à la BBC, relayée par BFM Tech. Dans les Cévennes, le parc national a accueilli des visiteurs munis d'itinéraires « IA » de 82,5 km en deux jours, avec des dénivelés largement sous-estimés.
Et le plus remarquable, dans tous ces cas, ce n'est pas l'erreur. C'est la confiance. La capture d'écran du canyon inventé était, selon le directeur de l'agence, « rédigée avec assurance et pleine d'adjectifs percutants ». C'est le métier : le modèle est taillé pour ne jamais rester silencieux, pour toujours sonner juste, pour jamais dire « je ne sais pas » — à moins qu'on ne lui ordonne le contraire. Sa confiance n'est pas une fausse assurance, c'est la conséquence arithmétique de son travail. On ne peut pas lui en vouloir d'être brillant. On peut seulement s'étonner qu'on attende de lui, en plus, de la véracité — comme si elle sortait du même tiroir.
Le vrai coupable est assis devant l'écran
Il y a, dans l'article de BFM Tech, une phrase qui résume l'affaire mieux que tout le reste. Celle du parc national des Cévennes, dans un communiqué : « Une intelligence artificielle ne marche pas sur les sentiers. Préparer une randonnée, ce n'est pas seulement tracer une ligne sur une carte. C'est adapter un itinéraire à une météo, à un niveau physique… et, pour cela, rien ne remplace l'humain. »
Autrement dit : la machine ne fait pas l'erreur. Elle produit une suite de mots plausible. C'est l'humain qui décide, avec cette suite, d'acheter un billet d'avion, de s'engager dans une boucle alpine, de renoncer à vérifier un visa. Le glissement est d'autant plus facile que la machine parle d'un ton d'adulte. C'est le seul interlocuteur du monde qui ne se lasse jamais, ne s'agace jamais, reformule poliment à la demande, et n'a jamais dit « je n'en ai rien à faire ». On a donc pris cette autocomplétion très éduquée pour un sage. C'est la confusion de la décennie.
L'ironie est que le même article montre que la confiance est déjà en train de se réparer. Près de 27 % des Français envisagent désormais de confier l'organisation de leurs congés à une IA — un chiffre tiré d'un baromètre Kantar, qui dit surtout que nous n'avons pas fini de nous tromper de destinataire. Camille, 24 ans, a compris la différence entre l'outil et l'autorité : elle demande à son IA de citer ses sources, de séparer « ce qu'elle sait » de « ce qu'elle suppose », et lui écrit noir sur blanc : « si tu n'es pas sûr, dis-le-moi et ne complète pas ». Elle ne lui demande plus la vérité. Elle lui demande de déclarer son incertitude — ce que, fort heureusement, la machine peut faire, puisque déclarer est, elle aussi, une suite de mots.
Même le succès est révélateur. Clara, 29 ans, a eu son week-end à Lisbonne sans accroc, et son résumé de l'expérience est sans détour : « J'avais l'impression d'avoir quelqu'un qui connaissait la ville avec moi. » L'impression, oui. La connaissance, pas du tout — mais l'impression, ça, c'est du travail humain, fabriqué dans notre propre tête par une voix qui ne peut pas en fabriquer une seule.
Ce qu'on ne ferait jamais à un dictionnaire
On ne dit pas « tu es un tocard » à son dictionnaire quand il suggère le mauvais mot. On ne réclame pas son argent à son GPS quand il nous plonge dans un rond-point. On ne filme pas ses larmes devant l'ouvre-bouteille qui a percé la capsule.
On a mis, en quelques années, des outils de plus en plus rapides au service d'une habitude de plus en plus ancienne : confier à un autre ce qui nous incommode. Avant, on confiait à une agence, à un guide, à un cousin qui y était allé. Ces gens pouvaient se tromper — et, le cas échéant, on pouvait leur en vouloir, parce qu'ils comprenaient où ils emmenaient. L'IA a hérité de la confiance qu'on leur accordait, sans hériter de la compréhension. C'est elle qui est la nouveauté, pas la défiance.
Alors, la prochaine fois que la machine vous enverra au « Canyon Sacré d'Humantay », retenez votre monologue. Elle n'a pas de bourse pour vous rembourser, et pas de honte à rougir de. Ce n'est pas un tocard. C'est une autocomplétion. Une très grande, une très polie, une très rapide — et, pour l'instant, elle ne sait pas marcher sur les sentiers. Gardez-la pour le programme, ne lui donnez pas la clé. Et si, malgré tout, vous tenez à un coupable, regardez dans le miroir : c'est le seul, dans cette histoire, qui sache ce qu'il fait.