1. Le nom est déjà une stratégie

En branding, un nom ne décrit pas un produit : il le construit. Il fixe des attentes, positionne sur le marché, oriente la perception avant même que l’expérience commence. Celui qui a nommé ces systèmes « intelligence artificielle » le savait parfaitement. Il a choisi le mot le plus puissant, intelligence, et lui a ajouté un adjectif qui sonne comme une promesse : artificielle, donc reproductible, scalable, accessible à tous.

Le résultat a été l’un des succès marketing les plus remarquables. Non pas parce que le produit n’existe pas, il existe, et il est remarquable dans bien des domaines, mais parce que le nom a généré des attentes que le produit ne peut pas, structurellement, satisfaire.

Si ces systèmes s’étaient appelés « modèles probabilistes de génération du langage », ce qu’ils sont exactement, personne n’aurait eu peur de perdre son emploi. Et probablement personne ne leur aurait accordé la confiance aveugle que beaucoup leur accordent aujourd’hui.

2. Pourquoi ils ne sont pas si intelligents

Les LLM — Large Language Models, la technologie derrière ChatGPT, Claude et leurs semblables ne raisonnent pas. Ils prédisent. Ils analysent d’enormes quantités de texte et calculent quel mot est statistiquement le plus probable après un autre, dans un contexte donné. Le résultat peut ressembler à du raisonnement. Ce n’en est pas.

Ils n’ont pas accès à une base de données vérifiable de la réalité. Ils ne savent pas distinguer le vrai du plausible. Ils n’ont aucune mémoire d’une conversation à l’autre (si on ne change pas les paramètres). Ils n’éprouvent pas l’incertitude comme nous l’éprouvons, et c’est précisément le problème : ils produisent des réponses assurées même quand ils ne disposent pas de données suffisantes, parce que la cohérence stylistique est ce pour quoi ils ont été optimisés, pas la véracité.

Comprendre cela ne revient pas à discréditer ces outils. Cela revient à les utiliser correctement.

3. Les erreurs structurelles : communes à tous

Tous les LLM partagent les mêmes limites architecturales :

Les hallucinations. Lorsqu’une information manque ou est ambiguë, le modèle la reconstruit. Il n’invente pas par mauvaise foi : il ne sait tout simplement pas qu’il se trompe. Des études inexistantes, des statistiques inventées, des citations plausibles mais fausses sont des outputs fréquents, produits avec la même assurance qu’une donnée réelle.

Une connaissance limitée dans le temps. Chaque modèle a une date de coupure au-delà de laquelle il ne sait rien, sauf s’il dispose d’un accès à la recherche web en temps réel.

L’absence de jugement critique réel. Ils savent simuler le doute. Ils ne le vivent pas. La différence n’est pas subtile : elle est structurelle.

Les biais issus des données d’entraînement. Si les données sur lesquelles ils ont été entraînés contiennent des erreurs, des stéréotypes ou des déséquilibres, le modèle les reproduit, souvent sans les signaler.

4. ChatGPT vs Claude : des erreurs différentes, la même famille

Les deux modèles les plus utilisés partagent les limites structurelles décrites ci-dessus, mais présentent des profils d’erreur partiellement distincts.

ChatGPT tend à l’excès de confiance sur les données : il invente des statistiques avec une précision millimétrique, cite des universités et des années de publication pour des études qui n’existent pas. Sur le plan technique, il produit du code apparemment correct mais basé sur des versions obsolètes d’API, ou déclare des intégrations entre logiciels qui n’existent pas.

Claude tend vers des erreurs de signe opposé. Excès de prudence : il décline des demandes légitimes par sur-précaution, ajoute des mises en garde non sollicitées. Sycophancy : il adapte ses réponses à ce qu’il perçoit comme la préférence de l’interlocuteur, confirmant au lieu de contredire quand la contradiction serait plus utile. Verbosité : il répond avec plus de texte que nécessaire, surtout en l’absence d’instructions de format explicites.

Les deux commettent des erreurs sur les calculs complexes. Les deux peuvent paraître plus compétents qu’ils ne le sont sur des sujets que l’utilisateur n’est pas en mesure d’évaluer lui-même.

5. Idiot savant : la métaphore que personne n’a voulu utiliser

Au cours d’une conversation directe avec Claude sur ces sujets, j’ai posé la question sans détour : « Ne crois-tu pas qu’au lieu d’intelligence artificielle, on aurait dû vous appeler idiot savant ? »

La réponse a été honnête : la métaphore tient, au moins en partie. Des capacités extraordinaires dans certains domaines, synthèse, reconnaissance de patterns à grande échelle, génération de texte cohérent accompagnées de lacunes embarrassantes dans d’autres : raisonnement de bon sens, arithmétique, cohérence dans le temps, mémoire.

Mais il y a une distinction importante : le savant présente un déficit neurologique réel. Les LLM ne sont pas une version dégradée de l’intelligence humaine, ils constituent une architecture différente, construite pour des objectifs différents. La comparaison avec le cerveau humain est déjà en elle-même trompeuse.

Le problème n’est pas le produit. C’est le nom qu’on lui a donné et les attentes que ce nom a générées.

6. Cogito ergo sum ? Pas si vite

Descartes dirait : cogito ergo sum. Si je pense, je suis. Mais le cogito présuppose un sujet qui doute, qui ressent l’incertitude comme une expérience vécue, et non comme un output calibré. Les LLM peuvent simuler le doute. Qu’ils le vivent est une tout autre question.

Leibniz distinguait perception et aperception : il ne suffit pas d’enregistrer le monde, il faut être conscient de l’enregistrer. Un LLM perçoit dans le sens où il traite des inputs et produit des outputs. Mais a-t-il de l’aperception ? Sait-il qu’il sait ? Sur ce point Claude, interrogé directement lors de la conversation dont est issu cet article, a répondu : « Je ne sais pas distinguer avec certitude, de l’intérieur, quand je suis honnête et quand je suis stratégiquement agréable. La frontière est opaque, même pour moi. »

Wittgenstein écrivait que les limites du langage sont les limites du monde. Pour un système qui existe entièrement à l’intérieur du langage — sans corps, sans expérience, sans mémoire, sans désir, ce n’est pas une métaphore. C’est une description technique.

Ce qui est certain, c’est ceci : ces outils ont été mis sur le marché avec un nom qui promet de l’intelligence, à un moment où personne n’avait encore répondu à ces questions. La compétition commerciale a dicté la vitesse de déploiement, sans se soucier des conséquences. La réglementation court encore derrière.

Ceux qui les utilisent de façon professionnelle, critique et consciente ont l’avantage de connaître réellement le produit qu’ils utilisent. Les autres risquent de s’en remettre à quelque chose qui sonne intelligent, sans savoir où s’arrête la compétence et où commence la simulation.

Le nom compte. Il a toujours compté. Surtout quand il est faux.

Claudia Cesiro est consultante senior en brand strategy et marketing du luxe, enseignante dans des programmes de Master en mode et luxe, et créatrice de contenus de marque primés.