De l'ablation sémantique à l'ablation attentionnelle.

Ce que Damasio a dit de la machine

Le 19 février 2026, Alain Damasio étaitinvité sur l’émission C ce soir sur France 5.Romancier, qualifié de techno-critique, il a confié travailler avec Claude sur l’écriture et s’est dit « sidéré par ses capacités de création sur les univers imaginaires ». La machine, dit-il, était « quasiment au même niveau que (son) artisanat ». Cette déclaration a alimenté un débat et des critiques à l’encontre de Damasio qui aurait “retourné sa veste”.

Sur ce premier aspect des choses, je pense que la lecture qui est faite de la déclaration est simpliste. Etre techno-critique, ce n’est pas être technophobe ou techno réfractaire. Dans “La Vallée du Silicium”, Damasio critique la technologie et ses dérives avec des points de vue qui peuvent être rapprochés de Jacques Ellul à certains égards (p.61, Damasio écrit : La loi du moindre effort est anthropologique rejoignant le constat d’Ellul sur la recherche d’efficacité en toute chose du système technicien, par exemple).

Toutefois, la techno-critique n’est pas un rejet de la technique. Ellul le précise dans ses ouvrages : la technique est ambivalente et tout progrès se paie (voir notamment J. Ellul - Le Bluff technologique). Ceci étant écrit, il faut surement ajouter, qu’en plus de ces aspects, la technique est un pharmakon, un remède et un poisson, qui traduit bien cette ambivalence et qui me semble être une (bonne) raison de ne pas accepter aveuglément les techniques ou les rejeter blocs de la même manière.

Ce que la machine fait : produire ou créer ?

Je ne pense pas que Damasio retourne sa veste. Il expose simplement un constat, une sensibilité face à des productions de l’IA générative. Il exprime même sa propre sensibilité. Les conclusions, face à ce constat, peuvent être discutées mais la critique que j’ai vue passer sur le sujet relative à une “incompréhension” de Damasio me semble excessive et surtout peu pertinente car elle intègre une distinction discutable: l’intelligence artificielle générative produit, elle ne crée pas. L’humain, lui, crée. L’opposition peut paraître pertinente en ce qu’elle nous rassure mais résiste mal à l’examen. Je peux même écrire que cette division sémantique est maladroite et absurde comme je vais essayer de l’expliquer ci-dessous.

Commençons par le dictionnaire.

« Produire » : Faire exister, naturellement ou non, ce qui n’existe pas encore. « Créer » c’est donner l’existence à quelque chose.  

Les deux définitions se superposent presque parfaitement. L’opposition entre les deux termes repose donc sur un contresens sémantique. Si je dois reformuler l’argument évoqué j’écrirai que le contenu généré par l’IA est issu de calculs statistiques, donc un contenu dégradé, un ersatz. Il n’y a donc pas de “vraie” création.

Mais cette réflexion impose une preuve qui n’est jamais vraiment apportée car pour aller dans cette direction, il conviendrait d’exposer quelles seraient les caractéristiques à prendre en compte. Quelles seraient les caractéristiques objectives permettant de distinguer une « vraie » création d’une « simple » production d’une IA générative ? La question reste sans réponse précise parce que la réponse n’est pas objective. Elle est sensible et c’est pour cela qu’utiliser “produire” et “créer” comme antonymes révèle une absurdité à mon sens.

Faisons un exercice pour illustrer mon propos. Voici cinq reformulations d’une même phrase :

1. Qu’est-ce qui distingue cette phrase ?
2. En quoi cette phrase se démarque-t-elle ?
3. Quelle est la particularité de cette phrase ?
4. Qu’est-ce qui fait la singularité de cette phrase ?
5. Qu’est-ce qui différencie cette phrase des autres ?

La première est humaine. Les quatre suivantes viennent d’un modèle de langage qui l’a reformulé. Laquelle trahit son origine ?

Je crois que ce que nous cherchons à détecter n’est pas une propriété du texte. C’est la sensibilité du lecteur qui qualifie, en dernier ressort, ce qu’il “consomme”. On peut adorer Picasso ou le détester. Cela n’infirme pas le statut d’œuvre des Demoiselles d’Avignon. Le Théâtre d’opéra spatial de Jason Michael Allen, généré par IA et primé dans un concours d’art numérique, est-il une œuvre d’art ou une production humaine assistée? La réponse varie selon les sensibilités individuelles.

Le cas “Damasio” évoqué ci-dessus, c’est en fait une manière de critiquer quelqu’un parce qu’il est touché par un texte produit par une IA. C’est donc critiquer sa sensibilité. C’est retourner contre soi exactement ce qu’on prétend défendre : la capacité humaine à ressentir, à être affecté, à réagir. Si Damasio est « émoustillé » par de la prose générée par une machine et qu’on y est insensible, ce n’est pas une incompréhension de la technologie, ce n’est pas non plus de la bêtise: c’est une divergence de goût. Je suis sidéré de constater que ces parangons de l’éthique et de la vertu glissent aussi facilement sur le terrain du subjectif.

Beau, laid, émouvant, j’aime, je n’aime pas : ces jugements sont par nature subjectifs et resteront toujours contrariés par des sensibilités divergentes. La hiérarchie qu’on croit pouvoir poser sur le contenu généré par l’IA générative est en réalité posée sur les sensibilités d’autrui.

Je ne veux cependant pas considérer l’IA générative comme étant à l’abri de toute critique. Cette critique mérite d’être menée mais sur des terrains plus “solides”. Si l’on reste sur le terrain de la sensibilité “artistique” et de la création, deux aspects me semblent particulièrement importants à prendre en considération.

Une confiscation du jugement

Le premier est celui des biais d’automatisation. Ce phénomène désigne la tendance à faire confiance aux systèmes automatisés au détriment de son propre jugement.

Appliqué à la création, il produit un effet pervers : l’utilisateur qui s’appuie régulièrement sur un modèle génératif commence à déléguer non seulement l’exécution mais aussi l’orientation même de sa pensée “créative”.

Par exemple, l’utilisateur va valider des formulations qu’il n’aurait pas choisies, adopter des structures qu’il n’aurait pas pensées ou qu’il n’aurait pas construites.

Progressivement, et de manière inconsciente, l’utilisateur intègre les préférences statistiques de la machine comme étant les siennes. Ces incidences sont insidieuses car elles reconfigurent lentement et de manière quasi imperceptible ses facultés cognitives et créatrices.

Une moyenne comme objectif

Le second est celui de l’uniformisation de la pensée. Le risque ici est lié à la standardisation résultante de la moyenne statistique. La singularité de l’auteur/créateur sera de moins en moins exprimée au travers de ces dispositifs “normalisateurs”. Un modèle de langage est entraîné sur des milliards de milliards de contenus existants : il produit du contenu qui va ressembler à ce qui a déjà été créé, pondéré, le cas échéant, par ce qui a été jugé satisfaisant par les concepteurs du modèle génératif utilisé. En d’autres termes, il produit un contenu qui tend vers la moyenne. Claudio Nastruzzi propose le terme d’ablation sémantique" pour qualifier ce contenu “moyen”.

Quand des millions de personnes utilisent les mêmes modèles pour écrire, rédiger, reformuler, imaginer, un mouvement de convergence peut s’enclencher à l’insu des utilisateurs. Ce qui constitue l’originalité d’une écriture ou d’une création se trouve marginalisé par le poids statistique d’une production de masse homogène ou homogénéisée. Cette uniformisation résulte de l’érosion par standardisation produite par les modèles génératifs.

La conséquence de l’ablation sémantique

Ce concept d’ablation sémantique mérite qu’on s’y attarde. Il désigne le phénomène par lequel un texte soumis à un modèle génératif pour être “poli” ne s’améliore pas. Au contraire, il perd de sa substance, de sa singularité et d’une certaine façon de sa qualité. Le modèle va identifier les zones de “haute” densité sémantique, soit les passages où l’on trouve des formulations atypiques, des défauts ou des aspérités qui caractérisent, selon ce que certains qualifient, la pensée humaine.

Ces défauts sont alors remplacés par les séquences de mots les plus probables. Ce qui était une pensée brute aux arêtes rugueuses devient, pour le lecteur, une surface lisse sans friction sémantique ou structurelle. C’est dans ces cas qu’on “sent” que le contenu a été rédigé par une IA générative. Quelque chose de propre mais vidé de son originalité au sens juridique du terme: l’expression de choix libres et créatifs qui reflètent la personnalité de l’auteur.

Cette perte n’est donc pas qu’esthétique et sémantique. Elle devient alors attentionnelle. Frege avait fait un constat que l’on redécouvre ici dans un sens nouveau :

L’attention consciente se porte seulement sur le sensible. En donnant à la pensée une forme sensible, le langage permet à l’attention de se porter sur elle, et à la pensée de s’auto-diriger et de s’auto-contrôler.

Si le langage et donc aussi l’écrit permettent de donner au contenu pensé une externalisation “rugueuse” pour que l’attention puisse s’y accrocher, alors l’ablation sémantique des modèles génératifs, par cet effet, va créer une ablation attentionnelle. Un texte au rythme régulier, au vocabulaire et aux formules probables et mécaniques n’offrira plus cette prise “sensible”. L’attention le traverse sans rencontrer d’obstacle et sans ces obstacles, pas (ou peu) de pensée réflexive.

Est-ce qu’on peut considérer que l’ablation sémantique ne fait que “dégrader” un texte en le rendant “moins bon”? On peut mesurer ce phénomène. En soumettant un texte à des cycles successifs de “traitement” par IA, on réduit progressivement la diversité lexicale. Comme le cliché photocopié à l’infini qui finit par ne plus ressembler à l’original. Les modèles génératifs ont tendance à réduire “l’entropie” du texte original.

En tout les cas, je pense que cette ablation sémantique produit un texte qui échoue à remplir la fonction même du langage : permettre à la pensée de se retourner sur elle-même. En lissant le langage, on retire à la pensée ses points d’accroche.

Ce sont sur ces terrains que la réflexion critique du propos de Damasio mériterait d’être prolongée. Discuter du sensible, du ressenti face à un texte généré aboutira toujours à des impasses en raison des jugements et du caractère subjectif du ressenti personnel.

Par contre, bien comprendre ce que l’usage répété de ces outils fait, concrètement, à la pensée de ceux qui s’en servent est en revanche plus que nécessaire. Les choix de modélisation inscrits dans les paramètres de ces systèmes ne sont pas neutres. Ils orientent les résultats, parfois bien au-delà de ce que les utilisateurs perçoivent, et risquent de reconfigurer progressivement les imaginaires créatifs auxquels ils prétendent simplement assister.

C’est une énième démonstration du caractère pharmacologique de cette technique. Cette technique, comme toutes les autres, est un pharmakon. Un pharmakon dont la logique propre est de dissoudre, à doses répétées et imperceptibles, la rugosité sur laquelle la pensée prend appui. Ce n’est pas pour autant une raison de rejeter cette technique. J’y vois encore l’inextricable ambivalence constatée et l’indispensable nécessité de pratiques thérapeutiques (ici & là).