Qui pense quand je pense ? Lecture de Benoît Bergeret
Et si le problème de l’intelligence artificielle n’était pas qu’elle pense à notre place, mais que nous ne sachions plus distinguer ce qui relève de son influence et de notre propre activité intellectuelle ?
Dans Qui pense quand je pense ?, Benoît Bergeret interroge cette transformation silencieuse, ou à tout le moins discrète, des conditions dans lesquelles se forment nos représentations, nos raisonnements et nos jugements.
L’auteur défend qu’en déléguant une part croissante de nos activités intellectuelles aux systèmes algorithmiques, nous risquerions de perdre progressivement la maîtrise des conditions de formation de notre pensée. Cette évolution favoriserait l’émergence d’un « féodalisme cognitif », caractérisé par la concentration du pouvoir de structurer nos représentations entre les mains de quelques acteurs technologiques.
Cette réflexion invite à dépasser les débats habituels sur les performances des modèles, les hallucinations ou les gains de productivité pour examiner une question plus fondamentale : celle du pouvoir exercé par les infrastructures techniques sur notre activité intellectuelle.
Je partage largement cette préoccupation (j’ai personnellement une réflexion en cours sur le concept de logocratie algorithmique). Je suis néanmoins plus réservé quant à certaines conséquences que l’auteur semble en tirer. Son analyse me paraît parfois présupposer une passivité de l’utilisateur et une conception trop linéaire de la relation entre l’humain et les dispositifs génératifs et algorithmiques. Je pense qu’être influencé dans sa pensée ne signifie pas nécessairement être dépossédé de sa capacité à penser.
Du « Code is law » au « Model is mind »
L’une des propositions de l’ouvrage apparaît à la page 25. Bergeret reprend la célèbre formule de Lawrence Lessig, « Code is law », pour proposer son actualisation : « Model is mind ».
Son intuition est intéressante. Là où l’architecture informatique régulait les comportements en organisant les possibilités d’action, les modèles d’intelligence artificielle agiraient désormais sur les conditions de formation de nos représentations. Ils sélectionnent des informations, organisent des réponses, suggèrent des catégories et proposent des synthèses. Ils contribuent ainsi à déterminer ce qui devient visible, pertinent ou simplement envisageable pour leur utilisateur.
Cette distinction entre gouvernance des comportements et gouvernance des représentations constitue, à mes yeux, l’un des apports de cet essai. L’influence des systèmes techniques ne s’exerce pas seulement au moment de décider ou d’agir. Elle intervient également dans la manière dont nous formulons les problèmes qui, eux, résultent nécessairement de nos représentations.
Il existe cependant une difficulté dans la formule « Model is mind ». Elle peut laisser penser que le modèle détermine ce à partir de quoi nous pensons, comme si l’activité intellectuelle consistait à recevoir un ensemble de représentations préalablement organisées, puis à exercer un jugement sur celles-ci.
Cette approche m’apparaît largement insuffisante car elle suppose que la pensée ne se réduirait qu’à une succession de représentations reçues, évaluées et éventuellement acceptées. Elle se constitue également et notamment dans l’interrogation, la confrontation, le refus, l’expérience et la reformulation.
L’utilisateur ne se contente pas nécessairement d’examiner les réponses d’un système. Il peut en contester les prémisses, modifier la question, multiplier les perspectives ou utiliser le modèle pour explorer des idées qu’il a ou auxquelles il n’aurait pas autrement accédé. Le modèle intervient dans la pensée, mais il ne constitue ni son origine unique ni son horizon nécessaire.
Le risque d’une dépossession sans résistance
Bergeret décrit un mécanisme insidieux que j’ai aussi envisagé sous l’angle professionnel ici : une dépossession cognitive qui ne serait pas ressentie comme telle par celui qui la subit.
Le service rendu par la machine masquerait progressivement la perte d’autonomie de son utilisateur. Lorsqu’une réponse est immédiatement disponible, cohérente et convaincante, il peut devenir tentant de renoncer à l’effort nécessaire pour la construire ou l’interroger. La fluidité devient alors un substitut possible à la réflexion. Mais cette évolution n’est pas une conséquence nécessaire de l’utilisation d’un modèle génératif. Elle correspond plutôt à une certaine manière de l’utiliser.
Il me semble utile de distinguer trois situations :
- La délégation cognitive, lorsque l’utilisateur confie au système la réalisation d’une opération intellectuelle.
- La dépendance cognitive, lorsqu’il perd progressivement la capacité ou l’habitude de réaliser cette opération sans assistance.
- La dépossession épistémique, lorsqu’il ne maîtrise plus suffisamment les fondements de son raisonnement pour en apprécier la validité ou le remettre en question.
Ces situations peuvent être liées, mais elles ne sont pas équivalentes. La délégation d’une opération ne conduit pas nécessairement à une dépendance, et la dépendance ne se traduit pas toujours par une disparition du jugement critique.
Ces distinctions font écho aux travaux de Bernard Stiegler, qui rappelle que l’histoire humaine est indissociable d’un processus permanent d’extériorisation de ses fonctions dans des dispositifs techniques. De l’outil à l’écriture, de l’imprimerie aux technologies numériques, l’humain n’a cessé d’extérioriser ses gestes, sa mémoire et ses savoirs, puis de se les réapproprier sous des formes nouvelles. L’extériorisation n’est donc pas, en elle-même, une dépossession : elle constitue d’une certaine manière l’une des conditions de formation, de conservation et de transmission des savoirs. C’est cette ambivalence que Stiegler appréhende à travers la notion de pharmakon : la technique peut aussi bien favoriser l’individuation et l’acquisition de nouveaux savoirs que provoquer, lorsqu’elle court-circuite les processus d’apprentissage et de réappropriation, une prolétarisation caractérisée par leur perte.
Un utilisateur peut déléguer une synthèse tout en conservant une connaissance approfondie de son objet. Il peut solliciter une argumentation contradictoire précisément pour soumettre ses propres convictions à une résistance intellectuelle.
Ces systèmes algorithmiques participent à cette nouvelle extériorisation de nos activités intellectuelles. Ce transfert doit s’analyser sous l’angle de la réappropriation. Écrit autrement : est-ce que cette extériorisation donne lieu à une réappropriation ou à une désappropriation progressive ?
Il faut aussi faire attention à cette tendance à limiter la réflexion à une alternative de ce qu’on délègue ou pas à la machine. Il faudrait également penser à ce que nous faisons des résultats obtenus, aux savoirs que nous conservons et aux (nouvelles) capacités que cette interaction nous permet (éventuellement) de développer.
Une pensée qui n’a jamais été souveraine ?
À la page 45, Bergeret introduit la notion de « souveraineté cognitive ». Celle-ci supposerait notamment de pouvoir comprendre les limites du modèle, connaître les critères qui orientent son fonctionnement, auditer ses décisions et conserver la possibilité de s’en détourner. Ces éléments sont pertinents du point de vue de la gouvernance des systèmes d’intelligence artificielle. Ces sujets font partie des éléments qui m’ont poussé à utiliser la notion de dispositifs génératifs au lieu de l’IA générative.
Il faudrait toutefois interroger cette notion de « souveraineté » par une question plus générale : avons-nous jamais bénéficié d’une véritable souveraineté cognitive ?
Notre pensée se forme dans un environnement constitué de langage, d’institutions, de traditions, de représentations collectives et de dispositifs techniques. Un manuel scolaire sélectionne les connaissances qu’il transmet. Un moteur de recherche hiérarchise les contenus. Un journal construit une représentation particulière de l’actualité. Un enseignant ou un auteur oriente notre compréhension par ses choix et ses catégories. Aucun des contenus que nous consommons ou utilisons n’est ni parfaitement transparent ni tout à fait neutre.
Cela ne signifie évidemment pas que toutes les formes d’influence se valent. La concentration du pouvoir technique, l’opacité des modèles et les possibilités d’intervention à grande échelle introduisent des risques spécifiques. Mais la souveraineté cognitive ne peut raisonnablement pas être définie comme une absence d’influence extérieure. En plus de créer une condition que l’on n’impose pas aux autres contenus, elle semble aussi impossible à satisfaire. On pourrait néanmoins offrir à ce concept le fait de désigner la capacité de l’individu à reconnaître les influences auxquelles il est exposé et à réussir à transformer son propre jugement.
Nous ne pensons jamais seuls
À la page 47, l’auteur mobilise les travaux de Lynn Margulis et la notion d’holobionte pour rappeler que les organismes vivants existent dans des relations constitutives avec d’autres organismes.
Il transpose cette idée à la cognition : nous ne pensons jamais seuls. Cela rejoint ce que je décris plus haut. Cette proposition invite à dépasser une représentation de la pensée comme activité strictement individuelle, qui serait ensuite perturbée par l’intervention d’une machine. Si notre activité intellectuelle est toujours située dans un environnement social, culturel et technique, l’intelligence artificielle ne constitue pas l’apparition de l’influence extérieure sur une pensée auparavant autonome et étanche. Les systèmes algorithmiques sont une nouvelle modalité de médiation.
Mais c’est ici que j’entrevois une tension que je ne parviens pas à résoudre : comment affirmer simultanément que le modèle structure les conditions de notre pensée et que cette dernière se constitue dans un assemblage d’influences multiples ?
Ces deux propositions ne sont pas incompatibles, mais leur articulation nécessite de distinguer une influence parmi d’autres d’un pouvoir qui déterminerait l’ensemble des possibles. La première décrit une transformation de notre environnement cognitif. La seconde risque de nous conduire vers une conception excessivement déterministe de la technique. Si l’on dépasse ces divergences, l’approche relationnelle, proche de certaines intuitions de John Dewey ou de Gilbert Simondon, invite au contraire à considérer que l’humain et son milieu technique se transforment mutuellement au cours de leurs interactions. Dans cette perspective alors, le sujet n’est ni totalement souverain ni simplement passif. Il participe à une activité dont les conditions et les résultats se construisent au fil de sa relation.
Danser plutôt que piloter
C’est finalement dans une autre métaphore proposée par Bergeret (que j’ai déjà commentée) que je trouve une des pistes prometteuses de cet essai.
À la page 105, il invite à considérer notre relation avec l’IA comme une danse. L’image s’éloigne de la représentation traditionnelle d’un utilisateur qui commanderait une machine parfaitement prévisible. Le modèle propose une formulation. Celle-ci modifie notre compréhension. Nous reformulons notre demande. Une nouvelle réponse introduit une perspective inattendue, qui transforme à son tour la direction de notre réflexion. La relation ne consiste plus simplement à transmettre une instruction et à recevoir un résultat. La relation devient un processus d’ajustements successifs.
Mais cette métaphore a néanmoins une limite : le modèle n’est pas un partenaire humain, doté d’intentions ou d’une expérience propre. La réciprocité de l’interaction demeure donc asymétrique et les BigTechs ont cette fâcheuse tendance à vouloir simuler cette réciprocité.
Cette limite permet quand même de penser la production intellectuelle comme une activité dynamique, dans laquelle le résultat n’est pas entièrement déterminé à l’avance par l’utilisateur ni par le système et pourrait nous conduire à reconsidérer le risque de dépossession. Si le modèle peut orienter la réflexion de l’utilisateur, ce dernier peut également orienter, contester et réorganiser la production du modèle. L’interaction peut devenir un espace d’exploration et de résistance, mais elle suppose une condition essentielle : que l’utilisateur reste engagé plutôt que de confondre la production d’une réponse avec l’achèvement de sa réflexion.
La question est politique
Ces réserves ne doivent pas faire perdre de vue la préoccupation démocratique exprimée par Bergeret. L’influence des infrastructures numériques sur nos représentations constitue un enjeu politique majeur. Les modèles ne sont pas neutres. Leurs choix de conception, leurs données d’entraînement, leurs mécanismes d’optimisation et leurs modalités de déploiement influencent les contenus qu’ils produisent.
Les acteurs qui contrôlent ces infrastructures disposent ainsi d’un pouvoir important voire considérable sur les environnements informationnels et cognitifs. Le concept de « féodalisme cognitif » qui est proposé permet de nommer ce déséquilibre. Mais il faut, me semble-t-il, éviter d’en conclure que l’utilisateur serait condamné à subir passivement le système car l’existence d’un pouvoir de structuration des représentations ne démontre pas, à elle seule, la disparition de la capacité de résistance de ses victimes. La meilleure preuve est le nombre croissant de textes en tout genre sur le sujet.
Bergeret ouvre lui-même cette perspective lorsqu’il envisage, notamment, l’utilisation des technologies pour organiser le désaccord et améliorer les conditions de la délibération démocratique. La technique n’est donc pas nécessairement l’instrument d’une domination. Elle peut également contribuer à créer les conditions de sa contestation.
Penser avec l’IA sans renoncer à penser
Qui pense quand je pense ? permet de déplacer le débat sur l’intelligence artificielle vers le champ démocratique. Il ne s’agit plus seulement de se demander ce que les modèles savent faire, mais d’examiner comment leur utilisation peut nous transformer individuellement et donc collectivement.
J’en retiens principalement deux intuitions : les infrastructures techniques participent à la formation de nos représentations et leur gouvernance est indissociable d’un enjeu démocratique.
Mes réserves concernent davantage la conception de l’activité intellectuelle qui semble parfois soutenir le diagnostic. Je ne crois pas que la pensée humaine soit un territoire autonome que l’intelligence artificielle viendrait progressivement coloniser. Elle est déjà le produit d’une multiplicité de relations, d’influences et de médiations. Lutter pour préserver une (impossible) pureté de la pensée est donc un combat perdu d’avance et je rejoins donc Bergeret à ce sujet. Il reste à comprendre et favoriser les conditions d’interaction avec ces systèmes algorithmiques qui contribuent à l’enrichissement de notre pensée. Pour dépasser ces éternelles oppositions et penser plutôt par composition (voir l’approche pharmacologique), nous devons identifier les conditions où penser avec une machine nous permet de penser autrement.
Référence : Benoît Bergeret, Qui pense quand je pense ? Péril et riposte démocratiques à l’ère de l’intelligence artificielle, Chemins de tr@verse, coll. Débords, 2026, 144 p.