Des dispositifs génératifs

Depuis quelques mois, j’emploie la notion de dispositifs techniques ou plus généralement la notion de dispositif comme substitut à l’utilisation abusive et galvaudée du terme d_’intelligence artificielle générative_ pour parler des agents conversationnels. Dans mon dernier texte, j’ai pris conscience de cette utilisation et j’ai choisi d’utiliser le terme de « dispositif génératif » pour parler des agents conversationnels et autres dispositifs embarquant de l’intelligence artificielle générative. Je voudrais expliquer ici ma démarche et les raisons de celle-ci. Cet exercice m’a aussi permis de questionner l’intérêt de cette qualification et m’a conforté dans l’idée que cette qualification permet de désigner plus justement ce dont nous parlons lorsque nous évoquons ces machines utilisant des techniques dites d’intelligence artificielle générative.

Une simple question de vocabulaire ?

D’abord, je pense que nous pouvons partir du constat qu’il existe à ce jour un anthropomorphisme excessif qui entoure ces dispositifs. Cette anthropomorphisation est de nature à créer des conséquences qui sont parfois délétères mais surtout insidieuses. Les mots que nous utilisons pour qualifier une technique influencent aussi la manière dont nous la percevons, dont nous interagissons avec elle et, finalement, la confiance que nous lui accordons.

Dans son Contre-Atlas de l’intelligence artificielle, Kate Crawford indiquait à ce sujet l’existence de deux mythes. D’abord, celui selon lequel les systèmes non humains sont analogues à l’esprit humain et d’autre part celui où l’intelligence aurait une existence indépendante. Crawford poursuit :

Ces mythologies sont particulièrement fortes dans le domaine de l’intelligence artificielle, ou l’idée que l’intelligence humaine peut-être formalisée et reproduite par des machines et axiomatiques depuis le milieu du 20e siècle

S’agissant de mythe, il me semble utile de préciser que ce terme recouvre une “construction de l’esprit, fruit de l’imagination, n’ayant aucun lien avec la réalité, mais qui donne confiance et incite à l’action“.

Il y a donc un côté performatif dans le mythe et le vocabulaire que nous utilisons, (in)consciemment, ne fait que contribuer à la subsistance de ce mythe.

La tendance à utiliser un vocabulaire propre à l’individu pour parler des recherches en intelligence artificielle ne s’est pas atténuée avec les dispositifs actuels. Aujourd’hui, on continue à se référer à des hallucinations, à des biais, à du raisonnement ou à l’effort (Claude Opus 5) et à l’effort de réflexion (dans ChatGpt 5.6 Sol par exemple) du dispositif. Ce vocabulaire est largement emprunté à la psychologie ou aux sciences cognitives et contribue à entretenir ce double mythe identifié par Crawford. Pour mettre un terme à cet effet de contribution aux mythes, nous devrions utiliser des termes différents et bien moins connotés pour parler de ces dispositifs. Ma réflexion sur le vocabulaire utilisé et à utiliser m’amène aussi une analyse plus large sur l’impact que ces dispositifs peuvent avoir sur l’utilisateur et la société qui l’entoure. Une manière d’ouvrir la focale en d’autres termes et qui me permettra de parcourir le sujet avec d’autres réflexions.

Le faux semblant : un anthropomorphisme interactionnel

L’interface conversationnelle de ces dispositifs renforce encore ce phénomène. Nous échangeons avec ces dispositifs comme avec un interlocuteur. Le dispositif nous répond en utilisant la première personne, nous écrit qu’il « pense », « comprend » ou « propose ». L’interaction ressemble à celle que nous pourrions avoir avec un collègue, un collaborateur ou un ami. C’est d’ailleurs comme ça que certains présentaient ces dispositifs (le super-stagiaire par exemple).

La notion d’« intelligence artificielle générative” a aussi un effet sur notre perception des contenus générés. Il y a une survalorisation, souvent inconsciente, de la qualité du contenu généré en raison de la qualification que nous donnons à la machine. C’est ici un danger. Le vocabulaire utilisé crée un cadrage qui peut favoriser une surconfiance, voire un biais d’automatisation. En qualifiant une machine d’intelligence, on préqualifie le résultat. Il y a, ici encore, un effet performatif sur notre perception du dispositif et du contenu généré. Le danger est que cette survalorisation finisse par une tendance à nous satisfaire de la médiocrité comme je l’écrivais déjà en mars 2025.

Toutefois, le débat sur les contours de l’intelligence de ces dispositifs n’est pas celui dans lequel je souhaite entrer. Ce qu’est l’intelligence est un sujet et un concept qui sont débattus depuis des centaines d’années et même si nous pouvions nous accorder sur des éléments intrinsèques à l’intelligence, nous aurions potentiellement tous des éléments supplémentaires à faire valoir pour considérer ce qu’est l’intelligence.

D’ailleurs, avons-nous réellement besoin d’utiliser ce terme pour désigner ces machines ? La réponse me semble évidente : non. Changer de vocabulaire permet au contraire de créer une certaine distance avec l’objet et, peut-être, de retrouver une forme de vigilance épistémique dans nos interactions avec lui comme le propose Albert Moukheiber.

Pourquoi un “dispositif “ ?

Je ne suis pas le seul à proposer d’autres termes pour parler de cette “machine”. La notion de dispositif mérite une explication pour comprendre sa nécessité et le choix de ce terme n’est évidemment pas anodin.

Dans son acceptation technique, un dispositif, c’est un “ensemble d’éléments agencés en vue d’un but précis”. Cela en dit déjà beaucoup sur ce dont nous sommes en train de parler. La notion d’agencement est importante pour moi. Elle permet aussi d’appréhender de manière plus précise les intentions et les finalités de cet agencement. Cela nous permet aussi de nous éloigner de la représentation habituelle des instruments techniques comme étant neutres ou dont l’usage déterminerait leurs qualités.

En utilisant ce concept, je ne peux pas passer à côté de l’héritage philosophique et du sens proposé par Michel Foucault comme point de départ.

La définition de Foucault qu’on retrouve régulièrement vise :

*un ensemble résolument hétérogène, comportant des discours, des institutions, des aménagements architecturaux, des décisions réglementaires, des lois, des mesures administratives, des énoncés scientifiques, des propositions philosophiques, morales, philanthropiques, bref : du dit, aussi bien que du non-dit, voilà les éléments du dispositif. Le dispositif lui-même c’est le réseau qu’on établit entre ces éléments […] Par dispositif, j’entends une sorte – disons – de formation qui à un moment donné a eu pour fonction majeure de répondre à une urgence. Le dispositif a donc une fonction stratégique dominante… J’ai dit que le dispositif était de nature essentiellement stratégique, ce qui suppose qu’il s’agit là d’une certaine manipulation de rapports de force, d’une intervention rationnelle et concertée dans ces rapports de force, soit pour les développer dans telle direction, soit pour les bloquer, ou pour les stabiliser, les utiliser. Le dispositif donc est toujours inscrit dans un jeu de pouvoir, mais toujours lié aussi à une ou à des bornes de savoir, qui en naissent, mais, tout autant, le conditionnent. C’est ça le dispositif: des stratégies de rapports de force supportant des types de savoir, et supportés par eux

Ce qui m’intéresse est la notion de réseau entre des éléments hétérogènes : du dit et du non-dit.

Les “system cards“, la Constitution proposée par Anthropic, les règles d’utilisation et autres documents publiés par leurs concepteurs rendent aujourd’hui visible le discursif, le “dit” de Foucault. Mais ils n’exposent pas tout ce qui a configuré et continue de configurer le dispositif. Ces textes sont rédigés pour rassurer et s’apparentent à de l’ethical washing (sur le sujet, voir mon texte : Éthique et conformité : au-delà de la hype). Les événements de l’été 2026 et la sortie récente de Jacob Coxon font aussi partie du narratif de ces pompiers pyromanes pour reprendre l’expression employée par Yannick Meneceur qui considère aussi que les narrations et les termes installés par l’industrie le sont pour ses propres besoins.

Au-delà des éléments discursifs visibles, des choix demeurent non-dits et ils résident dans l’architecture, le modèle économique, les données, l’interface, les règles de fonctionnement ou encore les conditions dans lesquelles le dispositif est mis à disposition : tout cela, c’est le non-dit de Foucault.

Aux côtés de ces éléments non discursifs, j’y place également l’imperceptif que je définissais comme: “un modèle de rationalité dans lequel un critère dominant (souvent l’efficacité), s’impose sans être discuté, configurant en amont les conditions du raisonnable. Certaines options demeurent formellement possibles mais cessent d’apparaître comme pertinentes.” Il s’agit peut-être d’une proposition qui dépasse le concept foucaldien mais qui, à mon estime, participe à cette “mise en réseau” d’éléments hétérogènes et à cette fonction stratégique dominante qui « relie » ces différents éléments.

Kate Crawford, précitée, envisage aussi l’impact des systèmes d’IA mis au service des intérêts dominants en ces termes :

à cause du capital nécessaire pour produire l’ia à grande échelle et des manières de voir ce qu’il optimise, les systèmes d’ia sont finalement conçus pour servir les intérêts dominants

Elle poursuit :

Fondamentalement, l’IA est faite de pratiques techniques et sociales, d’institutions et d’infrastructures, de politique et de culture.

Crawford nous offre ici une liste des éléments hétérogènes du dispositif. Je préfère délibérément ce terme car il permet de capter plusieurs aspects. Parler de dispositif permet donc de s’écarter d’une représentation naïve. C’est aussi une façon de sortir de l’illusion de la neutralité des technologies et des objets techniques. Sur le sujet de l’absence de neutralité de la technique, je renvoie à ma note de septembre 2025.

Le dispositif ne se réduit donc pas uniquement à ses composants techniques ni au discours explicite qui l’accompagne. Il s’inscrit dans un ensemble bien plus large : des choix (techniques), des institutions, des intérêts, des règles, des représentations, des discours et des finalités qui ont une fonction stratégique.

Cette conception du dispositif a été actualisée par Giorgio Agamben dans son essai publié en 2006 et traduit en français en 2014 (G. Agamben, Qu’est-ce qu’un dispositif? Paris: Payot & Rivages.) - retrouver ici une synthèse de l’essai.

Agamben élargit les contours du concept et lui donne la définition suivante :

tout ce qui a, d’une manière ou d’une autre, la capacité de capturer, d’orienter, de déterminer, d’intercepter, de modeler, de contrôler et d’assurer les gestes, les conduites, les opinions et les discours des êtres vivants.

Sous cet angle, le dispositif devient un ensemble, à mon sens, beaucoup trop large, Agamben considérant d’ailleurs que le langage est un dispositif. Je ne pense pas qu’il soit nécessaire de franchir ce cap. Néanmoins, la réflexion qu’Agamben propose autour de cette notion est intéressante car elle permet de considérer l’influence du dispositif sur le sujet. Agamben allant même à considérer que :

« ce qui définit les dispositifs auxquels nous avons à faire dans la phase actuelle du capitalisme est qu’ils n’agissent plus par la production d’un sujet, mais bien par des processus que nous pouvons appeler des processus de désubjectivation. »

Ce processus de désubjectivation est à comprendre avec le processus de subjectivation proposé par Agamben et qui me semble tout à fait intéressant dans nos relations actuelles avec ces dispositifs. Sur ce point, je travaille sur un texte à ce sujet dans la mesure où cette notion m’apparaît très proche du transactionnalisme de Dewey, de l’individuation de Simondon ou encore des techniques de soi de Foucault.

Un dernier aspect qui doit être précisé concerne les rapports de pouvoir. Ils sont souvent en tension : ni stables ni instables. Dans le cadre du dispositif ayant une fonction stratégique dominante, cette tension du système réside dans sa capacité à influencer des rapports de pouvoir. Le dispositif a donc aussi un impact plus large et pas exclusivement sur l’individu qui l’utilise.

La modélisation computationnelle

Si le dispositif est un agencement d’éléments notamment techniques, je crois opportun de préciser les contours de certains de ces éléments en l’appliquant aux machines à générer du contenu. L’intérêt ici est de constater que la modélisation computationnelle montre que l’orientation du dispositif commence avant même l’interface et avant même la génération, dans l’opération qui rend les phénomènes calculables. J’ai déjà écrit sur ce sujet et je vais l’aborder avec une analyse plus technique sur la base de l’article de Meunier .

La modélisation repose sur la notion de machine et sur le rôle des ordinateurs comme étant une médiation épistémique. On parle ici de médiation, soit le fait de servir d’intermédiaire. L’épistémique se réfère à la notion de connaissances, de savoir. Cette médiation n’est cependant pas transparente ou neutre. L’ordinateur, le moteur de recherche ou les réseaux sociaux ne se contentent pas de recevoir le réel pour ensuite nous le restituer tel quel. Pour qu’un phénomène (réel) puisse être traité par une machine, il doit d’abord devenir calculable. Il doit donc faire l’objet d’un processus de modélisation computationnelle

Cette modélisation est sélective en raison de sa construction en trois temps :

1. D’abord intentionnelle ou représentationnelle : c’est la phase d’identification de ce qu’on veut représenter du réelle.

2. Ensuite fonctionnelle : C’est la traduction en termes et fonctions mathématiques des résultats de la phase 1).

3. Enfin physique ou matérielle : c’est la réalisation et l’exécution des fonctions du 2) par la machine.

La première phase est très importante. C’est une phase de sélection qui vise à traduire l’identification du réel sur la base de la compréhension et de la perception de celui qui réalise cette représentation. Elle implique donc une sélection des éléments considérés comme pertinents. Elle est par ailleurs nécessairement partielle, construite à partir de certains éléments et laissant, par conséquent, d’autres de côté.

C’est en ce sens que je rejoins Marcelo Vitali Rosati lorsqu’il expose que :

il n’y a que des modèles matériels; le réel est toujours le résultat d’une modélisation. Le réel est multiple et toujours médié; il n’y a pas de réel en dehors d’une médiation et toute médiation est matérielle. Il n’y a donc pas d’idées immatérielles: tout est matière. Le modèle n’est pas une sélection du réel, il est le réel lui-même, tel qu’il résulte d’une médiation déterminée; mais en dehors de cette médiation il n’y a rien du tout.

Selon moi, cette représentation partielle est un élément fondamental qui fait défaut dans notre compréhension du fonctionnement du numérique et du traitement de l’information qui y transite. Nous avons tendance à considérer que ce qui passe dans nos flux ou ce qui est généré par des dispositifs est une vision “objective” du monde alors qu’il s’agit d’une vision partielle.

Certains sujets complexes peuvent être traités mais ce traitement engendre, par essence, une sélection qui va orienter la représentation et la rend partielle, incomplète. Bien entendu, il y a aussi des sujets qui ne sont tout simplement pas traités et donc exclus de la représentation proposée, confirmant si besoin que cette représentation du réel ne peut être que partielle. La computation suppose donc une série d’opérations : sélectionner, représenter, formaliser, calculer, etc… Cela signifie que la couche computationnelle elle-même n’est pas une médiation parfaitement neutre du réel. Cette modélisation computationnelle ne permet cependant pas d’identifier et d’expliquer toutes les intentions qui traversent un dispositif. Elle permet plus modestement de constater qu’une partie de ses orientations est déjà inscrite dans les conditions de sa conception.

Modélisation et modèle

Je crois nécessaire de devoir faire une incise pour conclure cette partie afin d’éviter une confusion terminologique qui peut être trompeuse. La modélisation computationnelle dont je viens de parler ne doit pas être confondue avec le « modèle » lorsque l’on parle de « modèle de langage » ou de Large Language Model.

Dans le premier cas, la modélisation désigne un processus de représentation et de formalisation permettant de rendre quelque chose calculable. Dans le second, « modèle » est le nom donné à un certain type de système informatique résultant notamment d’un processus d’entraînement et de fonctionnement spécifique.

Cette précision permet aussi de refermer la première partie de ma proposition: le substantif dispositif permet de nous rappeler que nous sommes face à un agencement qui ne peut être isolé de ses conditions de conception, de ses finalités et des choix qui le constituent.

Je conclus donc par une définition du dispositif m’appuyant sur les éléments proposés par les auteurs précités:

Un dispositif est un agencement d’éléments techniques, sociaux, institutionnels, économiques et symboliques dont les interactions orientent les conduites tout en contribuant à produire ou configurer des rapports de pouvoir.

Reste à comprendre pourquoi ce dispositif doit être qualifié de génératif.

Pourquoi « génératif » ?

Dans un commentaire de l’essai d’Agamben, Mathieu Quet constate comme d’autres que la définition d’Agamben est trop générale, que toute chose serait un dispositif. Quet indique:

Le problème est précisément qu’on a affaire à une infinité de dispositifs, que tous ne sont pas équivalents et que seules des opérations de qualification de ces différents dispositifs en acte permettraient de saisir leurs enjeux.

Le substantif « dispositif » est trop large pour désigner à lui seul les machines dont il est question ici. Un moteur de recherche, un smartphone ou un réseau social peuvent également être envisagés comme des dispositifs. Il faut donc caractériser la fonctionnalité qui distingue ces dispositifs, les distinguer en acte.

Le qualificatif génératif remplit cette fonction assez simplement. J’enfonce une porte ouverte en indiquant que ces dispositifs ont pour caractéristique de générer des contenus à partir des instructions qui leur sont adressées. Ils génèrent du texte, des images, du son, du code ou d’autres formes de contenu et peuvent mobiliser cette capacité dans une très grande diversité de tâches.

Cette simplicité me permet néanmoins d’aborder quelque chose qui me semble essentiel dans les débats actuels sur les capacités de ces dispositifs et leur potentiel à se substituer ou à remplacer l’humain.

Le terme “génératif” ne détermine pas ce que la machine est. Il décrit ce qu’elle fait.

Cette distinction est importante parce que lorsqu’on qualifie la machine d’« intelligente », cela nous oblige à entrer dans une discussion ontologique : qu’est-ce que l’intelligence ? La machine comprend-elle ? Pense-t-elle ? Raisonne-t-elle réellement ?

La qualifier de « générative » déplace la discussion vers une caractéristique fonctionnelle.

Cette considération se retrouve dans les descriptions des fonctionnalités de ces dispositifs. Quand nous considérons que “l’IA est capable de X”, on lui donne un rôle, ce qui me semble être le début du dérapage. En attribuant une fonction à un dispositif, cela ne permet pas d’en inférer une autonomie, une intentionnalité ou une compréhension, comme l’explique Kate Crawford:

Les systèmes d’IA ne sont ni autonomes, ni rationnels, ni capables de discerner quoi que ce soit sans formation extensive et intensive sur le plan computationnel, grâce à d’importants ensembles de données, avec règles et récompenses prédéfinies.

Conclusion

Les mots ne sont pas neutres, je ne propose pas seulement de changer de mots ou de nier l’utilité technique de l’expression « intelligence artificielle générative », mais je considère qu’elle ne peut plus constituer une catégorie suffisante pour penser les choses auxquelles elle renvoie. Cela permet aussi de changer d’échelle d’analyse. Ce changement est bien nécessaire face aux découvertes radicalement trans-formatrice (je reviendrai ultérieurement sur cette orthographe) auxquelles nous sommes confrontés.

Au lieu de nous demander immédiatement ce que la machine est, nous pouvons commencer par examiner le dispositif dans lequel nous interagissons, la manière dont il a été constitué, les orientations qu’il porte et ce qu’il produit parce que les mots employés pour désigner nos objets techniques participent aussi à la relation que nous entretenons avec eux et peuvent favoriser une lecture anthropomorphique. Modifier ce vocabulaire permet alors de constituer un moyen de garder une distance nécessaire à leur examen et à leur utilisation critique.

Ces notes font partie de Dualité, mon carnet de notes numériques. Si vous souhaitez les recevoir directement dans votre boîte mail, vous pouvez vous abonner à la newsletter.