Le dispositif génératif
Origine : Terme que je propose, construit à partir du concept de « dispositif » de Michel Foucault, actualisé par Giorgio Agamben, et des travaux de Kate Crawford
Définition
Un dispositif est un agencement d’éléments techniques, sociaux, institutionnels, économiques et symboliques dont les interactions orientent les conduites tout en contribuant à produire ou configurer des rapports de pouvoir.
Le qualificatif « génératif » caractérise la fonctionnalité qui distingue ces dispositifs des autres : générer des contenus — texte, images, son, code — à partir des instructions qui leur sont adressées. Ce terme ne détermine pas ce que la machine est, il décrit ce qu’elle fait.
Dans mes écrits
J’emploie « dispositif génératif » comme substitut à l’utilisation abusive et galvaudée du terme « intelligence artificielle générative » pour parler des agents conversationnels et autres machines embarquant ces techniques.
Le choix n’est pas anodin. Il existe aujourd’hui un anthropomorphisme excessif qui entoure ces machines, et les mots que nous utilisons pour qualifier une technique influencent la manière dont nous la percevons, dont nous interagissons avec elle et, finalement, la confiance que nous lui accordons. En qualifiant une machine « d’intelligence », on préqualifie le résultat : le vocabulaire crée un cadrage qui peut favoriser une surconfiance, voire un biais d’automatisation.
Dans son acceptation technique, un dispositif est un « ensemble d’éléments agencés en vue d’un but précis ». La notion d’agencement permet d’appréhender de manière plus précise les intentions et les finalités de cet agencement, et de s’éloigner de la représentation habituelle des instruments techniques comme étant neutres.
De Foucault, je retiens la notion de réseau entre des éléments hétérogènes : du dit et du non-dit. Les system cards, les constitutions et règles d’utilisation publiées par les concepteurs rendent visible le discursif. Mais des choix demeurent non-dits : l’architecture, le modèle économique, les données, l’interface, les conditions de mise à disposition. Aux côtés de ces éléments non discursifs, j’y place également l’imperceptif.
Qualifier ces machines de « génératives » plutôt que d’« intelligentes » déplace la discussion d’un terrain ontologique — qu’est-ce que l’intelligence ? la machine comprend-elle ? — vers une caractéristique fonctionnelle. C’est une façon de créer une distance avec l’objet et de retrouver une forme de vigilance épistémique dans nos interactions avec lui.
Articles où ce terme est mobilisé
- Des dispositifs génératifs
- De la prestation personnalisée à la pratique personnalisée
- Point d’entrée#1 : lecture & oralité
- Point d’entrée#2 : IA & effort