1. Une apparence de liberté

Mes réflexions sur la technique et la technologie m’amènent dans des endroits parfois inattendus. Dernièrement, j’écrivais sur une situation que je constatais lorsque je réfléchissais à nos usages techniques et technologiques : nous sommes libres, en apparence, mais certaines options deviennent impraticables ou impensables sans être cependant interdites.

Par exemple, et pour reprendre le sujet du moment, nous sommes libres d’utiliser l’intelligence artificielle générative comme nous sommes libres d’envoyer nos courriers par voie postale plutôt que par email. Rien n’interdit de recourir au courrier postal et aucune loi ne prescrit l’email. Aucune sanction ne frappe celui qui envoie une lettre papier plutôt qu’un email. Et pourtant, la liberté d’utiliser le courrier postal est très souvent réduite à néant: l’option existe mais elle n’est plus raisonnable. Personne n’a vraiment supprimé le choix ou la possibilité. On a simplement rendu l’alternative absurde.

J’ai voulu comprendre pourquoi nous en étions arrivés là. La réponse facile est que le progrès (technique) nous amène à utiliser l’email plutôt que le courrier postal. Que l’IA nous fait gagner du temps et que c’est donc “logique” de l’utiliser. Ce simple constat traduit, en fait, une situation que nos concepts habituels peinent à traduire. J’ai choisi de nommer cette situation un imperceptif. Ce néologisme résulte de la contraction d’impératif et d’imperceptible.

2. L’inadéquation des concepts disponibles

J’ai utilisé l’imperceptif pour décrire le “quasi impératif” que nous avions à utiliser la technique dans nos activités (privées comme professionnelles). J’ai préféré forger un nouveau concept car le “quasi impératif” était imparfait et, à l’examen, ne permet pas de qualifier la situation de manière précise. J’avais, par réflexe, utilisé le terme “quasi impératif” mais qui est un abus de langage. Je me rends compte qu’il y a quelque chose de plus qui ne me semble pas capté par les concepts existants.

A ce stade, j’indiquerai donc que l’imperceptif désigne

la contrainte exercée sur le cadre de la décision. Sa spécificité tient à ce qu’il neutralise la pertinence des choix sans supprimer leur possibilité formelle.

Avant de rentrer dans le vif du sujet, j’aimerais d’abord confronter mon idée à des concepts qui lui ressemblent. L’objectif est de vérifier que ce que j’appelle imperceptif ne soit pas dénommer autrement par d’autres. Il y a, en effet, des concepts qui, sans être identiques, pourraient ressembler à l’imperceptif.

L’imperceptif ressemble à d’autres concepts comme le nudge, la gouvernementalité, la norme sociale ou le monopole radical. Il y en a surement d’autres que je n’ai pas encore découverts. Ces concepts sont trop proches pour être ignorés dans cette étape de vérification. Bien que l’imperceptif leur ressemble, je pense que cette ressemblance est insuffisante.

2.1. Le quasi impératif

L’adverbe “quasi” est un adverbe utilisé comme un préfixe qui signifie “presque” ou “à peu près” (selon la définition du Larousse). Selon CNRTL, il “sert à marquer une similitude, une approximation ou une assimilation qualitative”. Or, ce que je tente de décrire n’est ni une approximation (un “à peu près”) ni une assimilation, ni une similitude de l’impératif.

Ensuite, un impératif c’est une prescription. Cette prescription peut provenir de plusieurs horizons (moraux, légaux, sociaux,…). Derrière ce concept d’impératif, on retrouve donc la notion de hiérarchie. L’impératif est une obligation et elle est très généralement transparente dans son énoncé. On identifie un émetteur et un destinataire. La loi est un impératif. Sa traçabilité est claire : il y un émetteur (pouvoir législatif) et un destinataire (le sujet de droit (citoyen ou entreprise)). Lorsque je parle d’imperceptif, il n’y a pas d’émetteur ou de destinataire précis. Comme je l’écrivais dans la note précitée, c’est une forme de pression (sociale) qui “oblige” à un comportement.

Avec l’imperceptif, on agit alors sur la motivation à adopter un comportement sans pour autant devenir une obligation en tant que telle. L’imperceptif rejoint en ce sens, l’incitation: elle rend une option plus attrayante, plus attractive d’une certaine manière.

2.2. Le nudge

Si l’imperceptif rejoint l’incitation, on pourrait penser qu’il s’agit d’un coup de pouce qu’on qualifie maintenant de nudge.

Le nudge c’est l’intervention délibérée sur l’architecture du choix pour orienter un comportement sans interdire ni contraindre formellement. Thaler et Sunstein en ont proposé une définition :

Le nudge, le terme que nous utiliserons, est un aspect de l’architecture du choix qui modifie le comportement des gens d’une manière prévisible sans leur interdire aucune option ni modifier de manière significative leurs motivations économiques. Pour ressembler à un simple « coup de pouce », l’intervention doit être simple et facile à esquiver. Les « coups de pouce » ne sont pas des règles à appliquer. Mettre l’évidence directement sous les yeux est considéré comme un coup de pouce. Interdire uniquement ce qu’il ne faut pas faire ou choisir ne fonctionne pas. »

L’exemple qu’on peut prendre pour illustrer serait celui où l’on va placer les légumes ou les fruits avant les frites à la cantine scolaire (quelle idée de mettre des frites à la cantine d’ailleurs !). On conçoit cet agencement intentionnellement, avec un objectif (mieux manger), et les concepteurs “savent” ce qu’ils font ou à tout le moins prennent une décision consciente quant à l’objectif à atteindre.

Ce qui différencie le nudge de l’imperceptif, c’est sa structure. Le nudge est mis en place par un auteur (une administration, une entreprise, un concepteur) qui a délibérément agencé l’architecture du choix dans un objectif déclaré (ou pas).

On connait tous des techniques de nudge.

Elles peuvent être publiques : pilotées par les pouvoirs publics avec une finalité assumée (ex.: incitation fiscale pour l’installation de panneaux photovoltaïques ou d’utilisation de véhicule à basse émission). Elles peuvent être privées, mises en place par les entreprises pour orienter les choix des consommateurs à leur avantage.

Dans les deux cas, il y a un acteur qui décide de ce qu’il fait et pourquoi il le fait.

Le nudge s’inscrit alors dans une logique de paternalisme dopé par un certain utilitarisme cher à notre société capitaliste. Ce modèle était déjà critiqué par Milton Friedman lorsqu’il était utilisé au niveau étatique en raison de son impact sur la liberté individuelle (j’y reviendrai ci-après). Le nudge est une technique locale et ciblée d’orientation du choix.

Il y a une intentionnalité qui est incompatible avec l’imperceptif.

En outre, la définition du nudge prévoit explicitement une “facilité d’esquive”, ce qui pour reprendre l’exemple du courrier postal vs email ne peut être considéré comme je l’exposerai ci-dessous quant à l’impact de l’imperceptif sur notre liberté.

2.3. La gouvernementalité

Le quasi impératif est approximatif. Le nudge est intentionnel. On pourrait alors penser à la gouvernementalité de Foucault. Elle désigne l’ensemble des techniques, procédures et rationalités par lesquelles une population est conduite. C’est la production de normes, de savoirs et de subjectivités. L’individu gouverné intériorise les normes et se conduit lui-même selon elles.

Pour Foucault:

Il s’agit d’un certain type de contrôle de l’État sur les populations, un certain mode d’exercice du pouvoir où gouverner c’est « avoir à l’égard des habitants, des richesses, de la conduite de tous et de chacun une forme de surveillance, de contrôle non moins attentive que celle du père de famille sur la maisonnée et ses biens ».

Il y a d’abord une différence dans le mécanisme : la gouvernementalité produit des sujets (elle agit sur l’identité et la subjectivité). Pour moi, l’imperceptif agit sur le cadre de décision sans nécessairement remodeler l’identité du sujet (même si ce point mériterait une réflexion à part entière. Savoir si nos choix modèlent notre identité ou ne font que l’exprimer?). Le sujet reste : il pense simplement que ses choix sont rationnels car il n’a pas le sentiment de se conformer à une conduite. Il l’adopte naturellement la considérant comme rationnelle.

Il y a aussi une forme de paternalisme dans la gouvernementalité qui est proche du nudge public. La direction de la conduite est donnée par l’autorité pour adopter un comportement, une conduite. Ce qui distingue la gouvernementalité de l’imperceptif c’est son assiette. Foucault fixe son propos sur les institutions et les rapports de pouvoir explicitement politiques. La gouvernementalité suppose une raison politique de gouvernement. L’imperceptif, tel que je le conçois, n’implique pas de rationalité de gouvernement car il impacte les conditions de ce qui apparait comme rationnel.

Alors que la gouvernementalité vise la conduite des conduites, l’imperceptif touche aux conditions de possibilité de la conduite elle-même. L’imperceptif est le régime de rationalité qui configure en amont les critères du raisonnable, de telle sorte que certaines options, bien que formellement possibles, cessent d’apparaître comme des choix rationnels.

On pourrait alors considérer que l’imperceptif joue un rôle en amont de la gouvernementalité également en ce qu’il configure et structure les possibilités de la rationalité de gouvernement.

2.4. La norme sociale

À l’inverse de ce que je propose ci-dessus, on pourrait aussi penser que l’imperceptif est une “production” de la gouvernementalité. Cette capacité de configurer les possibilités du rationnel pourrait alors être une conséquence des décisions sur la conduite qui produisent notamment des normes “sociales”. Ces normes viennent structurer la conduite. Ce tissu hérité du passé, modelé au fil de nos existences, vient guider les populations.

Là encore, j’identifie une distinction forte avec l’imperceptif. La norme sociale est connue et le destinataire de cette “norme sociale” est visé par cette dernière. Par exemple, on sait qu’on doit s’habiller d’une certaine façon pour un entretien d’embauche. On sait qu’il y a des règles de politesse, des manières d’être qui sont attendues en fonction du contexte (par exemple, à un enterrement ou un anniversaire). Cette connaissance est précisément ce qui permet de se conformer à la norme sociale ou de choisir d’y renoncer pour un tas de raisons que je n’aborderais pas ici.

Il y a donc une distinction à faire sur ce premier aspect : personne ne dit qu’il faut utiliser un dispositif technique plutôt qu’un autre. C’est plus subtil car l’imperceptif touche au régime de rationalité des choix.

Ensuite, une distinction peut être faite sur l’objet. La norme sociale pointe vers un comportement précis dans une situation précise. Il y a une contextualisation plus importante lorsqu’on examine la norme sociale par rapport à l’imperceptif. L’imperceptif est beaucoup plus transversal. Il n’y a pas de prescription ou d’action déterminée identifiable dans l’imperceptif.

Enfin, on peut aussi relever une distinction quant à la sanction du non-respect de la norme sociale par rapport à celle de l’imperceptif. Dépasser dans une file d’attente et vous serez houspillé par les personnes dépassées, fanfaronner dans un train ou un bus et vous serez rappelé à l’ordre par les autres voyageurs. Pour l’imperceptif, personne ne vous sanctionnera si vous utilisez des moyens techniques désuets ou obsolètes. Au pire, vous serez perçus comme l’“old school” ou le “vintage” du groupe, vous serez déconnecté de certains services numériques, mais cette exclusion (possible) n’est pas comparable à la transgression d’une norme sociale.

En ce sens aussi, l’imperceptif est insidieux car plus difficile à contester qu’une norme sociale. On peut refuser une norme sociale en assumant le regard de l’autre ou en l’ignorant. On peut difficilement refuser l’imperceptif de la même façon : il n’y a pas de regard à affronter. Il y a simplement un cadre qui rend certains choix progressivement déraisonnables.

2.5. Le monopole radical

Notion proposée par Ivan Illich, elle vise la place que prennent certaines institutions dans nos sociétés. Ce monopole viserait à modifier, contrôler et à terme contraindre des populations à modifier leurs habitudes en restreignant leurs choix et leurs libertés. Dans son essai “La Convivialité”, Illich voit dans le monopole radical :

un type de domination par un produit qui va bien au delà de ce que l’on désigne ainsi à l’habitude .

Pour Illich, il y a un monopole radical lorsque l’outil programmé évince le pouvoir-faire de l’individu. Cette domination instaure la consommation obligatoire et dès lors restreint l’autonomie de la personne (p.80). C’est donc l’antipode de l’autonomie individuelle.

Dans ce cadre,

Le monopole radical s’établit quand les gens abandonnent leur capacité innées de faire ce qu’ils peuvent pour eux-mêmes et pour les autres, en échange de quelque chose de “mieux” que peut seulement produire pour eux un outil dominant. Le monopole radical reflète l’industrialisation des valeurs. (p.84)

Pour reprendre ses exemples,

Que l’automobile restreint le droit à la marche, et non pas qu’il y ait plus de gens à conduire des Chevrolet que des Peugeot, voilà le monopole radical . Que les gens soient obligés de se faire transporter et deviennent impuissant à circuler sans moteur, voilà le monopole radical (p.80).

La ressemblance à l’imperceptif est très forte mais il reste, selon moi, une différence très nette dans ce qu’Illich a pu observer à son époque.

L’analyse d’Illich est datée et porte essentiellement sur des problématiques de consommation. Les exemples qu’il prend pour illustrer son propos vont de l’automobile à l’éducation, des pompes funèbres aux fabricants de boissons. Il porte son constat critique sur les pratiques consuméristes et vise le pouvoir pris par certaines institutions. Le monopole radical est beaucoup plus ciblé. Je vois dans l’imperceptif un rôle plus structurant, comme j’ai tenté de le démontrer pour la gouvernementalité, qui permet les monopoles radicaux. Ecrit autrement, l’imperceptif permet la création des monopoles radicaux proposés par Illich comme je l’exposerais ci-après.

3. L’imperceptible et le décalage prométhéen

Le détour que nous avons pris nous a permis de tracer les distinctions que l’imperceptif pouvait avoir avec d’autres concepts en s’attachant particulièrement à la notion d’impératif.

Au-delà donc de l’impératif, il y a aussi l’imperceptible. Je crois que cette absence de perception, cette cécité ou cet aveuglement, ne peut être considérée que d’un point de vue interne et c’est ce qui me permet donc de la nommer en tâchant, de sortir du cadre qui nous ceinture, pour le stigmatiser et tenter de le critiquer.

Cette notion d’imperceptible n’est pas entièrement neuve. On la retrouvait, sous une certaine forme, dans le concept de “décalage prométhéen” de Gunther Anders proposé dans son livre L’obsolescence de l’Homme (Tome 1). Ce décalage est défini par Anders comme:

“l’inadéquation croissante entre ce que l’humanité est capable de produire techniquement et ce qu’elle est capable d’imaginer comme conséquences de cette production”.

Selon Anders, nous construisons des systèmes dont les effets et les conséquences dépassent notre capacité de représentation. Ce décalage prométhéen est l’une des sources de l’imperceptif. Nous sommes collectivement incapables d’imaginer ce que nos outils font de nous et la contrainte qu’ils exercent sur nous ne peut être perçue comme telle. C’est en cela qu’elle est imperceptible parce que nous n’avons pas les représentations qui nous permettraient de la voir.

4. Les contours de l’imperceptif

4.1. La relation de l’imperceptif avec d’autres concepts

Après avoir fait le tour des concepts proches, on peut maintenant identifier une chaîne causale entre certains concepts abordés. Je vois ici la chaîne suivante : décalage prométhéen → imperceptif → monopole radical.

Le décalage prométhéen vise ce que l’humain crée comme objets techniques et dont les effets dépassent ce qu’il peut imaginer.

L’imperceptif est le produit de ce décalage. Parce que l’humain ne peut pas imaginer les effets de ce qu’il met en place, certaines contraintes s’installent sans être perçues comme telles. L’imperceptif n’interdit rien : il neutralise des alternatives en les rendant absurdes, sans que cette neutralisation soit visible, délibérée ou consciente.

Le monopole radical, au sens d’Illich, est l’une des conséquences observables de ce processus. Quand l’imperceptif a reconfiguré la rationalité des productions techniques de l’humanité que mentionnait Anders en 1956 certains outils ou institutions finissent par occuper la totalité de l’espace disponible pour une fonction donnée. Le monopole radical n’est pas le résultat d’une intention monopolistique, c’est l’aboutissement d’un imperceptif qui a opéré sans rencontrer de résistance, précisément parce qu’il n’était pas perçu.

Cependant, tous les imperceptifs ne produisent pas nécessairement des monopoles radicaux. Le monopole radical suppose une reconfiguration infrastructurelle de grande échelle. L’imperceptif peut aussi produire des effets plus diffus, moins institutionnalisés.

La relation est donc la suivante : le monopole radical présuppose un imperceptif, mais l’imperceptif n’aboutit pas toujours à un monopole radical.

4.2. L’imperceptif comme modélisation des choix

Comme déjà écrit, l’imperceptif est un impératif qui s’exerce sans jamais se formuler comme tel. Ce qui distingue l’imperceptif, c’est qu’il opère sur le cadre dans lequel la décision prend forme et non sur la décision elle-même. Ce cadre, c’est le régime de rationalité dont la technique est, à mon sens, le vecteur privilégié.

Il n’y a pas d’invitation à faire X ou Y mais notre milieu est façonné d’une telle manière que le cadre de réflexion “impose” de faire X ou Y. C’est une situation très perverse en ce sens que l’imperceptif va modeler les conceptions pour orienter les choix. Le sujet ne perçoit pas l’imperceptif comme un impératif. Le sujet pense simplement agir selon des choix rationnels, tels qu’une évidence ou une nécessité de bon sens au regard du cadre et du milieu dans lequel il évolue.

L’imperceptif devient imperceptible parce qu’il se fond dans le réel et qu’il a été naturalisé par le sujet. Le réel n’est en fait qu’une représentation du sujet, interprétée selon sa propre sensibilité. Sur ce point, je peux me référer à la conception proposée par Marcello Vitali Rosati:

il n’y a que des modèles matériels; le réel est toujours le résultat d’une modélisation. Le réel est multiple et toujours médié; il n’y a pas de réel en dehors d’une médiation et toute médiation est matérielle. (…) Le modèle n’est pas une sélection du réel, il est le réel lui-même, tel qu’il résulte d’une médiation déterminée; mais en dehors de cette médiation il n’y a rien du tout.

Sur la base de ce qui précède, je peux affiner ma définition : l’imperceptif est un modèle de rationalité dans lequel un critère dominant, l’efficacité, s’impose sans être discuté, configurant en amont les conditions du raisonnable. Certaines options demeurent formellement possibles mais cessent d’apparaître comme pertinentes.

4.2.1. L’exemple du Règlement UE sur l’IA

Illustrons en prenant la réglementation européenne sur l’IA.

L’article 4 du Règlement européen sur l’intelligence artificielle (RIA ci-après) illustre ce mécanisme de manière particulièrement frappante. Il dispose que les fournisseurs et les déployeurs de systèmes d’IA doivent prendre des mesures pour assurer un niveau suffisant de connaissances en matière d’IA à leur personnel et aux personnes chargées du fonctionnement et de l’utilisation de ces systèmes.

Il n’y a pas d’obligation d’utiliser l’IA. L’article 4 du RIA ne contraint personne à déployer un système d’IA. On laisse la liberté aux déployeurs (utilisateurs) et aux entreprises de décider de l’utiliser.

Par contre, si l’entreprise décide d’utiliser un système d’IA alors le règlement impose des obligations de moyens aux utilisateurs qui, s’ils utilisent l’IA, doivent prendre des mesures nécessaires pour (i) l’utiliser d’une certaine manière et (ii) de comprendre les outils utilisés.

Cette obligation de maitrise présuppose donc l’usage mais aussi contribue à normaliser cet usage. C’est en cela que l’article 4 révèle l’imperceptif. Le législateur n’a pas décidé que tout le monde devrait utiliser l’IA. Il a organisé les conditions de cet usage. Mais en faisant cela, en ancrant dans le texte même l’idée que l’adoption est un fait accompli qui appelle une réglementation, la réglementation contribue à naturaliser ce fait. La règle a donc un effet performatif en plus d’être prescriptif : elle normalise l’utilisation en la traitant comme une évidence qui précède la norme.

C’est ici un impératif légal qui, par son architecture illustre l’imperceptif en traitant comme acquis ce qui relevait encore d’un choix. L’article 4 ne dit pas “vous devez utiliser l’IA”. Il dit : “puisque vous utilisez l’IA, voici ce que vous devez faire”. Cette présupposition est le moment où l’imperceptif produit un impératif visible.

Cette analyse est renforcée par la lecture du considérant 20, lié à cet article 4. Il confirme ce constat. Il commence par l’objectif de “tirer le meilleur parti des systèmes d’IA”. Cette formulation présuppose l’usage avant toute chose. L’adoption n’est pas une hypothèse que le législateur examine : c’est le point de départ à partir duquel il raisonne.

Le considérant va plus loin en inscrivant la maîtrise de l’IA dans une finalité économique explicite : la formation à l’IA est présentée comme un levier d’amélioration des conditions de travail et de “consolidation de la voie de l’innovation de l’IA digne de confiance dans l’Union”. Le législateur naturalise un lien de causalité qui n’a rien d’évident : maîtriser l’IA serait, par définition, travailler mieux. L’usage devient non seulement un fait accompli mais une condition du progrès.

Et si vous aviez encore un doute, la lecture de l’article 1 finirait par vous convaincre. L’article 1 du Règlement fixe l’objet et indique vouloir “promouvoir l’adoption d’une intelligence artificielle (IA) centrée sur l’homme et digne de confiance, tout en assurant un niveau élevé de protection de la santé, de la sécurité, des droits fondamentaux consacrés par la Charte, y compris la démocratie, l’État de droit et la protection de l’environnement, contre les effets néfastes des systèmes d’IA dans l’Union, et en soutenant l’innovation.”

fin de la partie 1