Le biais d’automatisation
Origine : Psychologie cognitive (automation bias)
Définition
Le biais d’automatisation désigne la tendance à faire confiance aux systèmes automatisés au détriment de son propre jugement. L’individu délègue non seulement l’exécution d’une tâche, mais progressivement l’orientation même de sa pensée, en adoptant les choix de la machine comme s’ils étaient les siens.
Ce biais n’est pas une erreur ponctuelle et corrigible. Il s’installe de manière insidieuse, par usage répété, sans que l’utilisateur en perçoive le mouvement. C’est une reconfiguration lente et quasi imperceptible des facultés cognitives et créatrices.
Dans mes écrits
Appliqué à la création, le biais d’automatisation produit un effet pervers spécifique : l’utilisateur qui s’appuie régulièrement sur un modèle génératif commence à valider des formulations qu’il n’aurait pas choisies, à adopter des structures qu’il n’aurait pas pensées, à construire selon des logiques qu’il n’aurait pas construites. Progressivement, il intègre les préférences statistiques de la machine comme étant les siennes.
C’est une forme de prolétarisation qui ne dit pas son nom et qui est d’autant plus difficile à percevoir qu’elle s’accompagne d’un sentiment de confort et d’efficacité. L’utilisateur ne se sent pas dépossédé : il se sent aidé. C’est là que réside le piège pharmacologique.
Ce biais s’articule étroitement avec l’imperceptif : la dynamique d’adoption crée les conditions dans lesquelles le biais s’installe sans être détecté. Et il produit, à terme, une forme de dépossession opératoire appliquée non plus seulement au raisonnement professionnel mais à la pensée elle-même.
La distinction entre confiance légitime et biais d’automatisation est difficile à tracer en pratique, c’est ce qui en fait un phénomène pharmacologique : la délégation utile et la dépossession insidieuse empruntent les mêmes voies.
Lien avec la dévaluation du jugement humain
Ce biais s’inscrit dans un mouvement plus large que j’ai analysé à travers la formule de Mathieu Corteel : “nous n’avons fondamentalement plus confiance dans le jugement humain.” On place l’IA sur un piédestal tout en dévaluant l’intelligence humaine au prétexte que cette dernière serait moins performante que la machine. Le biais d’automatisation n’est alors plus un accident cognitif individuel : il devient une disposition culturelle, entretenue par un discours dominant qui présente la délégation à la machine comme l’exercice d’une lucidité supérieure.
Articles où ce terme est mobilisé
- De l’ablation sémantique à l’ablation attentionnelle
- Savoir sans faire. Faire sans savoir.
- Grammatiser et observer.