Authenticité et sincérité. L'aporie de la transparence

Depuis quelques mois, j’ai pris le temps de réfléchir à la question de la transparence de l’utilisation de l’intelligence artificielle générative (ci-après l’IAG) (voir notamment ici). Je m’étais dit que j’allais rédiger une suite à cette première note dans la mesure où j’avais reçu pas mal de commentaires qui avaient remodelé ma réflexion. J’ai finalement laissé le projet sur le côté. Et comme souvent, celui-ci est réapparu sans crier gard. D’abord à la suite de cet article et puis quelques jours après, pendant une réflexion sur un projet d’écriture intégrant l’IAG

Cette réflexion (quasi obsessionnelle, je l’avoue) me rend à chaque fois toujours très perplexe et me place dans une situation très ambivalente. D’une part, je suis très “agréablement” surpris de ce que je parviens à produire à l’aide de l’IAG. La vitesse d’exécution est pour moi importante et c’est la raison pour laquelle j’aime utiliser l’IAG pour extérioriser rapidement ce que j’ai en tête. Je passe ensuite du temps à reformuler, nettoyer et nuancer le propos. Pour moi, l’IAG n’est pas un remède contre la page blanche. C’est une manière de commencer rapidement un projet (qui peut demeurer, durant des mois, à ce stade). L’IAG est donc une anti-frustration. Dès que j’ai quelque chose en tête, je le jette dans une note puis j’interagis avec l’IAG pour structurer cette réflexion que je retravaille ensuite.

Toutefois, mes lectures et réflexions me poussent à considérer l’utilisation de l’IAG comme “quasi-dangereuse” (voir sur le sujet ma note sur la dépossession de la capacité opératoire). Cette tension entre ces deux pôles est persistante et est finalement une bonne chose.

Elle m’oblige, inlassablement, à me poser des questions et à remettre en perspective les conclusions que je pensais avoir tirées de mes réflexions précédentes. Voici donc une évolution ou un complément, plutôt qu’une mise à jour.

Authenticité versus sincérité

L’argument qui m’a le plus touché récemment est celui de la distinction entre authenticité et sincérité (voir The Internet’s New Favorite Insult: ‘Did AI Write That?).

L’authenticité désigne le caractère certifié du contenu par rapport à son auteur. L’authenticité dans l’écriture, c’est l’absence de médiation entre l’auteur et ce qui est écrit. Les mots choisis, les tournures de phrase propres à l’auteur qui traduisent le fond de sa pensée. L’écriture authentique serait donc une manière d’obtenir une transparence sur la pensée de l’auteur, telle une fenêtre ouverte sur ses pensées.

La sincérité, elle, désigne la correspondance entre ce qui est dit ou écrit et ce qui est pensé. C’est la congruence de la pensée. La sincérité reflète donc l’expression fidèle des convictions de l’auteur, elle traduit celles-ci de manière pleine et complète, sans faux-semblants.

Écris autrement, on pourrait considérer que pour l’authentique, c’est la forme qui compte tandis que pour la sincérité, c’est le fond.

Ces deux exigences entrent en conflit au moment où l’on fait intervenir l’IAG . Je peux être parfaitement sincère dans mes convictions tout en mobilisant l’IAG pour les exprimer. Mais cette médiation “algorithmique” compromet l’authenticité au sens strict : le texte n’émane plus directement de moi, il résulte d’une co-production humain-machine.

Aujourd’hui, je constate qu’il y a une tendance à valoriser l’authenticité d’un contenu sans avoir une réelle considération pour sa sincérité. Je m’explique : en utilisant l’IAG, on peut être sincère, mais selon certains, on ne serait pas authentique au sens strict du terme.

L’IAG se placerait comme un moyen de transposition de la pensée de l’auteur et, dans son expression formelle, la dépersonnalise.

Je pense que c’est cette dépersonnalisation qui pose problème aujourd’hui et qui porte le lecteur à rechercher plus d’authenticité que de sincérité.

Le sentiment de trahison

Pour illustrer cette tension entre authenticité et sincérité, je vais reprendre une publication que j’ai vu passer sur Linkedin où l’auteur décrit son émotion à la suite de la “découverte” de l’utilisation de l’IAG par un créateur qu’il suivait :

Dans ma tête, tout s’est effondré. “Tout”, dans le sens crédibilité, confiance, curiosité. Et ce dernier point est pour moi le plus important. Instantanément, j’ai perdu la curiosité que j’avais pour ses réflexions. Je ne peux plus, désormais, me poser cette petite question délicieuse et piquante à l’approche de son nom dans le feed : “Tiens voilà Chris Do ! Qu’a-t-il à dire cette fois ?”. La magie s’est envolé. Le doute s’est installé. Son clone AI ne m’intéresse plus. Celui qui parlait de mon métier mieux que personne a disparu.

C’est donc une trahison qui se dessine. Le contenu n’est plus le critère distinctif. C’est la confiance que l’on a placée dans le fait que c’est l’auteur qui écrit.

Si tel est vraiment le cas, il y a alors aussi une forme d’aveu qui me semble bien embêtante : on valorise un contenu par rapport à la personne qui l’a écrit et, par conséquent, on biaise notre perception et notre évaluation de la pertinence d’un contenu. Si un spécialiste notoire écrit et/ou dit quelque chose, nous avons alors plus de raisons de considérer que le contenu est pertinent. C’est la figure de l’argument d’autorité. X a dit ça, donc c’est vrai et pertinent. Si nous apprenons que ce contenu a été rédigé à l’aide d’une IAG, on lui dénie tout intérêt et son auteur est décrédibilisé de façon quasi mécanique même si le contenu est sincère au sens évoqué ci-dessus.

Est-ce qu’on ne va pas trop loin ? Rendez-vous compte : on ne cesse d’évoquer l’esprit critique, la nuance et la nécessité d’avoir un regard objectif sur le monde et l’information, et le simple fait d’exposer avoir utilisé une IAG dénaturerait complètement un contenu et supprimerait sa pertinence?

La transformation des codes de communication

Cette recherche d’authenticité masque, je pense, un enjeu plus profond : la normalisation des codes de communication. La difficulté réside aussi dans l’habitude que nous avons prise d’écrire et de lire des contenus authentiques (des contenus rédigés par des humains). Aujourd’hui, nous subissons une confrontation croissante avec des contenus générés par et/ou à l’aide de l’IAG qui viennent dérouter nos habitudes, ce qui entraîne des réactions et des réflexions diverses et variées.

Si je devais m’hasarder à une comparaison métaphorique, c’est comme si on changeait l’ampoule de notre cuisine : habitués à une lumière jaune et douce, nous passerions à une lumière froide et blanche. Le changement n’est pas nécessairement négatif, mais il déstabilise.

En matière d’IAG, c’est généralement sur la forme que l’on va reconnaître qu’un texte a été généré avec assistance. On constate que le style est robotique ou mécanique, la structure des phrases se ressemble, les signes de ponctuation sont redondants. Ce qui reste problématique, c’est qu’on inverse les choses: on passe son temps à rechercher des marqueurs d’authenticité pour identifier si tel ou tel texte a été généré par ou à l’aide de l’IAG. Il y a donc une énergie mise en œuvre pour détecter les contenus rédigés avec assistance, sans aucune considération première de la qualité de ce contenu.

Mais la situation peut être autre. Le lecteur se rend compte que le fond est vide de sens et se rassure quant à son jugement face à cette vacuité en identifiant les “schémas” de rédaction propres à l’IAG.

C’est un problème, car en réalité, c’est une forme d’abandon du lecteur qui décide de s’arrêter à cet aspect formel sans considérer le fond. Ce qui m’inquiète, c’est que l’on se dirige, si l’on persiste dans cette voie, vers la valorisation de l’imperfection de l’authenticité plutôt que la qualité de la sincérité.

Cette inversion entraine un phénomène que j’ai observé récemment dans un billet d’un développeur : les fautes, les maladresses, les imperfections stylistiques (traditionnellement des signes négatifs) deviennent aujourd’hui des gages d’authenticité****.**** Ces imperfections signalent une origine humaine dans un environnement saturé de productions algorithmiques.

Comme écrit ci-dessus, cette régression est inquiétante. Nous en sommes réduits à valoriser les scories comme preuves d’humanité. Mais avons-nous encore la capacité à reconnaître la pensée elle-même? Car finalement nous nous rabattons sur des indices secondaires : les aspérités, les traces d’imperfection qui confirmeraient un processus non automatisé.

La tension entre effort et qualité

Certains vont même jusqu’à afficher fièrement leur non-usage de l’IA. Pourquoi Derek Sivers s’échine-t-il à rédiger une page sur son site pour annoncer qu’il n’utilise pas l’IA ? Pourquoi crée-t-on des badges “NotByAI” ?

À mon estime, c’est une façon un peu vicieuse d’étaler sa “compétence”. Du genre “moi j’écris, et sans IAG”, ce qui entraine une forme de dénigrement de tout contenu généré à l’aide de l’IAG. Une nouvelle forme de pédanterie. Je généralise sûrement et les intentions des uns ne sont peut-être pas celles des autres, mais l’idée est là.

J’y vois aussi un mécanisme de défense face à la production massive de contenu à l’aide de l’IAG mais qui à mon sens trahit les auteurs. Pourquoi révéler cet aspect des choses? La qualité d’un texte généré sans IAG ne devrait-elle pas suffire à elle-même ? La qualité devrait être auto-suffisante, non? Il y a donc aussi une tension entre la notion d’effort et la notion de qualité. Nous avons été conditionnés à considérer que l’effort mis en place pour l’édition de sa pensée et sa mise en forme équivalent parfois à une lutte pour articuler sa pensée, ses idées. Cette lutte, cet effort, est aujourd’hui considéré comme étant synonyme de qualité.

Cette considération est insidieuse. Elle est déduite de considérations que l’on a par rapport aux textes générés par l’IAG. En effet, si l’on discrédite un texte simplement parce qu’il a été rédigé à l’aide de l’IAG, n’y a-t-il pas une forme de sur-valorisation des textes écrits sans assistance? Ne tombons-nous pas dans le stéréotype de valoriser d’emblée tout contenu rédigé par l’humain, sans considération de qualité, ni du fond, ni de sa pertinence.

Dans ce cadre, on se focalise sur des critères extrinsèques au texte (sa forme, son style, ses scories, ses fautes) pour considérer qu’il a un bel et bon aspect humain, alors que les critères intrinsèques qui portent sur le fond, la pertinence, la profondeur, l’angle d’analyse sont relégués, quasi vulgairement, au second rang.

Mais l’effort n’est pas un critère de qualité. C’est un signal social qui nous rassure sur l’authenticité de l’auteur, mais qui ne dit rien sur la pertinence du contenu. Un mauvais écrivain qui trime pendant des heures produira un texte médiocre malgré son effort (certains pourraient aussi considérer que cet effort le rendra meilleur). Je partage ce point de vue mais il est à mon sens extérieur à la question de la transparence abordée ici) . Un bon écrivain assisté par l’IA peut produire un excellent texte en moins de temps.

Valoriser l’effort pour l’effort revient à sacraliser le processus au détriment du résultat. C’est une forme de moralisme qui me semble reposer sur des éléments contestables.

Certains me diront aussi que partager un contenu, c’est réclamer l’attention d’autres personnes et que si nous partagons un contenu que nous n’avons pas écrit, pourquoi les autres devraient le lire ? Cet argument présuppose que le contenu assisté par IA n’est pas véritablement “écrit” par nous. C’est cette présupposition qu’il faut interroger.

La question de l’auteur à l’ère de l’IA

Stéphane Vial, dans son texte “La mort de l’auteur n’aura pas lieu à l’ère de l’IA”, propose une réflexion :

On passe ainsi d’une logique d’authorship (paternité) à une logique d’ownership (maîtrise et contrôle des outils, des logiciels, des processus et de leurs résultats). La capacité à orchestrer, posséder et gérer les moyens de production et de diffusion devient aussi déterminante que la signature elle-même. Être auteur en design, c’est moins inventer seul qu’assumer le résultat d’une coproduction.

Cette observation me semble intéressante. Les outils d’écriture évoluent et cette réflexion quant à la transparence pourrait résulter de cette évolution et du rapport de l’auteur à ses outils. Maintenant que nous avons des outils qui permettent de générer du contenu, il est légitime de réfléchir à cette notion de transparence pour mieux penser la notion d’auteur.

Vial poursuit :

Être auteur à l’ère de l’IA, c’est assumer cette responsabilité. Peu importe qu’on ait utilisé ChatGPT, Wikipédia, un dictionnaire ou Google : l’essentiel est de pouvoir valider et défendre ce qu’on signe.

La responsabilité de l’auteur ne disparaît pas avec l’IAG. Mais cette affirmation me pose problème quand Vial écrit aussi :

Est-ce qu’on demande aux écrivains de révéler l’usage de logiciels de correction grammaticale comme Antidote ou de confesser le recours à un ghostwriter ?

Cette comparaison m’apparaît inopportune. La correction grammaticale n’est pas comparable à l’appropriation d’un contenu généré par autrui. La comparaison de l’IA au ghostwriting est par contre bien plus pertinente, bien qu’imparfaite. Un auteur publie un contenu qu’il prétend avoir écrit lui-même alors qu’en fait, il s’est fait assister par un tiers (invisible).

La question de la transparence : une aporie

Tout cela me ramène à ma question initiale : faut-il révéler l’usage de l’IAG ?

Je voudrais envisager les deux scénarios qui peuvent se présenter.

Choisir le silence, ne rien révéler et laisser le texte parler pour lui-même. Cette voie parie sur l’indiscernabilité qualitative. Mais elle s’expose à un risque : si l’usage de l’IAG est découvert ultérieurement, la crédibilité s’effondre. L’exemple de Nicolas Casaux décryptant l’ouvrage de Samah Karaki est assez parlant sur ce point. L’autrice aurait manifestement utilisé l’IAG sans le révéler. Cela se sentirait sur la forme mais aussi sur le fond (ce qui est un aspect important de ma réflexion). La révélation a détruit la crédibilité.

Choisir la divulgation et assumer publiquement l’assistance de l’IAG. Cette voie transforme une pratique potentiellement suspecte en démarche assumée. Cette transparence expose à un autre risque : celui d’une disqualification immédiate, indépendamment de la qualité effective du contenu.

Entre ces deux scénarios, il y a des voies médianes. Celle où ce lecteur bienveillant pourrait comprendre, s’identifiant au travers de l’initiative et légitimant au passage ses propres rédactions assistées par IAG mais non révélées.

Ces hypothèses dépendent aussi, finalement, de la qualité du résultat final et il n’y a pas de réponse très claire.

Est-ce qu’au final, la question de la transparence ne révèle pas notre incapacité (croissante) à évaluer un texte sur ses qualités intrinsèques? Nous exigerions de connaître les conditions de production parce que nous ne savons plus juger du produit lui-même. Ou que l’espace est saturé de contenu et que nous opérons un filtrage ? Est-ce que cette exigence de transparence est un symptôme d’une démission intellectuelle? Est-ce qu’elle nous dispense de juger en nous permettant de trier selon des critères binaires et rassurants : avec ou sans IA ?

Le dogmatisme qui paralyse

Je suis toujours bloqué par une forme d’exigence, de dogmatisme dans mon rapport à l’écriture. Considérer qu’on ne peut pas utiliser l’IAG pour partager sa pensée car cela représente une forme de triche,de court-circuit. Mais en même temps, lorsque j’utilise l’IAG comme super assistant, le résultat est souvent au rendez-vous.

Cette exigence est difficile à soutenir dans son principe car elle supposerait de rejeter non seulement l’IAG mais aussi l’ensemble des médiations techniques qui structurent déjà notre activité intellectuelle. Devrais-je refuser Internet parce que les GAFAM en contrôlent l’infrastructure et Google oriente mes recherches ? L’article partagé ci-dessus a été suggéré par mon flux d’actualité. Dois-je vivre en ermite pour être cohérent?

Certains pourraient arguer, comme je l’ai lu dans un commentaire, qu’adopter “une posture morale intransigeante face à l’IA générative contredit les valeurs mêmes de la recherche : le doute, la complexité, le pluralisme et l’éthique réflexive.”

Ce dogmatisme conduit à la paralysie. Il empêche de penser la technique comme pharmakon : à la fois poison et remède, aliénante et émancipatrice selon l’usage qu’on en fait. Il fait également abstraction de la réalité de notre milieu qui est technique.

Il y a donc un usage critique de l’IAG qui doit rester possible. Il exige une vigilance sur ce que l’outil fait à notre pensée. Il suppose de prendre conscience des moments où l’algorithme nous fait dériver, où il aplatit notre réflexion, où nous devons lutter contre ses suggestions. Cette lutte elle-même peut devenir productive.

Une question qui dérange

Toutes ces tensions convergent vers une question unique : qu’est-ce qui fait qu’un texte est pensé plutôt que simplement produit ?

Cette question n’a pas de réponse technique. Elle ne peut être tranchée par des marqueurs extérieurs (usage ou non de l’IA), par des critères moraux (effort déployé), ou par des déclarations d’intention (sincérité de l’auteur).

Elle ne peut être tranchée que par un jugement sur le texte lui-même. Un texte pensé se reconnaît à sa profondeur mais aussi à ses aspérités, à ses contradictions assumées. Un texte simplement produit se reconnaît à sa vacuité polie, à son homogénéité.

Je persiste à penser que la qualité d’un contenu généré avec IAG ne peut être garantie que par l’investissement humain dans la direction, la structuration et la mobilisation des concepts. Quand cette attention fait défaut, la qualité du texte diminue. Le texte devient générique, creux, reconnaissable dans sa vacuité caractéristique des IAG.

Comme l’écrit un commentateur: “But even if LLMs could write articles in my voice I still wouldn’t use them due of the ethics of misrepresenting authorship by having the majority of the work not be my own words.” Cette position, je la comprends. Mais elle présuppose une définition très stricte de ce que signifie “ses propres mots”. Est-ce que mes mots sont vraiment “les miens” quand ils sont nourris de milliers de lectures, de conversations, d’influences ? La question de l’originalité pure est peut-être une illusion.

Malgré ces éléments, je reste encore toujours indécis quant à cette problématique et je ne parviens pas à trancher définitivement. Il y a une certaine éducation qui me pousse à privilégier l’authenticité et c’est ce qui, à mon sens, aboutit à la conclusion que l’utilisation de l’IAG comme assistance à la rédaction doit être nécessairement révélée, par respect et en vue de la confiance que le lecteur nous accorde.

Mais je comprends aussi que cette exigence de transparence est elle-même symptomatique d’une difficulté plus profonde : notre incapacité à juger de la qualité intrinsèque d’un texte. Nous nous raccrochons à des critères extérieurs rassurants parce que nous avons perdu nos outils du jugement.

Cette question est aporétique : elle met en tension des exigences contradictoires qui ne peuvent être satisfaites simultanément dans notre environnement technique. Authenticité contre sincérité. Effort contre qualité. Instrument contre expression.

Aucune de ces tensions ne trouve de résolution satisfaisante. Elles révèlent que notre rapport à l’écriture assistée par IAG est fondamentalement contradictoire. Nous voulons à la fois les bénéfices de l’assistance (gain de temps, qualité formelle) et les garanties de l’authenticité (effort personnel, origine humaine).

Cette contradiction, c’est la conséquence de notre situation historique. Nous vivons un moment de transition où les anciennes catégories (auteur, œuvre, originalité, authenticité) ne tiennent plus, mais où les nouvelles catégories ne sont pas encore stabilisées. La question de la transparence sur l’usage de l’IAG n’est qu’un symptôme de ce désarroi plus profond. C’est la honte prométhéenne évoquée par Gunther Anders en 1956: la honte qui s’empare de l’homme face à l’humiliante qualité des choses qu’il a lui-même fabriquées.

Cette note reflète un cheminement de pensée encore en cours. Je la publie dans cet état d’indécision assumée, parce que l’indécision elle-même fait partie de la réflexion. Et parce que j’ai le souci de la transparence, je vous informe avoir utilisé l’IAG pour ce texte pour mettre en forme plusieurs notes rédigées sur le sujet. Un travail de rédaction personnelle a été fait sur le texte généré.