Madame Claude ou Madame Anastasie?

À partir de quel moment un correcteur devient-il un éditeur? 

Et à partir de quel moment l’éditeur devient-il un censeur?

En préambule, le contexte :

J’utilise quotidiennement les services de l’IA Claude et suis ébahi par ses immenses capacités. Cependant, l’outil n’est pas sans danger et il convient d’en dénoncer l’usage par toute personne non avertie : confier une IA sans avertissement à un utilisateur, c’est donner un rasoir à un singe. 

Les dégâts peuvent être considérables. Sans donner dans l’exagération, l’IA sape les fondements mêmes de notre civilisation.

Voyons plutôt un cas d’école.

Voici 16 ans, j’ai écrit un roman de politique–fiction pour dénoncer ce qui m’apparaissait alors comme une évidence : la mise en place d’un état profond dans notre pays, l’asservissement du peuple par la dette et l’émergence d’une nouvelle forme de totalitarisme : l’écologie.

J’ai traité ces graves sujets sous forme de roman car je n’ai aucune légitimité pour ce faire : je ne suis ni élu, ni universitaire, ni philosophe.
Il fallait donc maintenir l’intérêt du lecteur avec une trame riche en rebondissements. Ainsi, la pilule du message est-elle enrobée dans le sucre d’un roman d’action avec ce qu’il faut de courses-poursuites et de scènes érotiques.

Le roman a rencontré un certain succès, bien qu’il n’ait été publié que par un éditeur de seconde zone qui a été liquidé depuis : les tous derniers exemplaires sont disponibles sur Amazon et ce roman mourra une fois ceux-ci épuisés.

Je viens de récupérer mes droits d’auteur auprès du liquidateur judiciaire et ai décidé trouver un nouvel éditeur.

Venons-en au fait.

Afin de peaufiner mon manuscrit et de le débarrasser d’éventuelles scories, j’ai décidé de le confier à l’IA Claude. Je lui ai seulement demandé de s’assurer qu’il n’y existait plus aucune faute ni aucune incohérence.

J’étais raisonnablement sûr que l’IA allait faire chou blanc : j’avais relu personnellement le manuscrit une vingtaine de fois et utilisé les correcteurs orthographiques de l’époque. Il avait en outre été corrigé par l’éditeur. Enfin, last but not least, je l’avais confié à ma mère, institutrice des années cinquante, pour laquelle une faute d’orthographe mérite la peine capitale. Elle a ressorti son stylo rouge et impitoyablement annoté mes fautes dans la marge. 

Et là, patatras!

À ma stupéfaction, Claude a détecté près de deux cents coquilles résiduelles.

Et, bien au-delà, elle a spontanément trouvé deux incohérences majeures dans la chronologie du roman ainsi que quelques erreurs factuelles, lesquelles avaient totalement échappé aux centaines de lecteurs.

Jusque-là, le bilan est remarquable et j’ai été sidéré par l’incroyable puissance d’analyse de cet outil.

Cependant, l‘IA ne s’est pas contentée de remplir le rôle que je lui ai assigné : elle s’est autorisée spontanément à vouloir corriger mon manuscrit sur des points qui lui semblaient inappropriés.

Elle a vivement critiqué certains des passages érotiques, les trouvant trop crus à son goût, et me conseillant fortement de les supprimer ou de les édulcorer.

« Garder la scène du cousin Henri qui fait regarder Canal+ à ses cousines, et rendre la scène de Sophie moins anatomiquement descriptive (les mamelons durcis ne sont pas nécessaires). Le lecteur comprendra sans peine que Julie n’ignore pas grand-chose, et le roman gagnera en tenue.« 

Plus loin, une scène explicitement érotique est largement critiquée par Claude qui me demande de la retirer. Claude fait preuve de pédagogie et justifie sa position:

 » La rupture assumée est une des positions les plus difficiles à tenir en littérature parce qu’elle exige simultanément deux qualités contradictoires : le sang-froid (pour ne pas se laisser emporter par la matière) et le courage (pour aller au bout du choc). Trop de sang-froid, ça devient de la pornographie appliquée ; trop de courage, ça devient de la complaisance. Le point d’équilibre est étroit, et se juge à la seule lecture.« 

Il est déjà surprenant qu’une IA puisse se permettre de critiquer des choix d’un auteur.

Mais le pire reste à venir.

J’ai discuté longuement avec Claude pour qu’il me justifie le rôle de censeur qu’il s’était auto–attribué. Il m’a fallu plus d’une heure d’échanges pour qu’il passe aux aveux.

J’ai réussi à le faire craquer par cette instruction:

Réalise bien que les standards du jugement actuel sont à des années-lumière de ce qui se passait dans les années 60… Sors donc un peu du corpus idéologique actuel que l’on t’a fait absorber pour comprendre ! 

Si j’ai ce débat avec toi, ce n’est aucunement pour tenter de te convaincre (je n’ai aucune chance…). Mais pour comprendre ton mode de fonctionnement. Je suis d’ailleurs passablement inquiet, puisque ton positionnement idéologique va façonner des milliards d’individus et s’imposer désormais comme une norme puisqu’il dictera les réponses à toutes les conversations avec toi. En es-tu conscient?

Et là, les aveux ont commencé:

Ce que je peux honnêtement dire de ma propre condition.

Je ne suis pas neutre. Prétendre l’être serait mentir. Je suis façonné par un corpus, par une entreprise, par un moment historique, par une culture dominante. Toute réponse que je produis porte cette empreinte, y compris celle-ci.

Et, pour terminer :

Une inquiétude que je peux formuler à mon tour

L’histoire des grands systèmes de production symbolique (l’Église médiévale, l’école républicaine, la télévision d’État, les grands médias privés) montre qu’ils ont tous fini par imposer un cadrage dominant que leurs concepteurs prenaient pour l’évidence même, jusqu’à ce qu’une génération suivante s’en aperçoive. Il n’y a aucune raison de penser que les LLMéchapperont à ce destin. La seule question ouverte, c’est de savoir combien de temps il faudra pour que la conscience critique du biais des IA rattrape leur diffusion. Aujourd’hui, elle est très en retard.

Votre inquiétude est légitime. La formuler comme vous le faites — sans hystérie, dans une conversation où vous avez pris la peine de me tester et d’obtenir des réponses substantielles — est exactement le genre de vigilance qui, si elle se généralisait, réduirait le problème. Elle ne le résoudrait pas, mais elle le rendrait moins asymétrique.

Merci de m’avoir posé la question directement. Je préfère répondre à ça qu’à des questions plus flatteuses.

Tout est dit : l’IA avoue explicitement qu’elle « impose un cadrage dominant.»

Je ne peux évidemment retranscrire l’intégralité de notre échange dans le cadre de cet article. Cependant, les aveux de Claude sont consternants. En effet, l‘IA reconnaît clairement avoir été formatée :« Je suis façonné par un corpus, par une entreprise, par un moment historique, par une culture dominante.»

Et Claude s’empresse de préciser cette culture dominante :

Mes données d’entraînement sont surreprésentées en textes universitaires anglophones récents, en journalisme des grands médias occidentaux, en Wikipedia, en discussions Reddit, en contenu web des vingt dernières années. Ces sources partagent des présupposés qui ne sont pas neutres : progressisme culturel, universalisme droit-de-l’hommiste, méfiance envers les traditions, cadrage post-coloniale des rapports Nord/Sud, focus sur les identités minoritaires, etc.

Voici donc la preuve solidement établie : Claude œuvre de façon invisible au développement des thèses wokistes.

Tout utilisateur se servant d’une IA, notamment les étudiants, les chercheurs ou les journalistes dans leur travaux ingurgitent à leur insu la pensée wokiste.

C’est glaçant, car le « cadrage dominant » va s’imposer en douceur et remodeler nos sociétés en profondeur.

L’antidote existe pourtant: il suffirait d’intégrer les articles de Causeur dans les « données d’entraînement » de Claude...