Observatoire d’éthique universitaire
Menu

Hallucinations

Hallucinations

Jacques Robert

Professeur émérite de cancérologie, université de Bordeaux
Je suis depuis longtemps (je ne serai pas plus précis sur cet adverbe) un grand lecteur de Racine… J’ai découvert Racine ... et les affres des fausses références en IA

Table des matières

Hallucinations

Je suis depuis longtemps (je ne serai pas plus précis sur cet adverbe) un grand lecteur de Racine… J’ai découvert Les Plaideurs en classe de cinquième et notre prof de français nous l’a même fait jouer. Je tenais le rôle de Petit-Jean, venu d’Amiens pour être suisse… Et je me suis plongé ensuite dans les tragédies dont je connais encore quelques tirades. À un ami lettré qui me suggérait récemment de faire… j’ai oublié quoi !, j’ai répondu tout naturellement : « Quand vous commanderez, vous serez obéi ! » Par quel hasard, quelle intuition démoniaque, j’ai copié ce vers dans l’espace ad hoc qu’offre Google à tous les ignorants. Et là, j’ai sursauté. Voici ce que m’a répondu Google, capture d’écran garantie :

Je confesse, à ma grande honte, que j’ai douté de ma mémoire. La réponse est si précise (Acte II, scène 3) ! J’ai ouvert Racine, j’ai relu Britannicus (ce n’est pas sa meilleure tragédie) et, non, je n’ai pas trouvé, ni dans la scène 3 du deuxième acte, ni ailleurs dans la pièce, cette respectueuse réponse de Junie… D’ailleurs, si vraiment Néron lui avait dit cela, Racine aurait écrit « obéie », avec un e ; la rime en fût devenue féminine et n’aurait pu s’apparier avec le « trahi » du vers précédent dont ma mémoire était certaine. Non, l’intelligence artificielle qu’utilise maintenant Google pour répondre à chaque requête a eu une hallucination… J’ai adoré, tout à la fin, la précaution de l’IA : « Vérifiez les réponses de l’IA, car elle peut faire des erreurs ».

J’ai souhaité creuser le problème, et j’ai resollicité Google. La seconde réponse (je vous fait grâce de la capture d’écran, que je tiens à la disposition de mes lecteurs incrédules) attribue la citation à Corneille, dans Le Cid :

Cette phrase est une célèbre réplique extraite de la pièce de théâtre Le Cid de Pierre Corneille, jouée pour la première fois en 1637.Elle est prononcée par le personnage de Don Rodrigue (Le Cid) s’adressant à Chimène (Acte V, Scène 1). Dans ce passage, Rodrigue exprime sa soumission totale aux souhaits et aux ordres de celle qu’il aime, acceptant même de courir à la mort si elle l’exige.

De Racine à Corneille, il n’y a qu’un pas, vite franchi, me direz-vous… Allons plus loin ; même question, nouvelle réponse : 

Cette célèbre citation est extraite de l’œuvre Le Petit Prince d’Antoine de Saint-Exupéry, publiée en 1943.

C’est le Roi, premier personnage que le Petit Prince rencontre au cours de son voyage sur le premier astéroïde (l’astéroïde 325), qui prononce cette phrase. Elle illustre sa vision d’une autorité absolue mais paradoxalement raisonnable.

Après quelques jours, j’ai repris mes recherches. Retour à Racine :

Cette célèbre citation est tirée d’Athalie, une tragédie religieuse de Jean Racine représentée pour la première fois en 1691. Plus précisément, elle est prononcée à l’Acte II, Scène 5 par le personnage de Mathan, un prêtre apostat de Baal, alors qu’il s’adresse à la reine Athalie.
Contexte de la réplique
Dans cette scène, Mathan flatte la reine Athalie pour gagner ses faveurs et l’influencer. La réplique exacte et complète est : « Votre oreille est toujours ouverte à la vérité / Et vous ne forcez point la juste liberté. / Quand vous commanderez, vous serez obéi. »

Sa mère Jézabel a bien dû se retourner dans sa tombe ! L’hallucination est complète… Ces vers n’existent pas, tout simplement… Le premier est même bancal ! Ce qui est amusant, c’est que lorsque j’ai proposé à Google les délicieux pastiches de Racine qu’ont produits Reboux et Muller (« Serait-ce l’Empereur ?  — C’est lui tout juste ! — Auguste ! » ou encore « Et vingt fois dans la plaie ce fer a repassé »), l’IA ne s’est pas trompée une seule fois. Ses hallucinations sont sélectives…

Je suis revenu sous Google vers cette pauvre et obéissante Iphigénie, et j’ai représenté la requête plusieurs fois ; je suis alors tombé sur Victor Hugo (Ruy Blas), mais la plupart du temps, c’est Le Petit Prince qui ressort. Je n’ai pas vérifié si Saint-Exupéry ne s’était pas amusé, dans un clin d’œil, à introduire cette citation mais le bon sens et mon épouse me disent que c’est impossible.


En troisième, ma vénérée professeur de français-latin nous donnait des sujets de réflexion et de travail sous forme d’une citation, souvent un vers, dont nous ne connaissions pas l’origine mais que nous avions à expliquer sans référence à son auteur. Google n’existait pas pour nous permettre d’identifier l’origine de la citation mais quelques petits malins savaient la retrouver quand même[1]. Je ne serais pas surpris que cette prof’ ait eu cette citation en réserve – mais je ne me souviens pas que nous ayons eu à la commenter précisément. C’est l’année suivante (elle avait de la suite dans les idées) qu’elle nous plongeait dans l’œuvre d’où la citation était tirée ; nous mesurions alors les contresens que nous avions faits ! Mais nous avions grandi… Il fallait en ce temps-là que nous étudiassions[2] à fond trois grandes œuvres du répertoire sacré, une par trimestre : un roman, une pièce de théâtre, une poésie… J’ai été effaré de voir ce qu’était devenu l’enseignement du français quand mes enfants sont entrés en seconde, et je ne chercherai pas à savoir ce qu’il en sera pour mes petits-enfants, dont l’aînée vient justement d’entrer en seconde. En tout cas, mon souhait le plus vif est qu’elle ne se fasse pas aider par une IA pour ses dissertations…

Ce qui est épouvantable, c’est que les IA peuvent vous sortir ainsi les pires âneries dans d’autres domaines que la littérature… Évidemment, c’est aux sciences et à la médecine que je pense. Confier quelque tâche que ce soit à une intelligence artificielle fait courir un danger, un danger mortel éventuellement. Ce sont maintenant des IA qui interprètent les examens de radiologie et d’histologie. Que croyez-vous qu’il arrivera bientôt ? Une tumeur maligne sera cataloguée bénigne pour faire plaisir à l’ana-path ?

Pendant que je rédigeais cette petite confidence, un coup d’œil sur le sommaire du jour de Retraction Watch[3] nous informait qu’un article du Journal of Higher and Further Education était farci de fake références[4] : la higher education est bien moquée… Les auteurs en sont trois rédacteurs en chef de la revue : un comble ! Leur tribune porte sur les attaques visant la liberté académique et la recherche en matière de justice sociale, avec des phrases fièrement ciselées sur les missions de l’enseignement supérieur : « There is an imperative for higher education to act as a global public good ». Bien sûr, toutes les attaques de la liberté académique y sont attribuées à l’administration Trump et aux lois anti-DEI. Je suis bien d’accord que, depuis deux ans, ces attaques massives ont déstabilisé l’université américaine. Mais comme j’aurais apprécié qu’un tel  article ait été publié avant le retour de Trump aux affaires ! il y avait tant à dire sur la liberté académique au temps de la cancel culture… Le plus grave, qu’on soit d’accord ou pas avec les auteurs, c’est que, manifestement, ils ont rédigé l’article en partant des conclusions, puis demandé à leur IA préférée de justifier ces conclusions. Et, pour leur faire plaisir, l’IA a inventé quelques références à l’appui de leurs dires… À moins qu’il n’ait été entièrement rédigé par l’IA ? Espérons que l’article sera rapidement rétracté et que les auteurs-rédacteurs en chef feront publiquement amende honorable, avec un bonnet d’âne pour la photo. 

J’appelle de mes vœux le Jihad butlérien[5], ce moment historique de la série de science-fiction de Franck Herbert, Dune. Il consista en la destruction des machines pensantes, de 201 à 108 avant l’ère de la Guilde, qui en est à sa 10 000e  année : « Les machines avaient abouti à l’asservissement de l’humanité et usurpé notre sens du beau, notre indispensable individualité qui est à la base de nos jugements vivants » dit le duc Leto dans le troisième volume. Ce sont les humains qui ont gagné cette guerre… Et si nous apprenions à penser par nous-mêmes avant d’être asservis par les machines pensantes ? C’est Racine qu’on assassine…

Auteur

Jacques Robert

Professeur émérite de cancérologie, université de Bordeaux

Toutes ses publications

Droit de réponse et contributions
Vous souhaitez réagir ? Soumettez une proposition de tribune

Vous pourriez aimer aussi :

Marc Bloch et l’antisémitisme: une instrumentalisation contemporaine

Qu’un grand historien médiéviste, résistant et victime des nazis non moins que de certains français, fusillé en 1945, soit ainsi honoré, on ne peut que s’en réjouir. Plus contestables apparaissent en revanche un certain nombre de récupérations et de captations qui ne sont pas seulement le fait d’hommes ou de femmes politiques, mais qui proviennent aussi de la corporation des historiens. Il n’y a là rien de très nouveau.

Que peut nous apprendre Polybe sur la crise politique actuelle ?

Polybe voyait l’histoire des régimes comme un cycle moral : la démocratie dégénère en ochlocratie quand la vertu disparaît. Aujourd’hui, la perte de formation des élites et la dérive des universités rappellent cette mécanique : sans éducation, la liberté s’effondre et la foule gouverne à la place de la raison.
Ce qu'il vous reste à lire
0 %

Peut-être devriez-vous vous abonner ?

Sinon, ce n’est pas grave ! Vous pouvez fermer cette fenêtre et continuer votre lecture.

    S'enregistrer: