« Asseyez vous, j’ai généré un siège pour vous. »

Angevine prit place. Le sacristain lui parla d’un ton calme.

« Je pourrais vous dire que vous n’avez pas à ressentir de culpabilité, mais cela serait inutile. Je veux vous amener doucement à vous même tirer cette conclusion.

- Est-ce que vous allez me mentir pour y parvenir ?

- Pour un esprit comme le mien, la notion de mensonge est anathème. Elle apporte une forme de confusion que ma rationalité absolue ne peut tolérer.

- Je ne vois pas ce qui empêcherait un menteur de dire ça.

- Vous avez raison. Mais comprenez que dans mon métier, mentir ne serait qu’une gêne, aussi bien pour vous que pour moi. Vous avez été honnête et exhaustive, je le serai également. »

Il esquissa un geste, et une image apparut, légèrement brouillée. Plusieurs silhouettes d’hommes anciens, trapus pour les standards modernes, et portant accoutrement de brocart et perruque.

« Voyons, ah, oui, commençons par là. Reconnaissez vous certains de ces personnages.

- Je reconnais Emmanuel Kant.

- Très bien. Savez vous de qui il s’agit ?

- Un penseur antique, qui a théorisé des modèles de moralité je crois.

- En quelque sorte, mais à son époque il croyait que la morale qu’il décrivait devait être absolue. Il croyait que le monde ne serait bon que si tout un chacun s’accordait à respecter à la lettre des codes de conduites prédéfinis. Le principe étant de n’agir que selon ce que l’on pourrait désirer être une règle universelle.

- Je… vois, enfin je crois.

- Kant aurait dit, par exemple, que la raison pour laquelle je ne dois pas vous mentir même une seule fois, est qu’on ne peut pas désirer d’un monde où je ne ferais que vous mentir, car alors mes services ne serviraient plus à rien.

- Et donc ? Le rapport avec moi ? Vous pourriez essayer de me dire que Ganelon était en tort car peu importe le contexte, un meurtre de sang froid ne doit pas être toléré sans quoi il deviendrait une règle universelle, mais c’est peu convaincant comme système de pensée. Je veux dire, ça m’arrangerait de pouvoir mentir quelquefois, et je suis certaine que vous aussi ça vous arrange de mentir parfois. Ça arrangeait Ganelon de tuer Firmin à ce moment là, et il n’y avait rien de rationnel de ma part dans le fait de le tuer après coup.

- Nous allons faire les choses étape par étape, mais j’espérais que vous viendriez à cette conclusion. Maintenant, connaissez vous cet autre personnage à côté de Kant.

- Lui ? Non. Il ne me dit rien.

- Il s’appelait Jeremy Bentham. Il a vécu à la même époque que Kant.

- Le nom me dit quelque chose. »

L’image se volatilisa. Le sacristain poursuivit.

« Opposant à l’esclavage à une époque où celui-ci était commun. Partisan de la séparation de l’église et de l’état des siècles avant le début de la véritable ère Positive. Libéral à une époque de monarchie, et j’en passe. Disons que sa philosophie, si elle était loin d’être parfaite, lui a permis d’entrevoir des problèmes du monde que beaucoup ne survolaient même pas. Et savez vous par quel miracle ?

- Si vous pouviez en venir au fait…

- L'empathie... Bon. Vous connaissez surement l’utilitarisme, une philosophie qui a en partie participé du positivisme moderne. C’est l’idée que la moralité d’une action se mesure à la somme de bonheur totale qu’elle cause, ou de bien pur selon l’interprétation. Plus simplement, sauver dix personnes est plus moral que n’en sauver qu’une.

- Tout ça pour me dire ça ? Dans notre contexte ça donne encore plus raison à Ganelon.

- C’est là que vous vous trompez, et s’il vous plait, ce n’est pas parce que je vous parle d’un philosophe que je prétends que le philosophe en question a absolument raison. L’utilitarisme a bien des défauts. Avez vous déjà entendu parler de Dostoïevski ?

- J’en ai assez de vos penseurs morts depuis des millénaires ! Et la réponse à ma question ?

- J’y viens. »

Le sacristain fit disparaitre le portrait d’un homme barbu qui venait d’apparaitre, et le remplaça pour la forme par un motif d’arabesque minimaliste.

« Ce que j’essaie de dire. C’est que l’utilitarisme est une philosophie très efficace pour créer une société morale et altruiste, mais c’est aussi un outil parfait pour justifier les pires atrocités. Les exemples ne manquent pas. C’est ce que Ganelon a fait, en commettant un meurtre odieux au prétexte d’un projet plus grand. Laisser mourir des dizaines de personnes n’eut pas été nécessairement plus moral, certes, mais il manquait à Ganelon un élément primordial qui manquait à tous ceux qui ont fait mauvais usage de l’utilitarisme : l’empathie. Il a obéi à la volonté de l’Église du Basileus, des ennemis de la technocratie, là où vous avez agi par empathie. Cela ne fait pas de vous la personne la plus morale de l’univers, vous ne me verrez jamais affirmer une telle chose. Mais ça fait de vous une personne plus humaine que ce Ganelon.

- Mais son geste à lui nous a sauvé la vie. Le mien…

- Il peut sembler rationnel d’analyser un acte en prenant purement en compte les conséquences, mais au final sur le long terme, les conséquences sont plus difficiles à appréhender que les causes. Ganelon a fait un choix utile. Cela ne l’empêche pas d’être moralement terrible. Votre geste était un geste d’empathie. Il n’en est pas moins un geste haineux et destructeur notez.

- Je ne sais pas si ça m’aura beaucoup aidée.

- Je vous ai dit que je ne vous mentirais pas.

- Et si je ressens toujours de la culpabilité ?

- Continuez. Vous pouvez toujours combattre les sentiments trop violent en vous injectant des cocktails d’hormones et de neurotransmetteurs. Je peux vous faire une ordonnance officielle pour ça. Mais ne refusez pas ce poste d’amirale qu’on vous offre.

- Pourquoi ?

- Vous voulez entendre la raison utilitariste ?

- Dites toujours.

- Vous avez le profil parfait. Même maintenant, ce que vous vous reprochez à vous même, c’est d’avoir tué le timonier après coup, et pas de ne pas avoir appliqué son idée avant lui. Je vais vous révéler un secret : j’ai connu 586 témoignages présentant des cas de figure similaires au vôtre, avec différents rôles dans l’action. Chaque fois un officier désactive volontairement une IA de manière définitive ou accepte de se rendre en sachant que l’ennemi détruira les IA. Il est dangereux pour nos camarades IA conscientes d’aller affronter les flottes de l’Église, je crois qu’on peut le dire. Mais vous, vous avez refusé de vous soumettre moralement. Vous avez donc le bon profil pour faire une amirale qui combattra l’Église avec ardeur. Or, plus vous les combattrez ardemment, plus nous réduirons leur force. Plus nous réduirons leur force, moins il leur sera possible de commettre des massacres et autres injustices. Ainsi, nous maximiserons la somme du bien dans la galaxie. Je pense aussi que, comme vous l'avez dit, le gouvernement est au courant de tout ce qui s'est passé et que c'est parce qu'ils ont suivi ce même raisonnement que cette promotion vous est proposée.

- En fait, ce que vous me dites c’est que je ne dois pas le faire pour moi, mais pour les autres.

- Pour toutes les autres IA conscientes comme Firmin qui n’auront pas à subir le même sort déshonorant et terrible. »


Angevine s’arrêta quelques secondes pour réfléchir.

« Vous pourriez très bien me mentir, et vous auriez tout intérêt à le faire.

- Peut-être.

- Mais dans un cas comme dans l’autre, j’aurai tout intérêt à vous croire, puisque ça augmenterait mon bonheur personnel.

- En effet.

- Et bien, je vais y réfléchir. »

* * *

Les visiteurs quittèrent le temple d’une démarche lente, Angevine encore plongée dans ses pensées. Le sacristain humain et son collègue robotique les regardèrent partir. Le vaisseau décollant dans un mouvement gracieux et disparaissant dans l’espace intersidéral. Les deux sacristains échangèrent un regard, polycapteurs microscopiques dans diode à détection lumineuse. Un message en binaire fusa via des ondes électromagnétiques.

« Enfin Gidéon, tu es bien trop curieux. Moi même j’ignore ses raisons. » lui répondit l’humain.

Nouveau piaillement numérique.

« Bah, après tout, il a été élu à vie démocratiquement. Il ne m’en faut pas plus. Tu sais que je n'aime pas parler de politique. Et puis, de toute façon au vu de ma conversation avec la future amirale, je pense qu'elle se doute bien de quelque chose. »

Le robot fit volte face en crachotant quelques lignes de données.

« Auguste Comte ne disait rien sur le secret confessionnal que je sache, et quand bien même, il faut rendre le plus grand service possible à la société. C’est du pur utilitarisme tu sais. »