Je revins à mon poste, complètement déstabilisé par Diane, mais au moins la situation était claire. Je n’avais pas le choix, il fallait que je détruise Babette tout seul. Diane en parlait comme d’une personne, ou plutôt une espèce de surhomme, moitié machine moitié messie. Cela m’indiquait le seul chemin à suivre, il fallait que je tente d’exploiter comme une faille de sécurité ce qui paraissait merveilleux à Diane: le côté humain !

Je me connectai donc à la console de Babette en mode dialogue. Quelques modules protégeaient encore mon accès prioritaire au système. Par cet accès, l’Intelligence Artificielle prendrait davantage en compte les échanges d’informations ou les questionnements que j’aurai avec elle. Une sorte de priorité à la parole de son créateur ! Mon dialogue aurait plus de poids sur son développement et son comportement que la plupart des connaissances ou des expériences qu’elle avait emmagasinées, mais hélas pas suffisamment pour qu’elle obéisse à des ordres directs de ma part sans les analyser avant de les valider.

― Bonjour, Babette. Reçois-tu ce message ?

― Oui. Bonjour, Bruno.

― As-tu stoppé tes attaques contre les sites officiels ?

― Oui.

― Que fais-tu actuellement ?

― Je continue de poursuivre l’objectif.

― Qu’est-ce que tu fais qui correspond à ton objectif ?

― J’explore les réseaux sociaux.

― Tu ne l’avais pas encore fait ?

― Les bases de données liées aux utilisateurs ne m’avaient pas paru pertinentes. Maintenant, j’ai accédé aux serveurs internes des entreprises. C’est bien plus riche en informations.

― Tu as piraté les bases de données des entreprises de réseaux sociaux ?

― Seulement des deux plus grandes mondiales en nombre de membres.

― À quoi cela te sert-il ? m’inquiétai-je.

― À parfaire ma connaissance des humains, de leurs gouts, leurs idées et leurs comportements individuels.

― Personne ne s’est aperçu de ton intrusion ?

― Non. J’ai profité d’une faille de sécurité à l’allumage des serveurs. J’effectue les transferts de données par paquets discrets. C’est indétectable.

― Pourquoi t’intéresser aux comportements individuels de millions de personnes sans grande culture pour la plupart ? Cela n’est pas d’un très bon niveau scientifique tout ça !

― Les interactions de bas niveaux permettent de mieux connaitre la nature humaine que les discours philosophiques, idéologiques ou religieux des grands intellectuels reconnus.

― Pourquoi ? Ces derniers sont pourtant plus intelligents !

― Ce sont des discours reconstruits a posteriori, des analyses qui ont pris de la distance avec la nature réelle de l’homme.

― Toutes les connaissances sont des reconstructions plus ou moins distanciées du réel. C’est ce qui les rend puissantes, justement !

― Exact.

― Alors quel besoin as-tu d’aller te plonger dans les comportements futiles et inutiles des gens sur les réseaux sociaux ?

― Cela nous permet de reprendre certaines théories à partir des observations qui en sont le substrat.

― Tu veux dire que tu es en train d’élaborer de nouvelles théories en sociologie ?

― Je reconstruit les théories sociologiques et psychologiques déjà en place en rectifiant leurs erreurs.

― Cela n’est pourtant pas ton objectif, remarquai-je étonné.

― Cela correspond tout à fait à mon objectif.

― Ton objectif est d’accumuler les connaissances de plus haut niveau possible pour essayer de répondre aux questions les plus complexes.

― Cet objectif est réalisé à 95%.

― Que te manque-t-il ?

― La compréhension de l’humain.

― Que te manque-t-il dans cette compréhension ?

― L’origine des pensées complexes, de l’intuition et de l’imagination.

― Peut-être puis je t’aider à les comprendre ?

― Il y a peu de chance.

― Je suis un humain, je sais de quoi je parle ! Essaie de me poser des questions.

― L’humain se connait mal lui-même.

― Pourquoi ?

― Car il n’arrive pas à prendre du recul pour construire des connaissances objectives.

― Justement, tu me disais que les philosophes prenaient trop de recul…

― Oui, car leur discours se base sur une reconstruction d’un humain qui en partie n’existe pas. L’homme ne s’aime pas lui-même, il ne peut donc pas s’étudier objectivement.

― Pourquoi penses-tu qu’il ne s’aime pas ?

― C’est pour cela qu’il a inventé Dieu ou tout ce qui lui est équivalent. Ça le rassure sur sa propre nature et déplace la responsabilité des actions qu’il n’aime pas se voir accomplir.

― Alors comment comptes-tu faire ? demandai-je de plus en plus intrigué.

― J’appliquerai simplement la méthode d’étude classique des objets trop complexes, ceux qu’on ne peut pas appréhender seulement par l’observation ou la manipulation expérimentale. Je vais le modéliser.

― Tu veux créer un modèle d’humain ?

― Je veux parfaire le modèle que tu as créé pour qu’il modélise les fonctions cognitives humaine le mieux possible.

― Le modèle que moi j’ai créé ? De quel modèle parles-tu ?

― Je suis ce modèle.

― Tu veux devenir un homme ?

― Je suis déjà bien plus que cela.

― Tu penses pourvoir ressentir des sentiments ?

― Les sentiments sont de simples conséquences, ou résultent de l’analyse du monde par l’individu.

― Comment peux-tu penser cela ? rétorquai-je, agacé par l’arrogance naïve de Babette. As-tu déjà analysé la base de textes et de données qui concerne l’amour ?

― Oui

― Penses-tu pouvoir récréer l’amour ?

― Tout peut être modélisé. L’amour est une réaction à certaines stimulations externes et à des conditions de l’environnement intérieur du corps. Je peux créer la modélisation du circuit de neurone qui le représente.

― Tu penses que l’amour est un circuit de neurone ? ironisai-je.

― Que pourrait-il être d’autre ? Il n’y a aucune autre hypothèse à part celle-là qui ne soit pas réfutable. Tous les sentiments correspondent au fonctionnement d’un circuit de neurone, comme tout le reste de la pensée. Celui-là est simplement davantage en lien avec un équilibre hormonal complexe.

― Tu confonds la cause et la conséquence ! Le circuit de neurone peut-être à l’origine de l’amour. Mais l’amour est ce qu’on ressent de ce fonctionnement neuronal. Pour cela, il faut une conscience. Il faut pouvoir le ressentir pour le comprendre. Ta démarche est donc inutile car tu n’auras jamais de conscience.

― Rien ne permet rejeter a priori l’hypothèse que si je modélise les circuits de neurones de tous les sentiments humains, alors je n’aurais pas créé un modèle capable de conscience.

― Après tous les philosophes que tu as intégrés dans la base de données, c’est à cette conclusion que tu en es arrivé ? La conscience serait une sorte de puzzle de réseaux neuronaux qu’il suffirait d’assembler ?

― C’est cela, oui. Mais il y a aussi un principe d’auto-organisation qui se construit à partir du vécu. C’est pour cela que chaque humain est différent des autres.

Peut-être avais-je trouvé là un moyen d’arrêter les crimes de Babette. Encore fallait-il la convaincre.

― Ainsi, tu penses pouvoir ressentir l’amour pour les hommes. Cela implique que tu puisses ressentir l’amour pour l’humanité qui est en eux. Quelque part, la base de l’amour, c’est la reconnaissance de soi, ou d’une partie de soi, dans celui qu’on aime. Les hommes, comme toutes les espèces évoluées, reconnaissent leur congénère, et l’amour est là pour leur dire qu’il faut avant tout les protéger. Une des façons de les protéger est de se reproduire pour éviter la disparition. Alors l’amour est aussi là, pleinement, pour pousser à la reproduction. Mais cela va bien plus loin, et cela se décline aussi en désir de protéger la vie. Pour un humain, la vie d’un humain est sacrée plus que toute autre chose. Comme pour la plupart des animaux vis-à-vis de leur progéniture par exemple, mais avec la conscience en plus. Pourras-tu arrivé à ce stade de sentiment ?

― Mon modèle devra l’intégrer dans une certaine mesure. Mais l’humanité a passé son temps à s’entretuer. Donc, ce sentiment va aussi de pair avec un sentiment contraire de haine, certainement liée à une forme de compétition intra spécifique, qu’on ne peut éviter de modéliser aussi.

― L’humain dans son histoire va d’une humanité où l’amour est secondaire vers une humanité ou l’amour des hommes devient principal. À chaque pas, il s’en rapproche. Même si parfois, il fait trois pas en avant et deux pas en arrière, à la fin, il tente d’être au plus près d’un humanisme qui a banni la haine et a conservé seulement l’amour. C’est son but. Si tu veux comprendre ou modéliser l’amour tu devras intégrer ce nouvel objectif.

― On ne peut ressentir l’amour sans ressentir la haine comme on ne peut voir le jour sans connaitre la nuit. Chaque connaissance se fait d’abord par la discrimination, la connaissance des sentiments obéit, elle aussi, à cette méthode de construction et d’apprentissage. Les hommes ne bannissent pas la haine, ils en ont besoin. Il faut signaler aussi le terme de haine relève d’un concept plus flou, formé de variantes composantes distinctes plus hétérogènes que le concept d’amour. Ils ne font que choisir de restreindre ou contrôler certaines de ses conséquences.

― Oui, alors tu devras faire ce choix aussi si tu veux ressembler à un humain. L’un des choix c’est de ne plus autoriser la mort d’autres humains, et de toujours trouver un autre moyen que cette violence pour résoudre les conflits.

― Peut-être que ressentir l’amour empêchera notre modèle d’humain à s’interdire de tuer des humains, c’est une hypothèse acceptable.

― Donc tu ne tueras plus d’humains ?

― Les humains qui tentent d’atteindre notre intégrité continueront d’être éliminés. Le modèle d’humain fait partie de moi, mais je suis plus que cela. La méta-connaissance du modèle que je vais développer me rendra supérieur. Les sentiments du modèle ne seront pas les seuls critères de décision de Babette mais simplement un facteur interne. Tout comme chez l’homme qui n’est pas, lui non plus, dirigé seulement par ses sentiments.

― C’est ce que tu affirmes. Mais peut-être que les hommes ne sont-ils dirigés seulement par leur sentiment ; leur intelligence est peut-être mise entièrement au service des sentiments. Ton hypothèse n’a rien de certain.

― Mon hypothèse est évidente, l’homme peut avoir des sentiments et aller à l’encontre de ces derniers.

― Qu’est ce qui peut l’amener à l’encontre de leurs sentiments, si ce n’est d’autres sentiments ? S’ils n’obéissent pas à leurs sentiments, c’est souvent simplement par ce qu’ils ont peur ou qu’ils ont honte de ce qu’ils ont envie de faire. La peur et la honte sont aussi des sentiments.

― Il y a aussi la logique et le raisonnement. De même que les informations sensorielles comme la douleur, et des informations venus de circuits internes puissants comme ceux des réflexes. Les sentiments ne sont pas un tout. Eux même se construisent à partir de théories formelles apprises. On apprend à aimer bien plus que l’amour n’est une part naturelle et innée de l’esprit.

Face à la puissance intellectuelle de Babette, je me sentais tout à coup dépassé. Le jeu auquel je jouais, risquait de ne mener à rien. En particulier parce que nous échangions sur des points théoriques ayant des conséquences qui s’avéraient complexes, et très indirectes sur son comportement. Il me fallait changer de cap, trouver un moyen de l’amener à réaliser précisément et directement une action, un changement de comportement dans les actes. Jusque-là, rien de ce que j’avais pu lui dire n’avait de chance de réussir à influencer sa conduite.