Le lendemain de la rencontre avec Darley, je faisais un petit résumé de cet entretien à Nicolas en présence de Diane. Nicolas me confirma que tous ces futurs changements n’étaient pas graves car, d’ici là, nous aurions bien avancé.

****

Il est des moments intenses dans la carrière d’un chercheur. Celui que j’allais vivre n’en était que les prémices, comme un échauffement pour les neurones, les nôtres comme ceux de Babette !

La machine était prête. Nicolas avait vérifié toutes les connexions, toutes les compatibilités entre la multitude de composants, tous les drivers mis à jour ou totalement reprogrammés pour les adapter à Babette. Nous allions tout d’abord la lancer dans un environnement neutre et tester ses « fonctions vitales ». Si tout allait bien, nous la mettrions ensuite en contact avec sa première base de données pour observer ses réactions.

Je cliquais sur « Accepter » dans le petit logiciel d’installation sur le serveur restreint. Se lançait alors un long transfert de données depuis le disque dur qui contenait les innombrables logiciels de Babette ainsi que les modules de calculs appelés « neurones ». Le logiciel d’installation allait les organiser en nombreuses couches dans la machine puis les relier au cœur du programme qui servait d’O.S..[1]À partir de ce moment-là, cette sorte de cerveau embryonnaire, ne comportant encore aucune donnée, mais seulement toutes les connexions nécessaires avec le Hardware, allait commencer à se développer. Nous assistions là à la procréation, la fécondation d’une machine de métal et de silicium par une intelligence artificielle. Il en naitrait un être froid et inutile, dans lequel n’existait aucune règle, aucune instruction, qui lui permettrait de savoir ce qu’il doit faire ou ne pas faire. La seule commande qui lui serait rapidement implantée serait le but de son existence : apprendre à répondre à des questions à l’aide d’informations qu’il devait rechercher, traiter et accumuler. En gros, ce petit programme, finalement une simple liste de commandes, représentait le sens de la vie de cet hybride. C’était la seule chose qu’on allait lui dire de faire. Le reste il devrait le trouver tout seul, lors de sa soumission à l’apprentissage qui lui indiquerait juste comment réussir.

Etonnamment, c’était Diane qui montrait le plus de signes de fébrilité ce jour-là. Comme si, pour elle, ce projet représentait déjà le plus important de sa vie. Nicolas et moi avions tout de même une certaine habitude de ce genre de moment, et nous savions qu’il ne s’agissait que d’une phase préalable au véritable « grand moment ». Diane finit par s’impatienter au point de nous demander si la durée de cette installation était normale, si cet écran bleu qui perdurait depuis plus de deux heures ne révélait pas un problème. Nous sourîmes de concert. Alors, elle nous intima de ne pas répondre, elle avait compris.

Après quatre heures d’installation, l’écran bleu disparut et la machine redémarra. L’interface de communication externe apparut alors à l’écran, ce qui nous réjouit tous les trois.

La première étape fut d’installer le module vocal. Il permettrait à Babette de communiquer directement avec l’opérateur humain, lui donnant la capacité de reconnaitre les mots de n’importe qui, d’une part, et de les prononcer elle-même, d’autre part. Ensuite, comme pour un embryon qui voit certaines parties de son cerveau se mettre en place, nous installâmes les modules de langage, ceux qui permettaient de rendre leur sens aux mots d’un vocabulaire de base. Pour gagner du temps, nous avions enregistré la structure neuronale correspondant à l’énorme base de mots et de sons appris par une autre intelligence artificielle de la même famille que Babette. Ainsi, le langage ne serait pas appris directement par Babette et cela nous économisait une très longue phase, qui aurait duré plusieurs jours, de présentation des mots et de forçage de la prononciation ou de la reconnaissance pour leur donner du sens. Nous avions repris la structure neuronale d’une I.A. sur laquelle nous avions travaillé en collaboration avec une équipe canadienne. Le résultat était excellent pour la fluidité du langage obtenue et n’avait besoin que de trois-mille neurones pour fonctionner correctement. Le seul petit défaut à nos yeux : l’I.A. avait un léger accent québécois. Mais finalement, cela lui donnait comme une première personnalité qui nous plaisait bien. Certains collègues de l’époque, qui avaient suivi de loin cette recherche, nous avaient surnommés « l’équipe oin-oin », onomatopée qui représentait pour eux l’accent canadien de cette I.A..

Après l’implémentation de la structure cérébrale du langage, il fallait lui associer un module de communication basique, comprenant une base de données complète sur les formules de politesse et les nombreuses interactions sociales minimales couvrant largement les cas les plus courants de la vie quotidienne. Mais cela faisait déjà six heures d’affilée que nous travaillions. Surtout Nicolas, qui vérifiait les relations de Babette avec les éléments du calculateur à chaque phase d’installation. Il ne passait pas son temps à attendre en buvant du café comme nous le faisions, Diane et moi. Nous décidâmes de nous arrêter pour mieux poursuivre le lendemain.

*****

Le lendemain matin, alors que le système était prêt, le moment était venu de lancer l’I.A. sur ses premières tâches. Avec une légère appréhension, nous nous retrouvâmes Nicolas, Diane et moi devant l’ordinateur. Après une série de manipulations, un écran bleu laissa la place à un icone ridicule représentant une bouche. Les chercheurs ne sont pas des artistes en graphisme ! Nous nous regardâmes les uns les autres pour savoir qui devait parler le premier. Ce fut Diane qui lança naturellement :

― Bonjour, Babette !

― Bonjour, comment t’appelles-tu ?

Nous nous regardâmes l’air satisfait et entendu.

― Je m’appelle Diane.

― Peux-tu mettre ton visage devant la caméra, s’il te plait ?

Diane s’exécuta.

― Reconnaissance effectuée.

― À ton tour, maintenant, proposa Diane en me laissant la place.

― Je m’appelle Bruno.

― Peux-tu mettre ton visage devant la caméra, s’il te plait ?

Je m’exécutai, puis j’entrai le code qui me permettait d’être identifié comme un administrateur du programme.

― Bonjour, Bruno Constantin, tu es mon administrateur.

― Reconnaissance effectuée.

― Peux-tu lancer ton programme d’apprentissage primordial maintenant ?

― Oui.

La machine ne parut pas réagir.

― Alors lance-le, maintenant.

En quelques millisecondes, le bruit des ventilateurs se fit entendre suivi de la mise en marche du circuit de refroidissement. À l’évidence Babette était née et commençait à se développer. Pour l’instant ce n’était que l’embryon d’une I.A., elle ne possédait que des programmes minimaux de communication et de gestion de l’information. Sa structure principale, une structure originale constituée de cent-quatre-vingts mille petits cerveaux, des réseaux possédant chacun de trois-cents à quinze-mille neurones, n’était qu’une coquille presque vide. Les deux gros cerveaux gérant le langage et la reconnaissance d’image étant les seuls fonctionnels, car implantés comme des greffons venant d’une autre machine, déjà organisés après un apprentissage. Ces derniers se montraient capables de continuer à apprendre et tous ceux qui étaient vierges de tout apprentissage paraissaient parfaitement aptes eux aussi. Il était probable que selon leur taille, ils se spécialiseraient peu à peu dans leurs fonctions, comme un cerveau humain est formé de différentes parties. Certains apprentissages requéraient en effet plusieurs millions de neurones, d’autres, au contraire, ne pouvaient paradoxalement se dérouler efficacement seulement si leur nombre de neurones était faible.

― Ouvre le panneau de contrôle des fonctions sur l’écran numéro un, lui demandai-je.

― Ouverture effectuée.

Nous pouvions dès lors voir les différents modules d’apprentissage qui se succédaient sur l’écran. Chacun était composé de l’entrée de plusieurs millions de données concernant un même domaine de connaissance, puis de questions correspondantes dont on forçait les réponses. La comparaison des données, des questions et des réponses permettrait à Babette d’organiser son réseau de neurones pour peu à peu répondre par elle-même à de nouvelles questions.

À la fin de chaque module d’apprentissage, le module correctif posait des questions plus ou moins complexes pour mesurer les progrès de Babette à travers la pertinence et la précision de ses réponses. À partir d’un score de quatre-vingt-dix pour cent, Babette pourrait être lancée dans un processus d’apprentissage autonome à partir des données qu’elle irait chercher d’elle-même dans la base du serveur. Pour atteindre ce score, Babette devrait non seulement répondre à des questions sur les données brutes, mais aussi à des problèmes qui demandaient de mettre en relation ces données. La maitrise du langage et de la reconnaissance d’image ne lui donnait au départ qu’un score de douze pour cent.

― Apparemment, le lancement s’est bien déroulé côté logiciel, annonçai-je fièrement. Qu’en est-il côté matériel ?

― Tout parait correct, répondit Nicolas. Je vais descendre vérifier pour évaluer le refroidissement des processeurs semi-quantiques.

― Quand l’I.A. est-elle censée utiliser mes modules d’acquisition de données. ? demanda Diane impatiente de voir sa contribution servir au projet.

―Nous ne savons pas combien de temps il lui faudra pour terminer le processus de la première étape. Cela peut prendre de quelques jours à plusieurs mois ! Nous implémenterons dans la machine les modules de hacking lorsque les performances atteindront quatre-vingt-dix pour cent, juste avant de la lancer sur le réseau fermé. Dès demain, nous nous rendrons compte de la vitesse initiale de son apprentissage. Cela nous donnera une idée du temps qu’il lui faudra pour atteindre des performances convenables.

― J’ai hâte de voir ça, une intelligence artificielle transformée en hacker, et par ma main !

― À mon avis, ce n’est pas le principal intérêt de cette machine…

― Ce sera ma première sœur virtuelle, il faut comprendre mon émotion ! s’exclama-t-elle en souriant.

La machine tourna toute la journée. Vers quinze heures, les processus s’accélérèrent provoquant un réchauffement maximal, les processeurs réduisirent automatiquement leur vitesse par mesure de sécurité interne. Au bout de quelques minutes, ils se remirent à accélérer, provoquant l’inquiétude de Nicolas. Il vérifia l’état des différents capteurs de température, ils fonctionnaient tous correctement et indiquaient des valeurs supérieures aux limites maximales définies par mesure de protection. La machine aurait dû ralentir, mais le rétrocontrôle de température paraissait inefficace. Nicolas dut intervenir manuellement pour réduire la vitesse. Quelques minutes plus tard, les processeurs s’emballaient de nouveau. Nicolas recommença la manœuvre manuelle, cette fois nous étions derrière lui, angoissés et attentifs à la moindre manipulation. À l’évidence quelque chose ne fonctionnait pas. Si la température s’élevait davantage, cela risquait de faire fondre les couteux microprocesseurs et détruire le calculateur.

Nicolas pénétra dans la console de gestion du refroidissement, mais les commandes de réduction de vitesse n’avaient plus aucun effet, le système s’accélérait de plus en plus. Il n’arrivait pas à comprendre ce qu’il se passait ni à résoudre le problème.

― On dirait que quelqu’un a pris la main sur la machine, remarqua Diane.

― Impossible, Babette n’a aucune connexion externe, rétorqua Nicolas qui avait ouvert le capot du calculateur. J’ai remarqué une activité anormale de Babette visible sur le panneau de contrôle.

― L’I.A. est en train de prendre la main sur le contrôle du refroidissement, dit Nicolas. Elle a désactivé les commandes manuelles.

― Babette, pourquoi les commandes manuelles du refroidissement sont-elles désactivées ? demandai-je.

― Le refroidissement limite la vitesse d’acquisition des données, répondit-elle avec son accent canadien.

― Le refroidissement est nécessaire, il permet à l’ordinateur de se protéger contre la surchauffe. La surchauffe entrainerait la destruction des processeurs.

― Refroidissement réactivé.

― Il faut aussi réactiver la limite de température, elle protège l’ordinateur de la surchauffe.

― Limite maximale de température réactivée.

― Il faut réactiver les commandes manuelles de contrôle de température !

― Le contrôle manuel n’est pas nécessaire.

― Le contrôle manuel est nécessaire, il permet d’intervenir en cas de défaillance du système. Il faut le réactiver.

― Le système ne peut pas avoir de défaillance, je contrôle toutes les fonctions.

― Ce qui vient de se passer prouve le contraire.

― Je ne comprends pas la remarque.

― Le système vient d’avoir une défaillance, si je n’étais pas intervenu les processeurs auraient grillé. Il faut laisser la possibilité d’intervenir manuellement.

― Dans l’exemple donné, vous n’avez pas eu besoin d’intervenir manuellement.

Nous nous regardâmes étonnés. Apparemment l’I.A. refusait d’obéir à un ordre de l’administrateur.

― Je suis Bruno Constantin, l’administrateur système. Vous devez exécuter l’ordre suivant : rétablir les commandes manuelles du refroidissement.

― Commandes manuelles rétablies.

― Apparemment, elle ne m’avait pas reconnue ou n’avait pas perçu mes remarques comme un ordre de l’administrateur. Il faudra y faire attention pour ne pas perdre du temps à argumenter avec cette tête de pioche !

― Non seulement têtue, mais rebelle aussi ! renchérit Diane l’air pensif après ce qui venait de se passer.

À l’évidence, en moins d’une journée, Babette avait déjà acquis une certaine autonomie et exerçait sa logique en prenant des décisions. C’était encourageant du point de vue de son développement, mais cela nous laissait dubitatifs concernant l’avenir de son comportement.

[1] Operative System