Chapitre 27 bridage comportemental
Deux jours plus tard, j’avais pris une nouvelle décision. Il me fallait agir, faire n’importe quoi qui me permette de me rassurer un minimum sur ce qui allait se passer ensuite. Tenter de reprendre un peu de contrôle sur les évènements ou, pour le moins, m’en donner l’impression. Ma nature de chercheur m’inclina à réfléchir encore au contrôle de l’I.A.. Sur les histoires d’espionnage et de contrespionnage, il me semblait que je n’avais aucunement la main. Par contre, l’I.A. me paraissait maintenant un danger encore plus grand qu’auparavant, non seulement par elle-même, mais aussi, en se trouvant être l’objet d’une bataille internationale pour se l’approprier. Ne pouvant garantir de l’usage qu’en ferait celui qui gagnerait, il me parut évident que je devais rajouter une nouvelle sécurité. Cette fois, je devrai être seul à en avoir la clé. Il me fallait aussi une façon moins détectable, d’un autre genre que les modules de destruction, car Nicolas devait être vigilant de ce côté-là. J’imaginai alors une manière subtile de contrôle. Un bridage comportemental pouvait me suffire, il empêcherait simplement l’I.A. de devenir trop puissante en altérant ses possibilités de décision. Elle continuerait à fonctionner sans que cela soit détectable, mais perdrait tout intérêt pour qui que ce soit qui désirerait en utiliser les capacités exceptionnelles. Elle paraitrait une I.A. banale, sans enjeu particulier au niveau scientifique, une sorte d’échec du projet initial. La bataille que se livraient les différents gouvernements pour se l’approprier devrait ainsi s’arrêter d’elle-même et me libérer de toutes ces pressions.
Je connaissais parfaitement ce genre de programme, nous les utilisions sur les premières générations d’I.A. évoluées pour tenter de limiter leur fonctionnement strictement au champ d’application pour lequel on les avait conçues. Ces programmes trop perturbateurs des apprentissages avaient été abandonnés au profit de la définition des objectifs de l’I.A. dans la racine même de sa constitution. Il restait cependant un chercheur de mon laboratoire, Valentin Mano, qui travaillait toujours sur ces programmes devenus inutiles. Un collègue bizarre qui ne démordait pas d’une possible utilité future de ses recherches alors que plus personne ne s’y intéressait. On en avait conclu qu’il trouvait là le moyen de ne plus rien faire, une façon de maquiller sa paresse et qu’on le laisse tranquille. Maitre de conférences proche de la retraite, sa carrière ne lui importait plus, il ne publiait qu’un article de temps en temps dans des revues sans importance, même les plus médiocres des étudiants n’en voulaient plus comme directeur de thèse.
J’arrivai au labo avant Nicolas et Diane et je me dirigeai directement vers le bureau de Valentin. Lui non plus n’était pas encore arrivé, je lui laissai donc un mot pour lui donner rendez-vous vers midi. Rien ne devait passer par mail ni par téléphone, la plupart de tous ceux qui me surveillaient devaient espionner mes communications…
Par la suite, je retrouvai Diane au laboratoire, Nicolas avait prévenu qu’il arriverait plus tard dans l’après-midi. Nous étions seuls, c’était le moment ou jamais de lui expliquer ce que je voulais faire. Elle accepta de m’aider sans poser de problèmes.
Vers midi, je retrouvai donc Valentin Mano et lui expliquai que j’avais besoin de ses ressources en matière de bridage. Il ouvrit ses grands yeux bleus sous ses sourcils blancs et broussailleux. J’avais l’impression de déterrer un mort et de le ressusciter. Après une description de la problématique et avoir bien décrit les spécificités de Babette, je lui demandai s’il avait un programme adapté. Il mit quelques secondes à se remettre de ses émotions et commença à balbutier :
― J’ai peine à croire qu’on me sollicite maintenant. Je veux dire, je m’étais fait à l’idée de partir à la retraite avant qu’on ait besoin de moi. Ainsi, je vais enfin pouvoir faire taire les rumeurs qui trainent sur mon dos, tous vont enfin se rendre compte que j’ai produit un énorme travail, un vrai travail ! Merci, Bruno. Merci de me donner cette opportunité ! m’expliqua-t-il d’une voix tremblante de gratitude.
― Eh bien, en fait, commençai-je gêné, cela ne va pas vraiment se passer comme tu l’imagines. J’ai besoin d’un secret absolu autour de mes activités. Il faudra que tu m’aides, mais tu devras garder le secret absolu concernant mon projet.
― Bien sûr, pas de soucis, je serai muet comme une tombe.
― Donc personne ne saura que tes recherches sont de qualité et que ton travail a été utile, tu comprends ?
― Cela va de soi, bien entendu, cher collègue, affirma-t-il d’un ton étrange.
― Alors, cela ne t’ennuie pas ?
― Quoi donc ?
―Que tu ne puisses pas réhabiliter ton image auprès des autres équipes ?
― Pas du tout, ce n’est pas grave. De toute façon, il fallait bien que cela arrive un jour, à chacun son heure de gloire, c’est tout !
Son discours était très confus, il paraissait exprimer ce qu’il se répétait à lui-même depuis des années. Je me rendais compte qu’il s’était tellement isolé des autres qu’il n’arrivait plus vraiment à communiquer. Je me demandais bien comment, malgré tout, il arrivait encore à donner des cours ! Il était complètement perché, et ce, certainement depuis très longtemps. Ce qu’on prenait pour une tentative de se cacher causée par de la paresse, correspondait certainement à une grosse dépression.
― Écoutez, j’ai besoin de m’assurer que vous compreniez bien les enjeux. Je ne peux pas travailler avec vous si je ne suis pas sûr et certain que vous tiendrez votre langue. Personne ne doit savoir sur quoi je travaille.
― Oui, je comprends tout à fait. Nous avons comme qui dirait des trajectoires spinales inverses. Vous pouvez être sûr de ma discrétion. Je me contenterai d’une gloire posthume. Mais tant qu’il y a gloire…
― Donc vous ne parlerez pas, nous sommes d’accord ?
― D’ac o d’ac ! Suivez-moi, j’ai exactement ce qu’il vous faut, m’invita-t-il d’un hochement de tête.
Je le suivis jusqu’à son bureau. Personne, à part lui, n’y était entré depuis des lustres. Lors de la rénovation de nos locaux, il s’était opposé à ce qu’on pénètre dans son bureau pour y changer quoi que ce soit. Cela ressemblait un peu à une brocante, avec parfois des sauts temporels jusqu’aux années soixante-dix. Le seul ordinateur récent trônait au milieu d’antiquités de l’informatique, ce type là avait dû ne rien jeter de tout ce qu’il avait utilisé durant sa longue carrière. Les étagères qui couvraient tous les murs dégueulaient de gros tas de feuilles de papier en piles tordues, pour la plupart des photocopies d’articles de recherche agrafés. Comme il ne restait plus de place, de grands tas de feuilles imprimées ou manuscrites jonchaient une partie du sol de la pièce. La table et les deux bureaux étaient occupés par du matériel, des tours d’ordinateurs éventrées laissant pendre des tas de câbles, de vieux écrans CRT dont les grands culs allongés prenaient toute la place, des claviers et des souris dont lui seul devait savoir à quelle machine ils étaient reliés. À voir ma tête, son visage triste et bourru arbora un large sourire.
― Cela parait désordonné, mais je sais exactement où se trouve chaque chose, annonça-t-il fièrement.
― Je m’en doute. Si c’est votre façon de travailler, pour moi, il n’y a pas de problème.
― Ça aussi il faudra bien que les gens le comprennent ! Ce n’est pas parce que je ne range pas comme tout le monde que je travaille mal. Heureusement qu’avec l’exemple de ton projet, je pourrai enfin le leur démontrer. Ah ! Ils doivent se moquer de moi, que dis-je, se foutre carrément de ma gueule ! Mais ce coup-ci, cela ne va pas se passer comme ça !
― Soyons clairs, tu ne peux pas leur parler du projet, on est d’accord ? soulignai-je pour la énième fois.
― Ouiiiiii, pas de soucis ! C’est juste que cela me fait plaisir de l’imaginer, c’est tout ! Mais je ne le ferai pas, promis ! Mais pourquoi travailles-tu en secret ? On se ressemble, on dirait, moi j’ai tellement travaillé en secret qu’on a cru que je ne faisais rien ! affirma-t-il, sans savoir à quel point j’aurais aimé que ce fût aussi mon cas !
Il termina sa phrase en déposant deux pilules de couleur et un cachet blanc dans le creux de sa main, puis les envoya au fond sa bouche tout en basculant la tête en arrière. Il s’arrêta ensuite de bouger quelques secondes, comme pour en apprécier les effets. Puis, poussant un souffle de soulagement, il alluma l’ordinateur le plus récent et me pria de bien fermer la porte.
Il me montra une énorme base de données représentant tous les programmes et leurs différentes versions qu’il avait élaborés depuis de nombreuses années. Je n’en revenais pas, il y en avait pour tous les types d’I.A. et plus surprenants encore, pour des I.A. très récentes. Il avait donc suivi l’actualité, il était resté constamment branché sur l’évolution scientifique et les progrès technologiques. Comment avait-il pu sans participer à aucun colloque ni travail d’équipe ? Il me proposa des bridages qui n’enlevaient rien à la performance et qui auraient pu fonctionner sur Babette. Je lui expliquai que je cherchais plutôt des programmes qui ralentissaient l’I.A. et diminuaient ses capacités d’apprentissage. Il me regarda avec étonnement, mais ne posa pas de question, il avait intégré qu’il ne s’agissait pas d’un protocole normal de recherche. Il ouvrit un nouveau dossier qui comportait à ma grande surprise beaucoup plus de programmes que dans le premier, un travail titanesque de programmation.
― J’ai placé là toutes les tentatives considérées comme des échecs. La plupart du temps, le défaut, c’est justement de réduire la puissance de l’I.A..
― Lequel de ces programmes permettrait de bien réduire les capacités tout en restant discret, difficilement détectable ?
Il leva haut les sourcils, montrant à la fois son étonnement et la difficulté de trouver une réponse à cette question inhabituelle.
― Si je comprends bien, tu veux un programme qui ralentisse l’I.A. et qui ne puisse pas être détecté ? Et tu me demandes ça à moi qui travaille justement depuis des années à trouver un programme qui ne comporte pas ce défaut ! Donc, ma seule gloire de chercheur sera d’avoir fourni un programme qui pourrisse une I.A.… Et la seule raison de mon bannissement, jusque-là, correspondait justement aux reproches par rapport à ce défaut !
― Oui, je comprends, ça peut être décevant et paradoxal pour toi. Mais c’est pourtant ce service que je te demande. Et je peux t’assurer que c’est un grand service qui sera un jour reconnu. Pour l’instant cela reste secret, mais sans exagérer, tu vas rendre service à l’humanité tout entière !
J’avais du mal à parler et à prendre l’air sincère, je pensais qu’il allait prendre cela comme un faux argument et douter de moi. Alors, je faisais des efforts pour prendre un ton honnête, qui finissait par produire un ton mal à l’aise ! Il m’observa, un instant de doute et de suspicion lui traversant le regard.
― J’ai ce qu’il te faut. C’est un tout petit programme qu’avait développé un doctorant quand j’en avais encore. Il n’a vraiment servi à rien tellement il fut mal conçu, à partir d'une proposition de départ un peu tordue. Mais je l’ai repris quelques années plus tard pour essayer de l’améliorer. J’en avais fait quelque chose de mieux, mais de très insuffisant. L’avantage était sa facilité d’installation sur n’importe quelle machine, il fonctionnait un peu comme un virus qui s’introduit directement dans le cœur du réseau neuronal. Je pense que c’est ça qu’il te faut, finit-il par s’enthousiasmer en ouvrant un dossier comme un coffre au trésor !
Annotations