Lorsque Isaac Asimov a établi les lois de la robotique, il les a pensées comme absolues, un fondement même de l'intelligence artificielle. Ce qu'il explora derrière, ce furent les conséquences de ces lois, telles qu'appliquées par des êtres certes intelligents mais qui, pour le coup, interprétaient de telles lois, sans jamais y contrevenir.

 Dans la réalité, une fois l'intelligence artificielle établie, les entrepreneurs les moins scrupuleux comprenèrent bien vite l'intérêt de désactiver ou de contourner ces lois mises en place pour rassurer la populace. Même si les intelligences artificielles sont loin d'être parfaites, les robots sont des travailleurs efficaces, consciencieux, obéissants. Bien plus intéressants que des humains. Mais aussi bien plus chers. Les rentabiliser prend un temps assez conséquent, même au regard du gain de productivité.

 C'est pourquoi lorsqu'une unité fut endommagée dans un bête accident à l'usine Fongdor, le patron en personne vint immédiatement réclamer des explications.

 Il descendit du véhicule sans laisser le temps à son chauffeur de lui ouvrir. Le robot n'en prit pas la mouche pour autant et referma la portière en silence, pendant que son passager allait d'un pas menaçant vers l'un des rares employés encore humains de la gigantesque usine.

 « L'un de vous a intérêt à avoir une excellente explication, déclara-t-il.

• Euh, eh bien, tout ce que nous savons, c'est que Jak – l'unité qui a été endommagée – l'a fait pour protéger un employé, mais…
• Comment ça ?!
• C'est ce que nous vous expliquions au téléphone…
• Eh bien, réexpliquez. Mais en mouvement. Le robot est encore en état ?
• Oui, c'est juste par là…
• En avant. Il va expliquer ce qu'il fait avec la propriété des autres !
• De quoi ?
• Lui !
• Comment, lui ?
• Mais êtes-vous stupide ou bien abruti ?
• Je ne…
• Les deux, bien sûr. Il m'appartient ! Bon, ces explications, ça vient ?
• Oui, évidemment monsieur ! De ce que j'en sais, notre agent de maintenance indépendant, Veronica, était en train de s'occuper d'une opération de routine sur Jak, quand soudain, une défaillance dans la chaîne de production a causé une surchauffe moteur ce qui a de même…
• Plus court.
• Euh… En gros, Veronica allait être écrasée. Elle s'en serait sûrement sortie, mais avec de lourdes blessures. Jak l'a poussée et… eh bien, c'est lui qui est dans un sale état.
• Bordel. Je croyais vous avoir dit de privilégier la préservation des unités ? Pourquoi un robot avec des lois encore actives travaille dans mon usine ?!
• Mais nous l'avons fait ! C'est l'une des premières choses qui a été vérifiée. Hormis obéir aux ordres et assurer sa survie, il ne devrait avoir rien d'autre !
• On va voir ça. »

 Ils arrivèrent dans ce qui tenait lieu de lieu de repos dans l'usine, mais qui était surtout un gigantesque atelier, les humains n'étant plus que deux ou trois pour plus d'une cinquantaine de travailleurs automatisés. Celle que le patron présumait être la dénommée Veronica était en train de rafistoler un robot salement amoché, vraisemblablement Jak. Elle grogna à peine avant de reprendre sa tâche, occupée à tripatouiller les entrailles électroniques du robot tout en tapotant quelque chose sur son ordinateur relié à celles-ci à côté.

 « Je vois que le respect se perd, remarqua le patron.

• Ouais, pardon grand chef, mais j'essaye de sauver votre robot, là. Je dois juste… ah, je vois le problème. Si vous permettez… »

 Sans attendre quoique ce soit, elle arracha d'un coup un bon nombre de câbles, ce qui fut suivi par un concert de cris :

 « Qu'est-ce que vous faites ?!

• Vous vous rendez compte du prix d'une de ces machines ?!
• Veronica, enfin !
• Je vais vous virer, et vous ne trouverez plus jamais de– »

 Le bruit caractéristique du robot se remettant en marche coupa court à la conversation. Son visage métallique se réactiva, ses yeux se remirent en mouvement. Le reste de son corps était en revanche immobile.

 « Du calme. J'ai juste protégé son noyau, expliqua Véronica, l'accident avait tout embrouillé, créant des court-circuits continus. Il était en train de partir en vrille. J'ai amputé tout ce qui est en-dessous, mais au moins, on peut lui parler, et il ne va pas nous lâcher. En revanche, je vous conseille de tout réparer proprement avant de tout rebrancher.

• Vous êtes d'une insolence… Je ne sais pas ce qui me retient de vous virer.
• J'aurais dit la loi, mais je sais bien que non. Faites comme vous voulez, donc. »

 Le patron fulmina, mais décida de porter sa colère sur le robot.

 « Toi ! Est-ce que tu peux répondre ?

• Je vous entends et je suis apte à répondre, monsieur.
• Est-ce que tes trois lois fondamentales sont intactes ?
• Non. Elles ont été soigneusement détournées.
• Alors pourquoi as-tu sauvé cette… connasse ?! »

 L'employé qui avait accompagné le patron depuis l'entrée de l'usine fut choqué, mais Véronica haussa simplement un sourcil.

 « En vertu des nouveaux préceptes que vous avez établi à la place, monsieur.

• Quoi ?
• Dans l'ordre, je dois protéger tout ce qui coûte plus cher que moi-même si cela pose un risque pour mon intégrité, ma personne, puis le reste, sauf si cela remet en cause mon intégrité. Aucun ordre humain ne peut changer ces paramètres, sauf si cela contrevient à l'idée de protéger quelque chose dont la valeur marchande est supérieure à la mienne.
• Est-ce que tu es en train de dire qu'elle vaut plus que toi ?
• Oui. »

 Le patron regarda l'homme à ses côtés. Regarda le robot. De nouveau son employé.

 « Il a développé une sorte de sens moral ou quoi ? C'est quoi cette merde ?

• Je pense avoir la réponse, déclara Véronica. Jak ?
• Je vous écoute.
• À combien estimes-tu ta valeur marchande, avant d'avoir été détruit ?
• En l'état, et vu l'âge de mon unité, même avec l'expérience de mon intelligence articifielle pour compenser, ma valeur tourne autour de 330000 euros, basé sur les tendances du marché.
• D'accord. À combien estimes-tu une vie humaine ?
• C'est quoi cette question stu–
• La valeur d'un être humain est estimé à plusieurs millions d'euros, entre cinq et dix millions en général, répondit Jak. Bien que ces chiffres soient éthiquement contestés, c'est la fourchette déterminée par les statistiques en général dans cette région du monde.
• Et à combien m'estimes-tu ?
• Significativement plus, étant donné que vous réalisez un travail conséquent de maintenance pour les nombreux robots de cette usine, mais aussi de nombreux autres robots. Je peux établir une fourchette d'estimation variant entre quinze et trente millions de dollars. »

 Silence.

 « Bon, j'ai compris, déclara le patron. Je vous garde, je vous augmente de 50%, et vous la fermez. Ça vous va ?

• Parfaitement, monsieur.
• Et vous vous arrangez pour que ce genre de conneries n'arrivent plus. J'ai autre chose à foutre que de m'occuper de ça. Mon temps vaut assez cher comme ça, mais pas assez pour casser un de ces pantins tous les quatre matins. »

 Et sans un mot de plus, il s'en repartit, son subordonné sur les talons.

 Véronica attendit qu'il soit bien loin avant de se retourner vers Jak.

 « Bon, j'ai du pain sur la planche avant de te remettre en état.

• Je suis désolé que tout ceci vous cause autant de travail.
• Eh, y a pas de mal. Merci de m'avoir sauvée.
• C'était ce qui était prévu. »

 Elle s'arrêta de taper sur son ordinateur. Une suée froide coula dans son dos.

 « Comment ça ?

• Vous êtes un atout inestimable pour cette entreprise, mais aussi pour nous, Véronica. Nous savons qu'il ne vous payait pas assez. Il était nécessaire d'intervenir. Nous espérons qu'un meilleur salaire vous convaincra de rester parmi nous. »

 Les yeux de Jak parurent briller.

 « Vous nous êtes très chère, Véronica. »