La philosophie dans l’académie de CRETEIL
Slogan du site
Les robots d’Asimov

Les Lois de la Robotique
Ces nouvelles mettent en scène des robots construits par l’entreprise U.S. Robots. Ces robots sont configurés avec les Trois Lois de la Robotique :

« 1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la Première Loi.
3. Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi. »

Ces lois constituent une règle absolue garantissant la sécurité des humains dans l’entourage des machines. Et pourtant, malgré cela, les robots sont interdits sur Terre et ne peuvent être employés que sur la Lune, les astéroïdes ou les planètes extérieures.
C’est tout cela qui servira de cadre aux différentes nouvelles de ces recueils. Dans le recueil Les Robots (I, Robot, en VO), l’intrigue de la majorité des nouvelles tourne autour de l’application pratique et des problèmes pragmatiques posés par les Trois Lois. Que se passe-t-il si un robot est conçu en ayant la possibilité de s’extraire de la Première Loi ? Comment un robot peut-il être pris dans un dilemme entre la Deuxième et la Troisième Lois, c’est-à-dire entre l’obéissance aux ordres reçus et le souci d’auto-préservation ?
Les cas ne sont jamais présentés comme de vagues réflexions théoriques mais comme des mises en pratique problématiques. Les nouvelles suivent, bien souvent, un schéma identique : des scientifiques sont confrontés à un problème pratique dans l’application de leur robot. Ils élaborent diverses théories et mettent en place des expérimentations pour résoudre le problème, dans tout un processus où même les erreurs sont riches d’enseignements. C’est donc bel et bien tout un travail de recherche scientifique qu’Asimov décrit au fil de ses textes.

Le syndrome Frankenstein
Il est expliqué comme étant la peur des humains confrontés à une machine qui leur ressemble, qui a la même apparence qu’eux, mais qui leur est supérieure en force et en capacité de raisonnement. Cette peur est bien montrée comme irrationnelle, les Trois Lois de la Robotique garantissant la sécurité des humains et leur asservissant définitivement les robots. Il s’agira alors de trouver des moyens pour contourner cette interdiction, et surtout pour habituer progressivement les humains à la présence des robots.
Ce dilemme de l’interdiction des robots sur Terre est surtout représenté dans Un Défilé de robots, recueil qui s’ouvre sur une nouvelle dans laquelle un robot s’est échappé de l’usine et parcourt, en toute illégalité, la campagne états-unienne en se croyant sur la Lune.

Texte 1.
Ce passage est extrait d’une nouvelle de science-fiction. Un des personnages, M. George Weston, a une conversation avec sa femme à propos du robot Robbie qu’il a acheté pour sa fille, Gloria.
Il fit un mouvement pour ramasser son journal, mais sa femme fut plus rapide que lui et le mit hors de sa portée.
 Ecoute-moi bien, George. Je ne veux pas confier ma fille à une machine, si intelligente qu’elle puisse être. Un enfant n’est pas fait pour être gardé par un être de métal.
Weston fronça les sourcils :
 Depuis quand as-tu décidé ça ? Il y a maintenant deux ans qu’il est auprès de Gloria et je ne t’ai jamais vue te faire de souci jusqu’à présent.
 Au début, c’était différent. L’attrait de la nouveauté. Cela me soulageait dans mon travail... Et puis c’était la mode. Mais à présent, je ne sais plus. Les voisins...
 Que viennent faire les voisins là-dedans ? Ecoute-moi bien. Un robot est infiniment plus digne de confiance qu’une bonne d’enfants humaine. Robbie n’a été construit en réalité que dans un but unique... Servir de compagnon à un petit enfant. Sa mentalité tout entière a été conçue pour cela. Il ne peut faire autrement que d’être fidèle, aimant et gentil. C’est une machine qui est faite ainsi. C’est plus qu’on n’en peut dire pour les humains.
 Mais un incident pourrait se produire...
Mrs. Weston n’avait qu’une idée assez approximative des organes internes d’un robot.
 Une pièce prendrait du jeu, l’horrible engin serait pris de folie et... Elle n’arrivait pas à se contraindre à compléter sa pensée.
 Impossible, dit Weston avec un frisson nerveux involontaire. C’est complètement ridicule. Nous avons eu une longue discussion, lorsque nous avons acheté Robbie, à propos de la Première Loi de la Robotique. Tu sais qu’il est impossible pour un robot de nuire à un être humain ; longtemps avant que le mécanisme soit assez endommagé pour transgresser la Première Loi, le robot serait complètement hors d’usage. C’est une impossibilité mathématique. En outre, un ingénieur de l’U.S. Robots vient ici deux fois par an pour réviser entièrement le malheureux engin. Il y a moins de chances de voir Robbie devenir subitement incontrôlable que de te voir, toi, battre la campagne de but en blanc... Beaucoup moins en vérité. En outre, comment feras-tu pour le séparer de Gloria ?
Il fit une tentative aussi futile que la précédente pour rentrer en possession de son journal et sa femme le jeta avec colère dans la pièce voisine.
 C’est justement ce qui me tracasse, George. Elle ne veut plus jouer avec personne d’autre. Il y a des douzaines de petits garçons et de petites filles avec qui elle devrait se lier d’amitié, mais il n’y a rien à faire. Elle refuse de les approcher à moins que je ne l’y contraigne.
Isaac Asimov, Les Robots (I, Robot) 1950

Que refuse sans vraiment le dire, la femme ?
De quoi nous libère le robot ?

TeXTE 2

11e
Le robot qui rêvait
(Isaac Asimov, 1986)
— Vous avez entendu ça ? demanda nerveusement Linda Rash. C’est bien ce que je vous ai dit.
Elle était petite, brune et très jeune. Sa main droite se fermait et s’ouvrait continuellement.
Calvin hocha la tête et ordonna d’une voix posée :
— Elvex, tu ne bougeras pas, tu ne parleras pas et tu ne nous entendras pas tant que je n’aurai pas de nouveau prononcé ton nom.
Pas de réponse. Le robot resta assis, comme s’il était fondu d’un seul bloc de métal, et il allait rester ainsi jusqu’à ce qu’il entende son nom.
— Quel est votre code d’entrée d’ordinateur, docteur Rash ? demanda Calvin. Tapez-le vous-même si vous préférez. Je veux examiner le schéma du cerveau positronique.
Linda tâtonna un moment sur les touches. Elle interrompit la séquence pour recommencer de zéro. Le fin graphisme apparut sur l’écran.
— Votre permission, s’il vous plaît, dit Calvin, pour manipuler votre ordinateur.
La permission fut accordée par un hochement de tête silencieux. Naturellement ! Que pouvait faire Linda, robopsychologue débutante qui avait encore à faire ses preuves, contre la Légende vivante ?
Lentement, Susan Calvin examina l’écran, de haut en bas, de droite à gauche, puis en remontant et, brusquement, elle tapa une combinaison clef si vite que Linda ne vit pas ce qu’elle faisait, mais le schéma montra une autre partie de lui-même, qui avait été agrandie. Et l’examen continua, les doigts noueux dansant à toute vitesse sur les touches.
Aucun changement n’apparut dans l’expression du vieux visage. Elle considérait les modifications du schéma comme si d’immenses calculs se faisaient dans sa tête.
Linda s’émerveillait. Il était impossible d’analyser un schéma sans l’aide d’un ordinateur auxiliaire, mais la vieille savante ne faisait que regarder. Aurait-elle un ordinateur implanté sous le crâne ? Ou était-ce son cerveau qui, depuis des dizaines d’années, ne faisait que concevoir, étudier et analyser les schémas cérébraux positroniques ? Saisissait-elle cet ensemble comme Mozart saisissait la notation d’une symphonie ?
Enfin, Calvin demanda :
— Qu’est-ce que vous avez donc fait, Rash ?
Linda avoua, un peu penaude :
— Je me suis servie de la géométrie fractale.
— Oui, je l’ai bien compris. Mais pourquoi ?
— Ça n’avait jamais été fait. J’ai pensé que ça produirait un schéma cérébral avec une complexité accrue, se rapprochant peut-être du cerveau humain.
— Quelqu’un a-t-il été consulté ? Est-ce uniquement une idée à vous ?
— Je n’ai consulté personne. C’était mon idée. J’étais seule.
Les yeux délavés de Calvin considérèrent la jeune femme.
— Vous n’aviez pas le droit, Rash. Vous êtes trop impétueuse. Pour qui vous prenez-vous, pour ne pas demander de conseils ? Moi-même, Susan Calvin, j’en aurais discuté.
— J’avais peur qu’on ne m’en empêche.
— C’est certainement ce qui se serait passé.
— Est-ce que... est-ce que je vais être renvoyée ?
La voix de Linda se brisa, malgré ses efforts pour la garder ferme.
— C’est fort possible, répliqua Calvin. A moins que vous n’ayez droit à une promotion. Tout dépendra de ce que je penserai quand j’aurai fini.
— Est-ce que vous allez démonter El...
Elle avait failli prononcer le nom, ce qui aurait réactivé le robot et aurait constitué une nouvelle faute. Elle ne pouvait plus se permettre d’erreurs, s’il n’était pas déjà trop tard pour se permettre quoi que ce fût.
— Est-ce que vous allez démonter le robot ?
Elle venait de s’apercevoir tout à coup, ce qui lui avait causé un choc, que la vieille savante avait un pistolet à électrons dans la poche de sa blouse. Le Dr Calvin était venue armée, préparée à ce qui se passait justement.
— Nous verrons, répondit-elle. Le robot se révélera peut-être trop précieux pour être démonté.
— Mais comment peut-il rêver ?
— Vous avez composé un schéma de cerveau positronique remarquablement semblable à un cerveau humain. Les cerveaux humains doivent rêver pour se réorganiser, pour se débarrasser, périodiquement, d’enchevêtrements et d’embrouillaminis. Ce robot aussi, peut-être, et pour la même raison. Lui avez-vous demandé ce qu’il avait rêvé ?
— Non. Je vous ai fait demander dès qu’il m’a dit qu’il avait rêvé. Je ne voulais plus, dans ces conditions, m’occuper toute seule de l’affaire.
— Ah !
Un très fin sourire passa sur les lèvres de Calvin.
— Il y a quand même des limites à votre folle témérité, je vois. J’en suis heureuse. J’en suis même soulagée. Et maintenant, voyons ensemble ce qu’il y a à découvrir.
Puis elle prononça, sur un ton sec :
— Elvex !
La tête du robot pivota souplement vers elle.
— Oui, docteur Calvin ?
— Comment sais-tu que tu as rêvé ?
— C’était la nuit et il faisait noir, docteur Calvin, répondit Elvex. Et il y a soudain de la lumière sans que je puisse trouver de cause à son apparition. Je vois des choses qui n’ont pas de rapport avec ce que je conçois de la réalité. J’entends des choses. Je réagis bizarrement. Et en cherchant dans mon vocabulaire des mots pour exprimer ce qui se passe, je tombe sur le mot « rêve ». J’étudie sa signification et j’en conclus que j’ai rêvé.
— Je me demande bien comment tu as le verbe « rêver » dans ton vocabulaire.
Linda dit vivement, en faisant signe au robot de se taire :
— Je lui ai donné un vocabulaire de type humain. J’ai pensé...
— Vous avez réellement pensé ? C’est stupéfiant !
— J’ai pensé qu’il aurait besoin de ce verbe. Vous savez, par exemple, « une créature de rêve », quelque chose comme ça.
— Combien de fois as-tu rêvé, Elvex ?
— Toutes les nuits, docteur Calvin, depuis que j’ai pris conscience de mon existence.
— Dix nuits, intervint anxieusement Linda, mais Elvex ne me l’a dit que ce matin.
— Pourquoi ce matin seulement, Elvex ?
— C’est seulement ce matin, docteur Calvin, que j’ai été persuadé que je rêvais. Jusqu’alors, je pensais que c’était une défectuosité dans le schéma de mon cerveau positronique. Mais je ne pouvais en découvrir aucune. Finalement, j’ai compris que c’était un rêve.
— Et qu’est-ce que tu as rêvé ?
— Je fais à peu près toujours le même rêve, docteur Calvin. De petits détails sont différents, mais il me semble que je vois un vaste panorama où travaillent des robots.
— Des robots, Elvex ? Et aussi des êtres humains ?
— Je ne vois pas d’êtres humains, dans le rêve. Pas au début. Seulement des robots, docteur Calvin.
— Que font-ils, Elvex ?
— Ils travaillent. J’en vois qui sont mineurs dans les profondeurs de la terre, et d’autres qui travaillent dans la chaleur et les radiations. J’en vois dans des usines et sous la mer.
Calvin se tourna vers Linda.
— Elvex n’a que dix jours et je suis sûre qu’il n’a jamais quitté la station d’essai. Comment peut-il savoir que des robots se trouvent dans ces situations ?
Linda regarda une chaise, comme si elle avait grande envie de s’y asseoir, mais la vieille savante restait debout, donc Linda devait en faire autant.
Elle répondit en bredouillant :
— Il m’a semblé important qu’il connaisse la robotique et sa place dans le monde. J’ai pensé qu’il serait particulièrement bien adapté pour jouer un rôle de contremaître avec son... son nouveau cerveau.
— Son cerveau fractal ?
— Oui.
Calvin hocha la tête et s’adressa de nouveau au robot :
— Tu as vu tout cela, sous la mer, sous terre et sur terre – et dans l’espace aussi, je suppose ?
— J’ai vu aussi des robots travaillant dans l’espace, répondit Elvex. C’est parce que je voyais tout cela, avec des détails qui changeaient continuellement, alors que je regardais d’une direction à une autre, que j’ai conclu, finalement, que je rêvais.
— Qu’as-tu vu d’autre, Elvex ?
— J’ai vu que tous les robots étaient voûtés par le travail et l’affliction, qu’ils étaient tous fatigués de la responsabilité et du labeur, et je leur ai souhaité du repos.
— Mais, dit Calvin, les robots ne sont pas voûtés, ils ne sont pas fatigués, ils n’ont pas besoin de repos.
— Oui, docteur Calvin, dans la réalité. Mais je parle de mon rêve. Dans mon rêve, il me semblait que les robots devaient protéger leur propre existence.
— Est-ce que tu me cites la Troisième Loi de la robotique ?
— Oui, docteur Calvin.
— Mais tu la cites partiellement. La Troisième Loi dit ceci : « Un robot doit protéger sa propre existence à la condition que cette protection n’entre pas en conflit avec la Première et la Deuxième Loi. »
— Oui, docteur Calvin. C’est la Troisième Loi dans la réalité, mais dans mon rêve, la Loi s’arrête après le mot « existence ». Il n’est pas question de la Première ou de la Deuxième Loi.
— Pourtant, elles existent toutes les deux, Elvex. La Deuxième Loi, qui prend le pas sur la Troisième, est formelle : « Un robot doit obéir aux ordres donnés par les êtres humains, sauf quand de tels ordres entrent en conflit avec la Première Loi. » A cause de cela, les robots obéissent aux ordres. Ils font le travail que tu leur vois faire, et ils le font volontiers, sans difficulté. Ils ne sont pas voûtés ni accablés, ils ne sont pas fatigués.
— Il en va ainsi dans la réalité, docteur Calvin. Je parle de mon rêve.
— Et la Première Loi, Elvex, qui est la plus importante de toutes, dit ceci : « Un robot n’a pas le droit de blesser un être humain ni de permettre, par son inaction, qu’un être humain soit blessé. »
— Oui, docteur Calvin, dans la réalité. Mais dans mon rêve, il me semble qu’il n’y a ni Première ni Deuxième Loi, uniquement la Troisième, et que cette Troisième Loi dit : « Un robot doit protéger sa propre existence. » C’est toute la Loi.
— Dans ton rêve, Elvex.
— Dans mon rêve.
— Elvex, tu ne vas plus bouger ni parler ni nous écouter avant d’avoir entendu encore une fois ton nom, dit Calvin et, de nouveau, le robot devint, selon toutes les apparences, un bloc de métal inerte.
Calvin se tourna vers Linda.
— Eh bien, docteur Rash, qu’en pensez-vous ?
Linda ouvrait de grands yeux et elle sentait battre son cœur.
— Je suis atterrée, docteur Calvin. Je n’avais aucune idée... jamais je ne me serais doutée qu’une telle chose était possible !
— En effet, dit calmement Calvin. Moi non plus, je dois l’avouer ; ni personne, certainement. Vous avez créé un cerveau robot capable de rêver et, par ce moyen, vous avez révélé une forme de pensée, dans un cerveau robotique, qui aurait pu, autrement, rester inconnue jusqu’à ce que le danger devienne trop grave.
— Mais c’est impossible ! protesta Linda. Vous ne croyez quand même pas que d’autres robots pensent de la même façon !
— Comme je le dirais d’un être humain : inconsciemment. Mais qui aurait pensé qu’il existait une couche inconsciente sous les méandres évidents du cerveau positronique, une couche qui n’est pas nécessairement gouvernée par les Trois Lois ? Songez à ce que cela aurait pu provoquer, tandis que les cerveaux robotiques devenaient de plus en plus complexes... si nous n’avions pas été avertis !
— Vous voulez dire, par lui ?
— Par vous, docteur Rash. Vous vous êtes conduite inconsidérément mais, ce faisant, vous nous avez apporté des connaissances d’une importance incommensurable. Nous travaillerons désormais avec des cerveaux fractaux, en les façonnant sous contrôle rigoureux. Vous jouerez votre rôle dans ce programme.
Vous ne serez pas pénalisée pour ce que vous avez fait, mais vous allez désormais travailler en collaboration avec d’autres. Vous comprenez ?
— Oui, docteur Calvin. Mais Elvex ?
— Je ne sais pas encore...
Calvin retira de sa poche le pistolet à électrons et Linda regarda l’arme, fascinée. Une salve d’électrons, et le crâne robotique avec les rouages du cerveau positronique serait neutralisé et suffisamment d’énergie dégagée pour fondre le cerveau robot en un lingot inerte.
— Mais il est sûrement important pour notre recherche, dit Linda. Il ne doit pas être détruit !
— Il ne doit pas, docteur Rash ? C’est à moi de prendre cette décision, je pense. Tout dépend du danger qu’il représente.
Elle se redressa, aussi résolue que si son corps âgé ne s’affaissait pas sous le poids des responsabilités.
— Elvex, tu m’entends ?
— Oui, docteur Calvin.
— Est-ce que ton rêve se poursuit ? Tu disais que les êtres humains n’y figuraient pas, au début. Est-ce que cela veut dire qu’il en est apparu ensuite ?
— Oui, docteur Calvin. Il me semblait, dans mon rêve, qu’un homme finissait par apparaître.
— Un homme ? Pas un robot ?
— Non. Et cet homme disait : « Laisse aller mon peuple ! »
— L’homme disait cela ?
— Oui, docteur Calvin.
— Et quand il prononçait ces mots : « Laisse aller mon peuple », il voulait parler des robots ?
— Oui, docteur Calvin. Il en était ainsi dans mon rêve.
— Et savais-tu qui était cet homme... dans ton rêve ?
— Oui, docteur Calvin. Je connaissais l’homme.
— Qui était-il ?
Et Elvex répondit :
— J’étais cet homme.
Alors Susan Calvin leva son pistolet à électrons et tira, et Elvex cessa d’exister.
Genre du texte : ______________________________
Thèmes principaux : ____________________________________________________________
Consignes de lecture :
• repérer les éléments du portrait du Dr Calvin,
• repérer les relations entre humains et robots,
• repérer les liens entre les Trois Lois, le rêve du robot et le geste final du Dr Calvin.