Le défi des robots pensants.
Nos amis ou nos assassins?
Critiques
Bulletin du COLISEE, Jeudi 24 avril 2003
Des Robots inventés en 1920 par l'écrivain tchèque Karel Capek aux robots pensants d'André Varenne.
C'est dans le drame utopique "R.U.R." (Les Robots de la firme Universal) qu'apparaît le néologisme Robot. L'auteur tchèque, visionnaire, fut pressenti pour le Prix Nobel de littérature mais la mort l'emporta en 1938.
"R.U.R." connut un succès international, la pièce fut jouée dans 33 langues différentes. K. Capek se souciait du devenir de l'homme confronté à la production de ces machines qu'il ne parviendrait pas à maîtriser.
Aujourd'hui, André Varenne reprend largement et interprète les idées de Karel Capek dans un ouvrage plus optimiste que pessimiste, écrit dans un style humoristique, facile à lire pour les néophytes en robotique: "Le Défi des robots pensants. Nos amis ou nos assassins?", publié à Paris, chez L'Harmattan.
Au début du XXIème siècle, les cerveaux artificiels ne relèveraient plus de la science-fiction, avec les nanotechnologies qui deviennent une priorité (ne serait-ce que pour la médecine, la découverte d'autres planètes, et hélas!, la guerre). Il convient donc de se prémunir contre le détournement de ces technologies novatrices à des fins nocives; heureusement, des mécanismes régulateurs et des contre-pouvoirs y veillent. Nous sommes dans un monde en pleine mutation. Et André Varenne d'ajouter à sa réflexion une suite apocryphe en deux actes de "R.U.R." où il fait naître le clone de Karel Capek!
Danièle Monmarte (CNRS, Laboratoire de Recherches sur Arts du Spectacle)
Bulletin des Lettres. N° 619, 62ème année. Mars 2003
Pour André Varenne, clinicien et chercheur, le vrai danger qui menace le devenir de l'homme ne réside pas dans le clonage mais dans les avancées de la physique moléculaire associées à celles de l'informatique. Il part du principe que, les scientifiques travaillant maintenant à l'échelle du nanomètre (milliardième de mètre) et l'industrie robotique ne pouvant cesser de progresser, on dispose pratiquement d'une technique pour assembler le matériau du vivant grâce au microscope à effet de tunnel, le STM, dû aux physiciens Rohrer et Binnig, prix Nobel 1986. Je ne puis résumer le contenu extrêmement complexe et argumenté d'un tel essai. Au mieux, me risquerai-je à dire que si le docteur Varenne ne tient pas pour inconcevable une évolution du "phénomène robot" comparable à celle du Phénomène humain décrite par Teilhard de Chardin, il met suffisamment de doute et d'humour dans son propos pour que nous ayons quelque raison de penser qu'il reste encore un certain nombre d'étapes avant que les robots effacent définitivement les hommes de la surface de la Terre.
A.Varenne veut, toutefois, nous mettre en garde contre le danger d'une incrédulité - utopie de l'utopie - qui se refuserait à admettre que les fulgurants progrès des nanotechnologies peuvent transformer, dans les vingt ou cinquante ans à venir, la fiction en réalité. La marche vers le "robot pensant" est-elle inéluctable? Question pratique – question philosophique surtout, qui aurait mérité de plus amples développements. Le docteur Varenne leur a préféré quelques apologues et aphorismes de son cru. On lui pardonnera volontiers; son intention était à l'évidence de rendre digeste un propos qui ne s'y prêtait guère. L'exercice était difficile. Pour l'essentiel, il est réussi.
M.R.
NICE-MATIN, Dimanche 9 mars 2003
Le Docteur Varenne, cardiologue renommé, scientifique donc, a le don de parler clairement et en évitant tout jargon des problèmes qui concernent l'homme. Il nous propose aujourd'hui une réflexion sur son avenir en face des incroyables progrès de la robotique.
Le mot "robot" fut créé en 1820 par l'écrivain tchèque Karel Capek dans une de ses pièces qui eut un immense succès : "R.U.R" ("Rossum's Universal Robots"). Cette pièce est le fil d'Ariane du livre d'André Varenne. Il va jusqu'à nous en donner une suite apocryphe en deux actes sous le titre "R.U.R. 2002".
Il faut dire que les robots ont fait, ces cinquante dernières années, d'incroyables progrès, assistés par des nanotechnologies qui en permettent la miniaturisation: "Ils sont déjà partout, ouvriers efficaces, zélés, infatigables, dans les usines comme dans les centrales nucléaires: ils fabriquent ici l'essentiel de votre automobile, ailleurs ils vendangent, font les semis, assistent les chirurgiens; ils vont là où vous ne pouvez aller, que ce soit sur Mars ou au fond de l'océan, déminent les champs de bataille, se font avions sans pilote et jouent même avec vos enfants..."
Existe-t-il des robots pensants ?
L'homme estime avec logique que ces travailleurs ("robota" signifie "travail" en tchèque) ayant été créés par lui, ne sauraient en aucun cas le dépasser.
Et pourtant! Prenons un exemple simple: en 1980 un ordinateur d'échecs fit son apparition. Il jouait réellement contre vous mais se montrait d'une insigne faiblesse, tombant dans tous les pièges. Un jouet d'enfant en somme. Équipés de nouveaux programmes et de microprocesseurs de plus en plus puissants, ces appareils atteignirent rapidement le niveau d'un très bon joueur...
Aujourd'hui "Deep Blue" a battu à deux reprises Korchoï, le meilleur joueur du monde!
Cela pose pour l'ensemble des robots un problème fascinant: peuvent-ils restituer plus que ce qui a été mis dans leurs programmes? En un mot, sont-ils devenus des robots pensants, suscitant une angoisse justifiée?
Avec une Grande élégance dans le style, un certain humour et une compétence sans faille, l'auteur nous entraîne dans une quête passionnante.
Jean-Pierre Rudin
LE QUOTIDIEN DU MÉDECIN, Mardi 1 avril 2003
La perspective de cerveaux artificiels rend plus impératif encore le souci de bien user du nôtre, dit avec humour André Varenne ("Le Défi des robots pensants"), qui n'est ni du côté des biocatastrophistes, ni de celui des technoprophètes, critiqués par Dominique Lecourt ("Humain post-humain"). La complémentarité de ces deux ouvrages est intéressante pour les robot-philes comme pour les robot-phobes, tant certaines de leurs références sont communes.[...] Comme D. Lecourt, A.Varenne évoque la folie de Théodore Kaczynski, ce mathématicien américain dit Unabomber, technophobe après avoir été technophile, qui avait semé la terreur entre 1978 et 1995 aux États-Unis en envoyant des colis piégés aux scientifiques et ingénieurs en informatique, ainsi que l'optimisme de R.Kurzweil (informaticien américain) et les scrupules de Bill Joy (inventeur du langage Java). Le mot robot a été inventé par un écrivain tchèque, Karel Capek, en 1921, pour sa pièce "les Robots Universels de Rossum", d'après le mot tchèque robota, signifiant travail forcé. Dans cette Oeuvre prophétique, les robots finissent par tuer les hommes qui les ont inventés, raconte André Varenne. Moins de cent ans après, les nanorobots sont de plus en plus en plus réels "Ces animaux modernes sont-ils nos amis, nos héritiers ou nos fossoyeurs? L'homme va-t-il leur abandonner son avenir?", s'interroge-t-il.
Inventons d'autres voies que la rébellion brutale ou la soumission à la technique, développons des mécanismes régulateurs et des contre-pouvoirs pour profiter des bienfaits, tout en maîtrisant les risques de la robotique et des nanotechnologies. Pour cela, l'esprit critique de l'opinion publique doit cesser d'être anesthésié par la déification permanente de la science avant qu'il ne soit trop tard, dit ce médecin féru d'innovations technologiques.
Dr Caroline MARTINEAU
Revue mensuelle n°42. Admiroutes. Les automates intelligents
Le Défi des robots pensants. André Varenne
Discussion par Jean-Paul Basquiat
http://www.admiroutes.asso.fr/larevue/2003/43/varenne.htm
