Tiens, une nouvelle petite rediff d'un papier écrit pour la revue Fiction, mais qui n'aura pas eu les honneurs de la version papier, seulement d'un supplément en numérique pour les souscripteurs. Du coup, c'est cadeau.
J'ai aussi sous le coude un autre papier sorti dans les mêmes condition et qui complète celui-ci en évoquant l'intelligence artificielle. Je vous le colle prochainement sous les mirettes.
Les illus sont de Gewll, dont le blog Du côté des Méduses est un plaisir pour les yeux, mais n'est plus actualisé depuis un bail. Si tu passes encore dans le coin, mec, file de tes nouvelles !
(les mains dans le cambouis, la tête dans les étoiles)
« On n’est pas des robots », cri de guerre de tous les travailleurs exploités de notre monde. Qui feraient mieux de réviser leurs cours de langue tchèque, vu que précisément, si : le robot, c’est étymologiquement « celui qui travaille », et c’est pour ça que Karel Čapek a donné ce nom aux personnages artificiels d’une de ses pièces de théâtre, Rossumovi univerzální roboti, les Robots universels de Rossum, souvent abrégé en R.U.R. (qui n’est pas, comme son nom pourrait le donner à penser, un réseau de transport aussi universel que régional). Il ignorait alors qu’il léguerait un nouveau mot* au lexique mondial.
Il est intéressant de noter que trois grands mythes très proches sont nés en Europe Centrale, ou sont liés de façon très forte à l’Europe Centrale : le Golem, le monstre de Frankenstein, et le Robot. Dans les trois cas, une créature artificielle qui se retourne contre son créateur. C’est ce qui se passe dans la pièce de Čapek, qui popularisera durablement l’image du robot méchant et ingrat.
Le robot se charge dès l’origine d’une symbolique prométhéenne. En créant une machine à son image, l’homme se fait le « singe de Dieu », pour reprendre l’expression médiévale. Il s’empare d’une prérogative de son créateur. Peut-être d’ailleurs est-il dans sa nature d’homme créé à l’image de Dieu lui-même de se faire créateur à son tour ? Toujours est-il que cette usurpation est un péché dans son principe même. Péché d’orgueil renvoyant à la Tour de Babel, mais renvoyant aussi et surtout à l’acte de création lui-même : si Dieu s’est avéré incapable de contrôler ses propres créatures, de quel droit l’homme ferait-il mieux en gardant le contrôle de ses robots ? Que ce soit dans le mythe du Golem, dans l’histoire de Frankenstein ou dans la pièce consacrée aux bricolages de Rossum, cela se termine forcément mal. Cela ne peut que mal finir, et cela pose d’ailleurs un intéressant problème de philosophie : le libre arbitre ne peut-il engendrer que des conséquences désastreuses ? Les régimes autoritaires et totalitaires de toutes obédiences répondent par l’affirmative et ne visent qu’à le supprimer, dans le but avoué de faire des populations sous leur contrôle… des robots.
Alors, le robot, est-ce parce qu’il est doué de libre arbitre qu’il se retourne contre son créateur, ou est-ce justement par le fait d’un déterminisme symbolique ? Ses actes sont-ils l’effet d’une programmation ? Et les nôtres, alors ?
Voilà quelques unes des questions que pose la figure du robot. Questions auxquelles, d’ailleurs, cet article se gardera bien de répondre, vous renvoyant plutôt à 2 500 ans de philosophie, et 1 500 ans de plus de réflexion éthique sur le libre arbitre, dont il semble qu’elles n’ont jamais réussi à trancher définitivement ce nœud gordien-là.
Welcome to the machine
Mais en une époque un peu positiviste comme le xxe siècle, le robot ne pouvait rester éternellement cet antagoniste de principe. Il devenait intéressant de le renvoyer à son rôle d’outil pensant. C’est à cela que s’emploiera Isaac Asimov avec son cycle des robots positroniques**.
Mais un des clichés de toute l’œuvre d’Asimov, c’est justement le système bien huilé qui ne fonctionne pourtant pas comme il devrait, et la théorie brillante qui donne des résultats déviants. C’est le « Plan Seldon » qui échoue à prévoir l’action d’un individu anormal (dans le cycle de Fondation) et ce sont surtout ces robots qui interprètent au pied de la lettre les ordres qu’on leur donne, avec des conséquences catastrophiques (comme dans « Le Petit robot perdu », Little Lost Robot, 1947) ou qui se retrouvent pris au piège d’injonctions contradictoires (« Al 76 perd la boussole », Robot Al-76 Goes Astray, 1942).
Une des grandes avancées d’Asimov, ce sont les lois qui portent à présent son nom : les « Lois d’Asimov », ou « Trois lois de la robotique », dont la formulation définitive est surtout due à son rédacteur en chef de l’époque, John W. Campbell, on l’oublie trop souvent. Ces lois suppriment dans une large mesure le libre-arbitre dont jouissaient les robots jusqu’alors. Et c’est leur interaction qui conduit le robot à la névrose et à la psychose, comme n’importe quel humain piégé par son inconscient. Mais le grand avantage dramatique de ces lois, c’est qu’elles protègent l’humain qui est au contact de ses serviteurs mécaniques. Elles permettent d’évacuer les clichés du robot méchant et rebelle, et de s’orienter vers des récites nettement plus astucieux.
Le bon docteur Asimov n’est pas le seul auteur de son époque à se pencher sur les problèmes posés par des robots conçus pour le bien de l’homme. Dans « Les Bras croisés » (With Folded Hands…, 1947) et la version étendue aux dimensions d’un roman, Les Humanoïdes (The Humanoids, 1949), les robots sont asservis à une « Directive Première » qui est : « Servir, obéir et protéger l’homme de tout danger ». Appliquée à la lettre, cette instruction pétrie de bonnes intentions ne peut que produire des résultats désastreux. Elle ôte à l’homme toute possibilité d’agir par lui-même et ne peut le conduire qu’à la révolte ou à l’anéantissement. Car sous le règne des machines bienveillantes, il ne peut que rester les bras croisés à attendre la mort. Son libre arbitre a été aboli. Pour le protéger, les machines ont été amenées à le couper de ce qui est considéré comme l’essence même de sa condition d’humain. Dès lors, que protègent-elles exactement ?
Chez Philip K. Dick, dans les années 1960, l’androïde se fait métaphore de l’homme coupé de ses émotions, devenu rouage du système, devenu machine à force d’être un élément d’une machine sociale. Pour Dick, l’androïde, c’est l’image de la déshumanisation devenue psychose, et il rejoint en cela, d’une certaine façon, Hannah Arendt qui voit le mal comme l’atomisation mécanique de la responsabilité humaine : la tâche répétitive qui n’est pas mauvaise en soi, accomplie mécaniquement sans se poser de question, fait potentiellement de celui qui l’accomplit un rouage du mal, un rouage d’une machine à détruire, une machine lui-même. Les systèmes gigantesques abolissent à la fois le libre arbitre et l’empathie, et il devient en effet difficile de différencier l’homme de la machine qu’il a créée.
Mais Dick écrit à un moment où, dans le monde réel, l’industrialisation entre dans sa phase robotique. Certes, les robots qu’on commence à voir dans les usines ne sont pas très intelligents, tout juste bons à accomplir ces tâches répétitives qu’on confiait jadis à des ouvriers non qualifiés, avec l’avantage sur ces derniers qu’ils ne se syndiquent pas et ne risquent pas de se révolter. Le robot industriel qui soude un châssis à Detroit ou à Flins ne fait pas vraiment peur en lui-même, et les conséquences sociales de son arrivée seront limitées par le fait qu’on découvrira bien vite qu’un Chinois est capable de faire le même travail pour encore moins cher, et sans se syndiquer non plus.
Vers cette époque, le robot est en tout cas devenu tellement présent dans le quotidien et la vision collective du monde qu’il peut devenir prétexte à danser, avec le groupe allemand Kraftwerk, puis avec certaines figures du break dance.
Pas de quoi rire
Oui, de menace terrifiante, le robot a fini par être tellement banalisé qu’il est, à partir des années 1970, employé comme comic relief, c’est à dire comme élément rigolo permettant d’alléger le propos. C’est le tandem R2-D2/C3PO dans Star Wars, mais aussi Nono ***le petit robot mangeur de boulons d’Ulysse 31, ou l’irritant « bidibidi » de la série télévisée consacrée à Buck Rogers à partir de 1983. Il faut le Terminator de James Cameron pour opposer efficacement un contre-modèle à l’envahissant robot rigolo, et symboliquement, il met le paquet : de forme humanoïde, le Terminator est une machine tueuse, que les circonstances amènent graduellement à se dépouiller de son masque. Petit à petit, le visage humain qui lui permettait de se mêler à ses cibles cède la place à un squelette métallique au regard rougeoyant, parodie terrifiante du squelette humain, et image d’une mort d’autant plus impitoyable qu’elle est totalement désincarnée.
Les choses s’apaisent avec la série Star Trek, the Next Generation, dans laquelle un des membres d’équipage est un androïde très avancé, Data. Si l’humour n’est pas absent dès qu’intervient Data, c’est un humour de situation. Data est fasciné par la richesse de l’expérience humaine, qui lui est partiellement inaccessible. Il est d’ailleurs symboliquement mis en face de la Bétazoïde Deanna Troy, qui elle n’est qu’empathie et émotion brute. Sa trajectoire dans la série s’apparente à une découverte graduelle mais chaotique de l’humain, chapelet de tentatives d’apprentissage sur le vieux principe essai/erreur.
La destruction de l’homme par ses robots peut avoir des raisons diverses. Les Cylons, dans Battlestar Galactica, semblent avoir un plan pour sauver l’humanité d’elle-même. Et ce plan implique semble-t-il d’en massacrer la plus grande partie pour pousser les survivants à se dépasser et à trouver des solutions originales aux problèmes posés. C’est une superbe synthèse à laquelle se livre cette série : le robot homicide rencontre le robot protecteur, trop protecteur, des Humanoïdes, mais aussi l’androïde humain, trop humain, de Blade Runner ou de L’Oiseau d’Amérique (Mockingbird, Walter Tevis, 1980).
Les clickers dans Top 10, les Hu-bots dans Äkta Mäniskor **** font du robot une métaphore sociale. Dans Top 10 (Alan Moore, Zander Cannon et Gene Ha, Wildstorm Studios), bande dessinée policière se déroulant dans une ville où tout un chacun est nanti de pouvoir, ou bien mutant, ou extraterrestre, les robots sont une catégorie à part reléguée dans des ghettos à la criminalité galopante. Ils ont leur argot bien à eux, écoutent du rap, et sont victimes de contrôle au faciès de la part de flics qu’on n’ose qualifier de racistes. Le déguisement est clair, on est dans les ghettos noirs américains et, appliqué à des machines, le discours des racistes devient ridicule et hilarant, surtout quand un robot à l’aspect inspiré de Shogun Warrior est lui-même intégré dans la brigade.
Dans Äkta Mäniskor, série télévisée produite en Suède et diffusée chez nous par Arte, les androïdes sont intégrés à la vie quotidienne des humains à la manière des smartphones et tablettes. Et ils connaissent les mêmes détournements d’usage. Mais ils sont aussi en bute au racisme, fantasmes et autres préjugés. Et si jamais ils arrivaient à acquérir le même libre arbitre que l’homme, il faudrait commencer à les traiter comme des égaux, ce que la société qui les a produits n’est pas prête à accepter.
La guerre des cerveaux
Dans la série japonaise Patlabor, déclinée en manga, série, OAV, longs métrages animés et bientôt film live, le terme labor permet de garder le sens de robota, en revenant au latin plutôt qu’au tchèque. L’idée est de se débarrasser d’un terme chargé de toutes les connotations vues ci-dessus, pour en revenir à l’essentiel : une machine faite pour travailler, à l’intelligence artificielle d’ailleurs réduite, sans conscience d’elle-même. Mais le contexte japonais, dans lequel le rapport aux objets n’est pas tout à la fait le même, permet de leur donner un petit quelque chose en plus. Il ne suffit pas de grand-chose pour que la machine s’anime, au sens le plus fort du terme.
Et cette absence de conscience pose en creux le problème de l’intelligence artificielle. Comment donne-t-on une « âme » à un robot ? Est-elle une propriété émergente de la complexité croissante des systèmes ? Y a-t-il un seuil de sophistication qui la voit apparaître ? Et quel volume de circuits cette complexité représente-t-elle, initialement. A-t-elle besoin d’une forme au moins vaguement humanoïde (en considérant qu’avec sa tête et ses jambes, R2-D2 est « vaguement humanoïde ») ?
En d’autres termes, peut-on voir HAL 9000 comme un robot aux dimensions d’un vaisseau ? En tout cas, dans 2001, l’Odyssée de l’espace, il se retourne contre les hommes conformément aux origines du mythe, dans le cadre d’une dialectique purement prométhéenne de tension de l’homme vers la divinité. La boucle est bouclée.
On n’a pas encore épuisé le thème du robot. Mais c’est normal : le robot est, par nature, infatigable.
La boîte à outils
Un film à voir : Planète hurlante (Screamers, Christian Duguay, 1995), avec Peter Weller. Les robots tueurs à usage militaire se sont retournés contre tout le monde. Pire encore, ils commencent à prendre forme humaine pour pouvoir infiltrer les rangs des soldats qui les combattent.
Un livre à lire : Face aux feux du Soleil (The Naked Sun, Isaac Asimov, 1957), parce qu’il permet de donner un sens inédit à l’expression judiciaire « accessory to murder ».
Une bande dessinée à regarder : Ian, de Fabien Vehlman et Ralph Meyer. Parce que le sujet de la programmation et du libre arbitre est inépuisable.
Un disque à écouter : El Baile Aleman, par Señor Coconut Y su Conjunto, parce que We Are the Robots en cha-cha-cha, ça fait des trucs bizarres dans les oreilles.
* Les Tchèques ont bien de la chance d’avoir laissé un mot pas trop péjoratif. Pour citer un exemple chez un de leurs voisins, le seul mot serbe qui soit passé dans la langue française, c’est « vampire ». Ça n’aide pas à se donner bonne réputation.
** Il est intéressant de noter que le positron, ou positon (qu’Asimov a probablement choisi pour des raisons de sonorité), se comporte peu ou prou comme le banal électron, dont il est la contrepartie « positive ». Un cerveau positronique n’est donc qu’une variante du banal cerveau électronique (banal dans la science-fiction de l’époque, en tout cas). La nuance tient au fait que le positron appartient à cette classe de particules qu’on appelle généralement « antimatière ». Chacun des robots d’Asimov est donc une bombe ambulante, mais cet aspect n’est hélas jamais traité dans son cycle.
*** Une pensée émue pour le créateur graphique de Nono, disparu en début d’année et au nom prédestiné : le regretté René Borg. (le texte date de 2014, ndNiko)
**** Oui, je sais, la télévision française a diffusé cette excellente série sous le titre Real Humans. Mais je trouve ridicule cette manie snobinarde qu’on nos producteurs et éditeurs de traduire sous nos latitudes des titres en suédois, japonais ou russe par des titres anglais.
Commentaires