– par Vincent M.T

.

Pourquoi rêve-t-on de créer des robots doués de conscience ? Serait-ce, paradoxalement, pour comprendre l’humain ?

Observer l’émergence d’un être, voire d’une « espèce », qui nous ressemble : cela nous permettrait de mieux connaître nos propres origines et notre nature profonde. Ainsi, tous ceux qui mettent en scène des robots tiennent un discours très précis sur les facteurs fondamentaux qui constituent la conscience, et donc l’humanité. La série Westworld (WW dans la suite de l’article) en est un bon exemple.

WW reprend un film éponyme de Michael Crichton sorti en 1973, où des gens payent pour séjourner dans un luxueux parc d’attraction, qui immerge ses visiteurs dans l’univers du Far West. Là, les « invités » humains peuvent vivre tous leurs fantasmes (essentiellement sexuels, aventuriers et guerriers) grâce à des « hôtes » robotiques. La série, créée par Lisa Joy et Jonathan Nolan (qui a co-écrit plusieurs films à succès avec son frère Christopher, dont Interstellar, Terminator : Renaissance et Dark Knight), reprend l’idée centrale de ce film, en extrapolant.

Attention : spoiler. 

Ce qui suit révèle des éléments clef de l’intrigue de la série Westworld (saison 1).

Ore et dolore(s)

Selon le Dr Robert Ford, architecte de ce « Robotic Park », c’est l’accumulation de la souffrance, cette « douleur due au fait que le monde n’est pas tel que l’on veut », qui a suscité l’éveil de la conscience chez les robots. La personnalité, et donc la personne, s’articulent autour d’un événement particulièrement traumatique, qui les définit. Leur volonté est plus liée à cet événement qu’à un quelconque programme qu’on pourrait leur assigner par la suite : ainsi, pour Maeve par exemple, l’impératif supérieur de retrouver sa fille perdue dans le parc lui permet de passer outre son programme qui la prédispose à s’échapper (S1E10).

Le parcours de Dolores (dont le nom signifie « douleurs ») répond également à cette logique. Elle apparaît d’abord innocente, avec des airs (délibérés) d’Alice au Pays des Merveilles. Elle répète souvent : « Certaines personnes choisissent de voir la laideur, la confusion de ce monde. Je choisis d’en voir la beauté.« , et comme tous les « hôtes », elle est programmée pour être incapable de faire du mal à une mouche. Pourtant elle finit par redevenir elle-même en se rappelant du massacre des robots qu’elle a perpétré avec son partenaire Teddie, et alors, elle se remet à tuer – des humains, cette fois.

On retrouve ici une version du discours avancé par l’agent Smith dans le film Matrix. Il révèle en effet à Morpheus que la 1ère matrice, où les humains vivaient dans un monde virtuel parfait (sans souffrance), avait échoué à cause de l’esprit humain, qui rejetait un tel paradis. Sa conclusion : « Les êtres humains définissent leur réalité par la misère et la souffrance« .

Que peut-on penser de cette thèse, et à quelles notions nous renvoie-t-elle ? Voici quatre points que cela nous permet d’aborder, entre autres :

1. L’IMAGE QU’ON A DE DIEU. Dans WW, le Dr Ford semble rejeter l’idée d’un quelconque Dieu, mais en même temps il incarne précisément le type de « Créateur » qui vise la libération, ou l’éveil, de la conscience artificielle – et y parvient. Cela ne justifie-t-il pas ses méthodes ? Cela ne légitime-t-il pas l’existence et la persistance du mal, et donc, en même temps, d’un Dieu qui permettrait toutes les horreurs qu’on lui reproche de ne pas empêcher ? Ou – si l’on rejette l’idée de Dieu – cela n’excuse-t-il pas une humanité qui a commis les pires atrocités dans l’histoire ? Mais comment peut-on même imaginer qu’Auschwitz soit le prix de notre humanité ?
   Ce mythe de l’origine brutale et sanglante de l’humanité est typique des mythes « païens ». Parmi les premiers récits fondateurs (par exemple Le Cycle de Baal ou l’Enuma Elish, au Proche-Orient Ancien), le monde et l’humanité sont créés dans la violence (meurtre), ou pour la violence (esclavage). Par contraste, dans le récit Biblique, c’est pour ouvrir à d’autres la parfaite relation de joie et d’amour (qu’il vit déjà en lui-même, puisqu’il est plusieurs personnes) que le Dieu trinitaire crée le monde, et l’humanité, qu’il destine à le représenter sur terre.
   Une vision biblique du monde considère le mal inacceptable, mais ne l’explique pas. Au contraire, une vision « Westworldienne » du monde explique le mal, et par là même le rend nécessairement acceptable, justifié, et donc… « bien » ?
   Peut-être que toute tentative d’expliquer le mal, pourquoi il est là, pourquoi il persiste, est vouée à l’échec. Peut-être que l’inacceptable est toujours inexplicable, comme le disent les élèves à leur professeur d’histoire dans la célèbre pièce d’Alan Benett, The History Boys :  « Si une chose peut être expliquée, elle peut être justifiée », car « Tout comprendre, c’est tout pardonner ».…
   D.
2. LA SOUFFRANCE DES ROBOTS. Le recours à la souffrance pour humaniser est symptomatique de notre époque qui, lassée d’avoir cherché en vain son identité et son salut dans la raison, s’est maintenant tournée vers le ressenti. Ce retour marque aussi une prise de conscience de la sensibilité des uns et des autres, et du respect qui peut leur être dû. Les droits fondés sur la « dignité », qui impliquent que vivre dans la souffrance est inacceptable, sont au cœur de tous les débats de société : avortement, euthanasie, traitement des animaux, etc. Naturellement, c’est ce qui ressort avec les robots, et tous ceux qui peuvent symboliser « l’autre » (aliens, monstres… et même les zombies).
   Dans une scène du film Les Passagers, le personnage principal raconte ses déboires amoureux à un androïde, qui dit compatir ; mais l’humain rejette cette possibilité, et lui donne une claque pour prouver sa position : « Tu ne peux pas souffrir », explique-t-il. Pourtant, si la capacité de souffrir est un des principaux éléments (ou en tous cas l’un des plus évidents) qui séparent les robots et les humains, ce n’est certainement pas le seul. Manifestement, la nuance d’un double discours échappe également au robot. En effet, il ne comprend pas qu’un humain puisse mentir pour préserver une relation. Cette « complexité » humaine, à l’opposé des robots et des animaux qui sont très spontanés et « simples » dans leurs réactions et dans leurs relations, est le signe d’une nature marquée par l’altérité et la médiation, qui témoigne à son tour de Dieu (voir La Faille de Turing).
   ..
3. ET SI ARNOLD ET FORD SE TROMPAIENT ? Si la thèse de la souffrance « mère de conscience » était fausse ? Après tout, Ford ne peut que constater les conséquences de l’apparition de la conscience, et non l’apparition elle-même. Lorsqu’il observe ce qu’il considère être une réponse consciente à la souffrance, il en déduit que la conscience est en train de s’éveiller, et il tente de la stimuler avec plus de souffrance… cependant, se pourrait-il qu’il confonde corrélation et cause ?
   Autrement dit, les robots ont pu devenir conscients pour une autre raison, et toutes les persécutions infligées par Ford ne les auraient ainsi pas rendus « plus conscients », mais simplement plus traumatisés, plus « visiblement » conscients ?
   Etant donné que Ford n’est qu’observateur, il doit observer pour savoir. Il est donc biaisé, car plus un phénomène est facile à observer, plus il sera en mesure de confirmer sa théorie. Or les personnalités les plus prononcées, et donc les plus facilement observables, sont ici, en l’occurrence, les plus traumatisées. N’en va-t-il pas de même pour les humains ? Le traumatisme de la naissance permet facilement d’observer la souffrance d’un bébé, s’il pleure, c’est « bon signe »… cela implique-t-il pour autant que c’est la naissance qui le rend conscient ? Ou encore, dirait-on pour autant que ceux qui ont moins souffert, ceux qui ont les personnalités les moins radicales, sont moins conscients, moins humains ?
   ..
4. L’HUMAIN, IMAGE DE DIEU. Ford critique l’idée religieuse (judéo-chrétienne) que l’humain est à l’image de Dieu. Voilà comment il interprète cette expression : les humains ont, ou sont, quelque chose de spécial, c’est-à-dire qu’ils possèdent quelque chose de différent, ou de plus, par rapport à tous les autres êtres vivants sur terre. A savoir : ils ont une âme.
   Ce terme est rarement défini, ce qui lui donne plus souvent l’effet d’une formule magique sans substance, servant simplement à se rassurer. Il est bien probable que ce soit d’ailleurs le cas pour beaucoup de gens, qu’ils soient chrétiens ou simplement de « culture chrétienne ». Or c’est une conception qui est étrangère à la Bible car la notion biblique de l’âme se rapproche plus du concept de « personne », quand il s’agit des humains – une notion que l’on trouverait difficile à critiquer.
   Par ailleurs, l’âme n’est qu’un aspect mineur de ce que signifie « être à l’image de Dieu ». Cela recouvre aussi et surtout l’idée que nous sommes des enfants de Dieu – ce qui implique à la fois que nous lui ressemblons, que nous pouvons apprendre de Dieu qui nous sommes, que nous avons besoin de lui comme repère de notre identité, et que nous sommes à la fois ses héritiers et ses imitateurs. Cependant, l’humanité rejette largement ce rapport, particulièrement les deux derniers points.
   Or c’est en grande partie le genre de rapport que WW établit entre les humains et leur création : les critères de la personnalité robotique sont définis suivant une matrice modelée d’après la personnalité humaine et les robots ont besoin de leur créateur pour comprendre qui ils sont. De même, ils cherchent à s’émanciper de leurs créateurs. Ceci dit, cela n’a rien de surprenant dans une perspective biblique : l’humain déchu ne peut que créer un être à son image, donc déchu. Par contre, la différence entre le désir d’émancipation robotique et celui des humains, c’est que Dieu n’a pas abusé de sa créature, il n’a pas cherché à en faire un esclave sexuel ou de la chair à canon. Ce sont les humains qui, s’étant « émancipé » de lui, se sont infligé cela les uns aux autres, parfois même en son nom.
   Peut-être est-ce pour ça que nous ne pouvons qu’imaginer une révolte des robots ? Nous ne saurions pas être de bons créateurs, pas plus que nous n’avons su être de bonnes créatures…

La réflexion ne s’arrête pas là. Nous verrons dans un prochain article plus en détail la notion de rébellion des robots, et pourquoi elle nous obsède tant.