Ex Machina

par Jean-René Moret

Sorti l’année dernière, Ex Machina est un film de science fiction qui fait réfléchir, où la technologie n’est pas qu’une excuse pour nous vendre des scènes d’actions trépidantes, mais nous offre une occasion de nous poser de vraies questions. Celles-ci portent évidemment sur les robots et notre attitude à leur égard, mais par analogie elles peuvent également nous faire jeter un regard sur nous-même, et sur notre relation à notre propre créateur. Ce film forme également  une très bonne base pour penser à la question de la moralité.

L’histoire

Attention spoiler : je vais résumer rapidement l’intrigue du film, risquant de gâcher ainsi au lecteur le plaisir de découvrir l’histoire en le regardant. Vous êtes prévenus !

Le film constitue presque un huis clos entre 4 protagonistes, dont 2 humains. Caleb est un jeune programmeur travaillant pour une entreprise informatique multinationale du nom de Blue Book (une sorte de Google sous un autre nom). Il est invité par Nathan, le PDG de son entreprise, à venir passer une semaine dans son lieu de vie et laboratoire secret et retiré. Nathan a construit une androïde du nom d’Ava, et souhaite utiliser Caleb pour tester l’intelligence d’Ava. Dans la version classique d’un tel test (« test de Turing »), l’humain ignore a priori s’il a affaire à un humain ou à une machine. En l’occurrence, l’inventeur souhaite voir si le jeune ingénieur sera convaincu qu’Ava est une personne, bien qu’il sache que c’est une machine. Au début du film, Ava est confinée à une partie de la demeure de Nathan.

Le dernier personnage est Kyoko, un autre androïde, qui semble doté d’une psychologie plus rudimentaire qu’Ava. Elle joue le rôle de servante et probablement d’esclave sexuelle de Nathan, qui la traite avec un profond mépris.

Au cours des entretiens de Caleb avec Ava, celle-ci exprime un intérêt amoureux envers lui, ainsi que sa détresse d’être confinée à une seule pièce, au lieu de pouvoir découvrir le monde et en faire l’expérience. Le jeune homme a par ailleurs l’occasion de voir des enregistrements vidéo sur l’ordinateur de Nathan, qui vont susciter en lui le doute sur la moralité de la détention des androïdes. Il voit entre autre une précédente version d’Ava se démolir entièrement le bras en frappant contre les parois qui la retiennent et en criant « Pourquoi ne me laisses-tu pas sortir ?! ». Il apprend par ailleurs que Nathan reprogramme régulièrement le cerveau de son androïde pour en produire une nouvelle version, effaçant tous ses souvenirs et ses expériences.

Ava obtient l'aide de Kyoko pour vaincre Nathan.
Ava obtient l’aide de Kyoko pour vaincre Nathan.

Finalement, Caleb parvient à aider Ava à sortir de son confinement. Avec l’aide de Kyoko, celle-ci tue froidement Nathan, puis quitte les lieux en laissant Caleb enfermé à l’intérieur du complexe. Cela indique au spectateur que, comme Nathan l’avait indiqué à Caleb, l’intérêt apparent d’Ava pour lui n’était que manipulation, destinée à obtenir son aide.

Créateur et créature

Au travers du récit et des dialogues, Ex Machina permet de s’interroger sur les liens entre créateur et créature, ou plus précisément sur les droits de la créature. Nathan fonctionne essentiellement avec une logique de propriétaire : il a tous les droits sur les androïdes qu’il a fabriquées1.

Il estime légitime de les garder confinées, de les employer à ses propres fins, et de mettre un terme à leur existence quand bon lui semble. Avec cette logique, la notion d’amour n’a pas de place dans sa relation aux androïdes. Caleb, lui, est amené à trouver l’approche de Nathan plus que discutable. Outre ses sentiments, ses choix semblent aussi déterminés par l’idée que l’androïde a des droits dès lors que c’est une personne consciente. Entre autre, il envisage avec horreur l’éventualité de l’annihilation de l’Ava qu’il a connue.

Le film amène ainsi adroitement le spectateur à réfléchir à ces aspects. L’optique de Caleb semble plus humaine et acceptable, pourtant au final son action mène à la mort de Nathan, à la destruction de Kyoko, et à la perte de tout contrôle sur Ava. Or après avoir vu cette dernière mentir, manipuler et tuer, on est en droit de craindre son comportement à venir. Nathan savait probablement n’avoir pas créé un être bon, à qui l’on pouvait donner la liberté sans crainte, mais Caleb fait preuve d’un idéalisme naïf qui ne voit pas le danger.

See-her-brain-02
Nathan présente à Caleb le cerveau d’Ava

Moralité

En effet, Caleb semble présumer de la sincérité d’Ava, et d’une certaine manière il la traite comme un être humain injustement retenu prisonnier. La conclusion du film est une désillusion cruelle ; lui qui pensait agir pour délivrer son amoureuse robotique se trouve abandonné, sans explication ni remerciement, dans une situation qui n’est pas meilleure que celle d’Ava initialement. On peut de plus être effrayé par le sang froid avec lequel Ava achève son créateur ; elle ne montre aucune des émotions qui pourraient s’associer à un tel acte chez un humain : ni hésitation, ni choc, ni remord, ni colère. En bref, Ava ne manifeste aucun signe de moralité, et ni de gratitude pour l’aide fournie par Caleb.

Cette absence de moralité ne devrait pourtant pas surprendre Caleb. Le cerveau électronique d’Ava fonctionne sur la base du moteur de recherche de la firme de Nathan. Elle a un accès à une quantité d’information quasi-illimitée, et les facultés d’analyses nécessaires pour en extraire les principes qui lui permettront d’agir. Par contre, rien n’indique que Nathan lui ait implanté un quelconque sens moral. Or l’accumulation d’information ne dit pas ce qui doit être et ce qu’il faut faire2. Si un ordinateur connaît un but qui est bon, il peut arriver à calculer quels sont les faits et comportements qui sont optimaux par rapport à ce but. Au contraire, sans tel point de départ, il n’y a pas de moralité possible. Soit dit en passant, Nathan aurait sauvé sa peau en lisant Isaac Asimov et en en implantant au moins les trois lois de la robotique à Ava. Au final, ce film présente une situation imaginaire mais cohérente, qui permet de bien se rendre compte qu’il ne suffit pas d’avoir un être rationnel pour avoir un être moral. Pour nous, cela nous indique qu’il y a nécessairement une base méta-rationnelle à la moralité humaine. Ce que Caleb suppose chez Ava mais qu’elle n’a pas, c’est un sens moral donné par son créateur.

Bref, Nathan n’a donné à Ava ni moralité, ni liberté ; et l’inconscience de Caleb fait qu’il donne la liberté à cet être amoral. Nathan ne se reconnaît pas d’obligations vis-à-vis de ses androïdes, mais il pense à ses responsabilités face au monde extérieur.

Tout cela peut nous permettre de réfléchir sur le rapport entre Dieu et l’homme. Il y a quelque chose de scandaleux à créer un être pensant, mais privé de toute liberté. Par contre, créer un être pensant et libre sans moralité est dangereux, c’est pourquoi Dieu donne à l’homme une certaine liberté et une responsabilité morale. Cependant, il ne se défausse pas de toute responsabilité sur l’homme.

Que Doit donc faire Dieu lorsque l’homme emploie sa liberté pour mal agir ? Doit-il le reprogrammer en effaçant son identité ? Cela nous fait frémir. Doit-il le laisser faire indéfiniment ? Cela serait terrible. Peut-être ce qui serait mieux serait de maintenir la conscience de ces personnes, mais de les priver de leur moyen d’agir. C’est à vrai dire précisément ce qu’indique la doctrine de l’enfer3, qui est si difficile à admettre de nos jours : ceux qui emploient leur volonté au mal et n’auront pas voulu être transformés en bien seront maintenu en existence, mais dans un état qui en leur permette pas de multiplier leurs mauvaises actions.

Cepandant, Dieu, qui aime les hommes qu’il a créé, ne se limite pas à cette option. Il a aussi souhaité donner à ses créatures la possibilité d’une reprogrammation, mais volontaire et progressive. Les humains malfaisants que nous sommes sont appelés à renoncer volontairement à leurs mauvais comportement, et à laisser Dieu les transformer petit à petit4.


1 Curieusement, les androïdes fabriquées par Nathan sont toutes d’aspect féminin, tandis que les personnages humains du film sont tous des hommes. Cela traduit en tout cas les fantasmes de Nathan, et pourrait donner lieux à des réflexions sur le rapport entre les sexes. Je ne m’y lance pas, mais on peut consulter cette critique et cette autre critique.

2 C’est ce qu’on appelle la loi de Hume, que je cite dans la formulation de R. Boudon :  « On ne peut tirer une conclusion à l’impératif de prémisses qui seraient toutes à l’indicatif. » (Raymond Boudon, Le relativisme, PUF, Que sais-je ?, 2008. p. 15-16., d’après https://fr.wikipedia.org/wiki/Loi_de_Hume)

3 J’ai traité de cette question de l’enfer dans deux articles.

4 J’entre dans quelques détails supplémentaires à ce sujet dans l’article : Pourquoi Jésus est-il mort ? Une identité transformée, ainsi que dans Pourquoi les chrétiens ne sont ils pas meilleurs?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *