La faille de Turing

– par Vincent M.T.

 Une synthèse des films Ex Machina et Imitation Game pour déterminer ce qu’est l’humain.

Écrit par le scénariste de 28 jours plus tard, et récompensé en 2016 aux Oscars (meilleurs effets visuels), Ex Machina (2015) est un excellent film britannique sur le thème de la distinction entre l’humain et le robot. Son critère : le test de Turing, imaginé par le mathématicien éponyme, inventeur de l’ancêtre de l’ordinateur.

Synopsis

Le personnage principal d’Ex Machina, Caleb, est un jeune programmeur à « Blue Book », la plus grande société informatique du monde. Gagnant d’un concours interne pour rencontrer Nathan, le PDG de Blue Book, il va passer une semaine avec lui, dans sa propriété retirée dans les montagnes, loin de tout. Là, Caleb découvre Ava, un des prototypes de robots humanoïdes sur lesquels travaille Nathan, et apprend que le concours n’était qu’un prétexte : en fait, le jeune homme a été sélectionné pour passer une sorte de test de Turing. Il doit déterminer si l’un des robots, Ava, démontre une véritable intelligence artificielle (1).

   EXM_D024_-04003    ex-machina

Or très vite, Ava sollicite l’aide de Caleb pour échapper à l’emprise de Nathan, qui la retient prisonnière et lui efface régulièrement la mémoire. Le jeune homme va être pris de compassion, et même d’affection, pour l’androïde, dont la situation et et le comportement lui évoque celui d’une victime. Par contraste, le nihilisme radical de Nathan va dégoûter Caleb, qui verra de plus en plus en lui un persécuteur.

Il décidera finalement qu’Ava doit être secourue – considérant donc qu’il s’agit d’une personne, avec des droits et une dignité égale à ceux d’un humain. Tout cela, uniquement sur la base du comportement de l’androïde.

Cette partie de l’histoire nous suffira pour notre réflexion. Pour savoir comment se termine l’histoire jusqu’ici assez classique, il n’y a qu’à regarder le film !

Le test de Turing

La question fondamentale à laquelle Alan Turing voulait répondre est la suivante : « Qu’est-ce que la conscience ?« , afin de la reproduire par l’informatique. 

maxresdefault

Plutôt que de chercher à formuler une définition de la conscience, en s’intéressant donc à sa nature, il déplaça le problème pour s’intéresser à notre capacité à la reconnaître. Ainsi, le critère de son test n’est pas la nature objective de la conscience, mais le jugement subjectif d’un être conscient : si un humain est convaincu d’avoir à faire à un humain lorsqu’il parle à une machine, alors cette machine a atteint un niveau d’intelligence artificielle – soit de conscience – équivalent à celui de l’humanité.

Jusqu’au siècle dernier, la conscience intelligente (civilisée) était source de dignité et les droits. Aujourd’hui c’est la conscience sensible (capable de souffrir). Ainsi, le degré de ressemblance à une intelligence – ou une souffrance – consciente (c’est-à-dire humaine) serait l’indicateur d’une conscience, autrement dit, d’une dignité authentique. Et ce, qu’il s’agisse d’un robot, d’un zombie – sauf s’il est philosophique (2) – ou d’un chien. On ne parle plus en termes de nature, mais de comportement, de rôle (3) – à l’instar de certains discours sur le genre, le transhumanisme, ou les droits des animaux.

La faille

Je ne prétendrais pas prendre Turing en défaut dans son domaine, cependant sa démarche philosophique m’interpelle, surtout quand on voit où elle mène nos contemporains. Pour clarifier le test de Turing, on peut le représenter ainsi :

1. Un évaluateur humain demande à un autre évaluateur humain si un robot particulier est humain ou robotique.

2. Le second évaluateur est convaincu que le robot en question est humain.

3. Donc le robot a atteint un niveau « humain » d’intelligence (intelligence artificielle).

Pour vérifier si la logique de ce « test ex machina » (à partir d’une machine), est valide, il suffit d’appliquer la loi de Clavius : regarder ce qui se passe lorsqu’on inverse les sujets. On pourrait ainsi imaginer un « test ex homo » (à partir d’un humain) :

1. Un évaluateur robot demande à un autre évaluateur robot si un humain particulier est humain ou robotique.

2. Le second évaluateur est convaincu que l’humain en question est robotique.

3. Donc l’humain a atteint un niveau « robotique » d’intelligence (programme organique).

Evidemment, il n’existe pas actuellement de robot capable d’évaluer l’humanité d’autres êtres, mais si une intelligence artificielle « humaine » est possible en théorie, alors ce test ex homo devrait être valide en théorie. Or il est clair qu’il est absurde, et d’autant plus en corrélation avec l’idée qui se cache derrière, à savoir, qu’une « véritable » intelligence artificielle mérite d’être considérée comme une personne. Car alors, un humain démontrant une « véritable » intelligence robotique mériterait-il d’être traitée comme une machine ?

Un humain démontrant une « véritable » intelligence robotique mériterait-il d’être traité comme une machine ?

La dictature des bien-pensants

Dr-Alan-Turing-2956483Mais quel genre d’humain pourrait démontrer une intelligence qu’on qualifierait de « robotique » ? Et bien, Turing, par exemple. Comme l’illustre très bien le film biographique Imitation Game, son génie et son comportement froidement rationnel lui ont valu de nombreuses critiques. Passerait-il son propre test ? Et si les signes de syndrome d’Asperger que lui prêtent le film sont probablement exagérés, cela pose néanmoins la question pour les gens atteints de divers types d’autisme.  En suivant le raisonnement qui veut faire de l’apparence d’une intelligence, ou d’une conscience, le critère de l’humanité, de la personne, de la dignité, source de droits et de respects, alors on condamne Turing à n’être qu’une machine. Ce faisant, on légitime le genre de traitement dont il a été victime, comme par exemple la castration chimique que lui a imposé un État Britannique en prise à des dérives totalitaires.

Saluons son génie mathématique, mais pour l’amour de l’humanité, et pour Turing lui-même, rejetons cette vision du monde. L’apparence d’intelligence n’est en fait qu’une impression d’intelligence – impression de qui ? De nous, humains, intéressés et myopes que nous sommes. C’est la controverse de Valladolid qui recommence… On ne peut s’en sortir sans formuler une définition objective de l’humain.

Définir l’humain

La Bible pose un principe à la fois simple, mystérieux, et inépuisable pour définir l’humain : il est « image de Dieu ». En tant qu’image, il est nécessairement physique, même s’il représente un Dieu invisible, un Dieu qui est esprit. En tant qu’image de Dieu, il présente les mêmes caractéristiques, par exemple l’altérité et la médiation :

  • Altérité. Le Dieu de la Bible est trinitaire, il est à la fois un et multiple (le Père, le Fils, et le St Esprit). De même, notre vie n’a de sens que dans l’altérité : nous ne nous suffisons pas à nous-mêmes pour comprendre notre identité, ou pour être heureux. Tout le monde se pose la question « Qui suis-je ? », ce qui témoigne d’une capacité à porter un regard sur soi-même, de prendre du recul sur soi, bref, d’être à la fois sujet et objet de la pensée. Nous nous posons la question, mais avons du mal à y répondre de façon satisfaisante parce que nous cherchons quelque chose qui nous ressemble, mais cette altérité est unique ici-bas. Il n’y a que dans un Dieu trinitaire que nous trouverons une vraie réponse.
  • Médiation. Nous seulement nous avons besoin d’un autre pour nous comprendre mais nous avons aussi besoin d’un autre pour être nous-mêmes. J’écris dans une langue que je n’ai pas inventée, je l’ai reçue, comme vous, des autres humains. Je suis né avec le potentiel pour parler cette langue, et par là-même de former et complexifier ma pensée, de compléter mon ressenti spontané par une vie intérieure riche, mais j’ai dû la recevoir d’autres humains, comme tout un tas d’autres choses. Je ne pourrais être entièrement moi-même si l’on ne m’avait pas transmis ces choses. Pour être pleinement humain, il faut donc dépendre d’un autre humain, d’un médiateur qui nous transmette sa vision du monde. C’est précisément le rôle que joue Jésus : Dieu fait homme, il est à la fois Créateur et créature, parfait intermédiaire, parfait médiateur entre lui et nous. Il est comme nous, et comme celui qui nous a créé à son image – mais d’une manière parfaite, tandis que nous, créés pour ressembler à Dieu, vivons pourtant détournés de lui. Nous trouvons donc en Jésus la source de notre identité, le sens de notre vie, et toute notre humanité.

Si donc nous voulons être pleinement nous-mêmes, pleinement humains, pleinement libres, et nous voir les uns les autres à la même lumière, ceux que l’on a envie de marginaliser comme ceux qui ont envie de nous marginaliser, alors seul Jésus – vrai Dieu et vrai humain – peut nous y aider.

– par Vincent M.T. Cette réflexion part d’une idée originale de Lance Schaubert (4).


Note :

(1) En réalité, dans le test de Turing, l’évaluateur humain ne sait pas si l’interlocuteur qu’il évalue est humain ou non. Ici, Caleb sait dès le départ qu’Ava est un être artificiel, étant donné son aspect robotique. (retour)

(2) En philosophie de l’esprit contemporaine, le « zombie philosophique » désigne un être qui serait physiquement identique à un être humain mais qui serait dépourvu de toute intériorité, autrement dit de toute conscience. Voir L’esprit conscient, de David Chalmers (1996) . (retour)

(3) Et peu importe que la Déclaration Universelle des Droits de l’Homme fasse référence à la nature (« Tous les hommes naissent libres et égaux en droits… ») plutôt qu’à l’intelligence… C’est un texte dont nous mesurons l’importance mais rarement la portée, comme l’explique cet article.  (retour)

(4) L. Schaubert prépare d’ailleurs un roman sur la base de la réflexion présente dans cet article : Faceless, premier opus d’une trilogie intitulée Artilect War – à paraître en anglais à l’automne. (retour)

1 comment

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *