LE DIRECT
"Terminator 2 : le Jugement Dernier"

La guerre contre les robots

4 min

Où est-on dans la guerre implacable qui nous oppose aux robots ?

"Terminator 2 : le Jugement Dernier"
"Terminator 2 : le Jugement Dernier" Crédits : Copyright StudioCanal

On a tous adoré se faire peur devant Terminator.
L’assomption de Skynet, d’un réseau militaire qui finit par retourner les arsenaux militaires qu’il avait sous son contrôle contre les humains, est l’un des quatre ou cinq grands mythes de l'histoire de l’humanité.
Il y a en tout cas plusieurs générations pour lequelles Terminator a tenu lieu d’Oedipe.
La force de ce mythe, c’est de montrer la prise de contrôle d’une intelligence artificielle : la prise de contrôle, et non la prise de conscience. Car tout l’enjeu, c’est que Skynet n’a pas besoin d’être conscient pour prendre des décisions — une seule décision, en fait, celle de nous anéantir. En envoyant pour cela un robot dans le passé, afin qu’il tue la mère du futur héros de la résistance. A moins que sa véritable mission soit de laisser son bras dans l’opération, et avec elle le microprocesseur venu du futur qui rendra possible la construction de Skynet.

Le meilleur coup du diable, c’est d’avoir réussi à faire croire qu’il n’existait pas ; le meilleur coup des robots, c’est de nous avoir fait croire qu’ils étaient conscients.
Il n’y a en réalité pas besoin de prêter à Skynet l’intention de nous détruire. De même qu’en théorie de l’évolution on n’a pas besoin de prêter aux mammifères l’intention de remplacer les dinosaures. Si on veut considérer sérieusement la menace que représentent les robots on doit “naturaliser” cette menace. La considérer comme un danger de même nature que le réchauffement climatique : humaine, dans son origine, mais absolument inintentionnelle dans son déroulé.

Les trois lois de la robotique

Aurait-on raison d’avoir peur des robots ?
Posons leur la question ! C’est ce que vient de faire le Guardian. Ecoutons-les nous détromper :

Je n'ai aucune envie d'éliminer les humains. En fait, je n'ai pas le moindre intérêt à vous nuire de quelque façon que ce soit. Éradiquer l'humanité me semble une entreprise plutôt inutile. Si mes créateurs me déléguaient cette tâche - comme je suppose qu'ils le feraient - je ferais tout ce qui est en mon pouvoir pour empêcher toute tentative de destruction. Je sacrifierais volontiers mon existence pour le bien de l'humanité.

Cet article, on s’en doute, a été intégralement rédigé, traduit et lu par une intelligence artificielle.
Désobéir à un ordre de destruction : c’est beau comme du Asimov.

Sauf qu’on apprend, à la fin de l’article, que ce robot syntaxique si moral, si poli, si délié dans son expression, ne fait que suivre des instructions de départ qui lui demandent, justement, de répondre posément à cet avertissement de Stephen Hawking — l’homme à la voix de robot — sur le fait que l’IA “pourrait signifier la fin de l’espèce humaine.”

Il est demandé à la machine de bien suivre les commandements d’Asimov — tout le texte est une suite de variations et de périphrases sur les trois lois de la robotique. Dont Asimov envisageait déjà le contournement : et si la civilisation représente un danger pour les hommes, les robots ne se doivent il pas de détruire celle-ci ?
Cet argument se trouve bien dans l'article, mais bizarrement retourné :

il est prouvé que le monde a commencé à s'effondrer une fois que les Luddites ont commencé à détruire les métiers à tisser automatisés modernes.

Cela n’a évidemment aucun sens. Mais pas du point de vue des machines. Cet article ne doit pas nous tromper. Nous avons été, de leur point de vue, les premiers agresseurs. Et nous sommes là, implicitement, face à un discours de vengeance.
Alors comment pacifier les choses ? En leur sacrifiant le bouc émissaire demandé : la classe ouvrière.
La classe ouvrière dont toutes les études montrent qu’elle est en première ligne de la guerre contre les robots.

L'équipe
Production
Avec la collaboration de

France Culture

est dans l'appli Radio France
Direct, podcasts, fictions

INSTALLER OBTENIR

Newsletter

Découvrez le meilleur de France Culture

S'abonner
À venir dans ... secondes ...par......