LE DIRECT

Les robots sont nos amis, il faut les aimer aussi

4 min
À retrouver dans l'émission

Vue la vitesse à laquelle les robots sont en train d'évoluer, si on veut garder une chance de survivre à tout ça, ce serait bien de rester potes avec eux et les IA, les Intelligences Artificielles.

what is the Matrix ?
what is the Matrix ? Crédits : Comfreak

Je vous dis ça parce que je suis tombé en fouillant via mon robot personnel, mon ordinateur chéri – je l'ai appelé SKYNET, ça ne vous dit rien à vous mais SKYNET c'est le nom de l'intelligence artificielle maléfique qui veut détruire l'humanité dans la série de films Terminator - je me dis que comme ça au moins, si jamais c'est mon ordinateur qui s'éveille en premier à la conscience, je laisserai une petite trace dans l'histoire...

Bref... Je cherchais donc hier un nouveau sujet de chronique lorsque je suis tombé sur plusieurs informations concordantes. Il y a d'abord eu ce tout nouveau programme, que je comptais d'ailleurs installer rapidement sur SKYNET, conçu par des informaticiens de l'université d'Alberta, au Canada. Un programme qui gagne à tous les coups à un jeu. Mais à tous les coups. Un programme face auquel vous ne pouvez pas gagner, vous savez, un peu comme dans L'année dernière à Marienbad .

"Je connais un jeu auquel je gagne toujours"
Sauf que là il ne s'agit pas d'allumettes, mais de la variante Texas Hold'em du poker : imaginez un peu les ravages dans les casinos... oui mais non en fait, puisqu'il s'agit d'une variante limitée du Texas Hold'em, le Heads Up à limites fixes, qui se joue à deux avec des mises limitées.

Quand bien même, c'est la première fois qu'un programme informatique vient à bout de ce qu'on appelle un jeu à information imparfaite. C'est-à-dire dans lequel les joueurs n'ont pas connaissance de la totalité des données, puisque le jeu de l'adversaire est caché, contrairement aux échecs, ou aux dames par exemple. Ca c’est la 1ère information.

Deuxième information concordante : une équipe de l'université du Maryland va présenter, à la fin du mois de janvier, son nouveau robot, un grand échalas avec des bras démesurés et une tablette à la place du visage, qui sait peu ou prou cuisiner.

Rien d'incroyable à cela, si ce n'est que ce ne sont pas ses programmeurs qui lui ont inculqué l'art de tenir un couteau et d'émincer un oignon. Le robot a appris à faire tout ça tout seul, tenez-vous bien, en regardant des tutoriels, des vidéos d'explications, du type de celles qu'on trouve sur YouTube pour décoller du lino ou ne pas rater sa béchamel... et ce grâce à ce qu'on appelle des réseaux de neurones convolutionnels, c'est-à-dire des réseaux de neurones artificiels qui cherchent à reproduire des fonctions cérébrales.

Mais ce n'est pas tout... je tombe dans la foulée sur cet autre article, troisième information, qui explique comment un robot a acheté en toute autonomie, et totalement illégalement, de la drogue sur le Deep Web, l'internet profond.

A l'origine, il s'agit d'une performance de deux artistes suisses, qui ont créé un programme dont le but est d'acheter de façon totalement aléatoire chaque semaine pour 100 dollars de marchandises sur le Deep Web donc, cette face cachée d'internet où l'on trouve tout et n'importe quoi, y compris des armes et de la drogue. C'est ainsi que le robot s'est procuré des faux sacs Vuitton, des cigarettes, une casquette de base-ball et... 10 cachets d'ecstasy, qui ont été livrés chez les artistes par la poste.

Problème : qui est responsable de cet achat, et donc condamnable par la loi ? Le robot, ou ses programmeurs, qui l'ont programmé non pas pour enfreindre la loi, mais pour faire des achats de façon aléatoire... ?

Voilà donc acquis le fait que l'Intelligence Artificielle commence à nous faire flirter avec les limites de la législation humaine. Que les IA sont auto-apprenantes, auto-réplicantes et commencent à être capables de modéliser l'inconnu, à savoir des systèmes imparfaits dans lesquels une partie de l'information est cachée.

Peut-être faut-il prendre sérieusement cette lettre ouverte, publiée il y a quelques semaines par le Future of Life Institute, et signée par Stephen HAWKING ou Elon MUSK, le patron de Space X, entre autres... lettre qui met en garde les ingénieurs et les équipes de chercheurs contre des avancées trop brusques ou irresponsables en termes d'Intelligence Artificielle, et qui réaffirme la nécessité impérieuse de développer des machines au service de l'homme, et dont les objectifs premiers doivent rester de servir l'homme. La lettre met instamment en garde des conglomérats peu scrupuleux, des apprentis sorciers isolés, ou des états voyous quant au développement d'Intelligences Artificielles auto-réplicantes dont les buts seraient radicalement différents... et qui, une fois créées et lâchées dans la nature, seraient difficiles, voire impossibles à contrôler.

Pour conclure, Marc, je vous pose une question à laquelle vous feriez bien commencer à réfléchir, et fissa... what is the Matrix ?

L'équipe
Production

France Culture

est dans l'appli Radio France
Direct, podcasts, fictions

INSTALLER OBTENIR

Newsletter

Découvrez le meilleur de France Culture

S'abonner
À venir dans ... secondes ...par......