LE DIRECT

L'hybridation hommes-machines :dans une vingtaine d'années

6 min
À retrouver dans l'émission

Cessons d'opposer l'intelligence humaine à celle des machines : selon l'un des directeurs de Google, nous allons les conjuguer en branchant notre cerveau directement au "cloud". Quelle forme de pensée en résultera ?

On croit avoir une longueur d’avance sur l’actualité et on s’aperçoit que le monde des idées court vite… Je vous parle, en effet, depuis le début de la semaine des problèmes éthiques posés par les développement actuels et surtout prévisibles de l’intelligence artificielle. Et je viens de découvrir que s’est tenu, il y a juste deux semaines, aux Etats-Unis, un colloque entier consacré à cette question. Il a eu lieu les 14 et 15 de ce mois à l’Université de New York. Les invitations étaient lancées à l’initiative de deux des départements de pointe de cette institution, le Center for Mind, Brain and Consciousness (le centre d’étude de l’esprit, du cerveau et de la conscience – il n’y a que les Américains pour ouvrir des centres de recherche aux intitulés aussi baroques) – et le Centre de bioéthique. Mais on peut trouver révélateur que ce soient des spécialistes du cerveau (humain) et des technologies du vivant qui réfléchissent sur les implications morales de l’usage que nous faisons – et que nous nous apprêtons à faire – des outils numériques. Car, précisément, ce que l’avenir pourrait bien nous apporter, c’est une hybridation de notre manière de traiter les problèmes. Je vais y revenir.

Les organisateurs avaient soumis aux personnalités invitées les questions suivantes : quels principes éthiques doivent guider les chercheurs dans le domaine de l’intelligence artificielle ? Y a-t-il des restrictions à observer et lesquelles ? Quels sont les meilleurs moyens d’aligner les créations en intelligence artificielle sur les valeurs humaines ? (C’est déjà plus précis : on voit qu’elles peuvent diverger…) Est-il possible ou désirable de créer des principes moraux spécialement conçus pour les systèmes d’intelligence artificielle ? (Voilà qu’on réclame un Kant pour les robots….)Autres questions : Quand un tel système cause des dommages ou procure des bénéfices, qui est moralement responsable ? (On en a parlé ici avant-hier.) Doit-on avoir des égards d’ordre moral envers les intelligences artificielles ?

Les actes du colloque ne sont pas encore disponibles et je le regrette, car les réponses à ces questions sont urgentes. Encore une fois, gare au syndrome de l’apprenti-sorcier ! Même si la « singularité technologique » n’est pas imminente, il est difficile de nier qu’à un moment, le développement des machines intelligentes vont les rendre plus intelligentes que leurs créateurs humains. Et, encore une fois, il est très difficile de prévoir les conséquences d’un tel évènement pour notre histoire.

Participaient au colloque de New York les vendredi 14 et 15 de ce mois, plusieurs chercheurs dont je vous ai parlé au cours de la semaine, comme Nick Bostrom ou Stuart Russell, mais c’est d’un autre théoricien dont je voudrais vous parler, parce qu’il propose une solution originale à cette espèce de course de vitesse engagée désormais entre nos capacités intellectuelles et celles des machines, toujours plus intelligentes, que nous créons : l’hybridation.

Ray Kurzweil, c’est de lui qu’il s’agit, n’est pas un rêveur. Ingénieur en informatique, il a prédit, dans les années 90 du XX° siècle, que les ordinateurs seraient mobiles au XXI° et qu’aux alentours de 2020, on roulerait dans des voitures auto-conduites. Pas mal ! Sur le plan professionnel, il est le directeur technique de Google. En tant que penseur, il est l’auteur de livres qui ont connu un fort retentissement, comme L’Age des machines spirituelles et un autre consacré à la fameuse Singularité technologique. Dans le plus récent, intitulé « Comment créer un esprit : le secret révélé de la pensée humaine », il estime que raisonner en opposant l’esprit humain et celui des ordinateurs est dépassé. Car dans l’avenir, l’homme et la machine ne seront plus des entités séparées.

Kurzweil n’est pas le premier à relever des similitudes entre la manière dont nous pensons et celle dont fonctionnent les ordinateurs équipés de software. Notre cerveau comporte, comme nos ordinateurs, une architecture de modules, regroupés de manière hiérarchisée. Ces modules sont capables d’apprendre à effectuer des opérations de pensée, ou de les déduire de nos observations. Nous les mobilisons en fonction de la complexité des défis qui nous sont lancés.

D’ores et déjà, Kurzweil et les gens de Google ont mis au point des outils qui vont faire ne nos moteurs des « participants actifs de nos vies », selon son expression. Jusqu’à présent, ils ont été conçus afin d’interpréter nos requêtes et de chercher ce qui leur correspond sur une base d’informations indexées. A présent, ils vont nous expliquer pourquoi, en fonction de ce que nous sommes, nous pourrions trouver un intérêt à quelque chose auquel nous n’avons pas encore songé ou dont nous ignorons l’existence.

Et, à ses yeux, c’est un premier pas vers cette « pensée hybride » dont il estime la réalisation pour la fin des années 2030. A ce moment, nos cerveaux pourront être connectés directement aux ressources d’internet via le « cloud » par des puces implantées. Nous serons des humains « augmentés » par l’implantation de relais. Progressivement, prévoit Kurzweil, la partie « non biologique » de notre cerveau finira par comprendre – et donc par dominer – l’autre. Nous serons alors devenus des hybrides hommes-machines. Et la séparation entre intelligence humaine et intelligence artificielle cessera d’être pertinente. Notre pensée elle-même sera devenue une pensée hybride.

L'équipe
Production

France Culture

est dans l'appli Radio France
Direct, podcasts, fictions

INSTALLER OBTENIR

Newsletter

Découvrez le meilleur de France Culture

S'abonner
À venir dans ... secondes ...par......