LE DIRECT
Présentation du robot Nao lors de la Journée de l'Intelligence Artificielle sur la campus digital de Hambourg (21/11/2019)

Existe-t-il une Intelligence Artificielle à l'européenne ?

38 min
À retrouver dans l'émission

Alors que l'intelligence artificielle gagne de nombreux secteurs, la Commission européenne initie un processus législatif pour promouvoir une IA respectueuse des valeurs européennes. L’Europe peut-elle vraiment développer une IA éthique et rester compétitive vis-à-vis des GAFAM et de la Chine ?

Présentation du robot Nao lors de la Journée de l'Intelligence Artificielle sur la campus digital de Hambourg (21/11/2019)
Présentation du robot Nao lors de la Journée de l'Intelligence Artificielle sur la campus digital de Hambourg (21/11/2019) Crédits : Axel Heimken - Getty

La présentation, par la présidente de la commission Ursula von der Leyen, d’un plan d’action européen sur l’intelligence artificielle, synthétise à la fois les espoirs et les craintes de l’Europe vis-à-vis des innovations dans ce domaine. 

Les européens ont, en effet, l’impression d’avoir été doublé dans le domaine de l’informatique et des réseaux par les États-Unis et la Chine. Ils tentent aujourd’hui de reprendre la main dans celui de la collecte et de l’exploitation des données, mais aussi, de l’intelligence artificielle, qu’ils utilisent en plaidant pour un usage responsable et éthique de ces nouvelles technologies. 

Regarder simplement les problèmes de hacking ou de malfaisance en ce qui concerne l'intelligence artificielle, c'est se tromper car, en réalité, les données qui sont utilisées reflètent des biais sociaux dans des domaines d'application. Si vous utilisez des algorithmes d'intelligence artificielle pour faire de la justice prédictive [...], cela signifie de mon point de vue qu'il y a un remplacement de la justice -qui est une justice faite par les hommes, pour les hommes, donnée par les hommes- par une automatisation de prises de décisions qui sont issues de statistiques. La personne n'est donc pas jugée en elle-même mais par rapport à son appartenance statistique sur la base de données qui peuvent être tout à fait biaisées.      
Raja Chatila 

Une IA digne de confiance 

Nous avons trois critères pour définir ce qu'est une intelligence artificielle de confiance. Le premier, c'est un critère très important, qui est celui du respect des règles de droit. L'intelligence artificielle sera de confiance si elle respecte les règles de droit. Le deuxième critère, c'est celui de l'éthique. Comment comprendre l’éthique par rapport aux règles juridiques ? Le droit et l'éthique, ce n'est pas exactement la même chose. Les règles de droit sont édictées par l'Etat alors que l'éthique c'est davantage une réflexion entre le bien et le mal. Par conséquent, on peut imaginer que l'éthique pourrait être là pour venir compléter, soutenir voire critiquer les règles de droit actuelles. [...] La troisième clé pour la confiance, c'est que nous avons besoin d'une intelligence artificielle qui soit fiable sur le point de vue de la technique, qu'elle soit prédictible, explicable, justifiable, non piratable.
Nathalie Nevejans 

Une IA responsable est avant tout une IA explicable. Je pense qu'il y a un vrai sujet autour de l'explicabilité et l'interprétabilité. Par exemple, pour le médecin qui utilise une IA pour un cancer du poumon, s'il n'est pas en mesure de pouvoir expliquer pourquoi l’algorithme préconise un tel traitement, il arrivera difficilement à suivre, et c'est légitime, la décision de l'algorithme.      
David Giblas 

Intervenants
  • directeur innovation, digital et data du Groupe Malakoff Médéric Humanis
  • maîtresse de conférences en droit privé à l’université d’Artois, spécialiste du droit et de l’éthique de l’intelligence artificielle, membre du comité d'éthique du CNRS (COMETS)
  • roboticien, professeur en robotique et éthique des intelligences artificielles à la Sorbonne et directeur de l’Institut des systèmes intelligents et de robotique (Isir)
L'équipe
Production
Production déléguée
Avec la collaboration de
Réalisation

France Culture

est dans l'appli Radio France
Direct, podcasts, fictions

INSTALLER OBTENIR

Newsletter

Découvrez le meilleur de France Culture

S'abonner
À venir dans ... secondes ...par......