Publié le 26 octobre 2018
Recherche
Machine Learning VE

Nouvelles technologies, sciences, transports, énergie, santé publique. L'exploitation des données devient omniprésente dans de nombreux secteurs. Elle amène d'importantes questions juridiques et éthiques.

« De grandes quantités de données sont aujourd'hui utilisées partout, expose Balázs Kégl, pilote du Center for Data Science (CDS) de l'Université Paris-Saclay. Et leur exploitation ne se limite à aucun domaine en particulier. » La preuve, au sein du CDS, les chercheurs mettent au point des algorithmes de machine learning (ou apprentissage automatique) pour que les ordinateurs apprennent à traiter des données provenant des secteurs de la santé, du droit, de l'économie… Pas de limitation sectorielle dans l'usage de l'intelligence artificielle !

Pister la propagation des virus

Les travaux de Nicolas Vayatis, membre du groupe de recherche Machine learning and massive data analysis (MLMDA), de l'École normale supérieure Paris-Saclay, portent, par exemple, sur la quantification du comportement humain : des capteurs, placés lors d'une consultation clinique, enregistrent la posture et les mouvements du sujet afin d'évaluer son bien-être et sa mobilité, indicateurs de l'évolution de sa pathologie. « Ces technologies ouvrent la voie à des mesures préventives dans le domaine médical : en surveillant un certain nombre de marqueurs physiologiques, nous pourrions prédire les risques potentiellement encourus par le sujet », illustre le chercheur. Nicolas Vayatis se penche également sur la surveillance des systèmes, par exemple dans les transports ou dans le secteur de l'énergie, ainsi que sur la propagation dans des réseaux. « Il y a trois types d'applications, poursuit-il. La première concerne la santé publique, où ce qui se propage est un virus. L'objectif est alors d'imaginer les meilleures stratégies pour le contrer. La deuxième se rapporte aux rumeurs dans les réseaux d'information et vise à déterminer comment se diffuse l'information et quelles stratégies de contrôle mettre en place. Et la troisième, dans le secteur des transports, consiste à envisager un retard ou une congestion sur le réseau et à en prévoir la propagation. »

Rendre les drones autonomes

C'est également dans le domaine des transports, mais cette fois aériens, qu'oeuvre Jean-Loup Farges, responsable thématique « Intelligence artificielle et décision » à l'Office national d'études et de recherches aérospatiales (Onera). « Pour le moment, les drones ont au mieux une autonomie de navigation qui leur permet d'aller d'un point A à un point B, détaille le chercheur. Mais nous essayons de créer un niveau d'autonomie supérieure afin qu'ils puissent déterminer eux-mêmes leur navigation en fonction d'objectifs généraux, comme l'observation d'un lieu donné. » Les chercheurs se heurtent cependant à la fiabilité des systèmes : « Les algorithmes en jeu sont trop puissants pour être vérifiés dans toute l'étendue de leurs possibilités. Ils sont créés à partir d'un problème générique sans pouvoir en contrôler chaque déclinaison. » La méthode envisagée pour la mise en oeuvre consiste, pour le moment, à laisser fonctionner l'algorithme en s'assurant d'une solution de repli en cas d'imprévu.

Démystifier les robots

Ce genre d'obstacles révèle à quel point l'intelligence artificielle est encore loin du Graal évoqué dans certains discours. « Intelligence artificielle ne veut pas dire intelligence autonome », résume Balázs Kégl. Nicolas Vayatis abonde : « Il y a parfois cette idée que des algorithmes magiques vont pouvoir faire des prédictions et remplacer l'humain. Mais ils vont seulement automatiser une partie du traitement qui était auparavant faite manuellement. Ce ne sont que des briques qui s'intègrent dans une chaîne de décision. »

C'est d'ailleurs pour lutter contre ces assertions que Laurence Devillers, chercheuse au Laboratoire d'informatique pour la mécanique et les sciences de l'ingénieur (Limsi) du CNRS, mène aujourd'hui des recherches sur l'éthique en intelligence artificielle. Elle rappelle que les robots n'ont pas d'émotions ; ils ne font qu'analyser celles des humains et simuler une réaction. Une performance rendue possible grâce aux propres travaux de Laurence Devillers sur la reconnaissance des émotions humaines par les machines, menés depuis les années 1990. « Parallèlement, j'ai orienté mes recherches vers les aspects éthiques de ce que nous étions en train de faire », souligne la chercheuse.

Anticiper la révolution numérique

Pour prévenir les dérives, Laurence Devillers s'intéresse au « nudging », une technique émergente qui se préoccupe du comportement du consommateur et de la possibilité d'orienter ses choix en fonction de biais cognitifs. Dans un test, celui-ci a par exemple tendance à privilégier un choix qui n'implique pas de cocher une case. « Avec des économistes et des juristes de Paris-Saclay, nous voulons créer un système dont la communication incitera insidieusement les choix. Il “ nudgera”, afin d'étudier les influences que nous pouvons avoir sur le comportement humain, dévoile Laurence Devillers. Le but étant de ne pas être trop débordé quand ce genre d'outil viendra des États-Unis ou d'Asie et de pouvoir alerter et rendre responsable l'ensemble de la société sur ces sujets. » Et de conclure : « Il ne faut pas avoir peur de l'intelligence artificielle : il faut comprendre, expliquer et former. »

Publications
∙ Boche Adèle et al., Reconfiguration Control Method for Faulty Actuator on UAV, Advances in Aerospace Guidance, Navigation and Control, Springer, Cham, 2018.
∙ M. Tahon, L. Devillers, Towards a small set of robust acoustic features for emotion recognition: challenges, IEEE Transaction on Audio, Speech and Language Processing 2016, vol. 24.
∙ Argyris Kalogeratos et al., Chapter 24 : Information diffusion and rumor spreading, Cooperative and Graph Signal Processing, Principles and Applications, 1st Edition, 20th June 2018.


Laurence Devillers"Développement commercial de l'intelligence artificielle et éthique ne sont pas incompatibles, ce qu'a d'ailleurs mis en avant le rapport Villani. C'est dans cette voie que nous devons poursuivre."

Informaticienne, professeure à Sorbonne Université et membre du Laboratoire d'informatique pour la mécanique et les sciences de l'ingénieur du CNRS à Paris-Saclay, Laurence Devillers a commencé sa carrière par des travaux sur la reconnaissance du langage parlé, puis sur le dialogue homme-machine et son évaluation. Elle a ensuite travaillé sur la reconnaissance des émotions humaines par les machines et s'est parallèlement orientée vers les questions éthiques inhérentes à ces recherches.

La version originale de cet article a été publiée dans le journal L'Edition #8.