Entretien avec Amal El Fallah Seghrouchni, experte internationale en intelligence artificielle, professeure à la Faculté des sciences et d’ingénierie à Sorbonne Université et chercheuse au LIP6.

Pour elle, si l’IA est incontournable pour surmonter la crise actuelle liée au Covid-19, les solutions qu’elle apporte doivent reposer sur des données fiables et bien calibrées.

Propos recueillis par K. A

Finances News Hebdo : Dans la lutte contre le Covid-19, plusieurs pays ont eu recours au traçage et à la surveillance des données. Est-ce une stratégie payante ? Le Maroc a-t-il les moyens de faire la même chose ?

Amal El Fallah Seghrouchni : Dans le contexte du Covid-19, le traçage signifie la mise en place de solutions de suivi numérique, individualisé ou collectif, pour la protection de la santé publique. Ce qui implique la collecte d’informations relatives aux citoyens et à la pandémie. Mais les modalités de cette collecte et les traitements associés varient sensiblement d’un pays à l’autre. Moins les droits de l’homme et la vie privée sont respectés et plus les approches sont intrusives.

 La question de l’intérêt effectif des solutions de traçage reste à démontrer. Nous manquons de recul par rapport à ces solutions, sur leur faisabilité technique et leur fiabilité (cas d’hacking comme c’est le cas actuellement en France pour les dérogations de sortie) mais aussi sur la possibilité effective de leur déploiement social : le maillage réseau est-il suffisant ? Quel est le taux de la population en mesure d’utiliser ces technologies ?

Par ailleurs, il n’y a pas de garanties sur les apports réels en dessous d’un certain seuil d’adhésion, 60% de la population semblent être le seuil requis, et nous ne savons pas prouver si elles vont réellement aider à endiguer la pandémie et surtout si les conclusions de ce suivi ne seront pas biaisées.

Au Maroc, la question se pose plutôt en termes de volonté politique d’aller dans cette direction tenant compte de tous les bémols éthiques, de fiabilité technique et de déploiement social susmentionnés.

D’un point de vue pragmatique, il serait prudent de ne pas engager négativement l’avenir. Par exemple, en confiant la mise en place de telles solutions à des lobbies guidés par le gain ou par le besoin de recycler leurs solutions.

En prenant des décisions sur la base d’informations peu fiables, on peut créer des effets de bord irrévocables. Les débats actuels sur la dangerosité des «passeports immunitaires» envisagés pour le casse-tête du déconfinement soulignent le besoin crucial de données fiables et qui restent difficiles à obtenir du fait de leur évolution permanente en cas de pandémie.

F.N.H. : Ce type de solution soulève, bien entendu, des questions en matière de protection de la vie privée. Quelle est votre appréciation ?

A. E. F. S. : C’est une question importante qui a soulevé de nombreux débats dans les pays soucieux de la vie privée et des droits de l’Homme, et beaucoup redoutent un recours à la «doctrine de choc», cette stratégie politique qui profite des crises à grande échelle pour faire avancer des politiques impopulaires. De ce fait, les réponses sont nuancées proportionnellement au degré d’intrusion préconisé. Le Japon a adopté des solutions qui respectent le droit à la vie privée même si, paradoxalement, il a prôné la Société 5.0 une des plus digitalisées au monde. Contrairement à la Chine et à la Corée qui ne sont pas un idéal démocratique, le gouvernement japonais se concentre sur la prévention des clusters et n'a pas introduit de suivi des citoyens. Comme la situation sanitaire évolue, des débats sont en cours pour améliorer cette stratégie mais le suivi des individus n’est pas à l’ordre du jour. Hong Kong déploie une approche Big Brother 5.0 utilisant des technologies très intrusives comme des bracelets électroniques et des téléphones qui signalent la position exacte d’un individu. Ce dernier reçoit des messages texte s’il s’éloigne de sa zone de quarantaine et des détectives numériques le suivent dans ses déplacements.

Si l’Asie n’a pas une position unifiée, l’Europe a longuement hésité. Des débats d’ordre éthique sont engagés car ces solutions sont intrusives et leur acceptabilité sociale nécessitera des garanties fortes quant au respect de la vie privée et des données personnelles. La promesse de la limitation du suivi numérique à la période du Covid-19 ne convainc pas et laisse perplexe quant au devenir des solutions concoctées et des données amassées.

Par ailleurs, ces solutions de suivi numérique doivent être fondées et prouvées scientifiquement sans l'influence des lobbies de l’industrie pharmaceutique, des GAFAM ou de certains opérateurs. On voit déjà fleurir des conflits d’intérêt, ici et là, ainsi que des coalitions entre GAFAM pour proposer voire recycler des solutions au pistage des individus. Les solutions doivent être éthiques, inclusives, fiables et surtout provisoires.

 F.N.H. : En termes d'intelligence artificielle existe-t-il des modèles qui pourraient nous permettre de mieux anticiper, gérer et contrer la pandémie de coronavirus ? Si oui, cela peut-il s'avérer efficace ? A. E. F. S. : L’IA peut aider à mieux gérer la situation de crise. En sensibilisant les citoyens à travers des applications mobiles bénéficiant d'interfaces multimodales pour aider les populations à s'informer, à rester connectées, elle peut créer des services dématérialisés (B2B ou B2C) et des plateformes d'échange pour pallier le confinement (exemple un service de troc circulaire intelligent citoyen) et assurer la continuité de service. Grâce à l’IA, des drones autonomes sont déployés pour informer (en France), protéger (en Inde) ou surveiller (en Chine) des citoyens.

 Au niveau médical, des consultations en télémédecine sont pratiquées pour maintenir la distanciation, le confinement des personnes vulnérables et soulager les services d’urgence. Des systèmes à base d’agents intelligents permettent aussi de simuler, de visualiser et d’expliquer la progression de la pandémie. Les méthodes d'IA cognitive permettent d'automatiser la prise de décision individuelle et collective, de négocier dynamiquement l’allocation de ressources médicales et d’optimiser leur utilisation. Par exemple, l’IA permet de guider les ambulances à atteindre les hôpitaux au plus vite, à planifier dans l'incertain et à optimiser la prise en charge d'un patient en préparant son arrivée aux urgences. On peut également utiliser les simulations individu-centrées pour étudier et expliquer la pandémie.

D'autres méthodes statistiques ou d’apprentissage automatique, notamment les réseaux de neurones et l'apprentissage profond, peuvent prédire la propagation de l'épidémie en fonction des données recueillies, prédire un phénomène de consommation ou de futurs comportements.

Mais si l’IA est incontournable, les solutions qu’elle apporte doivent reposer sur des données fiables et bien calibrées. La validité des procédures d’apprentissage statistique dépend essentiellement des hypothèses faites sur les mécanismes aléatoires inhérents à l’observation des données difficiles à contrôler, surtout en situation de pandémie, et de l’ensemble des règles de décision, jugées potentiellement performantes, qui est utilisé.

Enfin, il faut être vigilant aux biais cognitifs qui génèrent une distorsion par rapport à une réalité ou une rationalité, les biais statistiques ou de données comme les biais de sélection ou d’endogénéité, ou encore les biais économiques.

F.N.H. : Depuis le début de la propagation, l'innovation et l'entrepreneuriat se sont accélérés au Maroc (plusieurs initiatives ont été mises en place). Comment voyezvous le potentiel des jeunes start-up marocaines ?

A. E. F. S. : Les start-up marocaines sont très actives et l’écosystème très engagé dans la lutte contre le Covid-19 comme en témoigne le lancement du concours HackCovid-19 par l’APEBI. Cette attitude citoyenne est largement partagée et a donné lieu à des initiatives d’innovation un peu partout y compris au sein des laboratoires de recherche.

On peut saluer le programme de soutien à la recherche multidisciplinaire dans les domaines en relation avec la pandémie actuelle du Covid-19, lancé par le ministère de l’Education nationale, de la Formation professionnelle, de l’Enseignement supérieur et de la Recherche scientifique, à travers son Département de l’enseignement supérieur et de la recherche scientifique ainsi que le Centre national pour la recherche scientifique et technique. Il est toujours vrai que «la nécessité infante la créativité» ! ◆