Intelligence artificielle : Conversation avec Amal El Fallah Seghrouchni.

Présidente Exécutive d’AI Movement, le Centre International d’Intelligence Artificielle du Maroc, intégré à l’UM6P à Rabat, Amal El Fallah Seghrouchni est une chercheuse en informatique mondialement reconnue pour ses travaux en intelligence artificielle. Également professeure à Sorbonne Université, elle œuvre quotidiennement pour une utilisation éthique et responsable de l’IA, en travaillant notamment avec l’UNESCO. Moteur de l’innovation africaine en intelligence artificielle, elle a récemment été nommée au Conseil supérieur marocain de l’éducation, de la formation et de la recherche scientifique.

Amal El Fallah Seghrouchni a répondu aux interrogations de la Newsroom au sujet de l’IA et du rôle que cet instrument de progrès peut jouer dans notre société et dans l’émancipation du continent africain.

Depuis plusieurs mois, l’intelligence artificielle passionne autant qu’elle inquiète. Deux discours s’affrontent autour de cette technologie qui promet de bouleverser un large spectre allant de nos quotidiens aux grands équilibres mondiaux. Pour les uns, c’est une promesse d’une émancipation vers le progrès et pour d’autres, le risque d’un grand remplacement de l’humain par la machine. Pour vous, comment pouvons-nous dépasser les appréhensions pour bénéficier au mieux de cette technologie ?

D’abord, je ne pense pas que l’intelligence artificielle soit au stade de remplacer l’humanité, en tout cas pas ce n’est pas pour tout de suite. Maintenant, ce qui est intéressant et qui serait important dans les années à venir, c’est de sensibiliser les populations à l’adoption de ces technologies. Et quand je dis « sensibiliser », j’entends leur faire connaître les enjeux de l’utilisation de ces technologies, mais aussi les sensibiliser à leurs risques. Il y a des risques auxquels les gens sont confrontés tous les jours, ne serait-ce qu’un paiement avec une carte bleue qui n’est pas sécurisée, quelqu’un qui ne sait pas utiliser ses mots de passe correctement, etc. Les risques de la sécurité informatique ont précédé ceux de l’intelligence artificielle.

« J’aime bien dire que l’IA va nous permettre de faire l’introspection de notre civilisation. »

J’aime bien dire que l’IA va nous permettre de faire l’introspection de notre civilisation. J’entends par là que l’intelligence artificielle va nous aider à mieux comprendre comment les humains négocient, comment les humains planifient, comment les humains réfléchissent, comment ils argumentent, comment ils planifient leurs actions, comment ils génèrent leurs émotions… Il y a un éclairage qui est mis par l’intelligence artificielle sur les processus cognitifs de l’humain. En ce sens, l’intelligence artificielle est une discipline qui va vraiment aider l’humanité à mieux comprendre ses propres enjeux.

Maintenant, bien sûr qu’il faut sensibiliser les jeunes. Il faut mettre en place les formations qui vont avec ces technologies. L’IA est une technologie à double tranchant. Elle permet d’améliorer beaucoup de choses, elle a des apports très importants, que ce soit dans le domaine de la médecine, de l’industrie, du commerce, de l’aviation, de la finance, ou de la banque. Mais encore une fois, ce sont des technologies qui sont très pervasives, avec l’IA, on peut aussi créer des addictions. Une addiction vis à vis de l’outil. On a vu beaucoup de travers de personnes vulnérables qui se sont amourachées de Chat bots. Ce ne sont pas des vues de l’esprit, ce sont des choses réelles qui sont arrivées, il peut y avoir une addiction à des formes d’interactions créées par l’intelligence artificielle. Et donc, pour cela, il faut faire en sorte que les gens puissent savoir quand est-ce qu’ils parlent à des vrais humains et quand est ce qu’ils parlent à des artefacts.

Pour un continent comme l’Afrique, l’IA peut constituer un facteur de progrès, d’espoir, voire même d’émancipation dans certains domaines, comme celui de la santé, par exemple. Quelles sont, selon vous qui opérez sur le continent, les avancées concrètes et rapides que pourraient permettre l’essor de l’IA ?

Je vois l’apport de l’IA sur quatre axes différents. Quel que soit le domaine, que ce soit la santé, l’éducation, la planète ou le réchauffement climatique, vous pouvez avoir des apports à quatre niveaux.

D’abord, la population. On peut sensibiliser la population et lui donner des outils basés sur l’intelligence artificielle pour se soigner, pour s’éduquer, pour combattre le réchauffement climatique, pour ceci ou cela.

Le deuxième axe, c’est celui des décideurs. Les personnes qui vont prendre des décisions peuvent être outillées avec l’intelligence artificielle. Par exemple, faire des modèles prédictifs, faire des simulations, qui vont permettre de comprendre l’impact, du réchauffement climatique ou encore l’impact de l’enseignement.

Puis, il y a aussi les scientifiques qui bénéficient énormément aujourd’hui des techniques d’intelligence artificielle. Les médecins, les physiciens, les climatologues, peuvent tous bénéficier des outils de l’intelligence artificielle.

« Nous, chercheurs en intelligence artificielle, nous devrions réfléchir à entrainer les modèles autrement. »

Le quatrième point, c’est l’environnement. C’est quelque chose de très important. Comment est-ce qu’on peut faire une intelligence artificielle frugale, qui ne soit pas trop énergivore ? Quel type d’intelligence artificielle on devrait développer à l’avenir pour préserver l’environnement ? L’environnement, cela peut être les arbres, l’eau, la mer, les océans… cela peut être toutes sortes de choses. Aujourd’hui, on sait que l’intelligence artificielle dépasse les 10 % de la consommation électrique mondiale. Comment faire en sorte qu’on ne soit pas boulimique sur la consommation énergétique quand on développe des modèles d’IA ? Nous, chercheurs en intelligence artificielle, nous devrions réfléchir à entrainer les modèles autrement, à ne pas les entrainer sur toutes les pages web de la planète. Typiquement, c’est ce qui s’est fait avec Chat GPT jusqu’en 2021, on a pris le web en entier, toutes les données. A-t-on vraiment besoin de cela ?

Si nous faisons le lien entre ces quatre axes et le continent africain, l’IA est censée aider à produire, à prendre une décision, des politiques publiques vertueuses. Comment intégrer cela à l’écosystème africain ?

Aujourd’hui, plus que jamais, l’Afrique a besoin de savoir où elle va. Si vous prenez l’exemple de l’éducation. Nous devons prendre des décisions dans ce domaine, quel type de formation va t-on mettre en place par exemple ? Aujourd’hui, on lance des réformes et 10 ans après, on se dit « Ah, ça n’a pas marché» ou « Ce n’était pas comme ça qu’il fallait faire », etc. L’IA va donner des outils de simulation et de prédiction que nous n’avions pas avant. Aujourd’hui, sur le rural ou sur l’agriculture par exemple, grâce aux outils de l’intelligence artificielle, on peut prouver par A+B que si on utilise tel et tel outil, on va augmenter telle production de tant de pour cent. Ce sont des outils qu’on peut mettre à la place des décideurs et qui vont orienter les investissements.

« Il avait réussi à montrer – par simulation – quel était l’impact de la loi El Khomri pendant les grèves, avant qu’elle ne soit appliquée. »

Il y a quelques années dans mon équipe, à l’époque de la loi El Khomri, j’avais quelqu’un qui travaillait sur le marché de l’emploi. Il avait réussi à montrer – par simulation – quel était l’impact de la loi El Khomri pendant les grèves, avant qu’elle ne soit appliquée. Et cela, grâce à l’IA. C’était la panique à bord, on avait des appels de tous les cabinets pour comprendre, il y avait même des articles dans la presse. En fait, vous pouvez dire avec l’intelligence artificielle : si on prend les 18 à 24 ans par exemple, « je vais mettre un certain nombre de paramètres, je vais faire de la simulation et je vais voir que si j’embauche les jeunes, je dois faire partir les plus âgés » , pour faire simple. Vous avez vraiment les corrélations entre les paramètres qui vous permettent de dire « en fait, oui, si j’ajuste ce paramètre comme ça, je vais obtenir ce résultat là ». C’est de la simulation pour faire des prédictions éclairées, pas juste des vues de d’esprit. On est dans un bureau et on se dit « Si on fait ça, on va faire ça. »

La recommandation est le but ultime. On utilise l’IA en France sur tout ce qui est le paiement des taxes ou les impôts, cette technologie a permis de montrer des tas de choses. Aujourd’hui, vous pouvez savoir dans telle région qui paye et qui ne paye pas ses impôts. Vous pouvez avoir des recommandations qui vous disent « Pour telle région, il faut faire ci, il faut faire ça. » Dans la médecine aussi, vous pouvez avoir des recommandations, grâce aux antécédents, à des données qu’il faut parfois fabriquer – parce qu’on peut aussi créer des données par simulation.

Donc finalement, l’Afrique est confrontée aux mêmes enjeux que le reste du globe ?

L’Afrique a les mêmes enjeux que tout le monde, mais elle a d’autres problèmes. C’est à dire qu’aujourd’hui, on est confronté aux problèmes de la connectivité, aux problèmes de l’illettrisme, au problème de l’accès à l’énergie. On est confronté au problème qu’au Maroc, 45 % des femmes rurales ne savent ni lire ni écrire. Pour cela, l’IA va développer des outils permettant d’apporter des solutions.

« Même dans des milieux défavorisés, l’IA va apporter des solutions. »

Par exemple, chez AiMovement, on a un projet qui s’appelle Tarj Women, qui permet de scanner un document avec un téléphone et d’expliquer à la personne le contenu du document sans qu’elle sache lire et écrire. Une personne qui ne sait ni lire ni écrire et qui reçoit un courrier peut laisser passer une échéance au niveau médical, ou se retrouve dans l’obligation de faire lire ses résultats médicaux à une tierce personne. Tout cela pour dire que même dans des milieux défavorisés, l’IA va apporter des solutions. Nous avons un autre projet, MAMA, qui vise à accompagner la grossesse des femmes, dans le milieu rural, mais surtout dans les régions enneigées et pas connectées. Dans ces régions, aller voir un médecin, c’est compliqué : le médecin vient donc chez le patient grâce à la télé-médecine ou à une application mobile.

« Je fais partie de ceux qui pensent qu’on ne va pas attendre de digitaliser l’Afrique pour faire de l’intelligence artificielle. »

L’Afrique a besoin de l’IA pour faire réaliser un Leapfrog. C’est pour cela que je fais partie de ceux qui pensent qu’on ne va pas attendre de digitaliser l’Afrique pour faire de l’intelligence artificielle. Ça serait une perte de temps et nous avons déjà perdu beaucoup de temps. Nous avons lancé un master pour les 8 à 14 ans au Maroc, qui marche très bien. Les enfants, à huit ans, ils sont capables de monter des robots, de programmer des robots et des bots. Ils n’ont pas besoin de passer par la case digitale. C’est ça le Leapfrog, c’est ne pas attendre, et cela il faut le généraliser. Huit ans, c’est le minimum pour savoir un peu manipuler, lire, et écrire. Les enfants de 14 ans aujourd’hui, dans quatre ans, ils sont à l’université. Ils sont les futurs ingénieurs IA de demain et on ne peut pas attendre.

Je me répète, cela devient redondant, mais aujourd’hui, regardez au niveau mondial. En 2017 Poutine disait « Celui qui dominera l’IA dominera le monde. » J’étais aux États Unis, au Texas, quand l’ancien président Donald Trump avait fait sa déclaration. Il avait dit « Il faut que les Américains gardent leur supériorité, en adoptant l’IA et en développant l’IA. » Au sein de l’Union Européenne, tous les pays ont développé leur stratégie nationale en IA en coordination. Des programmes franco-allemands sont nés, des universités se sont coalisées, etc. De nombreux programmes européens sont dédiés à l’intelligence artificielle.

Quand vous dites que chaque pays doit développer ses compétences en IA. Vous parlez de la course de deux géants, les États Unis et la Chine. Cela signifie-t-il que chaque pays doit avoir son propre algorithme d’IA ?

Non. Cela veut dire que chaque pays doit faire un état des lieux, de ses formations, de ses start-up, de son tissu économique et se demander « de quoi ai-je besoin pour que l’IA soit généralisée et soit portée à un haut niveau ? ».

Prenons l’exemple de la France. J’ai participé aux deux stratégies nationales, celle d’Axelle Lemaire, France IA, puis celle de Cédric Villani. Axelle Lemaire navait réuni tout l’écosystème français : les entreprises, les universités, etc. Cet état des lieux à permis de dire « Aujourd’hui, voici les formations qui existent et voilà ce qu’il faut faire à leur niveau. Voici la R&D qui existe et voilà les domaines qu’il faut pousser. » Il faut faire cela à chaque pallier. Il faut innover, créer des start-up dédiées à l’IA, donner des financements. Il y a eu les instituts 3iA, quatre qui ont été créés par les régions pour booster l’IA, comme Grenoble et sa région, Toulouse et sa région, Paris et sa région, etc. L’idée, c’est quoi ? Un écosystème ne se crée pas avec trois personnes, il faut vraiment ratisser. C’est ce qui a été fait en France et en Allemagne. Elaborer une stratégie, c’est peser le pour et le contre, regarder l’état des lieux et voir ce qui est nécessaire pour aller de l’avant dans ce domaine.

Nous avons une question qui sort un peu de l’aspect scientifique pour parler plutôt de la géopolitique de l’IA. À partir du moment où il y a une course des superpuissances s’appropriant un écosystème, avec un enjeux certain de souveraineté derrière, la dimension géopolitique est très perceptible. Selon vous, cette course effrénée à l’intelligence artificielle va-t-elle empêcher sa régulation ?

Je suis d’accord sur le fait qu’il y ait une course. Pour moi, la simple raison de cette course est que l’IA est la première science qui modifie le mental, le cognitif et qui est pervasive. Aujourd’hui – et j’exagère à peine – vous en êtes presque à consommer de l’IA dans votre verre d’eau : l’IA est partout. Prenons le cas de Chat GPT. Si tout le monde l’utilise, tous nos élèves penseront pareil. C’est une normalisation de la pensée humaine. Donc aujourd’hui, nous ne pouvons pas pas laisser le champ libre à ces supra puissances internationales pour endoctriner nos enfants. Cela pose une question d’éthique, de valeurs culturelles, d’alignement des valeurs, etc. Ce n’est pas pour faire un catalogue de mots clés, mais c’est pour dire qu’aujourd’hui, nous sommes tous conscients – chercheurs y compris – que ces outils vont formater d’une certaine manière la pensée humaine. C’est ce qui il y a pour moi de plus compliqué.

« C’est là le danger de l’IA : arriver à des sociétés complètement formatées. »

Aujourd’hui, les jeunes veulent être différents, ils veulent être originaux, mais finalement ils tombent dans l’uniformisation : ils sont tous pareils. Ils ne peuvent être différents car une importante pression sociale s’exerce sur eux. Imaginez cela au niveau du cerveau, de très sérieuses études au Canada montrent que de nombreuses jeunes filles font des dépressions à cause de TikTok, parce qu’elles ne ressemblent pas au standards physiques des filles populaires sur le réseau social. C’est là le danger de l’IA : arriver à des sociétés complètement formatées. Donc oui, c’est un enjeu géopolitique de maîtriser l’intelligence artificielle et surtout d’en développer des alternatives.

Puisque nous savons que l’IA est une technologie de rupture et que les emplois supprimés ne seront pas remplacés, quels sont les métiers qui pourraient disparaître dès demain ?

Je pense que beaucoup de métiers dans le secrétariat vont disparaître. C’est déjà le cas. Le journalisme aussi, avec les robots qui écrivent les articles, conçoivent les images… Je dirais que tout ce qui n’a pas de valeur ajoutée humaine va disparaître.

Il y a deux ans, on avait fait un projet pour trier des CV. J’avais fait un call for application et j’avais reçu 800 CV. Je me suis dit « Non, ce n’est pas possible. 800 CV, même une minute par CV, c’est énorme ». On a fait un programme qui triait les CV par mot clé. À la fin, on en avait 25. Si j’avais donné la tâche à deux collaborateurs, ils y auraient passé trois jours. Cela date de bien avant Chat GPT, l’automatisation a déjà supprimé beaucoup de métiers. Tout ce qui est automatisable sera automatisé. J’aime penser qu’il vaut mieux automatiser des choses qui sont chronophages.

Pour les CV par exemple, on passe peut-être à côté justement de la surprise de tomber sur un CV qui n’a pas les bons mots clés, mais qui pourrait correspondre aux attentes. Comment aviez-vous choisi les mots-clés ?

Vous avez raison, mais à la fin, je ne prends qu’un CV sur les 800. Donc, si je passe à côté de deux ou trois CV, ce n’est pas grave puisque j’arrive à avoir celui qui m’intéresse. Moi, avec les mots clés, je ne cherche pas de surprise. Je cherche quelqu’un qui sait, par exemple, programmer en Python, programmer en Java, etc. Après, dans ce qui va me rester, je vais affiner à la main, mais je ne vais pas étudier 800 CV, c’est énorme. Il y a des entreprises qui reçoivent 3 000 CV par jour. C’est tellement chronophage que beaucoup d’entreprises aujourd’hui utilisent des Google Forms où le tri se fait d’emblée. Comme on dit, c’est un tri par design.

On parle beaucoup du « deep learning », ces neurones ou plutôt couches de neurones artificielles, qui ont permis le saut quantique de l’IA. Ce système d’apprentissage complexe pourra un jour représenter une menace extérieure pour des États ?

Oui, le gros problème du deep learning est qu’il en résulte des systèmes qu’on ne peut expliquer et qui ne sont pas transparents. Donc, le risque, c’est qu’il y ait des décisions, des recommandations qui puissent paraître plausibles, mais qui ne puissent pas être argumentées et pour moi le gros risque du deep learning. Beaucoup de gens travaillent à son explicabilité. Sur Chat GPT par exemple, 175 milliards de paramètres s’automodifient et ce n’est absolument pas explicable. Ces systèmes là sont une force brute. On parle de « boîte noire » car personne ne sait ce qu’il se passe à l’intérieur, même les concepteurs. L’IA ne peut pas dépasser son concepteur mais mal le renseigner ou le pousser à prendre de mauvaises décisions.

« Vous avez des entrées et des sorties et entre les deux, vous avez des couches. Ces couches là, plus il y en a, plus c’est deep, et moins on comprend. À la fin, on obtient des sorties qui sont correctes, mais on ne sait pas pourquoi. »

L’intelligence artificielle s’autoactualise. Chat GPT va prendre ses informations sur le web, or on ne sait pas ce qu’il y a sur le web. Le web bouge tous les jours. On a créé des algorithmes qui manipulent des paramètres. Donc, vous avez des entrées et des sorties et entre les deux, vous avez des couches. Ces couches là, plus il y en a, plus c’est deep, et moins on comprend. À la fin, on obtient des sorties qui sont correctes, mais on ne sait pas pourquoi. C’est beaucoup de mathématiques, d’espaces multidimensionnels avec des dimensions qu’on n’imagine pas et qui échappent à l’humain – qui ne comprend que jusqu’à trois ou quatre dimensions mais qui ne peut visualiser le reste. On arrive donc à faire des choses qui sont très fortes, très bien, mais si on n’arrive pas à les expliquer…

Ce ne sont pas des outils qu’on peut utiliser dans le domaine de la justice par exemple. Ce sont des outils qu’on ne peut pas utiliser non plus dans l’aviation. Dans tout ce qui est critique, on ne peut pas utiliser ces modèles là tant qu’on ne peut pas les certifier. A partir du moment où vous embarquez un logiciel dans le système, tous les logiciels doivent être certifiés, s’ils ne le sont pas, on ne peut pas les embarquer. On ne se permet pas de dire que l’avion va arriver à destination avec une probabilité de 0,9. C’est 1 ou rien.

Donc pour résumer, l’IA représente pour le moment plus d’avantages que d’inconvénients, pour faciliter d’une part la vie de l’homme et d’autre part pour aider certaines sociétés à s’émanciper. On parlait de l’éducation, de la santé et de manière générale de progrès, plus que de risques immédiats de l’IA. Le seul risque peut être de l’IA, c’est la non régulation ?

En fait, la non régulation, c’est un effet de bord. Pour moi, les risques de l’IA sont d’abord sur les aspects mentaux des humains, c’est les addictions, c’est l’uniformisation, c’est le fait d’utiliser l’IA pour hacker des systèmes, à des fins criminels comme les cyberattaques. On peut demander à l’intelligence artificielle, par exemple, d’écouter ce qui se passe sur une ligne, de récupérer des mots de passe…

Il y a également le risque de manipulation du public avec les images, les fake news. J’ai une vidéo que je pourrais partager avec vous, de Morgan Freeman qui parle du terrorisme, des mots qu’il n’a jamais tenus. On ne voit aucun trucage sur la vidéo. J’ai aussi une vidéo de Najat Vallaud-Belkacem, avec un mélange de elle et moi, c’est une troisième personne qui parle. Mais de temps en temps, ça bascule vers moi, et d’autres fois, ça bascule vers elle. Mais par contre, le message de Najat Vallaud-Belkacem était un beau message. C’était sur la place de la femme dans la science. Mais la vidéo est fausse, et cela montre bien que l’on peut faire ce qu’on veut.

Donc une autorité de régulation est absolument nécessaire.