" Osons un débat éclairé "

Comprendre les algorithmes pour espérer de nouveau

Longtemps restée abstraite pour le grand public, la puissance des algorithmes a fait une entrée fracassante dans le débat avec la récente mise à disposition, gratuitement et pour tous, d’outils conversationnels. Avec elle, s’est réveillée une ancienne crainte qui accompagna le développement de la machine à vapeur ou de l’ordinateur. La machine remplacera-t-elle l’humain ?

Pour tenter de dépassionner le débat, Aurélie Jean dresse dans cette note quelques rappels historiques et sémantiques essentiels. Qui sait que le premier algorithme fut probablement inventé il y a 2300 ans en Grèce ? Si les machines ne peuvent maîtriser l’intelligence émotionnelle ou créative, peut-on vraiment parler d’intelligence artificielle ?

Une fois certaines craintes dissipées, l’autrice de cette note nous invite à nous emparer de ces outils, à en comprendre les nombreuses implications, si nous souhaitons maîtriser des algorithmes toujours plus puissants et les faire contribuer de manière positive à la société. Aurélie Jean formule ainsi un appel aux citoyens, aux dirigeants économiques, aux législateurs à prendre quatre mesures : mettre en place une éducation tout au long de la vie aux algorithmes, insuffler par l’État une stratégie d’innovation pragmatique et pratique ; arrêter de disperser les aides et viser l’Europe comme échelle ; revaloriser les métiers scientifiques et techniques ; accorder une plus grande liberté au système de recherche.

Depuis plusieurs années, un sentiment de défiance – somme toute compréhensible – règne chez les citoyens ainsi que les dirigeants politiques et économiques vis-à-vis des technologies algorithmiques au regard des nombreux scandales mis à jour. L’affaire Cambridge Analytica, l’algorithme de Google qui labélise les personnes de couleur comme gorilles, celui d’Amazon qui écarte les candidatures féminines pour un poste d’ingénieur en informatique, ou encore l’algorithme au sein de l’application Apple Card qui sous-estime de manière significative les lignes de crédits accordées aux femmes, sont quelques exemples parmi une multitude de controverses et de scandales qui ont éclaboussé les actualités et abimé la confiance des individus et des États. On peut lire dans la presse des affirmations approximatives quand elles ne sont pas fausses telles que « les algorithmes sont sexistes », « les algorithmes sont racistes », ou encore « nous sommes en algocratie ». Ces phrases maladroitement articulées laisseraient croire que le pouvoir est entre les mains des algorithmes, qui agissent indépendamment de leurs concepteurs et qui sont à l’origine du pire. Jusqu’à se convaincre que seul un destin aux allures de fatalité sans espoir de faire évoluer les choses dans la bonne direction, serait possible. Les alternatives aux récits dystopiques existent, mais cela oblige à comprendre le sujet sous-jacent et donc les algorithmes.

L’omniprésence des algorithmes dans notre quotidien individuel et collectif

Au risque de vous surprendre, l’algorithme voit le jour bien avant la naissance du premier ordinateur, il y a plus de deux mille ans exactement. Au IIIᵉ siècle avant notre ère, Euclide fait naître cette discipline à travers son œuvre majeure Les Éléments dans laquelle il introduit des éléments géométriques et des méthodes de raisonnement logique pour résoudre des problèmes mais aussi démontrer des théorèmes. L’algorithme d’Euclide qui permet de calculer le plus petit commun diviseur entre deux nombres, étant certainement l’un des plus anciens.  En revanche, le mot n’apparaît qu’au IXᵉ siècle de notre ère, en l’honneur du mathématicien Perse Muhammad ibn Musa al-Khwarizmi, père de l’algèbre, par l’usage de son nom latinisé algoritmi pour désigner l’objet mathématique.

Nous utilisons et interagissons avec des algorithmes souvent sans le savoir et depuis des décennies. En 2023, ils nous assistent dans la communication, le transport, la santé, la production industrielle ou encore l’enseignement. Ces algorithmes nous recommandent des contenus tels qu’un article de presse à lire, un chemin à privilégier, un rendez-vous à prendre dans son agenda, ou encore un médecin à rencontrer. Ils assistent les médecins dans les examens, les diagnostics et les pronostics. Ils contribuent également à la logistique des hôpitaux, des usines ou encore des villes. Ils accélèrent la conception de nouveaux vaccins et médicaments. Ils permettent aussi de comprendre des phénomènes de causalités et d’anticiper des évolutions futures, tant dans le domaine financier que climatique par exemple. Il est critique que les individus aient conscience de l’existence de ces entités mathématiques et numériques, et de ce qu’ils font pour eux.

Un algorithme est littéralement une séquence d’opérations (explicite ou implicite) exécutées selon une certaine logique afin de répondre à une question, de résoudre un problème ou de comprendre un phénomène. Historiquement pensés pour être exécutés à la main, ils sont aujourd’hui exécutés de manière automatique sur des microprocesseurs d’ordinateurs toujours plus puissants. On distingue les algorithmes explicites dont la logique est définie explicitement par les concepteurs, des algorithmes implicites, dont la logique est construite implicitement par apprentissage machine. Parmi les algorithmes explicites on peut citer des arbres décisionnels relativement simples ou des systèmes d’équations mathématiques complexes. Parmi les algorithmes implicites on peut citer des algorithmes d’apprentissage statistique de catégorisation dits de clustering ou encore des réseaux neuronaux. Les algorithmes explicites sont calibrés sur un jeu de données, par l’identification des constantes du modèle en confrontant sa réponse aux données du phénomène en conditions réelles ou sous forme d’expériences. Les algorithmes implicites sont entraînés sur un jeu de données censé représenter les scénarios et les situations sur lesquels l’algorithme doit in fine répondre à une question ou résoudre un problème. Dans tous les cas, la représentativité statistique de l’échantillon de data utilisé pour calibrer ou entraîner est cruciale pour l’efficacité et l’exactitude de l’algorithme finalement déployé. Les algorithmes implicites sont en écrasante majorité moins explicables que les algorithmes explicites, c’est-à-dire que leur logique de fonctionnement est moins connue. Cela étant dit, de nombreuses méthodes de calcul, en constante amélioration, permettent d’extraire, même en partie, la logique sous-jacente de l’algorithme. Dans de nombreuses configurations, on construit des algorithmes hybrides qui contiennent des composantes explicites et implicites afin d’augmenter le niveau d’explicabilité mais aussi d’injecter dans l’algorithme du savoir et des connaissances métier sur la discipline simulée.

Vous avez certainement déjà pris connaissance du terme Intelligence Artificielle – ou son acronyme IA – pour traiter de ce sujet. Ce mot produit de la confusion car il ne précise pas à quelle intelligence il se réfère. En effet, selon la théorie triarchique de l’intelligence établie dans les années 1980 par le psychologue américain Robert Sternberg, on peut distinguer trois composantes de l’intelligence : l’intelligence analytique, l’intelligence émotionnelle et créative, et enfin l’intelligence pratique. L’intelligence analytique est la seule composante maîtrisée par l’ordinateur. Un algorithme peut simuler le bon sens ou une émotion sans en maîtriser les tenants et les aboutissants. En pratique, on peut concevoir et programmer un algorithme qui, embarqué dans une boîte vocale, vous dirait plusieurs fois par jour « Je t’aime », sans que la machine ne le ressente. La différence est importante. C’est pour cela que les termes algorithmes et data sont privilégiés dans cet article. Le professeur Yoshua Bengio de l’université de Montréal, lauréat du prix Turing en 2018, a répondu dans une interview de 2016 dans le MIT News que « nous ne devrions pas parler d’intelligence artificielle mais de stupidité artificielle, car on ne rend pas l’ordinateur plus intelligent mais on le rend moins stupide ». Le scientifique Luc Julia, co-créateur de Siri et actuellement Chief Science Officer du groupe Renault, quant à lui, va dans ce sens dans son premier ouvrage au titre évocateur de vérité : « L’intelligence artificielle n’existe pas ».

Une époque pivot pour la position de notre pays sur l’échiquier technologique

Aujourd’hui plus que jamais, par notre niveau quotidien d’interactions avec les algorithmes, par leurs implications dans des décisions somme toute stratégiques dans le domaine médical ou financier par exemple, mais aussi par la puissance économique et politique grandissante de leurs propriétaires, il faut agir – et comprendre – sans tarder afin de saisir les opportunités en garantissant les bénéfices pour la société tout en écartant les menaces. Ce qui permettra de mener le pays vers une vision scientifique et économique ambitieuse tout en protégeant les droits fondamentaux des citoyens. Peu importe notre position sur l’échiquier technologique ; concepteurs, propriétaires, législateurs, dirigeants politiques ou simples utilisateurs, nous avons le droit de comprendre et le devoir d’expliquer.

Il faut souligner que la science algorithmique présente des défis supplémentaires à d’autres domaines que le cercle politique et économique a dû s’approprier dans le passé. Les algorithmes sont fortement intangibles par leur description mais aussi par la manière dont ils sont utilisés. Nous sommes tous capables de définir – même dans les grandes lignes – une donnée et d’en fournir quelques exemples concrets, mais nous sommes peu nombreux à le faire avec le même niveau d’exactitude et de réalisme dans le cas des algorithmes. Nous avons aussi une vision déformée de cette science en ne la considérant que sous le prisme des réseaux sociaux. De plus, la science algorithmique évolue très rapidement, jusqu’à une accélération remarquable depuis plus d’une décennie, qui facilite la translation des résultats de recherche vers des applications industrielles. C’est ainsi qu’est née la deep tech. Cette accélération s’explique en partie par le fait que cette science est son propre catalyseur. Ce qui n’est pas sans rappeler la Loi de Moore qui traduit les mêmes causes et effets. Le développement et l’utilisation d’algorithmes toujours plus efficaces dans la résolution de problèmes toujours plus abstraits, modifient le tissu social, économique mais aussi démocratique. En cela, les prochaines décisions parlementaires, citoyennes et législatives seront décisives pour l’avenir de notre pays et l’espoir qu’on y met.

Comment espérer à nouveau ?

L’espoir passera donc par la compréhension, tant des enjeux algorithmiques, des actualités souvent anxiogènes, que de l’évolution de cette science et de son accélération remarquable, par toutes les parties prenantes : du citoyen au dirigeant politique, économique ainsi que du législateur.

L’explication continue de cette science : le droit à une éducation toute sa vie

Le programme de l’Éducation nationale a déjà intégré des changements en lien avec le sujet. La France est par exemple l’un des premiers pays au monde à introduire un cours obligatoire de sciences numériques, incluant une introduction à l’algorithmique, dans toutes les classes de seconde. Il faut aller plus loin. L’algorithmique est une science qui doit s’apprendre dès la maternelle et sans ordinateur, pour ensuite s’inscrire en école élémentaire dans la continuité de toutes les disciplines scientifiques où elle intervient comme les sciences de la vie, les mathématiques ou la physique, mais aussi non scientifiques comme l’art ou le sport.

En études supérieures, un cours introductif à la science algorithmique, et de facto à la science de la donnée, devrait faire partie du programme de toutes les formations commerciales, politiques, managériales et économiques, qui ne se résume pas à l’étude de cas ou à la régulation mais aux concepts scientifiques strictement. Les prochaines générations de dirigeants politiques et économiques doivent montrer l’exemple pour orienter avec vision et pragmatisme les futures stratégies du pays, tout en maîtrisant les bons éléments de langage technique et scientifique.

Enfin, la formation continue et les nombreuses initiatives pour les financer et les encourager comme Mon Compte Formation du ministère du Travail, doivent être pensées dans le monde de demain en orientant davantage les collaborateurs vers des programmes techniques réfléchis pour leur ouvrir le champ des possibles professionnels mais aussi pour affûter leur esprit critique vis-à-vis de ce nouveau monde.

Une stratégie pragmatique et pratique d’innovation insufflée par l’État

Il est fondamental – pour ne pas dire urgent – que les plus hautes instances de l’État portent un discours en soutien à l’économie de l’innovation algorithmique, encore trop souvent stigmatisée par le dirigeant politique. Pour accélérer le financement et le développement que l’État français a entamé sous l’impulsion d’Emmanuel Macron à l’époque ministre, il serait intéressant de créer un centre de financement de la recherche translationnelle académique ou privée, et de startups en deep tech, à l’instar du centre américain de la DARPA, sous la direction du ministère de la Défense. L’État français doit construire une politique plus fléchée tant dans les thèmes à explorer que dans les financements, et ainsi sortir d’une politique de satisfaction du plus grand nombre dans laquelle il cherche à financer un maximum de startups. Cette stratégie doit aussi s’inscrire plus systématiquement à l’échelle européenne pour espérer faire naître, voire garder, sur le continent européen les prochaines innovations, entreprises et générations de talents, dans le domaine algorithmique. Nous construirons ainsi une souveraineté algorithmique pertinente et durable.

Une revalorisation des métiers scientifiques et techniques

Il est urgent de revaloriser ces métiers tant du point de vue de la rémunération que de celui de la gouvernance des entreprises. Le dirigeant technique (ou CTO) et scientifique (ou CSO) d’une entreprise sont rarement mis en avant et n’ont pas systématiquement une place au comité exécutif. Contrairement à leurs homologues américains, ils ont des salaires parfois largement inférieurs au président ou au dirigeant financier et peuvent difficilement imaginer diriger l’entreprise. Un paradoxe français où la voie royale éducative reste scientifique alors que la reconnaissance professionnelle passe par la voie business. La French Tech doit montrer l’exemple en mettant la lumière systématiquement sur les dirigeants techniques et non business uniquement, pour faire monter en puissance la réputation technologique française à travers le monde.

Une plus grande liberté au sein du système de recherche académique français

Un chercheur libre est un chercheur heureux. Cette injonction peut vous sembler étrange et pourtant elle se confirme dans bon nombre de pays où le système de la recherche académique est plus souple que le nôtre. Sans parler de la nécessité urgente d’augmenter les salaires des chercheurs, il est important de repenser le système dans sa globalité. Un jeune chercheur doit pouvoir seul, sans la direction d’un professeur, lever des fonds, choisir ses thématiques de recherche et ses thésards pour construire une équipe au sein d’un tenure track. La loi de programmation pluriannuelle de la recherche s’inspire de cette idée mais ne fait qu’une mince partie du chemin. Cette liberté manque cruellement et est à l’origine – avec le manque de moyens financiers – de l’abandon de ces carrières.

Nous nous accorderons sur l’idée que l’espoir s’accompagne d’une compréhension, ce qui se distingue de la simple croyance. Croire en l’avenir suppose une certaine confiance en son destin et en celui de la société, mais espérer l’avenir sous un certain angle comme celui de l’innovation algorithmique suppose une compréhension de la discipline sous-jacente, ici la science algorithmique. On profitera ainsi des nombreux bénéfices tout en protégeant les droits fondamentaux des individus, et en écartant les menaces sociales, économiques ou environnementales.


Bibliographie

  • Aurélie Jean, « Un chercheur libre est un chercheur heureux », Le Point, 18 octobre 2020.
  • Luc Julia, « L’intelligence artificielle n’existe pas », FIRST, 2019.
  • Yann Le Cun, « Quand la machine apprend : La révolution des neurones artificiels et de l’apprentissage profond », Odile Jacob, 2019
  • Robert Sternberg, « Beyond IQ: A Triarchic Theory of Intelligence », Cambridge University Press, 1985.

Les Thématiques