Docteure en sciences et entrepreneure, la fondatrice et dirigeante de In Silico Veritas, société de conseil spécialisée en algorithmes, Aurélie Jean milite pour un monde numérique inclusif. Classée par le magazine Forbes parmi « les 40 Françaises qui comptent en 2019 », elle démystifie les algorithmes énigmatiques pour le commun des mortels dans son dernier ouvrage « De l’autre côté de la machine ». Nous lui avons envoyé nos questions.
Une définition d’un algorithme ?
Un algorithme est une séquence d’opérations (implicites ou explicites) à exécuter selon une certaine logique dans le but de répondre à une question, de résoudre un problème ou de comprendre des mécanismes. Même si l’algorithme est aujourd’hui numérique, destiné à tourner sur un ordinateur, il a été conçu il y a plus de 2000 ans pour être exécuté à la main.
Pourquoi est-il fondamental que la conception des algorithmes ne soit pas le domaine réservé des hommes ?
De manière générale, il est important de concevoir les algorithmes sous des angles de vues, des expériences et des cultures diverses et variés dans le but de construire des algorithmes dits inclusifs, qui considèrent de manière représentative l’ensemble des individus et des situations. Cela étant dit, on comprend bien l’importance d’avoir des femmes chez les concepteurs (ingénieurs et scientifiques), au vu de leur faible présence dans ce champ disciplinaire aujourd’hui. Des outils et des technologies conçus par des hommes uniquement risquent de biaiser leur fonctionnement en écartant les femmes de l’équation. Comme j’aime le répéter, il faut construire des technologies par tous pour tous.
Un exemple de biais de genre dans ces algorithmes ?
On a vu récemment (en Novembre 2019) un biais de genre dans l’algorithme d’attribution de lignes de crédit, qui donnait des crédits jusqu’à 20 fois supérieure aux hommes qu’aux femmes, pour les mêmes conditions fiscales et le même historique de crédit. L’algorithme avait en effet été entraîné sur les lignes de crédit accordées aux hommes et aux femmes dans le passé. Due à l’émancipation économique des femmes, elles gagnent plus d’argent aujourd’hui et ont des crédits bien plus grands que dans le passé. On a ici transformé une statistique représentative du passé en une condition systématique du présent et du futur. Ce type de biais empêche toute évolution sociale, pire nous fait revenir en arrière.
Pourquoi les femmes pionnières dans le développement du langage informatique ont disparu lorsque l’informatique est devenu est un marché rentable ?
Il faudrait demander cela à un sociologue. Ce qui est observable est que dès que le marché de l’ordinateur est devenu profitable, en passant d’une machine business (avec IBM) à un objet personnel (avec le PC), les femmes s’en sont éloignés et les hommes ont investi le marché et les disciplines qui vont avec incluant la programmation informatique. C’est pour cela que je parle argent aux femmes, un domaine profitable n’est pas un moins bon domaine! En travaillant dans les sciences informatiques et l’intelligence artificielle on peut bien gagner sa vie et impacter le monde par la même occasion !
On considère toujours les plus de 45 ans et spécifiquement les femmes inaptes à l’apprentissage des nouvelles technologies ? Comment lutter contre ce stéréotype ? Et comment éviter que cette génération s’autocensure et dise ce n’est pas pour moi ?
Wow ! Je n’ai pas ce genre de préjugé ! Je crois à l’éducation par l’exemple, si les femmes qui le font en parlent et se montrent on créera un cercle vertueux. Cela étant dit, il faut absolument lever cette forme d’autocensure qui touche les femmes et les hommes à partir d’un certain âge. On apprend toute sa vie, et cela est encore plus vrai voire fondamental à l’heure où les technologies qui modèlent notre société évoluent à une grande vitesse. On apprend également grâce aux autres qui nous apprennent et nous forment. En cela, j’encourage les plus jeunes ou tout simplement ceux qui savent à expliquer aux autres et à les former. Nous entrons dans une ère de collaboration et d’intelligence collective forte, il faut donc en profiter en œuvrant dans ce sens, tant d’un point de vue personnel que d’un point de vue professionnel.
Plus largement comment permettre que les services numériques ne laissent pas trop de monde sur le bord de la route ?
Je suis peut être naïve (rires…) mais j’ai toujours pensé qu’un bon service numérique est un service qui se comprend et qui s’explique. Aujourd’hui les acteurs de ces services ont le devoir moral d’expliquer le dessous du capot, la logique de l’outil qui soutient le service en question. Ainsi, les individus adopteront plus rapidement, plus efficacement et plus durablement le service en question. Aussi, le risque réputationnel de l’outil est minimisé en plaçant l’utilisateur comme collaborateur de l’outil[1], en collectant ses retours, en captant ses données d’usage ou encore en co-concevant avec lui les versions futures de l’outil. Pour atteindre un tel paradigme il faut réaliser des efforts pédagogiques importants mais pas impossibles!
Est ce aussi dans cette optique de vulgarisation des sciences numériques que vous avez publié en 2019 De l’autre côté de la machine. Voyage d’une scientifique au pays des algorithmes ?
Absolument! Avec un certain humour j’écris dans mon livre que je souhaite expliquer ce que je fais et comment je le fais pour éviter de retrouver “ma tête coupée dans un panier” (rires…). Plus sérieusement je pense nécessaire que les sachants et les doers (les personnes qui agissent) expliquent leurs disciplines afin d’éclairer les gens sur les grands sujets de notre temps. Les dirigeants politiques ont un rôle exemplaire à jouer dans ce sens en faisant l’effort de s’y intéresser, et certains le font déjà très bien! Même si on ne comprend pas tout, on comprend suffisamment pour construire sa confiance pour poser les bonnes questions au bon moment, et pourquoi pas l’expliquer à d’autres! Rappelez-vous, nous entrons dans une ère de collaboration et d’intelligence collective unique!
Comment la tech pourrait-elle être un outil inclusif qui ne fracture pas les générations mais les relie?
En la développant par tous et pour tous… Tout simplement.
[1] The Inversion Factor (MIT Press, 2016) by Kenneth Traub, Linda Bernardi, and Sanjay E. Sarma.
« De l’autre côté de la machine – Voyage d’une scientifique au pays des algorithmes » Aurélie Jean – Le livre de Poche (2020)