Une IA égalitaire avec Hélène Deckx Van Ruys et Muriel Garnier

Bonjour, bonsoir à toutes les personnes qui nous écoutent. Je suis en compagnie de Hélène Deckx Van Ruys et Muriel Garnier, avec qui nous allons discuter dans ce podcast hebdomadaire de leur guide pour une IA égalitaire. Hélène et Muriel, je vous laisse vous présenter comme vous le souhaitez.

Merci, Esthel, pour cette invitation. Je suis Hélène Deckx Van Ruys, directrice RSO, diversité et inclusion, et je suis également copilote du groupe de travail « Les Familias » au sein du laboratoire de l’égalité.

Merci également, Esthel, pour cette invitation. Je vais partager avec vous mon parcours pour expliquer les raisons qui m’ont amenée à rejoindre le laboratoire de l’égalité. Je me suis plongée dans l’informatique, ou plus précisément dans le système d’information, dans les années 70.

Après mon baccalauréat scientifique, un conseiller d’orientation m’a recommandé de m’intéresser à l’informatique, secteur en plein essor, en précisant que les femmes y auraient un rôle important à jouer. J’ai donc entrepris une maîtrise en informatique appliquée à la gestion d’entreprise, ce qui m’a permis d’apprendre à automatiser des processus à l’aide de l’informatique. J’ai ainsi mené une carrière professionnelle de 40 ans dans ce domaine.

Mon parcours s’est déroulé dans ce que l’on appelle le système d’information. J’ai travaillé à la fois comme consultante, conseillant sur la manière dont la technologie pouvait apporter une valeur ajoutée, notamment dans les industries cosmétiques, pharmaceutiques et automobiles, et j’ai terminé ma carrière avec 15 années passées dans l’industrie nucléaire, dont 10 ans en tant que directrice des systèmes d’information, ou DSI. C’était une expérience particulièrement enrichissante, et mon objectif, depuis mes débuts, a toujours été de démontrer comment la technologie pouvait apporter une réelle valeur ajoutée aux métiers.

Cependant, au cours de ces 40 années, tout en étant témoin de l’évolution technologique – de l’apparition du PC à celle du web, entre autres – j’ai également constaté la disparition progressive des femmes dans le secteur du numérique. En 2017, à la fin de ma carrière, j’ai donc décidé de rejoindre le laboratoire de l’égalité, où j’ai pris en charge le groupe de travail sur « Les Femmes et l’IA ».

Depuis cette date, avec Hélène, nous co-pilotons ce groupe ainsi que l’ensemble des réflexions qui en découlent. Je suis également membre du bureau du laboratoire en tant que trésorière, tout en continuant à promouvoir une IA égalitaire.

Qu’est-ce que la tech, le numérique et l’informatique ?

Super, merci pour vos présentations. Pour commencer cet épisode, j’aime poser les bases pour les personnes qui nous écoutent et qui ne possèdent pas forcément les connaissances, mais qui les acquerront grâce à cet épisode. Il est essentiel, dans cette discussion, d’intégrer la notion d’IA égalitaire pour souligner les enjeux actuels de la technologie.

Je me disais qu’il serait utile d’expliquer ce que représentent, par exemple, le secteur de la tech, du numérique et de l’informatique. Ce sont des termes que l’on entend fréquemment, mais dont on ne comprend pas toujours le sens exact. L’IA égalitaire doit également être prise en compte dans ces définitions pour s’assurer que l’inclusion est au cœur du développement de ces secteurs.

J’en profite également pour poser une deuxième question liée à ce que tu mentionnais, Muriel : tu as observé que les femmes ont progressivement disparu de l’informatique. Pourrais-tu nous en donner une rétrospective et nous expliquer la situation des femmes aujourd’hui dans ces secteurs, notamment dans le cadre de l’IA égalitaire ?

Alors, le secteur de la tech, tel qu’on l’appelle aujourd’hui, est un terme générique désignant les technologies de l’information et de la communication. Cela englobe, en réalité, tout ce qui concerne les équipements informatiques, tels que les PC, serveurs, réseaux, ainsi que tout ce qui est applicatif, et tout ce qui relève de l’édition de logiciels. L’IA égalitaire a un rôle fondamental à jouer dans cette révolution technologique pour que ces innovations profitent à tous et toutes.

Le secteur du numérique, quant à lui, inclut les entreprises qui produisent ces équipements et services liés à l’information. On a souvent tendance à amalgamer les termes technologie, tech et numérique. À ce sujet, permettez-moi de partager quelques chiffres clés pour mieux comprendre ce secteur. L’IA égalitaire s’inscrit dans cette dynamique, cherchant à assurer une répartition équitable des opportunités créées.

En 2022, le secteur du numérique était valorisé à environ 90 milliards d’euros en France, dont 5 à 8 milliards pour l’intelligence artificielle, un domaine en pleine expansion. Nous avons observé une croissance de 6,5 % en 2022, alors que la croissance moyenne d’un secteur se situe entre 1 à 2 % par an. L’IA égalitaire est nécessaire pour garantir que cette évolution bénéficie à tous les acteurs de la société.

Si nous faisons des projections à sept ans, d’ici 2030, il est prévu une croissance de plus de 1400 %, atteignant ainsi plusieurs centaines de milliards de dollars à l’échelle mondiale. Cela pourrait représenter 30 % des emplois mondiaux, un marché en pleine expansion où, malheureusement, les femmes restent sous-représentées. Hélène, je te laisse évoquer les chiffres relatifs à la présence des femmes dans ces domaines, en lien avec l’IA égalitaire.

Je voudrais également ajouter une définition de l’IA, car on en parle beaucoup. Il est important de comprendre qu’on est passé d’un mode de programmation, appelé codage, où l’on créait des programmes, à des systèmes capables de générer des outils tentant d’imiter l’intelligence humaine. Cela inclut l’aide à la décision, la créativité, et l’apprentissage. L’IA égalitaire vise à s’assurer que ces avancées technologiques soient inclusives et bénéficient à tous, sans discrimination.

Je souhaite aussi rebondir sur certains chiffres partagés par Muriel. Ce qui me frappe particulièrement, c’est qu’aujourd’hui, les deux tiers des enfants en maternelle exerceront un métier qui n’existe pas encore. Cela représente 66 %, un chiffre colossal qui souligne l’importance du numérique et les opportunités qu’il offre. Dans ce contexte, l’IA égalitaire doit s’assurer que ces métiers futurs incluent toutes les diversités.

En ce qui concerne les femmes, on constate un manque évident de représentativité dans la tech. Seulement 27 % des étudiantes diplômées des écoles d’ingénieurs sont des femmes, et dans le secteur du numérique, ce pourcentage chute à 17 %. Cela représente un écart significatif, d’autant plus qu’en 1980, les écoles d’ingénieurs étaient quasiment paritaires. L’IA égalitaire joue ici un rôle central en rééquilibrant ces disparités.

Cependant, une rupture a eu lieu en 1984, et plus récemment, en 2019, avec la réforme de l’éducation nationale liée aux mathématiques. En réalité, nous avons perdu 20 ans d’efforts pour attirer les femmes dans les STEM et dans la tech, ce qui est une véritable régression. L’IA égalitaire doit s’efforcer de rattraper ce retard pour favoriser une meilleure inclusion des femmes.

Le chiffre le plus alarmant est celui de 2021 : moins de 1 % des jeunes filles (0,94 %) ont choisi la filière NSI (numérique et sciences de l’informatique) au baccalauréat. Cela révèle un problème profond, que l’IA égalitaire peut aider à résoudre en promouvant une meilleure parité dans l’accès à ces filières.

De plus, il est important de noter que la tech ne se limite pas aux profils scientifiques. Nous avons également besoin de jeunes femmes créatives, innovantes, capables d’apporter des perspectives nouvelles. Il est essentiel que l’IA égalitaire prenne en compte cette diversité des talents pour garantir une représentation équilibrée.

Un autre point clé concerne la méconnaissance des métiers de la tech. Les filles sont souvent mal orientées et trop tardivement, ce qui constitue un frein majeur à leur intégration dans ce secteur. Une meilleure orientation vers les métiers de la tech, en lien avec une vision d’IA égalitaire, est essentielle pour rectifier cette situation.

Pourquoi les femmes sont éloignées du secteur du numérique ?

Merci beaucoup à toutes les deux pour ces présentations. C’est très important d’établir ces bases, et je voulais justement rebondir sur ce que tu disais, Hélène. Pourquoi y a-t-il eu cette rupture ? Pourquoi les femmes sont-elles éloignées des secteurs du numérique ? J’ai quelques hypothèses, bien sûr à approfondir, mais voici ce que j’ai entendu à ce sujet. Il est primordial de replacer cette question dans le contexte de l’IA égalitaire pour comprendre les enjeux d’inclusion dans ces domaines.

D’après ce que j’avais entendu, la première programmeuse informatique était Ada Lovelace, une femme, et c’était vers les années 1880. À cette époque, il y avait beaucoup de femmes dans l’informatique, car ce domaine était perçu comme leur étant destiné. Cependant, lorsque les hommes ont vu une opportunité dans ce secteur, ils ont progressivement évincé les femmes. Cela montre l’importance d’un cadre comme l’IA égalitaire pour éviter de telles exclusions dans les avancées technologiques.

Un tournant important a été l’arrivée des ordinateurs personnels dans les foyers, qui étaient principalement destinés aux garçons, et non aux filles. On peut également évoquer des objets comme la Game Boy, ciblant exclusivement les garçons. Il n’y a jamais eu de « Game Girl », ce qui aurait peut-être pu changer la donne.

Ou alors, on aurait pu avoir un « GameKid », plus inclusif et pertinent. Je suis complètement d’accord sur cette idée, et elle souligne à quel point une approche d’IA égalitaire peut encourager une plus grande inclusivité dans la conception des produits technologiques. Cela montre aussi qu’il est essentiel de prendre en compte les soft skills dans ces métiers pour les rendre accessibles à tous et à toutes.

Un autre chiffre, qui complète ce que Hélène a mentionné, est tout aussi alarmant : après environ 10 ans de carrière, plus de 50 % des femmes quittent le secteur du numérique. Elles évoquent souvent un manque d’inclusivité dans cet environnement souvent perçu comme masculin et peu accueillant pour elles. C’est là que l’IA égalitaire doit jouer un rôle central en favorisant un environnement professionnel respectueux et ouvert.

Oui, c’est ce qu’on appelle le phénomène du « tuyau percé ». Pour compléter ce que vient de dire Muriel, la raison pour laquelle les femmes quittent le secteur de la tech et du numérique tient à un environnement de travail qui reste souvent misogyne. Cela rend difficile leur évolution professionnelle et dissuade les jeunes filles de se lancer dans ces domaines. Une véritable approche d’IA égalitaire pourrait aider à réduire ces obstacles en rendant ces métiers plus attrayants et accessibles.

Même si certaines entreprises ont commencé à mettre en place des plans de formation, de sensibilisation et des trajectoires de carrière pour les femmes, il persiste un problème de sexisme et de misogynie dans de nombreuses structures. L’IA égalitaire pourrait être un outil clé pour instaurer des politiques plus inclusives et respectueuses au sein de ces entreprises.

Oui, ces statistiques sont effectivement très préoccupantes. Il est vraiment malheureux de constater que certaines femmes sont confrontées à des comportements sexistes ou même au harcèlement. C’est un problème majeur qui nécessite une réponse immédiate. Une approche d’IA égalitaire pourrait contribuer à éradiquer ces pratiques en instaurant des normes plus strictes et en promouvant un environnement de travail plus juste et égalitaire.

Présentez-nous votre guide des bonnes pratiques

Et comme vous le disiez, il est nécessaire de mettre en place des actions concrètes pour attirer, retenir et fidéliser les jeunes femmes dans le secteur. Ce n’est pas suffisant de simplement dire « Venez dans notre secteur, c’est formidable », si aucune action n’est menée derrière. C’est comme donner un coup d’épée dans l’eau. En parlant justement d’actions, c’est le thème de ce podcast, car vous avez écrit un guide à ce sujet, un guide de bonnes pratiques. Pouvez-vous nous le présenter ? Il est essentiel de comprendre comment ce guide peut contribuer à promouvoir une IA égalitaire.

Alors, pourquoi avons-nous créé ce guide des bonnes pratiques ? Il faut remonter un peu en arrière, en juin 2021, lorsque nous avons instauré le mois de l’IA égalitaire. Chaque mardi midi, nous organisons un podcast ou un webinar dans lequel nous interviewions cinq parties prenantes : les entreprises, les associations, la recherche, les médias et les écoles. Nous leur demandions leur point de vue sur les femmes dans l’IA et comment, à partir de leur perspective, ils voyaient la situation évoluer. Cette initiative a renforcé l’idée de la nécessité d’un cadre plus inclusif pour une IA égalitaire.

Nous avons été agréablement surpris par le succès de ces rendez-vous hebdomadaires, mais aussi par la richesse des données collectées. Cela nous a poussés à aller plus loin. De plus, nous avons eu la chance de recevoir un prix de la Fondation des Femmes, ce qui nous a permis de transformer cette collecte de données en un guide de bonnes pratiques pour une IA égalitaire. Ce guide vise à changer les choses concrètement et à encourager davantage de femmes à rejoindre les STEM et la tech, en particulier dans le cadre de l’IA.

Nous avons décidé de nous concentrer sur trois parties prenantes : les entreprises, les écoles d’enseignement supérieur et la recherche. Nous avons mené des entretiens qualitatifs avec des personnalités de ces milieux, et après analyse de ces échanges, nous avons créé ce guide de bonnes pratiques pour une IA égalitaire entre les femmes et les hommes. Nous vous encourageons vivement, Muriel et moi, à le télécharger, le lire et le diffuser largement pour faire avancer les choses à tous les niveaux.

En complément de ce que dit Hélène, l’objectif principal de ce guide est d’attirer plus de femmes dans le secteur du numérique. Cela représente un enjeu sociétal majeur, équivalent à une révolution industrielle. Une IA égalitaire est essentielle dans cette démarche, car aujourd’hui, plus de 50 % de l’humanité, c’est-à-dire les femmes, ne sont pas suffisamment présentes dans ces métiers.

Ce qui est encore plus inquiétant, c’est que les algorithmes eux-mêmes peuvent être biaisés en raison d’une sous-représentation des données concernant les femmes. Cela crée une double peine pour elles : non seulement elles sont sous-représentées dans le secteur, mais elles sont également susceptibles d’être lésées par des résultats d’algorithmes biaisés. L’IA égalitaire doit s’assurer que les bases de données et les algorithmes soient conçus de manière inclusive et représentative.

Comme tu l’as souligné, Hélène, environ 90 % des développeurs sont des hommes, et cela conduit à la reproduction de stéréotypes dans la conception des algorithmes. Ces biais, qu’ils soient intentionnels ou non, sont intégrés dans les systèmes, et l’absence de diversité dans la création de ces outils perpétue ces problèmes. Une IA égalitaire est donc essentielle pour éviter la propagation de ces biais et garantir une meilleure représentativité des femmes dans les processus de conception.

Je tiens à vous féliciter toutes les deux pour ce guide, car il apporte une réelle valeur ajoutée et propose des actions concrètes. Je l’ai bien sûr consulté avant notre entretien, et je le mettrai à disposition dans la description de cet épisode. Cette initiative est importante pour s’assurer que les femmes et les personnes issues de minorités soient incluses dans la construction du monde de demain. L’IA égalitaire doit jouer un rôle central dans cette inclusion pour éviter que notre avenir soit façonné par une vision biaisée, comme tu le disais Muriel, lorsque ce sont uniquement des hommes qui codent, ignorant souvent les besoins spécifiques des femmes et des minorités.

Quelles sont les bonnes pratiques des établissements d’enseignement supérieur ?

Et du coup, pour continuer, pour suivre un peu la ligne de votre guide, quelles sont les bonnes pratiques que vous avez pu remarquer dans les établissements d’enseignement supérieur pour commencer ?

Il faut souligner qu’il y a une véritable prise de conscience dans les établissements d’enseignement supérieur. Le manque de filles dans le vivier des femmes ingénieures est évident. Cependant, les écoles en sont conscientes et mettent en place des systèmes et des actions pour attirer plus de jeunes filles. C’est un pas essentiel vers une IA égalitaire. On parlait plus tôt du fait que les jeunes filles ont besoin de se sentir attendues. C’est pourquoi des actions de sensibilisation sont menées, notamment pour lutter contre le sexisme ordinaire, avec des sanctions et une tolérance zéro en place dans ces établissements.

En plus de ces actions, il y a également des formations et des initiatives autour des rôles modèles. Ces représentations sont indispensables pour permettre aux filles de s’identifier et de se projeter dans le secteur de la tech. Avoir des modèles accessibles, pas uniquement des figures prestigieuses comme Simone Veil ou Michelle Obama, mais aussi des exemples concrets dans la tech, est fondamental pour encourager une IA égalitaire. Des personnalités comme Clara Chapaz, directrice de la French Tech, peuvent jouer ce rôle.

Il existe également une responsabilité tripartite, qui inclut l’éducation (parents et professeurs), les entreprises et la société dans son ensemble. Cette approche est nécessaire pour créer un environnement propice à l’IA égalitaire. Il est important d’échanger entre écoles, de promouvoir des médias comme des podcasts, des livres et des films, pour donner aux jeunes filles l’envie de rejoindre les filières tech et STEM.

Dans les écoles d’ingénieurs, il est essentiel d’avoir une représentation féminine visible, que ce soit dans les affiches, sur les sites internet ou à travers les programmes proposés. Cela fait partie des nombreux efforts déployés pour soutenir une IA égalitaire. En plus de cela, des lignes de référents pour le harcèlement sexuel sont mises en place pour garantir un environnement sûr et inclusif. Les écoles comme l’école 42 et d’autres établissements d’ingénieurs prennent conscience de ces enjeux et mettent en œuvre des mesures pour aller encore plus loin dans l’inclusion.

Lors des entretiens menés pour le guide, un directeur d’école d’ingénieur a partagé une observation frappante : lors des salons d’orientation, les jeunes filles viennent souvent avec leurs parents, et lorsqu’elles se dirigent vers un stand d’école d’ingénieur, les parents interviennent en disant : « Ce n’est pas un milieu pour toi ». Il faut sensibiliser les parents pour encourager leurs filles à aller dans ces domaines et soutenir l’IA égalitaire. Il faut déconstruire l’idée que ces métiers ne sont pas adaptés aux femmes.

Il est essentiel d’encourager les filles à rejoindre les STEM et la tech, non seulement parce qu’elles y sont sous-représentées, mais aussi parce qu’elles y seront mieux rémunérées. Si elles se dirigent vers des secteurs comme la communication, les ressources humaines ou le care, elles seront en sur-représentation et moins bien payées. Une IA égalitaire vise à garantir des opportunités égales pour toutes et à rééquilibrer ces disparités.

Oui, je suis entièrement d’accord avec toi : il est nécessaire que les jeunes filles et les femmes aient des rôles modèles. Cela les inspire, leur donne confiance, et leur permet de se projeter. Si elles peuvent s’identifier, elles diront « c’est pour moi », alors que si elles ne voient que des garçons, elles risquent de penser que ce domaine ne leur est pas destiné. C’est pourquoi il est essentiel de combattre les biais et les stéréotypes à tous les niveaux : chez les parents, chez les professeurs, mais aussi chez les étudiantes elles-mêmes.

Il est donc important de mettre en lumière ces problématiques pour pouvoir les résoudre. Cela permet de créer une sorte de plan d’action clair, une ligne de départ. Le premier pas est de déconstruire les croyances erronées que l’on peut avoir sur ces sujets. C’est une étape clé vers une IA égalitaire qui permette à chacun de trouver sa place dans les secteurs technologiques, sans préjugés ni obstacles.

Je pense également qu’il serait d’utilité publique de projeter le film The Hidden Figures dès le collège ou le lycée, avant l’entrée dans les écoles d’ingénieurs. Cela devrait faire partie du parcours obligatoire pour toutes les classes généralistes. Ce type d’initiatives pourrait inspirer davantage de jeunes filles à se lancer dans des parcours STEM.

Oui, je comprends ce que tu dis. Les Figures de l’ombre est un excellent film, que j’ai vu plusieurs fois. Il montre clairement la situation des femmes qui ont permis à l’homme de marcher sur la Lune. C’est une réalisation immense, souvent éclipsée par les récits centrés sur les rôles masculins. Valoriser le travail de Katherine Johnson, Margaret Hamilton et leurs collègues est essentiel pour promouvoir une IA égalitaire et montrer que les femmes ont joué des rôles clés dans l’histoire des technologies.

Justement, pour compléter ce que dit Hélène, il ne s’agit pas uniquement d’apprendre la technique. Moi, j’ai appris les bases de la technologie, mais surtout comment l’utiliser dans des métiers comme la pharmacie, la cosmétique, etc. C’est cet aspect qu’il faut mettre en avant pour attirer les filles vers ces domaines. Être astronaute, c’est fabuleux, bien sûr, mais il est aussi important de montrer que l’on peut manipuler des outils intelligents, notamment dans le cadre de l’IA. L’IA égalitaire permet d’ouvrir de nouvelles perspectives professionnelles en montrant que ces technologies sont utiles dans une multitude de secteurs.

Ce n’est pas simplement la technique qui attire les jeunes filles, mais la manière dont cette technique peut être utilisée pour créer de nouveaux services, de nouveaux produits. On estime qu’avec l’IA, environ 60 % des métiers seront revisités, car l’intelligence artificielle viendra compléter l’intelligence humaine. Les jeunes filles sont intéressées par ces champs d’action possibles, et il est essentiel que l’école leur montre comment utiliser ces outils, pas simplement d’un point de vue technique, mais aussi d’un point de vue créatif et innovant. C’est là que l’IA égalitaire entre en jeu.

Je voudrais également souligner que l’IA est présente dans nos vies quotidiennes, et pas seulement dans des secteurs traditionnellement perçus comme « masculins » tels que l’aéronautique ou l’astronomie. L’IA est également largement utilisée dans des domaines comme le luxe, la mode, et bien d’autres. Montrer ces facettes plus accessibles du secteur peut aider à promouvoir une IA égalitaire en permettant aux jeunes filles de s’identifier à des métiers qui ne sont pas exclusivement techniques, mais aussi créatifs.

Quelles sont les bonnes pratiques dans le secteur de la recherche ?

Oui, je suis totalement d’accord avec vous, il faut donner du sens à ces métiers. Par exemple, lorsqu’on pense à l’écologie, un domaine qui concerne tout le monde, l’IA peut offrir des solutions pour lutter contre le changement climatique et ouvrir de nouvelles voies pour les filles. Cela leur permettrait de se dire : « Oui, c’est possible, je peux aussi changer le monde à ma manière ». C’est une approche très positive, aussi bien pour la société que pour la planète.

De plus, l’IA, en particulier l’IA générative, a vraiment explosé ces derniers temps, notamment avec des outils comme ChatGPT qui sont devenus accessibles au grand public. Ce sont des sujets d’une importance inouïe, et il est essentiel d’inclure cette dimension dans l’éducation pour promouvoir une IA égalitaire, en attirant davantage de jeunes filles vers ces domaines.

Si vous souhaitez approfondir, nous pourrions discuter des bonnes pratiques dans le secteur de la recherche, car ce domaine joue un rôle clé dans le développement de ces outils d’IA égalitaire.

Nous nous sommes intéressés au secteur de la recherche, en interviewant des responsables de laboratoires du CNRS ou d’instituts de recherche, aussi bien dans les universités que dans le privé. Pourquoi ? Parce que la recherche a un rôle fondamental dans la conception et le développement des outils d’IA. Ils sont en amont de ces innovations et peuvent, dès le départ, identifier les biais pour garantir une IA égalitaire dès la conception.

Cependant, il y a un véritable problème de représentation dans la recherche : seulement 16,6 % des chercheuses travaillent dans le domaine de l’informatique et des sciences de l’information, ce qui est un chiffre globalement reflété dans les panels que nous avons interrogés. Ce manque de diversité est un enjeu pour le recrutement de demain, car un secteur aussi influent sur l’avenir de l’IA doit viser une répartition plus équitable pour assurer une véritable IA égalitaire.

En 2021, lorsqu’on organisait des tables rondes, il y avait moins de prise de conscience de ce manque de chercheuses ou des biais dans les algorithmes et les bases de données. Mais aujourd’hui, en 2023, 85 % des instituts de recherche mettent en place des actions pour recruter et attirer les jeunes filles. Ils s’efforcent d’intégrer une démarche d’IA égalitaire dans leurs processus de recrutement.

Ils mettent en place des comités de sélection mixtes, ou paritaires lorsque c’est possible, même si le faible nombre de femmes rend parfois cet objectif difficile à atteindre. Ils essayent également d’équilibrer les candidatures, en visant un ratio de 50 % de CV féminins et masculins afin de garantir un choix basé sur des compétences égales. Des sessions de sensibilisation et de formation aux biais et stéréotypes sont également organisées, favorisant ainsi une IA égalitaire dans les processus de recrutement.

Ces instituts interviennent également dans les écoles pour sensibiliser les jeunes, notamment dans les lycées, et participent à des forums pour présenter leurs métiers. Un effort est également fait pour accueillir des élèves dans les instituts de recherche pour les stages de 3e, une initiative qui n’était pas courante auparavant. Ces échanges entre laboratoires et instituts permettent de mieux observer la représentativité des femmes, renforçant ainsi l’idée d’une IA égalitaire au sein des structures de recherche.

Ils mettent également en place diverses actions sur la qualité de vie au travail, un aspect que l’on abordera peut-être davantage en parlant des entreprises. Par exemple, pour les chercheuses qui doivent participer à des conférences, des systèmes de garde sont mis en place. Il existe également des référents égalité pour lutter contre le sexisme ordinaire, qui reste présent dans ce milieu très masculin. Des systèmes de mentorat sont également proposés pour retenir ces chercheuses.

Les réseaux au sein des chercheuses sont aussi très importants et ont été une découverte majeure pour nous. Ces réseaux permettent de renforcer la représentativité des femmes dans un milieu qui reste largement masculin. En parallèle, des actions de formation et d’accompagnement sont développées pour que les femmes puissent accéder à des postes de managers ou devenir dirigeantes de laboratoires. Cela fait partie des actions recensées parmi une centaine de bonnes pratiques visant à instaurer une IA égalitaire.

Un autre point important concerne les algorithmes et les bases de données. En 2021, il n’y avait pas vraiment de cadre structuré pour sensibiliser à l’intégration de critères discriminatoires dans les algorithmes. Aujourd’hui, des workshops sont organisés et des formations obligatoires sur l’intégrité scientifique et l’éthique sont mises en place dans certains instituts. Cela montre un engagement accru en faveur d’une IA égalitaire, avec le développement d’outils permettant de détecter et corriger les biais dans les algorithmes.

En plus de cela, ces laboratoires travaillent à améliorer la représentativité dans les bases de données, en intégrant davantage de données femmes-hommes. Ces bases de données reflètent la société passée et actuelle, et maintenant, il y a une prise de conscience de la nécessité d’une IA égalitaire pour intégrer des données plus inclusives et pertinentes pour l’avenir.

L’interdisciplinarité est un autre point clé qui commence à attirer de plus en plus de jeunes femmes vers la recherche. Il est essentiel de ne pas laisser les scientifiques travailler seuls sur ces outils. Par exemple, avec l’IA générative comme ChatGPT, qui utilise des modèles de langage, il est nécessaire d’inviter des experts de diverses disciplines à la table : sociologues, philosophes, anthropologues, linguistes. Cela permet d’éviter les biais et d’assurer une IA égalitaire en enrichissant les perspectives lors de la conception de ces modèles.

Cette interdisciplinarité est en train de se généraliser dans les instituts de recherche, contribuant à renforcer la diversité au sein des équipes et à développer des outils d’IA plus inclusifs. En associant différentes disciplines, on s’assure que l’IA égalitaire reste au cœur des innovations technologiques, tout en évitant les biais structurels qui pourraient persister si une seule perspective dominait.

Qu’est-ce qui a expliqué cette prise de conscience collective ?

En effet, il y a vraiment beaucoup d’actions mises en place aujourd’hui. C’est très encourageant et cela donne beaucoup d’espoir. Mais forcément, une question me vient en tête : tu disais qu’en 2021, ces sujets n’étaient pas encore une priorité, alors qu’ils le sont devenus maintenant. Qu’est-ce qui a expliqué cette prise de conscience collective vers plus de solutions et d’inclusion, en particulier dans le cadre d’une IA égalitaire ?

Je pense qu’il s’est produit un phénomène progressif, avec de plus en plus de discussions dans la presse autour des résultats biaisés produits par l’IA. Par exemple, il y a eu des scandales sur les logiciels de recrutement utilisés par Google, ou encore la discrimination dans la reconnaissance faciale et l’octroi de prêts, qui était davantage en faveur des hommes plutôt que des femmes. Ces biais sont souvent dus à des bases de données non représentatives.

Les données historiques montrent que les femmes obtenaient moins souvent des prêts importants, et cela a été intégré dans les modèles actuels. C’est cette accumulation de biais qui a provoqué une prise de conscience de la nécessité d’encadrer l’IA de manière éthique pour garantir une IA égalitaire.

Cette prise de conscience a été relayée par des scandales dans le quotidien. Par exemple, Amazon a été régulièrement pointé du doigt pour son logiciel de recrutement, qui avait écarté les CV de femmes avant d’être corrigé. Plus récemment, on a entendu parler du problème avec Apple Pay, où les montants de crédit octroyés aux hommes étaient plus élevés que ceux des femmes. Tous ces « détails » du quotidien, qui affectent directement la vie des gens, ont sensibilisé l’opinion publique. Cette prise de conscience est essentielle pour promouvoir une IA égalitaire et éliminer les biais présents dans ces systèmes.

Je voudrais également insister sur le travail formidable des associations. Des initiatives comme Girls Who Code, ou encore des programmes menés par des personnes comme Sandrine Delage avec Women and Girls in Tech. Il y a aussi le programme lancé par Élisabeth Borne, 10 000 femmes dans la tech, qui promeut la tech pour toutes. Ces associations et initiatives ont contribué de manière significative à la sensibilisation sur la nécessité d’une IA égalitaire.

Après la pandémie de Covid, beaucoup de choses ont émergé, et cela a également favorisé l’engouement pour l’IA en général, et l’IA générative en particulier. Cela a mis en lumière le problème de la diversité et du manque de femmes dans la tech.

Merci beaucoup pour ces partages, qui permettent aux personnes qui nous écoutent de mieux comprendre l’impact du sexisme ambiant sur tous les domaines et à tous les niveaux pour les femmes. La situation est effectivement grave, et il est indispensable d’agir.

Et comme tu l’as souligné, il est important de saluer tout le travail fait par les associations. Je tiens à faire un grand big up à toutes ces organisations et à toutes les personnes engagées pour plus de mixité dans la tech. Ce sont des combats importants qu’il faut valoriser et mettre en avant, car c’est grâce à leur aide que l’on avance vers une IA égalitaire.

Quelles sont les bonnes pratiques en entreprise ?

L’adelphité ressort beaucoup dans ces échanges, et je trouve cela très beau de partager ces réflexions. Vu que le temps file, j’aimerais aborder le dernier point de votre guide : les bonnes pratiques en entreprise.

Les bonnes pratiques en entreprise sont assez similaires à celles que nous avons évoquées dans les domaines de l’éducation et de la recherche. Il s’agit souvent d’un mélange de tout cela. Muriel a mentionné le mentorat, et on retrouve également des plans de formation et des plans de carrière dans les entreprises. La prise de conscience est en effet en marche, et les entreprises réalisent que c’est aussi un avantage pour leur marque employeur. Une politique forte en matière de diversité et d’inclusion, et un engagement envers une IA égalitaire, deviennent des critères essentiels pour attirer de nouveaux talents.

Aujourd’hui, lorsqu’on entre dans une entreprise, on s’intéresse à sa politique de mixité et de parité, à la manière dont elle relève les défis environnementaux et sociétaux. Ces enjeux sont devenus des avantages concurrentiels. De nombreuses entreprises ont ainsi mis en place des formations sur les biais inconscients, tant pour les collaborateurs que pour les managers. Cela permet de garantir que les décisions prises dans l’entreprise, notamment celles liées à l’IA, soient alignées sur les principes d’une IA égalitaire.

Par ailleurs, la plupart des entreprises disposent de lignes anonymes pour lutter contre le harcèlement sexuel et moral. C’est une mesure importante pour s’assurer d’un environnement de travail respectueux et inclusif. De plus, les entreprises multiplient les initiatives de sensibilisation, notamment auprès des écoles. Par exemple, IBM se rend plusieurs fois par an dans des collèges pour sensibiliser aussi bien les filles que les garçons, leur montrant que les STEM et la tech ne sont pas des domaines réservés à un genre. Cela participe à la construction d’une IA égalitaire dès les premières étapes de l’éducation et de l’orientation.

Il est également important de mentionner les outils de recrutement. De plus en plus, les entreprises font appel à l’IA pour garantir des processus de recrutement inclusifs. Certaines imposent même que leur shortlist contienne un nombre minimum de candidatures issues de chaque genre, afin de favoriser l’équité. Ces pratiques, en lien avec une IA égalitaire, permettent d’éviter que des biais inconscients n’interfèrent dans les décisions de recrutement, et elles encouragent une meilleure diversité dans les équipes.

Je recrute, mais je ne veux pas trois CV d’hommes. Je veux au moins un CV de femmes. Et puis, il y a aussi l’opinion publique qui bouge, et ça me fait penser à quelque chose : certains hommes sont particulièrement engagés dans cette cause. On n’a pas encore beaucoup parlé des hommes, mais ils sont nos alliés essentiels. Cette « bataille », pour ainsi dire, ne se fera pas seulement entre femmes, elle se fera évidemment avec les hommes.

Certains hommes refusent d’être sur des plateaux télé pour parler de l’IA s’il n’y a pas au moins une femme présente, ou de participer à des conférences sans représentativité féminine. C’est un signal fort que les choses changent, et que les lignes bougent.

Il y a de nombreux postes à pourvoir dans le secteur du numérique, mais le vivier provenant des écoles d’ingénieurs n’est pas suffisant pour répondre à la demande. C’est pourquoi il existe aujourd’hui de nombreux programmes de reconversion, souvent pilotés par des entreprises en partenariat avec des écoles spécialisées en informatique. Ces programmes de reconversion sont essentiels pour attirer plus de femmes dans la tech, et c’est un point non négociable pour promouvoir l’IA égalitaire dans le recrutement et la rétention des talents.

L’attraction et la rétention des talents, en particulier dans les départements RH, sont devenues des priorités pour les entreprises. Une autre question qui revient souvent concerne la conscience des biais dans les algorithmes et les bases de données. Nous avons remarqué que certaines entreprises n’ont pas une connaissance approfondie des outils de « débiaisement », et il leur est techniquement difficile et coûteux de revoir les algorithmes déjà en place pour corriger ces biais. Cela montre qu’il reste encore beaucoup à faire pour garantir une IA égalitaire.

De nos jours, un certain nombre de startups proposent des outils pour corriger les biais dans les algorithmes et accompagner les entreprises dans ce processus. Cependant, l’objectif n’est pas seulement de débiaiser les algorithmes, mais aussi de tester ces outils pour s’assurer qu’ils restent sous contrôle humain. Chaque fois qu’une entreprise utilise l’IA dans un processus, qu’il s’agisse de recrutement ou d’autres domaines, il est essentiel de tester les données et les résultats générés afin de vérifier s’il y a des biais. Cette démarche, soutenue par des startups innovantes, contribue à une IA égalitaire et aide les entreprises à progresser dans cette direction.