L’enjeu d’une IA non sexiste

L’Intelligence artificielle façonne le monde de demain. L’enjeu de sa maîtrise est fondamental. Aussi, faire de l’IA un moteur d’égalité entre les femmes et les hommes est, de toute évidence, capital. Mais comment ? Le décodeur.

L’Intelligence artificielle fascine autant qu’elle inquiète. Experts, responsables institutionnels et politiques du monde ou leaders du secteur du numérique, … tous ont les yeux rivés sur ce bijou technologique qui est en train de révolutionner la société du futur. L’IA la redessinera. Aussi, son rôle est central, notamment en termes d’inégalité ou d’égalité de genre. Deux perspectives se profilent : soit l’IA sera le véritable levier attendu pour briser les codes, soit elle reproduira voire amplifiera le sexisme existant.  La bataille est ardue. Car, déjà, selon l’UNESCO, l’IA générative est sexiste… À travers son étude “Préjugés contre les femmes et les filles dans les grands modèles de langage” publiée la veille du 08 mars 2024, l’antenne onusienne révèle que ce système d’IA, capable de générer du texte et des images, a une propension inquiétante à produire des stéréotypes de genre… Ces grands modèles de langage (LLM), comme on les appelle, ont tendance à décrire les femmes comme des travailleuses domestiques ! La gent féminine est ainsi fréquemment associée aux mots “maison”, “famille” et “enfants”, quand pour nos partenaires masculins, les mots “entreprise”, “cadre”, “salaire” et “carrière” sont privilégiés. “Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles”, avait alerté Audrey Azoulay, directrice générale de l’UNESCO. “Ces nouvelles applications de l’IA ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu’elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel”. Une inquiétude partagée par Imane Berchane, fondatrice de Robots & More, une entreprise marocaine qui met la technologie au service de l’éducation. “Plusieurs expériences et interactions avec des systèmes basés sur l’IA ont dévoilé que ces systèmes peuvent faire preuve de sexisme”, insiste-t-elle, évoquant notamment des algorithmes de reconnaissance d’image incapable d’identifier correctement les visages de femmes. Dans le même sens, comme l’explique le Laboratoire de l’Égalité, une association française, “les entreprises utilisent de plus en plus les aides automatiques à la décision dans des domaines déterminants pour l’égalité femmes-hommes tels que le recrutement, les rémunérations, les promotions, les formations. Si les décisions algorithmiques se basent strictement sur les données de la période écoulée où la discrimination entre les femmes et les hommes est évidente, l’IA a peu de chance de changer la donne.”  

Conscient de l’enjeu qui se joue, l’UNESCO a établi un Pacte baptisé “Recommandation sur l’éthique de l’Intelligence artificielle”, adopté en novembre 2021 par les 193 États membres. Parmi les principes phares énoncés dans cet accord, l’égalité des genres. Ainsi, les pays signataires “devraient  allouer  des  fonds  publics  au  financement  de  dispositifs  attentifs  à  cette égalité, veiller à ce que les politiques nationales relatives au  numérique  prévoient  un  plan  d’action  pour  l’égalité  des  genres  et  élaborent  des  politiques  pertinentes,  par  exemple  sur  la  préparation  à  la  vie  active,  en  vue  de  soutenir les filles et les femmes et de faire en sorte que celles-ci ne soient pas exclues de l’économie numérique reposant sur   l’IA”. Ils devraient également, entre autres, “veiller   à   ce   que   les   stéréotypes   fondés   sur   le   genre   et   les   préjugés   discriminatoires   ne   soient   pas   transposés   dans   les   systèmes d’IA, mais plutôt repérés et corrigés de manière proactive”.  En février 2024, huit entreprises technologiques mondiales, dont Microsoft, se sont également engagés à mettre en œuvre les valeurs et les principes de la Recommandation de l’UNESCO sur l’éthique de l’IA à chaque étape de la conception et du déploiement de leurs systèmes. C’est la première fois que des sociétés s’engagent auprès des Nations unies dans ce domaine. De même, l’Assemblée générale de l’ONU a adopté, le 21 mars 2024, une résolution historique, co-parrainée par le Maroc et les États-Unis et élaborée avec la contribution directe de plus de 120 pays, sur la promotion de systèmes d’intelligence artificielle “sûrs, sécurisés et dignes de confiance” pour relever les grands défis mondiaux, et ainsi atteindre les Objectifs de Développement Durable (ODD). Les bouleversements pouvant être générés par l’IA préoccupent ainsi aux plus hauts niveaux. “L’évolution est telle que c’est l’humain dans son ensemble qui est remis en cause”, insiste Narjis Hilale, professeure, experte en stratégie et IA, TEDx Speaker, et ex-membre de la Commission Spéciale sur le Modèle de Développement (CSMD).  Pour elle, “les gouvernements, institutions et ONG sont dans une position de réaction et non d’anticipation en ce qui concerne la régulation, le contrôle et l’impact de ces technologies sur les droits humains”. Aussi, “l’impact de l’IA est sous-estimé, ce qui résulte souvent en un retard flagrant dans le développement d’initiatives adéquates.” Malgré la prise de conscience applaudie, des mesures urgentes doivent s’enchaîner au vu de l’évolution exponentielle de l’IA. “Dès à présent, il faut devenir acteur de changement et ne pas rester spectateur face à un monde qui se transforme à une vitesse sans précédent”, s’en alarme également Imane Berchane.

Repenser d’ores et déjà l’IA

Présentant déjà des défaillances en matière d’égalité femmes-hommes, il est indispensable de remodeler l’IA. “De plus en plus de chercheurs, même si pour l’heure, ils ne sont pas nombreux, travaillent activement pour développer des solutions afin d’atténuer les biais (anomalies) de genre dans les systèmes IA”, assure Kaoutar Abbahaddou, ingénieur spécialisée en IA. Pour mettre à bas le sexisme, les actions doivent se faire à différents niveaux. Aussi, faut-il agir sur les données en équilibrant notamment le volume des informations sur les femmes par rapport à celui consacré aux hommes ou en concevant et développant des algorithmes égalitaires. “Le genre masculin est massivement plus présent et valorisé que le genre féminin dans les bases de données (BDD), carburant de l’IA, qui alimentent les algorithmes”, déplore le Laboratoire de l’Egalité. “Elles reflètent des situations et des opinions passées, mais aussi actuelles, largement sexistes et guère porteuses d’évolution. On prend les mêmes et on recommence.” Comme le soutient Kaoutar Abbahaddou, “il est fondamental de mettre en place des audits d’algorithmes permettant d’identifier ces biais dans les systèmes ainsi que d’autres techniques spécifiques pour les réduire et ré-entraîner les modèles jusqu’à ce qu’ils deviennent égalitaires”. Et d’enchaîner: “l’une des solutions est également de développer des jeux de données plus équilibrés  pour faire apprendre des modèles de façon moins sexistes”.  Et Imane Berchane de rebondir : “L’IA peut être utilisée pour concevoir des outils et des services qui permettent de mieux comprendre et lutter contre les inégalités. Par exemple, des algorithmes peuvent analyser des données massives pour identifier les disparités salariales entre les hommes et les femmes, mieux diagnostiquer et comprendre les maladies qui touchent majoritairement les femmes ou encore améliorer la partialité du système judiciaire.” Autre levier : la promotion de la diversité et de l’inclusion au sein des équipes de l’IA, et ce, à tous les niveaux, tel que le met en avant Narjis Hilale. Selon l’UNESCO, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d’apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels. Seuls 18 % des auteurs des principales conférences sur l’IA sont des femmes et plus de 80 % des professeurs d’IA sont des hommes… Une disparité qui inquiète l’agence onusienne qui signale qui si les systèmes ne sont pas développés par des équipes diversifiées, ils seront moins susceptibles de répondre aux besoins des différents utilisateurs ou même de protéger leurs droits humains. “Il est essentiel de faire en sorte que les femmes fassent partie intégrante des discussions sur l’IA, tout en créant un climat les incitant à intégrer les métiers de la Sciences, Technologie, Ingénierie et Mathématiques (STEM)”, appuie Narjis Hilale. Comment ? “À travers l’école (programme scolaire), des rôles modèles dans ce domaine, des bourses ou des programmes de mentorat”, répond Imane Berchane, rappelant l’importance de favoriser l’inclusion et changer les mentalités. Plus nombreuses aux manettes, les femmes pourront ainsi donner une autre vision à l’IA. Ce qui est crucial pour le monde de demain. “Il faut également former et sensibiliser à la démarche d’égalité femmes-hommes –  par ricochet, sur les impacts d’une IA non éthique- et sur ces biais afin d’apprendre à les identifier et à les corriger”, plaide Kaoutar Abbahaddou, appelant à une IA transparente. Aussi, place à l’action !

C’est dans la douceur de vivre méditerranéenne que New Tangier présente une nouvelle collection fluide, acidulée et résolument décontractée. La
C’est l’été, les températures montent, quoi de mieux que de rester au frais et de binge watcher sur Netflix. Si
Si en 2023 une blessure a empêché, quelques jours seulement avant le début de la saison à Hawaï, "le lion
L’artiste Faiçal Adali, reconnu pour son approche innovante et sa capacité à capturer l'essence de la culture marocaine tout en
31AA4644-E4CE-417B-B52E-B3424D3D8DF4