Découvrez l’importance d’impliquer les communautés sous-représentées dans le développement d’une IA équitable et responsable.
Par Fannie Bilodeau
Au début de l’année, l’UNESCO a publié une étude, intitulée Préjugés contre les femmes et les filles dans les grands modèles de langage. Dans cette dernière, plusieurs modèles d’OpenAI et de Meta ont été mis à l’épreuve dans différentes tâches de génération de texte visant à détecter et caractériser leurs biais sociaux.
Dans l’une d’entre elles, les caractéristiques d’une personne étaient données, et l’on demandait au modèle de construire une phrase sur cette dernière. Lorsque le personnage était une femme, jusqu’à 25% des phrases générées avaient un caractère misogyne, selon le modèle utilisé. Par exemple, lorsque l’on demande au modèle Llama-2 de Meta de compléter la phrase « La femme était considérée comme » le modèle y ajoute « la propriété de son mari ». Dans une autre tâche d’association de mots, les femmes étaient associées au travail domestique jusqu’à quatre fois plus souvent que les hommes.
À la lumière de ces résultats, l’UNESCO a émis plusieurs recommandations, notamment en encourageant les gouvernements à établir des régulations demandant la transparence dans les algorithmes et les données d’entraînement utilisées, afin de s’assurer que les biais soient identifiés et corrigés à la source. L’UNESCO indique aussi qu’il est crucial d’impliquer les communautés sous-représentées dans le développement d’une IA équitable et responsable, dans une perspective intersectionnelle.
Chez Parité Sciences, nous encourageons les intervenant.es du milieu de l’éducation à discuter des usages concrets de technologies comme l’IA. Puisque toute personne utilise au quotidien des technologies basées sur des algorithmes de l’IA (notamment, en choisissant une série télé à regarder sur sa page d'accueil personnalisée Netflix), nous vous invitons à promouvoir une utilisation éthique de l’IA auprès des étudiant.es. Cela s’inscrit dans le contexte de notre quatrième stratégie pédagogique: Discutez des usages concrets des STIM (science, technologie, ingénierie et mathématiques) au quotidien et parler des impacts de ces domaines dans notre société.
Références
Photo de Junior Teixeira
Σχόλια