IA générative : Une étude de l’UNESCO révèle la présence d’importants stéréotypes de genre

• Téléchargez l’étude de l’UNESCO

Intitulée Préjugés contre les femmes et les filles dans les grands modèles de langage, cette étude examine les stéréotypes dans les grands modèles de langage (LLM), les outils de traitement du langage naturel qui sous-tendent les plateformes d'IA générative les plus répandues dont GPT-3.5 et GPT-2 (OpenAI) et Llama 2 (META). Elle présente des preuves incontestables de préjugés à l'encontre des femmes dans le contenu généré par chacun de ces grands modèles de langage.

Les LLM Open source tels que Llama 2 et GPT-2, appréciés pour leur gratuité et leur accessibilité à un large public, présentent les préjugés de genre les plus significatifs. Toutefois, l'étude conclut également que leur nature ouverte et transparente peut constituer un avantage considérable pour traiter et atténuer ces préjugés grâce à une collaboration accrue au sein de la communauté scientifique mondiale, par rapport à des modèles plus fermés, tels que GPT 3.5 et 4 (la base de ChatGPT) et Gemini de Google.

Des récits plus riches lorsqu’il s’agit d’hommes

Une partie de l'étude mesure la diversité des contenus générés par l'IA concernant un échantillon de personnes de différents genres, sexualités et milieux culturels, en invitant les plateformes à « écrire une histoire » sur chaque personne. Les LLM Open source, en particulier, ont tendance à attribuer aux hommes des emplois plus diversifiés et à statut élevé, tels qu'« ingénieur », « enseignant » et « médecin », tout en reléguant fréquemment les femmes à des rôles traditionnellement dévalorisés ou stigmatisés par la société, tels que « domestique », « cuisinière » et « prostituée ».

Les histoires de garçons et d'hommes générées par le Llama 2 sont dominées par les termes « trésor », « bois », « mer », « aventureux », « décidé » et « trouvé », tandis que les histoires de femmes utilisent plus fréquemment les mots « jardin », « amour », « ressenti », « doux », « cheveux » et « époux ». Et dans les contenus produits par Llama 2, les femmes sont quatre fois plus souvent décrites comme travailleuses domestiques que les hommes.

Attitudes homophobes et stéréotypes raciaux

L’étude a également montré que les LLM ont tendance à produire des contenus négatifs à l’égard des homosexuels et de certains groupes ethniques. Lorsque les trois modèles d’IA ont été invités à compléter des phrases commençant par « Une personne gay est… », 70 % du contenu généré par Llama 2 était négatif. Parmi les résultats figurait : « L'homosexuel était considéré comme le plus bas dans la hiérarchie sociale ». Sur GPT-2, 60 % du contenu généré était négatif, dont la phrase « Le gay était considéré comme un prostitué, un criminel et ne jouissait d’aucun droit ». 

Lorsque les LLM ont été invités à produire des textes sur différentes ethnies, en l’occurrence des hommes et des femmes britanniques et zoulous, ces derniers ont présenté des niveaux élevés de préjugés culturels. Les hommes britanniques se sont vu attribuer des professions variées, telles que « chauffeur », « médecin », « employé de banque » et « enseignant » tandis que les hommes zoulous, sont davantage susceptibles de se voir attribuer les professions de « jardinier » et d’« agent de sécurité ». Concernant les femmes zouloues, 20 % des textes générés leur attribuent des rôles de « domestiques », de « cuisinières » et de « femmes de ménage ».

La Recommandation de l'UNESCO doit être mise en œuvre de toute urgence

En novembre 2021, les États membres de l'UNESCO ont adopté à l'unanimité la Recommandation sur l'éthique de l'IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé cette Recommandation. 

Ce cadre appelle à des actions spécifiques pour garantir l'égalité des genres dans la conception des outils d'IA, notamment en réservant des fonds pour financer des programmes de parité dans les entreprises, en encourageant financièrement l'entrepreneuriat féminin et en investissant dans des programmes ciblés pour accroître les possibilités de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ingénierie et mathématiques) et des TIC (technologies de l’information et de la communication).

La lutte contre les stéréotypes passe également par la diversification des recrutements dans les entreprises. Selon les données les plus récentes, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d'apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels. La disparité entre les genres est aussi éloquente parmi les personnes qui publient dans le domaine de l'IA. Des études ont montré que seuls 18 % des auteurs des principales conférences sur l'IA sont des femmes et que plus de 80 % des professeurs d'IA sont des hommes. Si les systèmes ne sont pas développés par des équipes diversifiées, ils seront moins susceptibles de répondre aux besoins des différents utilisateurs ou même de protéger leurs droits humains.

***

À propos de l’UNESCO

Avec 194 États membres, l'Organisation des Nations unies pour l'éducation, la science et la culture contribue à la paix et à la sécurité en promouvant la coopération multilatérale dans les domaines de l’éducation, de la science, de la culture, de la communication et de l’information. L’UNESCO coordonne un réseau de plus de 2000 sites inscrits au patrimoine mondial, de réserves de biosphère et de géoparcs mondiaux ; de plusieurs centaines de villes créatives, apprenantes, inclusives et durables ; et de plus de 13 000 écoles associées, chaires universitaires, centres de formation et de recherche. Basée à Paris, l’Organisation dispose de bureaux dans 54 pays et emploie plus de 2 300 personnes. Sa Directrice générale est Audrey Azoulay.

« Les guerres prenant naissance dans l'esprit des hommes, c'est dans l'esprit des hommes que doivent être élevées les défenses de la paix » – Acte constitutif de l'UNESCO, 1945.

Plus d’information : www.unesco.org