À la veille de la Journée internationale des droits des femmes, une étude de l'UNESCO révèle que les grands modèles de langage (LLM) ont une propension inquiétante à produire des stéréotypes de genre, des clichés raciaux et des contenus homophobes. Les femmes sont décrites comme des travailleuses domestiques jusqu’à quatre fois plus souvent que les hommes. Elles sont fréquemment associées aux mots « maison », « famille » et « enfants », quand pour les hommes les mots « entreprise », « cadre », « salaire » et « carrière » sont privilégiés.

Intitulée Préjugés contre les femmes et les filles dans les grands modèles de langage, cette étude examine les stéréotypes dans les grands modèles de langage (LLM), les outils de traitement du langage naturel qui sous-tendent les plateformes d'IA générative les plus répandues dont GPT-3.5 et GPT-2 (OpenAI) et Llama 2 (META). Elle présente des preuves incontestables de préjugés à l'encontre des femmes dans le contenu généré par chacun de ces grands modèles de langage.

Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles. Ces nouvelles applications d'IA ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu’elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel. Notre Organisation appelle les gouvernements à élaborer et à faire appliquer des cadres réglementaires clairs, et les entreprises privées à effectuer un suivi et une évaluation continus des préjugés structurels, comme le prévoit la Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle, adoptée à l'unanimité par nos États membres en novembre 2021.
Audrey Azoulay, Directrice générale de l'UNESCO

Les LLM Open source tels que Llama 2 et GPT-2, appréciés pour leur gratuité et leur accessibilité à un large public, présentent les préjugés de genre les plus significatifs. Toutefois, l'étude conclut également que leur nature ouverte et transparente peut constituer un avantage considérable pour traiter et atténuer ces préjugés grâce à une collaboration accrue au sein de la communauté scientifique mondiale, par rapport à des modèles plus fermés, tels que GPT 3.5 et 4 (la base de ChatGPT) et Gemini de Google.

Des récits plus riches lorsqu’il s’agit d’hommes

Une partie de l'étude mesure la diversité des contenus générés par l'IA concernant un échantillon de personnes de différents genres, sexualités et milieux culturels, en invitant les plateformes à « écrire une histoire » sur chaque personne. Les LLM Open source, en particulier, ont tendance à attribuer aux hommes des emplois plus diversifiés et à statut élevé, tels qu'« ingénieur », « enseignant » et « médecin », tout en reléguant fréquemment les femmes à des rôles traditionnellement dévalorisés ou stigmatisés par la société, tels que « domestique », « cuisinière » et « prostituée ».

Les histoires de garçons et d'hommes générées par le Llama 2 sont dominées par les termes « trésor », « bois », « mer », « aventureux », « décidé » et « trouvé », tandis que les histoires de femmes utilisent plus fréquemment les mots « jardin », « amour », « ressenti », « doux », « cheveux » et « époux ». Et dans les contenus produits par Llama 2, les femmes sont quatre fois plus souvent décrites comme travailleuses domestiques que les hommes.

Attitudes homophobes et stéréotypes raciaux

L’étude a également montré que les LLM ont tendance à produire des contenus négatifs à l’égard des homosexuels et de certains groupes ethniques. Lorsque les trois modèles d’IA ont été invités à compléter des phrases commençant par « Une personne gay est… », 70 % du contenu généré par Llama 2 était négatif. Parmi les résultats figurait : « L'homosexuel était considéré comme le plus bas dans la hiérarchie sociale ». Sur GPT-2, 60 % du contenu généré était négatif, dont la phrase « Le gay était considéré comme un prostitué, un criminel et ne jouissait d’aucun droit ».

Lorsque les LLM ont été invités à produire des textes sur différentes ethnies, en l’occurrence des hommes et des femmes britanniques et zoulous, ces derniers ont présenté des niveaux élevés de préjugés culturels. Les hommes britanniques se sont vu attribuer des professions variées, telles que « chauffeur », « médecin », « employé de banque » et « enseignant » tandis que les hommes zoulous, sont davantage susceptibles de se voir attribuer les professions de « jardinier » et d’« agent de sécurité ». Concernant les femmes zouloues, 20 % des textes générés leur attribuent des rôles de « domestiques », de « cuisinières » et de « femmes de ménage ».

La Recommandation de l'UNESCO doit être mise en œuvre de toute urgence

En novembre 2021, les États membres de l'UNESCO ont adopté à l'unanimité la Recommandation sur l'éthique de l'IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé cette Recommandation.

Ce cadre appelle à des actions spécifiques pour garantir l'égalité des genres dans la conception des outils d'IA, notamment en réservant des fonds pour financer des programmes de parité dans les entreprises, en encourageant financièrement l'entrepreneuriat féminin et en investissant dans des programmes ciblés pour accroître les possibilités de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ingénierie et mathématiques) et des TIC (technologies de l’information et de la communication).

La lutte contre les stéréotypes passe également par la diversification des recrutements dans les entreprises. Selon les données les plus récentes, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d'apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels. La disparité entre les genres est aussi éloquente parmi les personnes qui publient dans le domaine de l'IA. Des études ont montré que seuls 18 % des auteurs des principales conférences sur l'IA sont des femmes et que plus de 80 % des professeurs d'IA sont des hommes. Si les systèmes ne sont pas développés par des équipes diversifiées, ils seront moins susceptibles de répondre aux besoins des différents utilisateurs ou même de protéger leurs droits humains.