Genre, algorithmes et droits

Les usages des algorithmes foisonnent dans tous les domaines de l'activité humaine. La santé. l'éducation. l'emploi, l'action publique ou encore la justice n'y font pas exception. Des processus aboutissant à des décisions importantes voire vitales font d'ores et déjà intervenir des algorithmes. Pourtant. les enjeux de cette algorithmisation décisionnelle et ses potentiels discriminants envers les personnes demeurent largement sous-estimés par les décideurs privés et publics, nonobstant l'ampleur de la révolution numérique à l'oeuvre. Les études récentes mettent en évidence l'existence de biais de genre affectant des algorithmes décisionnels. Les défis induits par le déploiement des technologies automatisées deviennent un enjeu central eu égard à l'importance des stéréotypes sexistes susceptibles d'être alors systématisés.

Une recherche exploratoire et pluridisciplinaire a été menée afin d'identifier les biais engendrés par les algorithmes, leurs formes et leur ampleur dans les processus décisionnels. Cette étude, menée en partenariat et avec le soutien du Défenseur des droits, a mis en évidence l'existence de biais de genre dans nombre de traitements automatisés. tant dans le secteur privé que dans le secteur public. Le présent ouvrage en restitue les résultats. Il regroupe également les contributions de juristes dans des domaines variés tels que la santé, les assurances, l'emploi, la protection sociale ou la justice.

Préface Céline Castets-Renard.