Si la recherche sur les sujets de discrimination et d’inégalités en intelligence artificielle existe, elle est en grande majorité le fait de chercheurs anglo-saxons et prend comme cas concrets d’étude des algorithmes mis en œuvre aux États-Unis. En ligne avec son objectif de soutenir des projets de recherche pluridisciplinaires qui mobilisent les sciences des données, et de catalyser - en France et en Europe - la réflexion sur le sujet de l’équité en intelligence artificielle, la Fondation Abeona a réalisé, en partenariat avec des chercheurs en informatique et économie de Telecom Paris, un travail de recherche sur les biais algorithmiques.
Suite à ce premier rapport, la Fondation Abeona s’est associée à la Caisse des Depots et Consignations (CDC) dans le cadre de la “ Chaire de recherche opérationnelle en éthique de l’IA ” de Telecom Paristech pour détecter les risques de biais et optimiser l’équité dans Mon Compte de Formation, un moteur de recherche et une base de données dédiée à la formation professionnelle.
Dans le prolongement de l’étude réalisée avec Télécom Paris avec, la Fondation a publié aux côtés de l’Institut Montaigne un rapport visant à apporter des solutions concrètes pour limiter les dérives potentielles et redonner confiance dans les algorithmes.
Parmi les principales recommandations, le rapport préconise de mettre en place une capacité d’audit des algorithmes à fort risque : un sujet sur lequel la Fondation Abeona et l’Institut Montaigne continuent de travailler avec la mise en place d’un groupe de travail, en liaison avec le projet de réglementation européeene « AI Act ».