Rechercher
  • Fondation Abeona

Telecom ParisTech publie un article sur les Biais et l’Equité en IA, avec notre soutien

Mis à jour : 1 avril 2019


A l’automne 2018, une première rencontre entre la Fondation Abeona et des chercheurs de Telecom ParisTech a été à la source d’un article multidisciplinaire sur les biais, la discrimination et l’équité dans les algorithmes.


L'intelligence artificielle et les algorithmes sont de plus en plus utilisés dans notre vie de tous les jours, changeant la manière dont nous apprenons, travaillons, sommes soignés… Les algorithmes sont nourris par les données à partir desquelles ils apprennent. Cela permet des recommandations et des décisions à la fois plus précises et plus justes, puisque les mêmes règles s’appliquent à tout le monde. Mais les données historiques peuvent être biaisées et défavoriser des personnes en fonction de leur âge, de leur origine sociale, de leur race, de leur sexe... Or ces biais sont "appris" par l’apprentissage automatique, et parfois même amplifiés. Et les algorithmes, eux, sont écrits par des personnes avec leurs propres biais cognitifs, inconscients ou non. Alors, comment peut-on utiliser l’intelligence artificielle de manière équitable ?


Les exemples documentés et la recherche sur les sujets de discrimination et d’inégalités en intelligence artificielle existent, mais ils sont en grande majorité le fait de chercheurs anglo-saxons et prennent comme cas concrets d’étude des algorithmes mis en œuvre aux Etats-Unis, comme le système de santé Medicare, les algorithmes de justice prédictive, l’algorithme de recrutement d’Amazon, etc. Est-ce à dire qu’en France et en Europe nous avons peu de risques d’algorithmes biaisés ou discriminants ? Et les pistes de réflexion et recommandations qui découlent de ces exemples américains sont -elles applicables telles quelles chez nous ? C’est peu probable, bien sûr.


En ligne avec l’objectif de la Fondation Abeona de soutenir des projets de recherche pluridisciplinaires utilisant les sciences des données et de catalyser la réflexion sur le sujet de l’équité en intelligence artificielle, ce travail de chercheurs de Telecom ParisTech en économie, apprentissage automatique et statistiques pose très clairement les bases du problème, présente des approches techniques prometteuses, et lance la discussion sur les enjeux de société soulevés. Nous espérons que cet article sera suivi d’autres sur des exemples spécifiques, ainsi que d’une réflexion sur les pistes possibles pour adresser les enjeux.


Cliquez içi pour consulter l'article en anglais