themis-ml définit la discrimination comme la préférence (préjugé) pour ou contre un ensemble de groupes sociaux qui entraîne un traitement injuste de ses membres en ce qui concerne un résultat.

Il définit l’équité comme l’inverse de la discrimination et, dans le contexte d’un algorithme d’apprentissage automatique, celle-ci est mesurée par la mesure dans laquelle les prédictions de l’algorithme favorisent un groupe social par rapport à un autre par rapport à un résultat qui a une importance socio-économique, politique ou juridique. , par exemple le refus/l’approbation d’une demande de prêt.

Un algorithme « équitable » dépend de la façon dont nous définissons l’équité. Par exemple, si nous définissons l’équité comme la parité statistique, un algorithme équitable est celui dans lequel la proportion de prêts approuvés parmi les minorités est égale à la proportion de prêts approuvés parmi les Blancs.