PROGRAMME

1. Des machines injustes en débat

A travers l’exposer de trois cas célèbres de dénonciation des biais dans des systèmes décisionnels dans les secteurs de la justice, de la police et de la santé, nous introduirons les grands problèmes structurants de la recherche sur l’équité dans les systèmes décisionnels.

2. Les notions de biais et d’équité dans le machine learning

Ce module explore les bases techniques de la prise en compte de l’équité dans le machine learning. Il liste les différentes sources de biais qui peuvent affecter les processus d’apprentissage, confronte les principales familles de métriques et montre l’incompatibilité mathématique des critères d’équité.

3. Contraindre l’apprentissage

Au cours de ce module, nous aborderons des différentes approches d’atténuation des bais : en amont, en intervenant sur la structure des données (pre-processing) ; durant la phase d’apprentissage (in-processing) et en aval, en intervenant sur les résultats du classifieur (post-processing).

4. Les justifications morales et politiques des métriques et des approches

Comment se repérer dans le foisonnement des métriques et des approches pour atténuer les biais ? Comment faire sens des méthodes disponibles ? Dans ce module, nous proposons de répondre à ces questions en mettant en perspective le débat mathématique avec les différentes conceptions philosophiques de la justice sociale et de l'équité.

5. Réponses institutionnelles

Comment le droit encadre-t-il les enjeux de lutte contre les discriminations dans les systèmes algorithmiques ? Orientons-nous vers une logique de standardisation et de certification ? Quelles procédures de mise en œuvre et d’évaluation sont formalisées ? Pour répondre à ces questions, nous reviendrons sur les débats juridiques et les instruments proposés par la communauté des experts en matière d’éthique de l’intelligence artificielle.

6. Qu’est-ce que la transparence, l’interprétabilté et l’accountability ?

Enfin, nous terminerons par un module sur la transparence souvent envisagée comme une valeur indispensable pour construire la confiance dans les systèmes décisionnels. Si nous aborderons la transparence comme un enjeu technique (interopérabilité) et juridique (le droit à l’explication), nous verrons surtout qu’elle est un problème d’asymétrie de pouvoir entre ceux qui font les systèmes, ceux qui les utilisent et ceux qui les subissent.