PROGRAMME

Équité et transparence en matière d’Intelligence Artificielle

1. Des machines injustes en débat

A travers l’exposer de trois cas célèbres de dénonciation des biais dans des systèmes décisionnels dans les secteurs de la justice, de la police et de la santé, nous introduirons les grands problèmes structurants de la recherche sur l’équité dans les systèmes décisionnels.

2. Les notions de biais et d’équité dans le machine learning

Ce module explore les bases techniques de la prise en compte de l’équité dans le machine learning. Il liste les différentes sources de biais qui peuvent affecter les processus d’apprentissage, confronte les principales familles de métriques et montre l’incompatibilité mathématique des critères d’équité.

3. Contraindre l’apprentissage

Au cours de ce module, nous aborderons des différentes approches d’atténuation des bais : en amont, en intervenant sur la structure des données (pre-processing) ; durant la phase d’apprentissage (in-processing) et en aval, en intervenant sur les résultats du classifieur (post-processing).

4. Les justifications morales et politiques des métriques et des approches

Comment se repérer dans le foisonnement des métriques et des approches pour atténuer les biais ? Comment faire sens des méthodes disponibles ? Dans ce module, nous proposons de répondre à ces questions en mettant en perspective le débat mathématique avec les différentes conceptions philosophiques de la justice sociale et de l'équité.

5. Réponses institutionnelles

Comment le droit encadre-t-il les enjeux de lutte contre les discriminations dans les systèmes algorithmiques ? Orientons-nous vers une logique de standardisation et de certification ? Quelles procédures de mise en œuvre et d’évaluation sont formalisées ? Pour répondre à ces questions, nous reviendrons sur les débats juridiques et les instruments proposés par la communauté des experts en matière d’éthique de l’intelligence artificielle.

6. Qu’est-ce que la transparence, l’interprétabilté et l’accountability ?

Enfin, nous terminerons par un module sur la transparence souvent envisagée comme une valeur indispensable pour construire la confiance dans les systèmes décisionnels. Si nous aborderons la transparence comme un enjeu technique (interopérabilité) et juridique (le droit à l’explication), nous verrons surtout qu’elle est un problème d’asymétrie de pouvoir entre ceux qui font les systèmes, ceux qui les utilisent et ceux qui les subissent.

Culture juridique de l'IA et de la robotique

1. Comprendre le discours juridique face au développement de l’IA: le droit, un outil de décryptage de l’écosystème IA.

L’objectif de ce premier module est de donner une méthode de lecture des avancées, des enjeux et des défis en IA. Il répondra à un premier impératif: raisonner de manière systémique.

2. Saisir le raisonnement juridique face au développement de l’IA: le droit, un outil d’explicabilité.

Entre fantasme et réalité technico-juridique, le droit est un outil de clarification . L’objectif de ce deuxième module est d’éclairer et d’apprendre à connaître les technologies IA. Il répondra à un deuxième impératif : le besoin de cohérence juridique face à la demande d’intéropérabilité des technologies.

3. S’approprier les règles de droit face au développement de l’IA: le droit, instrument de notre liberté.

L’objectif de ce troisième module est d’interroger notre identité numérique à travers notre utilisation quotidienne des données. Il répondra à un troisième impératif : assurer la sécurité numérique.

4. Analyser les modèles juridiques face au développement de l’IA: le droit, instrument de puissance et de conquête.

L’objectif de ce quatrième module est de répondre à cette question: au sein de la course technologique, qui dicte les règles du jeu? Il répondra à quatrième impératif: développer une stratégie juridique de l’IA face aux “menaces de la colonisation numérique”.

5. Respecter les règles de droit face au développement de l’IA: le droit, instrument de nos engagements.

À travers l’exemple des killer robot, l’objectif de ce cinquième module est d’appréhender le risque technologique à la lumière du risque juridique. Il répondra à un cinquième impératif: construire un cadre juridique de responsabilité performant face aux capacités d’action et de décision de la technologie.

6. Imaginer le droit du futur ou le futur du droit: le droit, instrument des Oracles.

En nous plongeant dans les années à venir, l’objectif de sixième module est de s’interroger ensemble sur ce que NOUS voulons. Il répondra à l’impératif de définir ensemble une vision pour susciter l’engagement nécessaire pour faire face à l’incertitude du futur.