XAI et intelligibilité des modèles de Machine Learning

Un modèle de Machine Learning vous indique que tel.le client.e a 70% de chances de ne pas continuer avec votre offre de service le mois prochain… très bien, mais quelles sont les raisons concrètes et copréhensibles pour lesquelles ce modèle attribue un tel score à cette personne ? Une probabilité est certes déjà un début, mais des raisons réelles et concrètes sont évidemment bien plus précieuses pour le métier.
Rendre un modèle de Machine Learning intelligible, explicable, et accessible au métier permet alors de débloquer très rapidement de nouveaux insights précieux et concrets. L’implémentation et l’utilisation d’indicateurs d’explicabilité aussi bien locaux (à l’échelle de l’observation / d’un.e client.e) que globaux (à l’échelle du modèle entier), permet de mitiger le côté boîte noire de la plupart des modèles de Machine Learning utilisés dans l’industrie.
Les approches eXplainable AI et Machine Learning Intelligibility démarrent dès la Data et sa qualité, et s’étendent tout au long de la pipeline de Data Science jusqu'à la mise en production et l'utilisation métier. Cela permet donc d'améliorer la performance de toute la pipeline ainsi que l'insertion opérationnelle des modèles implémentés (puisque mieux compris et maitrisés par les métiers).
Nous co-présenterons cette session avec un de nos principaux clients et expliquerons l’importance d’une démarche de XAI / MLI via un cas d’usage réel et concret en lien avec les thématiques de KYC, de marketing, et de prédiction d’attrition (churn).
Benjamin Cohen-Lhyver
Adrien Toullier

[@paul-peton-datascience]

Je suis "la personne qui fait des métaphores sur les grenouilles" :) Ravi de voir cette intervention très complémentaire et en effet, sur le sujet du Continuous Training, je l'envisage beaucoup plus si une "Continuous Interpretability" est assurée au préalable. J'ajouterai certainement un volet XAI/MLI à ma présentation en replay sur cette chaîne également.