Lauréat du concours i-Lab, Xpdeep répond au besoin de marier performances et transparence en matière d'intelligence artificielle grâce à un moteur de deep learning révolutionnaire qui génère simultanément le modèle et ses explications. De quoi accélérer l'adoption de l'IA, en particulier dans le secteur médical.

Par Patrick Renard

Le déploiement récent de l'apprentissage profond (deep learning) marque une nouvelle étape de la révolution de l’Intelligence Artificielle. Mais les modèles générés par les moteurs de deep learning ("deep") sont des boîtes noires dont l’opacité limite leur adoption dans de nombreux domaines critiques, notamment celui de la santé.

Au-delà des problèmes d’intégrité des personnes, de protection des données, d’éthique et de justification des décisions, l'absence d’explicabilité et de transparence peut induire un manque de confiance limitant l’usage de ces modèles tant par les professionnels que par le grand public. Par ailleurs, le manque d’explicabilité peut constituer un frein au développement rapide de modèles performants, robustes et contrôlables. En effet, en l’absence d’explicabilité des modèles "deep", les entreprises se tournent vers des solutions plus simples à comprendre, mais nettement moins performantes.

Un projet issu de recherches à l'université Grenoble-Alpes

C'est en tout cas l'expérience vécue en 2018 par Ahlame Douzal enseignante-chercheuse au laboratoire d’informatique de Grenoble (LIG) de l’université Grenoble-Alpes. « Elle a mené une étude pour un grand hôpital parisien portant sur la conception d’un modèle de machine learning destiné à prédire l’agressivité des cancers de la prostate », explique Stanislas Chesnais, CEO de la start-up grenobloise Xpdeep. Il a co-fondé cette entreprise avec Ahlame Douzal, aujourd'hui directrice scientifique et technique. « Elle a présenté aux patriciens plusieurs modèles, dont un de deep learning, évidemment le plus puissant. Les praticiens lui ont alors demandé comment elle expliquait cette performance et comment ils pouvaient expliquer eux-mêmes les décisions du modèle à leur patients. Ahlame leur a répondu que les modèles "deep" étaient inexplicables. Les médecins ont alors choisi de retenir un modèle moins performant mais dont ils pouvaient comprendre le fonctionnement et expliquer les décisions à leurs patients ».

Dans le train retour pour Grenoble, Ahlame Douzal a décidé que les recherches de son équipe porteraient dorénavant sur l’explication du fonctionnement interne des modèles "deep" par la mise au point d’un framework auto-explicable. C'est de là qu'est née, en avril 2023, Xpdeep, l’une des 12 start-up iséroises qui figurent parmi les 79 lauréats du concours d’innovation i-Lab 2023.

Une transparence sans compromis sur les performances

Développé par Ahlame Douzal, le moteur que propose Xpdeep génère simultanément le modèle et son explication intelligible, avec des performances déjà égales ou supérieures à celles des moteurs de deep learning standard des GAFAM, à complexité comparable. « Des lecteurs de DeviceMed ont peut-être déjà développé, pour leurs dispositifs médicaux, des modèles "deep" avec les frameworks de Meta (PyTorch) ou de Google (TensorFlow) », présume Stanislas Chesnais. « Ils rencontrent forcément le problème de l’explicabilité de ces modèles ».

« Xpdeep est la seule entreprise au monde à pouvoir apporter cette explication intime des décisions internes aux modèles », poursuit Stanislas Chesnais. « Ce qui permet aux fabricants de DM d’améliorer les performances de leurs modèles, mais aussi d’expliquer aux praticiens les décisions prises par leur IA ».

Les applications de la technologie de Xpdeep sont nombreuses. Dans le secteur médical, elles vont du diagnostic en imagerie, jusqu'à la prévision de la progression des maladies, en passant par l'assistance à des décisions cliniques, et l'analyse de données issues de capteurs pour le télédiagnostic.

Grâce à i-Lab et à une première levée de fonds sur laquelle Xpdeep a commencé à travailler, l'objectif de l'entreprise est d’accélérer sa roadmap technologique et le déploiement de ses produits, pour devenir le numéro un mondial du deep learning explicable. Elle ambitionne de réaliser un CA de 250M€ en 2027 sur un marché (part des logiciels) de 750M$ (2,5 Mds$ en 2030). Au-delà des chiffres, Xpdeep répond également à l’impératif de souveraineté numérique en IA comme moteur de deep learning auto-explicable français et européen.

xpdeep.com