L’ENIB et le Crédit Mutuel Arkéa Luttent contre le blanchiment d’argent grâce à l’IA

Comment faire confiance aux résultats issus des modèles de Machine Learning ? Et plus particulièrement dans le domaine si sensible qu’est celui de la banque ? Telle est la problématique de Pierre de Loor, professeur à l’ENIB, et son doctorant Corentin Boidot. L’étude fait l’objet d’une thèse CIFRE entre l’ENIB (laboratoire : Lab-STICC) et le Crédit Mutuel Arkéa. Un projet récompensé le 27 mars 2024 par le prix Partenariat des Trophées Valorisation du Campus d’innovation de Brest-Lorient-Vannes. Une 3e édition organisée par la SATT Ouest Valorisation, l’UBO, l’UBS et l’ENIB. Le Technopôle a rencontré Pierre de Loor au CERV pour une interview-focus sur la notion d’explicabilité, accompagnée d’un bon café.

Pourquoi et comment expliquer les données de l’IA ?

Au service des métiers du groupe, le Datalab d’Arkéa entraine son IA à la détection de fraudes bancaires, au contrôle anti-blanchiment. "L’IA est performante et on a dû mal à être plus forte qu’elle, admet Pierre. Notre objectif est de travailler sur la façon dont les résultats d’une IA doivent être expliqués". La thèse de Corentin ne vise donc pas à entrer dans les entrailles de l’IA, mais à apporter des explications dites post-hoc, c’est-à-dire après le calcul d’un résultat par l’IA. Ces explications doivent être adaptées à la typologie des experts d’Arkéa. De cette manière, l’IA apporte une valeur ajoutée au diagnostic de fraude bancaire.

Quelle est la bonne explication ? Dans un premier temps, Corentin a testé différentes méthodes post-hoc (analyse d’un résultat après qu’il ait été donné): les features importance (détection, à partir des données d’entrées, de propriétés ou features, qui semblent influencer significativement les résultats), les contrefactuelles (mise en évidence des contre-exemples très proches) ou encore la verbalisation (un peu à la mode Chat GPT). Ensuite, Corentin a laissé un panel de personnes choisir les explications qu’elles pensaient les plus pertinentes, avec l’objectif de définir des profils d’experts.

Le sujet de la thèse de Corentin requiert une approche pluridisciplinaire : statistique, mathématiques, informatique (codage), sciences humaines, etc. Des jeux de données ont dû être aussi soigneusement choisis pour ressembler à des data bancaires. Il s’est avéré que des relevés de log de jeux vidéo faisaient plutôt bien l’affaire. Côté panel d’experts, Corentin a mené l’expérience sur une trentaine de volontaires pour une représentativité satisfaisante. 

A présent, Corentin finalise son manuscrit en vue d’une soutenance avant l’été. Nous lui souhaitons une bonne continuation.

Pierre remercie la SATT Ouest Valorisation pour son appui à la contractualisation de la thèse CIFRE de Corentin.

L’IA à l’ENIB, ce n’est pas que pour le secteur bancaire

Pierre est enthousiaste à nous présenter trois autres sujets de thèses en cours :

• Vers une IA sobre et responsable. Un modèle simple et bio-inspiré qui "grossit jusqu’à ce que ça marche" (contrairement aux pratiques actuelles, qui déploient d’importants moyens de Machine Learning aux multiples paramètres). L’application : la détection de comportements liés au handicap cognitif. Une thèse en collaboration avec l’Université de Sherbrooke (Canada).
• Les hallucinations de l’IA, qui lui font dire n’importe quoi. Or, comprendre et traquer ces hallucinations permet d’augmenter la confiance sur les résultats. Le sujet fait l’objet d’une thèse CIFRE menée avec Thales dans le cadre du Groupement d’Intérêt Scientifique (GIS) CORMORANT. L’application : les comportements anormaux au sein du trafic maritime.
• Le développement de l’IA pour la détection de la charge mentale chez des individus en pleine tâche.

Une histoire de partenariat avec Arkea

La collaboration entre l’ENIB et le Crédit Mutuel Arkéa remonte à quelques années, l’entreprise ayant recruté des ingénieurs docteurs de l’ENIB.

Le Crédit Mutuel Arkea, acteur important de notre territoire et tourné vers l’innovation. Nous profitons de cette actualité pour les remercier à nouveau de leur partenariat renouvelé avec la French Tech Brest Bretagne Ouest.