{"id":37384,"date":"2022-02-22T10:50:48","date_gmt":"2022-02-22T10:50:48","guid":{"rendered":"https:\/\/www.altares.be\/?p=37384"},"modified":"2023-09-01T12:15:56","modified_gmt":"2023-09-01T10:15:56","slug":"l-ia-explicable-au-service-de-la-notation-de-credit-de-demain","status":"publish","type":"post","link":"https:\/\/www.altares.be\/fr\/blog\/data-analytics\/xai-voor-credit-scoring-van-morgen\/","title":{"rendered":"L\u2019IA explicable au service de la notation de cr\u00e9dit de demain"},"content":{"rendered":"

Science des donn\u00e9es, analyses de donn\u00e9es, algorithmes, intelligence artificielle... Il y a encore quelques ann\u00e9es de cela, bon nombre de mes amis, connaissances et proches ne comprenaient pas vraiment en quoi consistait mon travail au quotidien. Les choses ont beaucoup chang\u00e9 depuis. \u00c0 l\u2019heure actuelle, il suffit g\u00e9n\u00e9ralement d\u2019une simple allusion aux voitures autonomes ou aux algorithmes de r\u00e9seaux sociaux pour donner une id\u00e9e claire de mes activit\u00e9s.<\/p>\n\n\n\n

Une preuve que notre monde a bien chang\u00e9 ces derni\u00e8res ann\u00e9es. La collecte, le traitement et le stockage de donn\u00e9es, la science des donn\u00e9es et toutes les formes d\u2019intelligence artificielle s\u2019insinuent de plus en plus dans notre quotidien. Les algorithmes sont int\u00e9gr\u00e9s dans de plus en plus de produits et services, mais les utilisateurs n\u2019en sont pas toujours conscients.<\/p>\n\n\n\n

En soi, rien de tr\u00e8s novateur. Voil\u00e0 d\u00e9j\u00e0 plusieurs ann\u00e9es que les techniques de l\u2019intelligence artificielle font partie int\u00e9grante du secteur manufacturier et des march\u00e9s de capitaux, par exemple. M\u00eame dans notre section responsable de la gestion, nous avons recours aux algorithmes au travers de notations de cr\u00e9di<\/a> depuis plusieurs d\u00e9cennies.<\/p>\n\n\n\n

Pourtant, cet aspect est souvent oubli\u00e9. La d\u00e9mocratisation de la science des donn\u00e9es de ces derni\u00e8res ann\u00e9es a donn\u00e9 lieu \u00e0 des applications frappantes dont la soci\u00e9t\u00e9 a grandement b\u00e9n\u00e9fici\u00e9. Notamment dans le secteur de la sant\u00e9, mais \u00e9galement dans l\u2019optimisation de certains processus op\u00e9rationnels afin d\u2019all\u00e9ger la charge de travail des collaborateurs.<\/p>\n\n\n\n

Application et \u00e9thique<\/h2>\n\n\n\n

La combinaison de l\u2019intelligence artificielle et de la science des donn\u00e9es n\u2019a toutefois pas toujours \u00e9t\u00e9 b\u00e9n\u00e9fique. En effet, une entreprise am\u00e9ricaine connue a d\u00fb mettre fin \u00e0 son utilisation de l\u2019IA pour ses processus de recrutement. R\u00e9cemment, deux grandes entreprises ont \u00e9galement fait l\u2019objet d\u2019une s\u00e9rie de proc\u00e8s en raison du caract\u00e8re discriminatoire que rev\u00eatait leur algorithme permettant d\u2019octroyer des limites de cr\u00e9dit. Un autre exemple est la d\u00e9cision r\u00e9cente d\u2019IBM de revendre Watson, car la mise en place un syst\u00e8me d\u2019IA efficace et performant s\u2019est r\u00e9v\u00e9l\u00e9e plus ardue que pr\u00e9vu. De plus, de nombreuses entreprises aux \u00c9tats-Unis qui, il y a quelques ann\u00e9es, ont \u00e9largi avec beaucoup d\u2019enthousiasme leurs \u00e9quipes d\u2019experts en science des donn\u00e9es, ont d\u00fb faire face \u00e0 la r\u00e9alit\u00e9 : mettre au point des algorithmes performants, de qualit\u00e9, pertinents pour l\u2019entreprise, justes et \u00e9thiques n\u2019est pas aussi facile que pr\u00e9vu.<\/p>\n\n\n\n

Dans cette optique, il est donc normal que diff\u00e9rents gouvernements se soient pench\u00e9s sur la science des donn\u00e9es et l\u2019intelligence artificielle dans toutes leurs formes et applications. Ainsi, l\u2019UNESCO(1), l\u2019ISO(2), la Banque mondiale(3) et la Commission europ\u00e9enne(4), entre autres, s\u2019efforcent d\u2019\u00e9tablir des directives et\/ou r\u00e9glementations relatives \u00e0 l\u2019utilisation et aux applications de l\u2019IA.<\/p>\n\n\n\n

Dans la majorit\u00e9 des cas, l\u2019importance et les applications utiles de l\u2019IA \u00e0 cet effet sont clairement mises en \u00e9vidence. L\u2019IA se doit toutefois d\u2019\u00eatre \u00ab juste \u00bb, \u00ab \u00e9thique \u00bb, \u00ab inclusive \u00bb et \u00ab non discriminatoire \u00bb. En outre, compte tenu du caract\u00e8re \u00ab black box \u00bb de certaines techniques de science des donn\u00e9es, l\u2019explicabilit\u00e9 (\u00ab Explainable AI \u00bb ou \u00ab xAI \u00bb) et la transparence sont essentielles.<\/p>\n\n\n\n

\"Drapeaux
La Commission europ\u00e9enne \u00e0 Bruxelles<\/figcaption><\/figure>\n\n\n\n

Directive de la Commission europ\u00e9enne <\/h2>\n\n\n\n

La principale initiative pour nous en tant que citoyens est la directive pour laquelle la Commission europ\u00e9enne<\/a> a \u00e9tabli une premi\u00e8re version en 2021. Elle sera probablement finalis\u00e9e dans le courant de cette ann\u00e9e afin de pouvoir l\u2019int\u00e9grer \u00e0 la l\u00e9gislation nationale.<\/p>\n\n\n\n

Lors de l\u2019\u00e9laboration de la directive, l\u2019UE a choisi une classification des syst\u00e8mes IA fond\u00e9e sur leur profil de risque. D\u00e8s lors, le \u00ab scoring social \u00bb, ou l\u2019utilisation d\u2019applications biom\u00e9triques, figure dans la cat\u00e9gorie \u00ab inacceptable \u00bb. La deuxi\u00e8me cat\u00e9gorie est ce que l\u2019on appelle l\u2019\u00ab IA \u00e0 haut risque \u00bb, ou high risk AI, pour laquelle des r\u00e8gles claires \u2013 et des amendes \u2013 sont \u00e9tablies. Le troisi\u00e8me groupe concerne les risques \u00ab limit\u00e9s \u00bb. Il reprend notamment les chatbots. Des r\u00e8gles sp\u00e9cifiques en mati\u00e8re de transparence sont \u00e9galement \u00e9tablies pour cette cat\u00e9gorie. Le quatri\u00e8me groupe, qui repr\u00e9sente \u00e9galement le risque le plus faible, comprend par exemple les jeux sur ordinateur et les filtres anti-spam.<\/p>\n\n\n\n

Selon l\u2019UE, la notation de cr\u00e9dit est consid\u00e9r\u00e9e comme une technique du groupe \u00e0 haut risque, car elle pourrait exclure des groupes entiers de personnes de diff\u00e9rentes formes de pr\u00eats. Outre certaines exceptions pour les PME qui utiliseraient des notations de cr\u00e9dit bas\u00e9es sur l\u2019IA \u00e0 des fins internes, tous les syst\u00e8mes de notation de cr\u00e9dit doivent respecter les r\u00e8gles de cette cat\u00e9gorie.<\/p>\n\n\n\n

Nourrir la notation de cr\u00e9dit<\/h2>\n\n\n\n

\u00c0 premi\u00e8re vue, il semble donc que l\u2019UE se montre particuli\u00e8rement stricte quant \u00e0 l\u2019utilisation de notations de cr\u00e9dit, au point o\u00f9 son int\u00e9gration en deviendrait impossible. Or, rien n\u2019est moins vrai.<\/p>\n\n\n\n

En effet, l\u2019UE n\u2019interdit pas l\u2019utilisation de la science des donn\u00e9es pour la notation de cr\u00e9dit. Un cadre r\u00e9glementaire clair devant comprendre l\u2019utilisation de l\u2019IA pour les \u00e9valuations de solvabilit\u00e9 est toutefois \u00e9tabli.<\/p>\n\n\n\n

\u00c0 l\u2019instar des autres institutions et autorit\u00e9s nationales et supranationales, les r\u00e8gles impos\u00e9es se concentrent principalement sur les concepts d\u2019\u00e9quit\u00e9 (\u00ab frainess \u00bb), d\u2019\u00e9thique, de contr\u00f4le humain sur le syst\u00e8me, de transparence et d\u2019explicabilit\u00e9 du syst\u00e8me, et de lutte contre la discrimination. Par ailleurs, ces r\u00e8gles s\u2019appliquent non seulement \u00e0 l\u2019int\u00e9gration de la technique en mati\u00e8re de science des donn\u00e9es, mais \u00e9galement aux donn\u00e9es en tant que telles qui sont utilis\u00e9es pour d\u00e9velopper de tels syst\u00e8mes d\u2019intelligence artificielle et les alimenter au quotidien.<\/p>\n\n\n\n

Durant mes nombreuses ann\u00e9es d\u2019activit\u00e9 dans le domaine de la notation de cr\u00e9dit, nous avons appliqu\u00e9 les principes que l\u2019UE a maintenant \u00e9tablis dans son cadre r\u00e9glementaire. Qu\u2019il s\u2019agisse de solutions B2B ou B2C que nous avons mises au point pour l\u2019ensemble de l\u2019Europe (et pour d\u2019autres parties du monde). J\u2019ai moi-m\u00eame pu constater les effets de mod\u00e8les fautifs (et j\u2019ai \u00e9t\u00e9 amen\u00e9 \u00e0 les corriger). D\u2019une part, parce que les jeux de donn\u00e9es pr\u00e9sentaient des d\u00e9fauts, d\u2019autre part parce que les experts en science des donn\u00e9es ne faisaient pas les bons choix durant les analyses des donn\u00e9es. Les principes et concepts que pr\u00f4ne l\u2019UE sont donc logiques et corrects. Dans cette optique, il est \u00e9galement correct et essentiel d\u2019\u00e9tendre la r\u00e9glementation aux donn\u00e9es.<\/p>\n\n\n\n

Tout comme pour les exemples susmentionn\u00e9s, le recours \u00e0 la science des donn\u00e9es dans le domaine de la gestion de cr\u00e9dit n\u2019est pas aussi simple qu\u2019il n\u2019y para\u00eet. Le savoir, les comp\u00e9tences, l\u2019exp\u00e9rience et surtout le sens de la r\u00e9alit\u00e9 des experts en science des donn\u00e9es sont des caract\u00e9ristiques essentielles qui sont difficilement substituables. En ce qui me concerne, nous pouvons m\u00eame aller plus loin. Notamment sur le plan de l\u2019\u00e9laboration d\u2019une bonne explicabilit\u00e9 des syst\u00e8mes IA \u00ab black-box \u00bb. En ce moment, de nombreuses \u00e9tudes sur ce sujet sont men\u00e9es par des entreprises et universit\u00e9s, mais elles ne sont toujours pas parvenues \u00e0 une solution permettant de rendre ces syst\u00e8mes totalement transparents. De plus, il n\u2019est plus uniquement question d\u2019IA explicable, mais aussi et surtout d\u2019\u00ab IA contr\u00f4lable \u00bb. Une fois que vous \u00eates en mesure de contr\u00f4ler v\u00e9ritablement le syst\u00e8me \u00ab black box \u00bb, vous pourrez l\u2019int\u00e9grer avec succ\u00e8s.<\/p>\n\n\n\n

\n
\"personne<\/figure>\n<\/figure>\n\n\n\n

Chez Altares Dun & Bradstreet, nous avons franchi de nombreux pas<\/a>au cours des derni\u00e8res ann\u00e9es et nous avons fait de r\u00e9els progr\u00e8s en mati\u00e8re \u00ab d\u2019explicabilit\u00e9 \u00bb. Nous savons \u00e0 pr\u00e9sent comment contr\u00f4ler les syst\u00e8mes \u00ab black box \u00bb, \u00e0 d\u00e9faut de quoi l\u2019ordinateur nous contr\u00f4lerait.<\/p>\n\n\n\n

Notre exp\u00e9rience nous a appris qu\u2019il est loin d\u2019\u00eatre impossible de mettre au point un syst\u00e8me d\u2019IA pour les notations de cr\u00e9dit, qui soit \u00e0 la fois performant, juste, \u00e9thique, transparent, explicable et conforme \u00e0 la r\u00e9glementation. La mise en \u0153uvre d\u2019un tel syst\u00e8me requiert toutefois du temps, de l\u2019attention et des investissements. Encore une fois, les facteurs principaux sont la connaissance et les comp\u00e9tences, l\u2019exp\u00e9rience et le sens de la r\u00e9alit\u00e9. Cependant, une approche multidisciplinaire est \u00e9galement requise. Il est d\u00e9conseill\u00e9 d\u2019adopter une approche visant \u00e0 inviter l\u2019expert en science des donn\u00e9es \u00e0 constituer un mod\u00e8le sans aide ext\u00e9rieure.<\/p>\n\n\n\n

Une \u00e9volution qui renforce le secteur<\/h2>\n\n\n\n

Lors de la pr\u00e9paration de la directive, l\u2019UE a \u00e9galement estim\u00e9 les investissements qu\u2019engendrerait le d\u00e9veloppement d\u2019un syst\u00e8me IA \u00e0 haut risque. \u00c0 premi\u00e8re vue, ces montants semblent astronomiques. Cependant, compte tenu de la valeur ajout\u00e9e qu\u2019apporte chaque ann\u00e9e un syst\u00e8me d\u2019IA bien con\u00e7u, l\u2019effort en vaut la peine. Si vous vous engagez seulement dans l\u2019application de la science des donn\u00e9es, vous vous sentez probablement submerg\u00e9. Notez toutefois qu\u2019afin de pouvoir profiter des avantages d\u2019un syst\u00e8me de gestion de cr\u00e9dit bas\u00e9 sur l\u2019IA, il vaut mieux parfois avancer pas \u00e0 pas pour atteindre les r\u00e9sultats escompt\u00e9s. Le r\u00eave et l\u2019objectif du syst\u00e8me tr\u00e8s complexe, global et autonome pourraient bien appara\u00eetre \u00e0 l\u2019horizon. Mais comme toujours, il faut avancer pas \u00e0 pas pour y parvenir.<\/p>\n\n\n\n

En tant que d\u00e9partement charg\u00e9 de la gestion de cr\u00e9dit, en assurant une utilisation innovante et correcte de l\u2019IA tout en tenant compte la l\u00e9gislation et la r\u00e9glementation, nous rendrons un service consid\u00e9rable \u00e0 la soci\u00e9t\u00e9. Les pr\u00eats sont et restent le carburant n\u00e9cessaire \u00e0 la pr\u00e9servation de l\u2019\u00e9conomie. Il serait regrettable que ces efforts soient r\u00e9duits \u00e0 n\u00e9ant par une application de syst\u00e8mes d\u2019IA d\u00e9fectueux.<\/p>\n\n\n\n

Une r\u00e9trospection de l\u2019\u00e9volution de la science des donn\u00e9es et de l\u2019IA dans son ensemble me porte non seulement \u00e0 croire que l\u2019UE publiera sa directive achev\u00e9e cette ann\u00e9e, mais \u00e9galement que d\u2019autres gouvernements et institutions vont s\u2019attelleront \u00e0 la d\u00e9finition d\u2019un cadre r\u00e9glementaire. En outre, les organes de contr\u00f4le s\u2019organiseront pour mener \u00e0 bien leurs t\u00e2ches. Pas de quoi s\u2019inqui\u00e9ter. Ces cadres r\u00e9glementaires emp\u00eacheront les fameux \u00ab cow-boys \u00bb de se jouer de ceux qui respectent les r\u00e8gles.<\/p>\n\n\n\n

R\u00e9f\u00e9rences :<\/em><\/h3>\n\n\n\n