Potential Sanction Scan : Vos clients sont-ils actifs en Russie ou en Biélorussie ?

L’IA explicable au service de la notation de crédit de demain

Temps de lecture : 15 minutes | Rédigé par Joris Peeters | 21 février 2022

Science des données, analyses de données, algorithmes, intelligence artificielle... Il y a encore quelques années de cela, bon nombre de mes amis, connaissances et proches ne comprenaient pas vraiment en quoi consistait mon travail au quotidien. Les choses ont beaucoup changé depuis. À l’heure actuelle, il suffit généralement d’une simple allusion aux voitures autonomes ou aux algorithmes de réseaux sociaux pour donner une idée claire de mes activités.

Une preuve que notre monde a bien changé ces dernières années. La collecte, le traitement et le stockage de données, la science des données et toutes les formes d’intelligence artificielle s’insinuent de plus en plus dans notre quotidien. Les algorithmes sont intégrés dans de plus en plus de produits et services, mais les utilisateurs n’en sont pas toujours conscients.

En soi, rien de très novateur. Voilà déjà plusieurs années que les techniques de l’intelligence artificielle font partie intégrante du secteur manufacturier et des marchés de capitaux, par exemple. Même dans notre section responsable de la gestion, nous avons recours aux algorithmes au travers de notations de crédi depuis plusieurs décennies.

Pourtant, cet aspect est souvent oublié. La démocratisation de la science des données de ces dernières années a donné lieu à des applications frappantes dont la société a grandement bénéficié. Notamment dans le secteur de la santé, mais également dans l’optimisation de certains processus opérationnels afin d’alléger la charge de travail des collaborateurs.

Application et éthique

La combinaison de l’intelligence artificielle et de la science des données n’a toutefois pas toujours été bénéfique. En effet, une entreprise américaine connue a dû mettre fin à son utilisation de l’IA pour ses processus de recrutement. Récemment, deux grandes entreprises ont également fait l’objet d’une série de procès en raison du caractère discriminatoire que revêtait leur algorithme permettant d’octroyer des limites de crédit. Un autre exemple est la décision récente d’IBM de revendre Watson, car la mise en place un système d’IA efficace et performant s’est révélée plus ardue que prévu. De plus, de nombreuses entreprises aux États-Unis qui, il y a quelques années, ont élargi avec beaucoup d’enthousiasme leurs équipes d’experts en science des données, ont dû faire face à la réalité : mettre au point des algorithmes performants, de qualité, pertinents pour l’entreprise, justes et éthiques n’est pas aussi facile que prévu.

Dans cette optique, il est donc normal que différents gouvernements se soient penchés sur la science des données et l’intelligence artificielle dans toutes leurs formes et applications. Ainsi, l’UNESCO(1), l’ISO(2), la Banque mondiale(3) et la Commission européenne(4), entre autres, s’efforcent d’établir des directives et/ou réglementations relatives à l’utilisation et aux applications de l’IA.

Dans la majorité des cas, l’importance et les applications utiles de l’IA à cet effet sont clairement mises en évidence. L’IA se doit toutefois d’être « juste », « éthique », « inclusive » et « non discriminatoire ». En outre, compte tenu du caractère « black box » de certaines techniques de science des données, l’explicabilité (« Explainable AI » ou « xAI ») et la transparence sont essentielles.

Drapeaux de la Commission européenne
La Commission européenne à Bruxelles

Directive de la Commission européenne

La principale initiative pour nous en tant que citoyens est la directive pour laquelle la Commission européenne a établi une première version en 2021. Elle sera probablement finalisée dans le courant de cette année afin de pouvoir l’intégrer à la législation nationale.

Lors de l’élaboration de la directive, l’UE a choisi une classification des systèmes IA fondée sur leur profil de risque. Dès lors, le « scoring social », ou l’utilisation d’applications biométriques, figure dans la catégorie « inacceptable ». La deuxième catégorie est ce que l’on appelle l’« IA à haut risque », ou high risk AI, pour laquelle des règles claires – et des amendes – sont établies. Le troisième groupe concerne les risques « limités ». Il reprend notamment les chatbots. Des règles spécifiques en matière de transparence sont également établies pour cette catégorie. Le quatrième groupe, qui représente également le risque le plus faible, comprend par exemple les jeux sur ordinateur et les filtres anti-spam.

Selon l’UE, la notation de crédit est considérée comme une technique du groupe à haut risque, car elle pourrait exclure des groupes entiers de personnes de différentes formes de prêts. Outre certaines exceptions pour les PME qui utiliseraient des notations de crédit basées sur l’IA à des fins internes, tous les systèmes de notation de crédit doivent respecter les règles de cette catégorie.

Nourrir la notation de crédit

À première vue, il semble donc que l’UE se montre particulièrement stricte quant à l’utilisation de notations de crédit, au point où son intégration en deviendrait impossible. Or, rien n’est moins vrai.

En effet, l’UE n’interdit pas l’utilisation de la science des données pour la notation de crédit. Un cadre réglementaire clair devant comprendre l’utilisation de l’IA pour les évaluations de solvabilité est toutefois établi.

À l’instar des autres institutions et autorités nationales et supranationales, les règles imposées se concentrent principalement sur les concepts d’équité (« frainess »), d’éthique, de contrôle humain sur le système, de transparence et d’explicabilité du système, et de lutte contre la discrimination. Par ailleurs, ces règles s’appliquent non seulement à l’intégration de la technique en matière de science des données, mais également aux données en tant que telles qui sont utilisées pour développer de tels systèmes d’intelligence artificielle et les alimenter au quotidien.

Durant mes nombreuses années d’activité dans le domaine de la notation de crédit, nous avons appliqué les principes que l’UE a maintenant établis dans son cadre réglementaire. Qu’il s’agisse de solutions B2B ou B2C que nous avons mises au point pour l’ensemble de l’Europe (et pour d’autres parties du monde). J’ai moi-même pu constater les effets de modèles fautifs (et j’ai été amené à les corriger). D’une part, parce que les jeux de données présentaient des défauts, d’autre part parce que les experts en science des données ne faisaient pas les bons choix durant les analyses des données. Les principes et concepts que prône l’UE sont donc logiques et corrects. Dans cette optique, il est également correct et essentiel d’étendre la réglementation aux données.

Tout comme pour les exemples susmentionnés, le recours à la science des données dans le domaine de la gestion de crédit n’est pas aussi simple qu’il n’y paraît. Le savoir, les compétences, l’expérience et surtout le sens de la réalité des experts en science des données sont des caractéristiques essentielles qui sont difficilement substituables. En ce qui me concerne, nous pouvons même aller plus loin. Notamment sur le plan de l’élaboration d’une bonne explicabilité des systèmes IA « black-box ». En ce moment, de nombreuses études sur ce sujet sont menées par des entreprises et universités, mais elles ne sont toujours pas parvenues à une solution permettant de rendre ces systèmes totalement transparents. De plus, il n’est plus uniquement question d’IA explicable, mais aussi et surtout d’« IA contrôlable ». Une fois que vous êtes en mesure de contrôler véritablement le système « black box », vous pourrez l’intégrer avec succès.

Chez Altares Dun & Bradstreet, nous avons franchi de nombreux pasau cours des dernières années et nous avons fait de réels progrès en matière « d’explicabilité ». Nous savons à présent comment contrôler les systèmes « black box », à défaut de quoi l’ordinateur nous contrôlerait.

Notre expérience nous a appris qu’il est loin d’être impossible de mettre au point un système d’IA pour les notations de crédit, qui soit à la fois performant, juste, éthique, transparent, explicable et conforme à la réglementation. La mise en œuvre d’un tel système requiert toutefois du temps, de l’attention et des investissements. Encore une fois, les facteurs principaux sont la connaissance et les compétences, l’expérience et le sens de la réalité. Cependant, une approche multidisciplinaire est également requise. Il est déconseillé d’adopter une approche visant à inviter l’expert en science des données à constituer un modèle sans aide extérieure.

Une évolution qui renforce le secteur

Lors de la préparation de la directive, l’UE a également estimé les investissements qu’engendrerait le développement d’un système IA à haut risque. À première vue, ces montants semblent astronomiques. Cependant, compte tenu de la valeur ajoutée qu’apporte chaque année un système d’IA bien conçu, l’effort en vaut la peine. Si vous vous engagez seulement dans l’application de la science des données, vous vous sentez probablement submergé. Notez toutefois qu’afin de pouvoir profiter des avantages d’un système de gestion de crédit basé sur l’IA, il vaut mieux parfois avancer pas à pas pour atteindre les résultats escomptés. Le rêve et l’objectif du système très complexe, global et autonome pourraient bien apparaître à l’horizon. Mais comme toujours, il faut avancer pas à pas pour y parvenir.

En tant que département chargé de la gestion de crédit, en assurant une utilisation innovante et correcte de l’IA tout en tenant compte la législation et la réglementation, nous rendrons un service considérable à la société. Les prêts sont et restent le carburant nécessaire à la préservation de l’économie. Il serait regrettable que ces efforts soient réduits à néant par une application de systèmes d’IA défectueux.

Une rétrospection de l’évolution de la science des données et de l’IA dans son ensemble me porte non seulement à croire que l’UE publiera sa directive achevée cette année, mais également que d’autres gouvernements et institutions vont s’attelleront à la définition d’un cadre réglementaire. En outre, les organes de contrôle s’organiseront pour mener à bien leurs tâches. Pas de quoi s’inquiéter. Ces cadres réglementaires empêcheront les fameux « cow-boys » de se jouer de ceux qui respectent les règles.

Références :

Partager sur les réseaux sociaux

Partagez sur
Partagez sur
Partagez sur

Joris Peeters

Chief data scientist

Livre blanc

Credit monitoring

Détectez les possibilités pour votre organisation

Il est utile de réaliser une analyse de solvabilité avant d’accepter un nouveau client, mais celle-ci est par ailleurs immédiatement obsolète. En effet, le véritable risque de crédit naît à partir du moment où le client intègre votre portefeuille. La solution : suivre la santé financière de vos clients en temps réel.

PDF de 16 pages, 0,4 MB
Credit monitoring

Envie d’en savoir plus sur la gestion de crédit et la compliance ?

2022 © Tous droits réservés – Dun & Bradstreet Belgium S.A.

Schrijf je nu in!

Ja, ik wil elke maand op de hoogte worden gebracht van trends & ontwikkeling rondom Credit Risk, Compliance, Master Data, Supply Chain en Sales & Marketing.

Votre choix