Un même modèle d’IA, quatre sources de données et quatre réponses totalement différentes. Les organisations utilisent de plus en plus des agents d’IA pour l’évaluation du risque de crédit, le screening des fournisseurs et la conformité. La question principale n’est toutefois pas de savoir si l’IA paraît convaincante, mais si sa réponse est réellement correcte.
Lors de notre récent webinaire , Lars Wouters, expert en IA générative, a posé quatre fois exactement la même question à un agent d’IA : produire un rapport sur Dun & Bradstreet S.A., incluant le nombre de collaborateurs, le chiffre d’affaires et l’adresse de l’entreprise. À chaque tentative, l’agent a bénéficié d’un accès plus large à l’information : d’abord uniquement aux données d’entraînement du GML, puis à Internet, ensuite à l’API D&B Direct+ et enfin à D&B MCP. La question est restée identique, mais les réponses ont fortement varié. Comme l’analyse portait sur notre propre entité, nous avons pu déterminer avec précision à quel moment l’IA se contentait de paraître convaincante et à quel moment sa réponse était véritablement correcte.
Sans source, un modèle d’IA hallucine avec une grande assurance
La première réponse reposait uniquement sur les données d’entraînement du modèle. Elle était fluide et semblait complète, mais s’est révélée incorrecte sur plusieurs points. Le modèle a notamment indiqué une ancienne adresse de bureau, présenté à tort Dun & Bradstreet S.A. comme une filiale d’un groupe américain coté en Bourse, utilisé des données financières datant de quatre à cinq ans et estimé le nombre de collaborateurs entre 50 et 70.
Ce phénomène est appelé « hallucination » : le modèle formule une réponse logique et crédible qui ne repose pas sur des faits actuels et validés. Les informations exactes et erronées sont présentées avec le même degré d’assurance. Dans un texte marketing, ces erreurs peuvent souvent être corrigées. En revanche, dans le cadre d’une décision de crédit, d’un screening de fournisseur ou d’une vérification de conformité, elles peuvent conduire à des conclusions incorrectes.
Lisez aussi : Quand l’IA paraît sûre d’elle… mais se trompe
L’accès à Internet rend les réponses de l’IA plus complètes, mais pas plus fiables
Avec un accès à Internet, la réponse est devenue plus actuelle. Le modèle a cette fois correctement identifié que Dun & Bradstreet au Benelux faisait partie d’Altares. La réponse n’en est toutefois pas devenue beaucoup plus exploitable. Le nombre de collaborateurs a été présenté sous la forme d’une fourchette allant de 51 à 200, tandis que le modèle n’a pas été en mesure de retrouver une adresse officielle précise.
Les informations d’entreprise sont dispersées entre des sites web, des registres et des documents publics, dont la fiabilité et l’actualité ne sont pas toujours clairement établies. Le modèle doit donc déterminer lui-même quelle source est la plus fiable et, en cas de doute, opte généralement pour des estimations larges. Le problème ne réside donc pas dans un manque de données, mais dans un manque de données d’entreprise fiables.
Une API donne accès à des données validées, mais uniquement à celles qui ont été connectées
Dans la troisième partie de l’expérience, l’agent a été relié à des données D&B validées au moyen d’une API classique. Il a ainsi pu produire une vue de l’entreprise beaucoup plus précise et vérifiable. L’agent a notamment retrouvé l’adresse correcte, le nombre exact de collaborateurs, les bons numéros d’enregistrement ainsi que les données financières appropriées.
La connexion via API a cependant également mis en évidence une limite : chaque bloc de données devait être relié séparément. Lorsqu’un bloc n’était pas connecté, l’agent ne pouvait pas exploiter les informations qu’il contenait. Une API permet donc à l’IA d’accéder à des données fiables, mais uniquement aux informations qui ont été explicitement intégrées au préalable.
D&B MCP combine des données fiables avec le bon contexte
Dans la quatrième partie de l’expérience, la même question a été posée par l’intermédiaire de D&B MCP. Grâce à un point de terminaison unique, l’agent a pu accéder à l’ensemble des blocs de données disponibles, ainsi qu’au contexte permettant de déterminer quelles informations étaient pertinentes.
C’est là que réside la valeur ajoutée de MCP. Un agent d’IA chargé d’évaluer un risque de crédit n’a pas besoin des mêmes informations qu’un agent réalisant un contrôle de conformité. En intégrant cette expertise directement dans la connexion, l’IA peut effectuer des recherches plus ciblées, sélectionner les données les plus pertinentes et travailler de manière plus cohérente, sans qu’il soit nécessaire de développer des connexions distinctes ou des logiciels complexes pour chaque cas d’usage.
La qualité de l’IA commence par la qualité des données
Grâce à un accès direct aux données D&B, il a été possible d’obtenir une vue complète et vérifiable de l’entreprise. Chaque affirmation pouvait être reliée à une source dont l’origine et l’actualité étaient connues. Cette traçabilité est essentielle dans des domaines tels que l’évaluation du risque de crédit, le screening des fournisseurs, la connaissance client et la conformité, où les organisations doivent pouvoir expliquer sur quelles informations repose une décision.
Les modèles d’IA deviennent de plus en plus puissants, mais aussi de plus en plus similaires les uns aux autres. Le résultat de cette expérience n’en est que plus pertinent : quatre utilisations du même GML ont produit quatre réponses différentes. Ce n’est donc pas le modèle lui-même, mais son accès aux bonnes données et au bon contexte qui détermine la qualité du résultat.
Avec l’écosystème D&B.AI, nous aidons les organisations à connecter leurs systèmes d’IA à des données d’entreprise vérifiées. Lors d’une session stratégique consacrée à l’IA , nous identifions avec vous les cas d’usage les plus prometteurs et les processus dans lesquels des données fiables peuvent apporter le plus de valeur.
