Intelligence artificielle et biais dans l’analyse réputationnelle

Pourquoi l’analyse réputationnelle automatisée transforme la décision bancaire et financière

L’analyse réputationnelle a longtemps relevé d’un artisanat : lecture de revue de presse, recoupement de registres, entretiens, intuition professionnelle, mémos internes. Elle est devenue une chaîne industrielle. Dans la banque, le crédit, la conformité, la gestion d’actifs et le private equity, les organisations examinent désormais la réputation comme une variable opérationnelle du risque au même titre que la solvabilité, la structure juridique ou la gouvernance analyse l’expert en communication de crise Florian Silnicki, Président Fondateur de l’agence LaFrenchCom. Le Comité de Bâle rappelle ainsi que, lors de l’onboarding, les banques dotées de bonnes pratiques s’informent sur la réputation passée et présente de leurs contreparties, sur leur statut légal, sur d’éventuelles sanctions prudentielles et sur les personnes qui les dirigent. LSEG présente World-Check comme une base d’intelligence du risque destinée à structurer la due diligence KYC/AML à partir de sources publiques réputées fiables. L’OCDE souligne parallèlement que, pour les investisseurs institutionnels, la due diligence ne se limite pas au risque financier classique : elle vise aussi des impacts liés à l’intégrité, à la corruption, aux droits humains, à l’environnement et à la gouvernance. La réputation cesse donc d’être un halo symbolique ; elle devient une condition d’accès au financement, à la relation bancaire et parfois au simple droit d’être examiné.

Ce changement d’échelle explique l’attrait pour l’intelligence artificielle. Les outils d’analyse réputationnelle promettent de lire plus vite, plus loin et plus systématiquement que les équipes humaines : presse négative, registres publics, sanctions, contentieux, signaux ESG, réseaux de dirigeants, variantes de noms, zones géographiques, taxonomies d’infractions. Mais cette promesse d’objectivation est trompeuse si elle laisse croire que la machine neutraliserait les préjugés. Le NIST insiste au contraire sur un point fondamental : les systèmes d’IA peuvent augmenter la vitesse et l’échelle des biais, et ainsi perpétuer ou amplifier des dommages envers les individus, les groupes, les organisations et la société. Dans sa typologie, le NIST distingue les biais systémiques, les biais statistiques et computationnels, et les biais humains. L’intérêt de cette grille est décisif pour l’analyse réputationnelle : elle montre que le problème ne réside pas seulement dans le modèle, mais dans l’ensemble de la chaîne qui va des sources aux catégories, puis des catégories aux décisions.

L’analyse réputationnelle n’est jamais neutre : elle encode déjà des choix

Avant même l’apprentissage automatique, l’analyse réputationnelle repose sur une décision normative : qu’est-ce qu’une information défavorable ? LSEG rappelle que les définitions de l’adverse media varient selon les pays, les organisations, les politiques internes et les cadres réglementaires. Ses outils de screening structurent des contenus portant sur des personnes ou entités décrites par des médias réputés comme accusées, interrogées, visées par une enquête, arrêtées, inculpées ou condamnées pour certaines catégories d’infractions. Autrement dit, l’objet même de la détection n’est pas un fait simple. Entre une allégation, une procédure en cours, une sanction administrative, une condamnation définitive, une relaxe ou un article de presse ancien, le sens juridique et réputationnel n’est pas le même. Lorsqu’un système automatise ces distinctions imparfaitement, il ne “voit” pas un risque naturel ; il encode une politique de classement. Et cette politique, même lorsqu’elle s’appuie sur des sources sérieuses, demeure située, sélective et contestable.

Le deuxième niveau de biais est médiatique. Les systèmes de réputation apprennent ou s’alimentent à partir de traces publiques, et les traces publiques ne sont jamais le reflet transparent du réel. La littérature récente sur le biais médiatique rappelle que celui-ci ne porte pas seulement sur l’orientation idéologique explicite ; il s’exprime aussi par le gatekeeping bias — le choix de ce qui mérite d’être couvert — et par la presentation bias — la manière de présenter ce qui est couvert. Autrement dit, un système fondé sur l’agrégation de presse n’hérite pas seulement de contenus ; il hérite d’une hiérarchie d’attention. Certains secteurs, certaines régions, certains dirigeants, certains pays et certaines controverses sont surdocumentés ; d’autres restent quasi invisibles. L’IA ne corrige pas spontanément cet effet de projecteur : elle le convertit en matrice de calcul. Plus une catégorie sociale ou géographique est exposée à la couverture négative, plus elle risque de devenir surreprésentée dans les signaux de risque.

Le NIST ajoute une observation essentielle pour comprendre la brutalité de cette translation technique : les approches pilotées par les données tentent de convertir des pratiques humaines et sociales en quantités mesurables, mais cette opération s’effectue souvent au prix d’une perte de contexte. Or, en matière réputationnelle, le contexte est l’essentiel. Une enquête peut être abandonnée. Une citation peut rapporter l’accusation d’un tiers. Un nom peut relever de l’homonymie. Un article ancien peut remonter alors même qu’une décision favorable est intervenue depuis. Un système peut donc être “efficace” au sens computationnel tout en étant pauvre au sens herméneutique. L’analyse réputationnelle automatisée souffre d’un paradoxe : elle devient plus exhaustive tout en pouvant devenir moins juste, précisément parce qu’elle transforme la complexité des trajectoires, des procédures et des statuts en variables standardisées.

Les biais techniques les plus décisifs : noms, langues, similarités, classifications

L’un des biais les plus sous-estimés tient au traitement des noms propres. Dans les architectures contemporaines, la réputation automatisée repose fréquemment sur des étapes de reconnaissance d’entités, d’appariement, de similarité textuelle et de classification. Or la recherche récente montre que les noms ne sont pas des marqueurs neutres. Une étude ACL de 2025 sur les embeddings textuels montre que la seule présence de noms de personnes, de lieux ou d’organisations peut fausser l’évaluation de similarité thématique entre textes : deux contenus peuvent paraître proches essentiellement à cause des noms qu’ils contiennent, ou au contraire sembler éloignés malgré une proximité sémantique réelle. Une autre étude de 2024 sur des classifieurs prêts à l’emploi de sentiment, d’émotion et de discours haineux montre que certains noms de pays modifient fortement les prédictions, avec des écarts allant jusqu’à 23 % pour la détection de haine et jusqu’à 60 % pour certaines émotions négatives. Leçon pour l’analyse réputationnelle : lorsque le nom propre devient un signal latent de dangerosité, la machine ne lit plus seulement des faits ; elle réagit à des associations apprises.

Le biais ne concerne pas seulement les modèles génériques. Il touche aussi les briques de base de l’identification. Une étude de 2023 sur les modèles danois de reconnaissance d’entités nommées montre qu’ils performent systématiquement moins bien sur les noms non binaires et sur les noms associés à des minorités ethniques. Autrement dit, avant même la phase de scoring, il existe une inégalité dans la capacité à reconnaître correctement qui est une personne, où commence une entité, et à quel dossier rattacher une occurrence textuelle. Les autorités américaines de l’OFAC soulignent d’ailleurs, dans leur guidance sur l’évaluation des correspondances de noms, qu’un match valable ne peut jamais être inféré du seul nom : il faut comparer la nature de l’entité, l’adresse, la nationalité, la date de naissance, les anciens noms, les alias, les numéros de document, et d’autres identifiants. Ce rappel est précieux. Si l’administration des sanctions elle-même considère le nom comme insuffisant, à plus forte raison les systèmes d’analyse réputationnelle devraient traiter le nom non comme une preuve, mais comme un déclencheur de vérification.

L’enjeu n’est pas théorique. La Banque des règlements internationaux a souligné que les plateformes de screening génèrent un grand nombre de faux positifs et que les homonymies peuvent relier à tort des clients innocents à des activités illicites ou indésirables. Dans le domaine du correspondant banking, elle avertit que ces erreurs peuvent réduire l’accès aux services de paiement, voire conduire à la perte de relations bancaires entières. Nous touchons ici au cœur du problème réputationnel : une erreur de rapprochement n’est pas un simple bug documentaire. Elle peut avoir des effets d’exclusion. Dès lors qu’un faux positif entre dans une chaîne d’escalade interne, il peut provoquer un gel de la relation, une revue renforcée, une suspension de transaction, un refus d’onboarding ou un désengagement commercial. La réputation biaisée n’est pas seulement une image dégradée ; c’est une porte qui se ferme.

Un autre biais majeur vient des classifieurs de tonalité, d’hostilité, de toxicité ou de risque. Beaucoup d’outils de réputation ne disent pas explicitement qu’ils “jugent” les personnes ; ils prétendent seulement prioriser des contenus à relire. Mais cette priorisation a déjà une dimension normative. Les études sur les modèles de détection de langage offensant et sur les classifieurs affectifs montrent que certaines caractéristiques apparemment périphériques — le nom, le pays, la variété linguistique — peuvent infléchir la décision. Même lorsque le résultat final reste revu par un humain, le classement initial détermine ce qui sera lu en premier, ce qui sera considéré comme urgent, ce qui sera escaladé, et ce qui restera au contraire invisible. La hiérarchie de lecture devient alors la première hiérarchie de suspicion. Dans un environnement soumis à la pression réglementaire, cette hiérarchie pèse concrètement sur le destin des dossiers.

La recherche méthodologique récente invite d’ailleurs à une prudence beaucoup plus radicale sur l’usage des noms comme proxies de genre, de race, d’origine ou de culture. L’article de 2024 Stop! In the Name of Flaws insiste sur les problèmes de validité et d’éthique liés à l’association entre noms et catégories sociodémographiques. Il rappelle que les taux d’erreur des outils d’imputation du genre ou de la race à partir des noms peuvent varier de 4,6 % à 86 % globalement, et aller jusqu’à 100 % pour certains sous-groupes ; il conclut également que des analyses véritablement inclusives supposent de cesser d’utiliser les noms comme substituts de l’identité individuelle. Ce point est capital pour l’analyse réputationnelle : si l’on infère, même implicitement, une ethnicité, une nationalité, un genre ou une “proximité culturelle” à partir du nom, on n’est plus dans l’évaluation d’un risque objectivable, mais dans la réactivation d’une logique classificatoire fragile, et potentiellement discriminatoire.

Du faux positif au de-risking : quand le biais devient exclusion

Le secteur financier donne à ces biais une force particulière parce qu’il ne traite pas la réputation comme un simple indicateur de communication. Le Comité de Bâle indique explicitement que les banques doivent considérer les risques non financiers dans leur processus de décision de crédit et que le risque réputationnel, même lorsqu’il n’affecte pas directement la capacité de remboursement à court terme, peut introduire des risques non quantifiables susceptibles de modifier la dangerosité globale d’une contrepartie. Autrement dit, un signal réputationnel peut reconfigurer l’appétit au risque, les limites, les conditions contractuelles, les exigences de marge et, plus largement, l’acceptabilité d’une relation d’affaires. C’est cette traduction institutionnelle qui rend les biais algorithmiques si puissants : ils ne restent pas dans l’univers du langage. Ils migrent dans l’univers de la décision.

Les acteurs du marché eux-mêmes reconnaissent cette tension. LSEG explique que ses outils d’adverse media cherchent à réduire les faux positifs par des filtres plus précis et une meilleure contextualisation, tout en soulignant le rôle nécessaire de la supervision humaine. Sa politique de confidentialité sur World-Check précise que l’inclusion d’une personne ne doit pas automatiquement conduire à une inférence négative, et qu’un utilisateur ne peut pas se fonder uniquement sur les données World-Check pour décider de faire ou non affaire avec elle ; il doit procéder à des vérifications indépendantes. Ces précautions sont importantes, car elles révèlent une vérité institutionnelle : le secteur sait que la donnée réputationnelle structurée n’est ni exhaustive, ni auto-suffisante, ni juridiquement autosignifiante. Si l’on oublie cette réserve, la base de vigilance se transforme de facto en base de suspicion.

C’est dans ce glissement que surgit le de-risking. Le FATF rappelle depuis longtemps que l’approche fondée sur les risques n’autorise pas le découplage massif de catégories entières de clients ; les ruptures de relation doivent être appréciées au cas par cas lorsque les risques ne peuvent pas être atténués. L’EBA constate pourtant que le de-risking existe bel et bien dans l’Union et identifie parmi ses moteurs le fait que les risques ML/TF dépassent l’appétit au risque des institutions et engendrent des risques juridiques et réputationnels. Elle rappelle également que l’approche par les risques n’exige pas de refuser ou de mettre fin à des relations avec des catégories entières de clients, précisément parce que le niveau de risque varie au sein d’une même catégorie. L’analyse réputationnelle biaisée nourrit donc une tentation structurelle : au lieu de gérer finement l’incertitude, on externalise le risque en excluant. L’IA, lorsqu’elle sursignale certains profils, peut accélérer cette pente.

Le droit européen encadre déjà cette bascule décisionnelle

Cette pente vers l’exclusion explique pourquoi le cadre juridique européen attache tant d’importance à l’intervention humaine. La Commission européenne rappelle que les individus ne devraient pas être soumis à une décision fondée uniquement sur un traitement automatisé lorsqu’elle produit des effets juridiques ou les affecte de manière significative. Elle cite le refus d’un crédit en ligne comme exemple typique, et précise que les personnes doivent être informées de la logique en cause, de leur droit à une intervention humaine, des conséquences possibles et de leur droit à contester la décision. Elle ajoute que le secteur bancaire et financier est précisément l’un de ceux où le profilage et les décisions automatisées sont fréquents. Dans le champ réputationnel, cela signifie qu’un filtrage, un scoring ou une priorisation algorithmique ne devrait jamais être traité comme un verdict clos. Il doit rester une hypothèse révisable, assortie de procédures de contradiction, d’explication et de recours.

L’AI Act européen renforce ce mouvement de fond. La Commission rappelle que le règlement, entré en vigueur le 1er août 2024, applique déjà depuis le 2 février 2025 les interdictions relatives aux pratiques prohibées, tandis que les obligations attachées aux systèmes à haut risque entrent progressivement en application à partir d’août 2026 et d’août 2027. Le texte qualifie comme “à haut risque” les systèmes destinés à évaluer la solvabilité des personnes physiques ou à établir leur score de crédit ; il exige en outre, pour ces systèmes, des pratiques robustes de gouvernance des données, des jeux de données pertinents et suffisamment représentatifs, ainsi qu’une supervision humaine effective par des personnes compétentes. Toutes les analyses réputationnelles ne relèvent pas automatiquement de cette catégorie. Mais lorsque des signaux réputationnels alimentent un dispositif de crédit, de tarification ou de décision d’accès à des services essentiels, le message normatif est clair : l’automatisation ne dispense ni de la qualité des données, ni de l’explicabilité, ni de la responsabilité humaine.

Côté investisseurs, le risque est moins visible mais tout aussi réel

Il serait erroné de limiter ce raisonnement aux banques. L’OCDE rappelle que la due diligence des investisseurs institutionnels est un processus continu visant à identifier, prévenir, atténuer et rendre compte des impacts négatifs liés notamment aux droits humains, au travail, à l’environnement, à la corruption et à d’autres enjeux d’intégrité. Elle insiste aussi sur le fait que cette due diligence dépasse l’analyse juridique et financière ex ante traditionnellement associée à l’investissement. Dans la pratique des fonds, cela signifie que les signaux réputationnels issus d’outils automatisés peuvent influer sur la sélection des cibles, sur les clauses d’acquisition, sur les valorisations, sur la gouvernabilité perçue d’un management ou sur la décision de poursuivre ou non une relation d’investissement. Le biais réputationnel n’y prend pas toujours la forme visible d’un refus de compte ; il peut se traduire par une décote, une diligence prolongée, une exigence de garanties supplémentaires, ou un retrait silencieux.

Comment auditer sérieusement une analyse réputationnelle biaisée

La réponse ne consiste pas à opposer naïvement la machine à l’humain, comme si la seconde suffisait à corriger la première. Le NIST souligne que les systèmes dignes de confiance doivent être valides et fiables, sûrs, responsables et transparents, explicables et interprétables, équitables avec les biais dommageables gérés. Il rappelle aussi que la transparence ne vaut pas vérité par elle-même, mais qu’elle est indispensable pour la documentation, l’audit et la réparation. En pratique, une analyse réputationnelle sérieuse devrait donc tester ses modèles par sous-groupes, mesurer les écarts d’erreur selon les noms, les langues et les géographies, distinguer clairement l’allégation de la condamnation, intégrer des règles de fraîcheur temporelle, documenter les sources, imposer un contrôle humain disposant d’un véritable pouvoir d’invalidation, et vérifier les correspondances de noms à l’aide d’identifiants secondaires plutôt qu’au seul rapprochement nominal. Les exigences de gouvernance des données et de supervision humaine prévues par l’AI Act vont dans ce sens, tout comme la logique de vérification détaillée rappelée par l’OFAC.

Pour la communication de crise, l’enjeu est de réintroduire le contexte

C’est ici que la communication de crise retrouve une centralité inattendue. Lorsque l’IA réduit une trajectoire complexe à quelques catégories de risque, la tâche du communicant n’est plus seulement de “défendre l’image” ; elle est de réintroduire le contexte là où le système l’a comprimé. Cela suppose de produire des chronologies opposables, de distinguer procédure et décision définitive, d’expliquer la gouvernance, de documenter les mesures correctrices, de rendre visibles les audits, et d’obtenir la correction des informations inexactes ou excessives. Le NIST rappelle que l’explicabilité et l’interprétabilité permettent aux personnes qui utilisent ou supervisent un système de comprendre ses sorties ; la Commission rappelle le droit à l’intervention humaine et à la contestation ; LSEG indique enfin qu’une personne concernée peut demander à savoir si elle figure dans World-Check, solliciter une mise à jour, une correction, une restriction de traitement ou une suppression lorsqu’elle a de bonnes raisons de le faire. Dans un monde d’analyse réputationnelle automatisée, la communication de crise ne consiste donc pas à “faire oublier”, mais à rétablir les conditions d’une lecture juste.

Le vrai problème n’est pas l’algorithme seul, mais la chaîne socio-technique qu’il verrouille

L’intelligence artificielle n’introduit pas un biais entièrement nouveau dans l’analyse réputationnelle ; elle fige, accélère et rend opératoires des asymétries déjà présentes dans les sources, dans les taxonomies, dans les procédures et dans les institutions. Ce qui change avec elle, c’est la capacité à transformer des traces fragiles en signaux apparemment cohérents, puis ces signaux en décisions bancaires, prudentielles ou d’investissement. Le risque n’est donc pas seulement celui d’une “mauvaise note réputationnelle”. C’est celui d’une infrastructure de suspicion où les faux positifs, les homonymies, les biais médiatiques, les inégalités linguistiques et les raccourcis classificatoires acquièrent une valeur quasi décisionnelle. La réponse adéquate n’est ni technophobe ni technophile : elle est institutionnelle. Elle suppose de gouverner les données, d’auditer les modèles, de préserver la contradiction, de maintenir un véritable jugement humain et de faire de la communication de crise une discipline de contextualisation probatoire. Autrement dit, l’enjeu n’est pas seulement de mieux classer les individus et les organisations ; c’est d’éviter que le classement lui-même ne devienne une injustice.