Les faux avis sont le point de bascule d’un scandale de confiance en ligne bien plus important

Des faux avis à ChatGPT, le déclin de la confiance des consommateurs est désormais un problème majeur d’infrastructure en ligne, écrit Paul Armstrong

Le régulateur britannique de la concurrence a ouvert une enquête sur de faux avis et des manipulations impliquant des sociétés telles qu’Autotrader, Feefo, Dignity, Just Eat et Pasta Evangelists. En apparence, cela ressemble à un problème de réputation familier, mais ce n’est pas ce qui se passe ici. La confiance n’est plus principalement un problème de marque mais une défaillance de l’infrastructure. Les systèmes qui produisent la crédibilité, depuis les avis et classements jusqu’aux recommandations et résumés, se dégradent sous la pression d’incitations qui privilégient l’engagement, la visibilité et l’évolutivité plutôt que l’exactitude, même lorsque les vérifications de base telles que les contrôles d’identité ou les preuves d’achat sont faibles ou appliquées de manière incohérente.

Les scandales superficiels masquent un changement plus profond. Le baromètre de confiance Edelman montre que la confiance dans la plupart des institutions est en baisse constante, mais le problème va désormais bien au-delà de l’opinion publique. Les signaux de confiance sont de plus en plus générés, filtrés et amplifiés par des systèmes que les entreprises ne contrôlent pas. Les avis peuvent être manipulés, les classements peuvent être manipulés et les systèmes d’IA peuvent résumer ou déformer les informations à grande échelle. Le volume d’informations augmente en même temps que la vérification s’affaiblit. La plupart des gens réagissent en se désengageant. Face à trop de signaux et à un manque de clarté, l’attention diminue et la vérification disparaît. Pire encore, ils s’appuient sur des robots pour plus de confort.

La confiance est désormais produite par les systèmes et non par les marques

Les faux avis représentent la face visible d’un changement structurel plus large. Les consommateurs s’appuient sur des signaux agrégés pour prendre des décisions, mais ces signaux sont façonnés par des plateformes qui optimisent l’activité plutôt que la précision. La vérification reste incohérente. Dans de nombreux cas, les contrôles d’identité sont faibles, la preuve d’achat est facultative et l’application est inégale. Le résultat est un environnement dans lequel la manipulation est non seulement possible mais économiquement rationnelle. Amazon est évidemment une cible énorme et a pris des mesures (forcées) pour y mettre un terme.

Le même schéma apparaît dans l’écosystème technologique plus large. Les avis sur les produits sur Amazon peuvent être gonflés ou déformés par une activité coordonnée. Les classements de recherche sur Google sont façonnés par des stratégies d’optimisation qui récompensent ceux qui comprennent le système plutôt que ceux qui sont nécessairement les plus précis. Les influenceurs font régulièrement la promotion de produits de mauvaise qualité ou de mauvaise qualité auprès d’un large public, car les incitations sont liées à la portée et à la conversion plutôt qu’à la confiance à long terme. La visibilité l’emporte souvent sur la fiabilité. La tarification dynamique connaît également une légère hausse. Les algorithmes ajustent les prix en fonction de signaux de demande qui peuvent être manipulés ou mal interprétés. Le ciblage publicitaire optimise les clics plutôt que la vérité. Les moteurs de recommandation privilégient la pertinence comportementale plutôt que l’exactitude. Chaque système fonctionne individuellement. Le risque apparaît lorsque les entreprises s’appuient sur plusieurs d’entre eux simultanément.

Les choix de conception de plateforme peuvent activement éroder davantage la confiance. Sur X, la vérification payante a remplacé la vérification d’identité de qualité, transformant ce qui était autrefois un signal d’authenticité en une fonctionnalité achetable. Sans contrôle rigoureux, le badge n’indique guère plus qu’une volonté de payer. La crédibilité devient performative plutôt que gagnée, créant un système où la confiance semble visible mais manque de substance.

IA et publicité

Une menace plus immédiate émerge au sein des moteurs de réponse tels que ChatGPT et Gemini. Ces systèmes deviennent rapidement l’interface par laquelle les utilisateurs accèdent aux informations, aux recommandations et même aux décisions d’achat. La pression commerciale façonne déjà la manière dont ces réponses sont produites. Les modèles publicitaires et les stratégies de monétisation commencent à influencer les résultats, introduisant un nouveau niveau où la confiance peut être compromise à grande échelle.

Les récentes mesures prises par OpenAI pour réduire ses ambitions publicitaires reflètent la rapidité avec laquelle la tension est apparue. Les incitations fiscales poussent à l’intégration commerciale. La confiance dépend de la neutralité perçue. Une fois que ces forces entrent en collision, la crédibilité s’érode rapidement.

Les moteurs de réponse compressent plusieurs couches d’informations en une seule sortie que les utilisateurs vérifient rarement. Les classements, les avis, les résumés et les données externes sont regroupés en une seule réponse. Le plus souvent, la réponse devient simplement la décision. Lorsque la distorsion atteint ce niveau, la détection devient beaucoup plus difficile.

La tension est déjà visible ailleurs. Wikipédia, longtemps considéré comme une couche de référence pour Internet, a décidé de restreindre ou d’interdire la génération automatisée de contenu à grande échelle à partir de modèles linguistiques afin de protéger l’intégrité de ses informations. Une plateforme construite sur la vérification humaine se défend activement contre les systèmes conçus pour générer du contenu à grande échelle.

L’autorité est donnée à des systèmes que nous ne comprenons pas

Au sein des organisations, la même dynamique s’installe. Les données utilisées pour la stratégie traversent plusieurs couches avant d’atteindre le leadership. Les signaux externes sont filtrés via des plateformes, des fournisseurs de données et des outils d’IA. Les récits sur les marchés, les concurrents et les clients sont façonnés indirectement par des algorithmes plutôt que par l’observation directe.

L’autorité commence à s’éloigner des individus pour se tourner vers des systèmes que peu de gens comprennent pleinement. Les décisions semblent plus rapides parce que les résultats arrivent plus rapidement. Le processus sous-jacent devient plus difficile à interroger. Des données sales alimentent des modèles défectueux. Les modèles produisent des résultats confiants. Ces résultats influencent la stratégie.

Un ensemble de données douteux alimentant plusieurs systèmes peut affecter simultanément les décisions de tarification, de prévision, d’embauche ou d’investissement dans l’ensemble d’une organisation. Les erreurs évoluent plus rapidement que la détection car la distorsion se produit en amont. Les grandes entreprises technologiques se sont également montrées disposées à absorber les atteintes à leur réputation lorsque les avantages commerciaux dépassent les coûts. Les amendes et les mesures réglementaires font souvent partie des dépenses de fonctionnement plutôt que d’avoir un effet dissuasif, créant une asymétrie dans laquelle les systèmes qui façonnent la confiance continuent de fonctionner même lorsque la fiabilité est remise en question.

Ce que les dirigeants devraient demander maintenant

Les dirigeants et les équipes de direction doivent aller au-delà du traitement de la confiance comme une question de communication. Deux domaines nécessitent probablement votre attention immédiate. Premièrement, la provenance des données. D’où proviennent les données utilisées dans la prise de décision, comment sont-elles vérifiées et quels systèmes externes les influencent avant qu’elles n’atteignent l’entreprise. Les dépendances nommées sont importantes. Si la stratégie repose sur les données du marché Amazon, la visibilité des recherches Google, les canaux d’influence ou les ensembles de données tiers, ces entrées doivent être traitées comme des points de défaillance potentiels plutôt que comme des sources neutres.

Deuxièmement, l’influence du système. Quels plateformes, algorithmes ou modèles façonnent ce que voient les clients et ce que pensent les équipes internes. Les outils d’IA, les systèmes de recommandation et les fournisseurs de données externes façonnent activement la perception et la prise de décision. Les équipes de direction doivent être capables d’identifier les systèmes qui ont la plus grande influence sur les revenus, la perception de la marque et l’orientation stratégique. Aucune des deux questions n’est abstraite. Les réponses déterminent si une organisation fonctionne sur des informations fiables ou sur des signaux déjà déformés en amont.

Le véritable problème est le contrôle, et non la messagerie.

L’action réglementaire se concentrera sur l’application. Les plateformes seront poussées à supprimer les faux avis et à améliorer la transparence. L’application de la loi ne s’attaquera probablement qu’aux problèmes les plus visibles, choisissant de laisser de côté les problèmes plus structurels. La confiance est passée d’un message communiqué par les entreprises à un message produit par les systèmes. Les entreprises qui ne comprennent pas le fonctionnement de ces systèmes fonctionnent sans visibilité totale. Les entreprises qui supposent que les signaux sur lesquels elles s’appuient constituent des stratégies précises de création de risques sur des fondations de plus en plus instables.

L’écart entre la réalité perçue et la réalité réelle se creuse et c’est pourquoi c’est le sujet du prochain TNN (The New Normal), le 7 mai. Les organisations qui traitent la confiance comme une infrastructure le verront. D’autres continueront d’optimiser les signaux qu’ils ne contrôlent pas.​​​​​​​​​​​​​​​ Le vieil adage selon lequel votre marque est ce que Google prétend qu’elle est n’a peut-être jamais été aussi vrai qu’aujourd’hui.

Paul Armstrong est fondateur du conseil technologique émergent, TBD Group, et de sa communauté du renseignement TBD+