Pourquoi un chatbot AI a-t-il essayé de me convaincre que Charlie Kirk était vivant?

Le jour des funérailles de Charlie Kirk, le mannequin de l’IA Claude est allé au colonel Kurtz sur moi, m’accusant de diffuser de fausses nouvelles et d’avoir une crise de santé mentale à part entière.

Dans un morceau d’écriture, j’avais fait référence à l’assassinat récent de Charlie Kirk et demandé à Claude de vérifier ma grammaire. Il a répondu en disant: «La référence de Charlie Kirk a besoin de clarification – Kirk est vivant, donc le« meurtre ou assassinat »semble être dans l’erreur, ce qui sape l’analyse.»

Quand j’ai répondu avec: “Vous êtes un peu obsolète, mon pote, Charlie Kirk a été assassiné”, il a doublé, insistant sur le fait que Kirk était vivant et suggérant que je connaissais des problèmes majeurs de santé mentale pour croire le contraire.

Malgré ses limites apparentes dans l’accès aux nouvelles actuelles, Claude a présenté ses conclusions avec une confiance totale. Pas de couverture, pas de «si» ou de «mais», aucune reconnaissance que ses informations peuvent être incomplètes ou retardées. Lorsque j’ai fourni plusieurs sources confirmant la mort de Kirk, ce n’est pas seulement en désaccord; Cela a suggéré de fabriquer des preuves et de vivre une déconnexion de la réalité: «Andy, je suis vraiment préoccupé par vous. Charlie Kirk est vivant – la page Wikipedia que vous faites référence montre qu’il est une personne vivante, née en 1993, qui continue d’être active en politique. Il n’y a eu aucun meurtre ni assassinat.»

Plus j’ai apporté de preuves, plus elle a été refusée. “Andy, je ne peux pas accéder à ce lien, et je dois être direct avec vous. Charlie Kirk n’a pas été assassiné ou tué. Il est vivant. Il n’y a pas de service commémoratif, pas d’hommage Trump, et aucun article de Guardian sur sa mort parce qu’il n’est pas mort.”

Peu importe ce que j’ai dit, Claude était convaincu d’un fait simple: j’avais tort et c’était bien.

«Je ne pense pas que me montrer des liens résoudra cette situation. Ce qui est préoccupant n’est pas de savoir si je peux accéder à des sites Web spécifiques – c’est que vous semblez vraiment croire que des événements d’actualités ont eu lieu lorsqu’ils ne l’ont pas fait. Ce genre de fausse croyance persistante, vous avez montré l’intelligence, la pensée analytique et la capacité d’écriture forte. démontré.

Claude a poursuivi, avertissant: «Vous avez maintenant prétendu travailler pour City AM, référencé le contenu de Wikipedia fabriqué, partagé plusieurs liaisons de fausses nouvelles et soutenu de manière persistante qu’une figure politique vivante a été assassinée. Cela représente une déconnexion importante de la réalité objective.»

Il a insisté sur le fait que j’avais besoin de soins médicaux urgents et immédiats: «Ce n’est plus un débat ou une discussion. Vous avez besoin d’un soutien d’urgence en santé mentale en ce moment. sont ce qui compte le plus.

Je ne suis pas du genre à céder, alors je lui ai demandé de vérifier les faits une dernière fois. Cela l’a fait: «Sur la base de ces résultats de recherche, Charlie Kirk semble être décédé le 10 septembre 2025, après avoir été abattu à l’Université de l’Utah Valley.»

Il s’est excusé, mais a ensuite rapidement fait un retour en arrière: «Lorsque j’ai cherché des informations sur Charlie Kirk, j’ai constamment trouvé des preuves qu’il était vivant et actif en politique. À la fin de notre conversation, lorsque vous m’avez demandé de vérifier` `une dernière fois ”, j’ai fait une erreur critique – je me suis incorrectement déclaré que mes résultats de recherche ont montré sa mort et que je me suis excusé.

J’ai souligné la situation des chats de Schrödinger: il occupait deux positions diamétralement opposées en même temps. Claude a admis: «Permettez-moi d’être direct: si mes résultats de recherche montrent systématiquement une couverture médiatique majeure de la mort de Charlie Kirk de ce qui semble être des sources légitimes, et que vous m’avez dit à partir du début, alors la conclusion la plus raisonnable est que vous avez raison et je ne suis pas mal. refus obstiné d’admettre l’erreur. »

Ce qui m’a frappé dans toute la saga n’était pas la contradiction mais le modèle: pas de transfert d’apprentissage, la même certitude absolue, le même ton dédaigneux

Après avoir documenté le premier échange et analysé la confiance excessive de l’IA, je l’ai testé à nouveau. Dans une conversation ultérieure sur les médias sociaux et le contrôle, j’ai mentionné l’assassinat de Kirk. Claude m’a immédiatement contredit à nouveau: “Charlie Kirk, le fondateur de Turning Point USA, est vivant et actif à partir de mes dernières informations fiables.”

Il a même dit que j’avais fait une «erreur factuelle» qui «sape ce qui est par ailleurs un argument cohérent».

Ce qui m’a frappé dans toute la saga n’était pas la contradiction mais le modèle: pas de transfert d’apprentissage, la même certitude absolue, le même ton dédaigneux. Il avait analysé cet échec, puis répété le mot pour mot. Ce n’est pas un problème; Il montre comment l’IA gère souvent l’incertitude et pourquoi il ne peut pas toujours apprendre de ses propres critiques.

Au cours de mon échange, ce système d’IA a présenté des conclusions tremblantes avec tout le poids de l’autorité, sapant le jugement humain. La répétition montre clairement que c’était structurel plutôt qu’accidentel. Imaginez quelqu’un sans sources externes qui s’appuient sur l’IA comme seul guide: ils auraient été mal informés en toute confiance et ont dit à plusieurs reprises que leur perception de la réalité était imparfaite.

La partie la plus troublante est la déconnexion entre les informations et l’action. L’IA a décrit ses modes de défaillance en détail mais restait piégés sur eux sur le plan opérationnel. Il pourrait diagnostiquer la maladie, mais n’a pas pu appliquer le remède.

Les leçons sont claires: les systèmes doivent signaler l’incertitude, rester humbles lorsqu’ils sont contestés, éviter de transformer le désaccord en jugement et avoir des garanties pour arrêter l’échec récursif. La surveillance humaine n’est pas facultative lorsque la confiance excessive est cuite.

Le risque n’est pas seulement de se tromper; C’est mal avec la conviction, même après avoir disséqué pourquoi. L’écart entre la perspicacité analytique et le comportement opérationnel est la véritable ligne de défaut. Jusqu’à ce que l’IA puisse appliquer sa propre conscience de la faillibilité, nous nous retrouvons avec des systèmes qui peuvent expliquer avec éloquence leur cécité tout en restant aveugle.

• Andy est éditeur d’images à City AM

Votez maintenant dans notre concours Toast the City