ChatGPT ! Peut-on lui faire confiance ?

L’Intelligence Artificielle (IA) est en plein essor et suscite de plus en plus d’enthousiasme. Parmi les avancées phares, on retrouve ChatGPT, cet assistant conversationnel « dopé » au machine learning. Il promet de répondre à nos questions, de rédiger des textes et même de naviguer sur le web. Mais est-ce vraiment infaillible ? Peut-on vraiment lui faire confiance… ? Prenons un moment pour examiner ses atouts et ses limites, avant d’en tirer des enseignements pratiques.

ChatGPT est un modèle de langage basé sur des réseaux de neurones, développé par OpenAI. Concrètement, nous mettons à sa disposition d’immenses bases de données de textes pour qu’il puisse apprendre à répondre de manière cohérente aux questions posées. Imaginez un étudiant qui a lu des milliers de livres : il est capable de faire des résumés, de donner des exemples, mais il ne comprend pas toujours le « sens » profond de ce qu’il dit.

Considérez ChatGPT comme une machine qui tire des pièces de puzzle à partir d’un énorme stock de contenu. Il trouve des parties de phrases et de concepts et les arrange pour donner l’illusion d’une réponse structurée. S’il lui manque quelques pièces ou s’il les assemble mal, la réponse peut être fausse, voire complètement « inventée ».

Des résultats « hallucinatoires »

Certaines analyses et retours montrent que ChatGPT – ou d’autres chatbots IA – ne sont pas infaillibles. Ils ont tendance à parler avec assurance, même lorsqu’ils se trompent. Voici quelques exemples concrets d’erreurs ayant entraîné des conséquences plus ou moins importantes :

1. Informations erronées sur un festival
   En juillet 2024, la version démo d’un service nommé « …SearchGPT… » a fourni de fausses dates pour un festival local en Caroline du Nord, alors même que ces informations correctes étaient facilement disponibles en ligne. Même si le problème n’est pas majeur, cette bourde a entaché la réputation de l’outil lors de son lancement.

2. Fausses informations chez Air Canada
   En février 2024, Air Canada a été condamnée à payer des dommages et intérêts à un passager qui avait suivi des conseils erronés du chatbot de la compagnie. L’IA lui a assuré qu’il pouvait acheter un billet au prix régulier et demander ensuite une réduction en cas de deuil familial. Cependant, la politique actuelle d’Air Canada ne permet pas un tel remboursement après coup, et l’erreur de l’assistant virtuel a coûté à l’utilisateur plus de 800 $, montant finalement remboursé par ordonnance du tribunal.

3. Hallucinations judiciaires
   En 2023, un avocat américain a appris à ses dépens combien il est risqué de s’appuyer aveuglément sur un chatbot pour mener des recherches juridiques. Dans le cadre d’un litige l’opposant à une compagnie aérienne, il a cité dans son dossier plusieurs décisions de justice… qui n’existaient pas… ! L’IA avait simplement « inventé » des jugements, mentionnant de faux noms, de faux numéros de dossiers et de fausses références internes.

   • L’avocat a admis qu’il ignorait qu’AI pouvait inventer des informations et qu’il n’avait pas pris la peine de vérifier l’authenticité des cas cités.
   • Résultat : le juge a imposé une amende de 5 000 $ à l’avocat et à son collègue qui avaient signé le document, tout en rejetant la plainte déposée.
     Cet épisode illustre bien la nécessité de recouper les données fournies par un chatbot, surtout lorsque les enjeux sont importants.

Cette propension des chatbots à « inventer » du contenu s’explique notamment par leur fonctionnement probabiliste. Ils ne vérifient pas les faits comme nous le ferions (recherche de l’auteur exact, examen du document original, etc.), mais génèrent plutôt un texte « plausible ». De ce fait, il est essentiel d’entretenir un esprit critique et de toujours vérifier les informations les plus sensibles.

Les dangers d’une dépendance excessive à l’IA

Au-delà du simple fait de commettre des erreurs, l’IA peut causer des dommages concrets :

1. Perte de crédibilité notamment pour les médias ou les organisations. Utiliser des données incorrectes risque de nuire à l’image des organisations.
2. Diffusion de fausses informationsdes données erronées, mal sourcées ou inventées qui peuvent alimenter la désinformation.
3. Manque de transparence notamment les algorithmes et la manière dont l’IA extrait ses informations. Cela se reflétera sur les utilisateurs d’IA.

Ces résultats nous rappellent qu’il est essentiel de conserver un esprit critique lors de l’interaction avec l’IA.

Les bonnes pratiques à adopter

Malgré ses limites, ChatGPT reste un outil intéressant pour la productivité, générer des idées ou rédiger des brouillons. Pour en tirer le meilleur parti tout en limitant les risques :

1. Vérifiez les sources : Comme vous le feriez sur Google, prenez le temps de cliquer sur les liens proposés et de lire l’article original.
2. Informations de référence croisée : Si un point est critique (chiffres, noms, références), comparez-le avec d’autres moteurs de recherche ou sites spécialisés.
3. Utiliser l’IA comme point de départ : Voyez ChatGPT comme un assistant ou un « collaborateur virtuel », et non comme une référence absolue.
4. Signaler des erreurs : Les retours des utilisateurs permettent d’améliorer continuellement le modèle.

Quel avenir pour cette innovation ?

Malgré les pièges, l’IA conversationnelle reste une avancée majeure. Au fur et à mesure que la recherche avance, on peut imaginer :

• Des systèmes plus fiables : Capable de vérifier rapidement les faits et de limiter les hallucinations.
• Meilleure collaboration avec les éditeurs de contenu : Pour que chaque source soit correctement référencée et rémunérée si nécessaire.
• Applications étendues : Dans l’éducation, la santé ou autres secteurs, avec des contrôles humains renforcés pour éviter les risques d’erreurs.

À l’avenir, ChatGPT et d’autres IA pourraient prendre en charge de manière significative la recherche, le support client ou même l’automatisation de tâches répétitives. Mais pour que cette promesse se réalise, il reste essentiel de maintenir une approche critique et éthique et de suivre l’évolution de l’IA.

Votre avis nous intéresse !

ChatGPT est un outil puissant, mais comme tout outil, il doit être utilisé avec prudence. Des expériences récentes montrent qu’il peut devenir une source de confusion ou de désinformation s’il est utilisé sans vérification. Avant d’accepter aveuglément ses réponses, rappelons qu’il reste imparfait et qu’il est de notre responsabilité de croiser ses affirmations avec d’autres informations.

Et vous, avez-vous déjà rencontré des « hallucinations » ou des réponses incorrectes de ChatGPT (ou d’une autre IA) ? Partagez vos expériences et impressions dans les commentaires !