Comment éviter les hallucinations de ChatGPT : un exemple à Morges

Une hallucination, c'est quand ChatGPT répond avec assurance à une information fausse. Il ne le fait pas exprès. Il génère du texte probable, pas des faits vérifiés. Dans un usage professionnel, cela peut coûter cher. Après notre article sur les traductions, on pourrait croire que ChatGPT est fiable. Il l'est souvent. Mais pas toujours.

Le terme vient de l'IA, pas de la médecine. Il décrit un phénomène bien réel. Quand tu demandes une date, un article de loi ou un chiffre, ChatGPT peut sortir un résultat inventé avec le même ton que le vrai. C'est ce qui rend la détection difficile.

ChatGPT ne consulte pas une base de données au moment où tu poses ta question. Il prédit la suite d'une phrase à partir d'un entraînement sur des milliards de textes. Pour une loi suisse, il a moins de sources que pour une loi américaine. Il essaie de t'aider, il complète donc les manques avec du plausible.

Ajoute à cela que le modèle mélange parfois des notions proches. Une réponse sur le droit du bail peut mélanger un article avec le droit du travail. Le résultat sonne juste, mais il ne résiste pas à une vérification.

Un entrepreneur de Morges prépare un contrat de bail commercial. Il demande à ChatGPT quelle est la durée minimale du préavis en Suisse. ChatGPT répond avec un article du Code des obligations, un intitulé et une date. Tout semble impeccable. Sauf que cet article n'existe pas.

L'entrepreneur l'a découvert en deux minutes sur le site officiel de la Confédération. Sans cette vérification, il aurait cité une loi fausse dans un courrier à son locataire. L'erreur n'était pas visible. Elle n'était vérifiable que par un contrôle externe.

Ce n'est pas un cas isolé. Les hallucinations touchent aussi les adresses, les noms de fonctionnaires ou les statistiques. Sur les sujets suisses, elles sont plus fréquentes car les données d'entraînement sont surtout en anglais.

Le réflexe le plus simple : demande à ChatGPT de citer ses sources. S'il en donne, ouvre-les. S'il répond « je ne suis pas sûr », traite sa réponse comme une piste. Une vérification sur un site officiel prend souvent moins de trois minutes. Tu gardes le gain de temps, sans le risque.

Autre astuce : dis-lui d'emblée que tu préfères un « je ne sais pas » à une invention. Formule-le dans ta demande, par exemple : « Si tu n'es pas sûr, dis-le ». Ça ne marche pas parfaitement, mais ça réduit les réponses inventées.

Tu peux utiliser ChatGPT sans crainte pour rédiger, reformuler ou générer des idées. Plus la réponse est créative, moins le risque est grave. Plus elle est factuelle, plus tu dois vérifier. C'est une règle simple à mémoriser.

Pour un contrat, un calcul de TVA ou une décision RH, ne reprends jamais une réponse sans contrôle. Ce n'est pas de la défiance, c'est de la vigilance. Un outil rapide a besoin d'un frein.