5 000 $ d’amende pour des témoins inventés par ChatGPT : pourquoi votre PME doit vérifier chaque contenu IA
Publié le · Lecture : 8 minutes · Par l’équipe Brozapi
Un avocat du Nouveau-Mexique a été condamné à payer 5 000 $ après avoir présenté à la justice des témoins et des témoignages policiers qui n’existaient pas. Le document avait été préparé avec l’aide de ChatGPT, puis déposé sans vérification suffisante.[1]
L’affaire est extrême — elle concerne un recours dans une affaire de meurtre — mais la leçon est très concrète pour une PME : une IA peut produire un texte convaincant et faux. Avant de l’envoyer à un client ou de le publier, un humain doit contrôler ce qu’il contient.
Ce qui s’est passé au Nouveau-Mexique
Stephen Aarons, avocat de la défense, avait utilisé ChatGPT pour l’aider à résumer les éléments d’un procès et préparer un mémoire d’appel. Il pensait obtenir un « résumé à toute épreuve », selon les éléments rapportés après l’audience.[1]
Le document déposé contenait pourtant de faux témoignages attribués à des témoins entièrement inventés, ainsi que des affirmations erronées sur l’apparence et les vêtements du tireur. La Cour suprême du Nouveau-Mexique a estimé que l’avocat n’avait pas vérifié les affirmations factuelles ni les références juridiques de son document. Elle l’a condamné à 5 000 $ et l’a reconnu coupable d’outrage à la cour.[1]
Le problème n’est donc pas simplement « ChatGPT s’est trompé ». Le problème est qu’un contenu généré par une machine a été traité comme une source fiable dans un document aux conséquences majeures.
Une hallucination d’IA, c’est quoi ?
Une hallucination d’IA est une information fausse — un nom, une date, une citation ou un fait — présentée par l’outil avec l’apparence d’une réponse plausible.
L’IA ne vérifie pas automatiquement la réalité de chaque phrase qu’elle écrit : elle génère une suite de mots qui ressemble à une réponse pertinente. Elle peut donc inventer une référence, compléter un devis avec une caractéristique inexistante ou attribuer une citation à la mauvaise personne.
La formulation peut être fluide, le ton professionnel et la mise en page impeccable. Aucun de ces signaux ne prouve que le contenu est exact.
Le même risque existe dans une PME
Une PME n’utilise généralement pas une IA pour préparer un recours pénal. Elle l’emploie plutôt pour gagner du temps au quotidien :
- rédiger un email commercial ou une réponse au support ;
- préparer un devis ou une proposition de prestation ;
- écrire une fiche produit ou une page de site ;
- résumer un document transmis par un client ;
- produire un article de blog, une publication sociale ou une newsletter ;
- créer une image, une voix ou une vidéo pour présenter une offre.
Dans chacun de ces cas, une erreur peut coûter moins de 5 000 $ — ou davantage. Un prix inventé dans un devis crée un malentendu commercial. Une fonctionnalité inexistante dans une page produit déçoit un client. Une statistique fausse dans un article abîme la crédibilité de l’entreprise. Une citation ou une information réglementaire incorrecte peut conduire à une mauvaise décision.
Le bon réflexe est simple : considérez la sortie de l’IA comme un brouillon, jamais comme une preuve.
La règle des trois vérifications avant d’envoyer
1. Vérifier les faits
Relisez chaque élément contrôlable : noms propres, chiffres, dates, prix, délais, caractéristiques techniques, références et citations. Ouvrez la source d’origine au lieu de vous contenter d’un lien ou d’une référence fournie par l’outil.
Pour un devis, comparez les montants avec votre grille tarifaire. Pour une page produit, contrôlez chaque promesse avec la fiche réelle de l’offre. Pour un sujet réglementaire, consultez le texte officiel ou faites relire le passage par une personne compétente.
2. Vérifier le contexte
Une phrase peut être exacte mais trompeuse si elle est sortie de son contexte. Demandez-vous : l’IA a-t-elle confondu deux clients, deux versions d’un produit ou deux pays ? A-t-elle transformé une possibilité en garantie ? A-t-elle présenté une hypothèse comme un résultat ?
Cette vérification est particulièrement importante lorsque vous lui fournissez des documents internes ou des informations sur vos clients.
3. Vérifier ce qui sera effectivement publié
L’humain qui valide le texte en assume la responsabilité éditoriale. Il doit pouvoir expliquer d’où vient chaque affirmation importante et corriger le contenu avant sa diffusion.
Une vérification rapide ne consiste pas à demander à la même IA si elle est sûre de sa réponse. Elle consiste à revenir aux sources, aux outils métier et aux personnes qui connaissent le sujet.
Vérifier ne dispense pas d’être transparent
Le règlement européen sur l’intelligence artificielle prévoit plusieurs obligations de transparence à l’article 50. Elles concernent notamment l’information des personnes qui interagissent directement avec une IA et le marquage des contenus synthétiques par les fournisseurs de systèmes.[2]
Pour les textes générés ou manipulés par IA et publiés dans le but d’informer le public sur un sujet d’intérêt public, l’article 50(4) prévoit une information claire sur leur caractère artificiel. Cette obligation comporte notamment une exception lorsque le contenu a fait l’objet d’une revue humaine ou d’un contrôle éditorial et qu’une personne physique ou morale en assume la responsabilité éditoriale.[2][3]
Cela ne transforme pas l’article 50 en règle simpliste selon laquelle chaque email assisté par IA devrait porter une étiquette. Le périmètre dépend du type de système, du contenu et de son usage. La Commission indique que les obligations de transparence de l’article 50 s’appliquent depuis le 2 août 2026.[3]
En pratique, pour une PME, deux habitudes sont solides :
- informer clairement les visiteurs lorsqu’ils dialoguent avec un chatbot ou un assistant IA, sauf si cela est évident dans le contexte ;
- documenter la production et la relecture des contenus assistés par IA, puis utiliser une mention visible lorsque le contexte l’exige ou lorsque vous choisissez la transparence comme règle de confiance.
Vous pouvez commencer par une formule simple, à adapter à votre situation : « Ce contenu a été préparé avec l’aide d’une intelligence artificielle, puis vérifié et édité par notre équipe. » Cette phrase ne remplace pas une analyse juridique, mais elle explique honnêtement votre méthode.
Pour comprendre où placer une mention sur un site, consultez notre guide AI Act article 50 : ce que votre site doit afficher si vous utilisez un chatbot IA. Notre article Pourquoi afficher un badge de transparence IA sur votre site présente aussi une approche simple pour rendre cette information visible.
Un badge ne vérifie pas le fond du texte
Un badge de transparence indique qu’une IA a participé à la production du contenu. Il ne certifie ni l’exactitude de chaque phrase, ni la conformité juridique de votre site.
La distinction est essentielle :
- la vérification humaine contrôle si le contenu est vrai, pertinent et adapté à votre client ;
- la transparence indique comment le contenu a été produit ;
- un outil comme BadgeIA vous aide à afficher cette information de façon claire sur votre site.
Vous pouvez découvrir BadgeIA pour préparer un badge de transparence adapté à votre site. Avant toute mise en place, identifiez les contenus concernés et définissez qui les relit. BadgeIA est un outil technique d’aide à la transparence : il ne constitue ni un conseil juridique ni une garantie de conformité.
La checklist avant publication
Avant d’envoyer ou de publier un contenu préparé avec une IA, posez-vous ces cinq questions :
- Les noms, chiffres, dates et prix ont-ils été vérifiés dans une source fiable ?
- Les promesses correspondent-elles exactement à l’offre réelle ?
- Les citations et liens renvoient-ils à des sources qui disent bien ce que le texte affirme ?
- Une personne identifiée a-t-elle relu et validé le contenu ?
- Le lecteur doit-il être informé de l’usage de l’IA dans ce contexte ?
Si vous ne pouvez pas répondre oui aux quatre premières questions, le contenu n’est pas prêt. Si vous hésitez sur la cinquième, la transparence est généralement préférable au silence — sans présenter cette démarche comme une garantie juridique.
L’avocat du Nouveau-Mexique n’a pas été sanctionné parce qu’il avait essayé un outil nouveau. Il l’a été parce que des informations fausses ont franchi la dernière étape sans contrôle. Pour une PME, la procédure la plus rentable est donc aussi la plus simple : l’IA propose, un humain vérifie, puis l’entreprise publie en toute clarté.
FAQ
Une IA peut-elle vraiment inventer des témoins ou des sources ?
Oui. Elle peut produire des noms, des citations, des références ou des événements qui semblent plausibles mais qui n’existent pas. Toute information importante doit être vérifiée dans sa source d’origine.
Dois-je signaler chaque email rédigé avec ChatGPT ?
Pas automatiquement. L’obligation dépend du système utilisé, du type de contenu et de son usage. L’article 50 prévoit des cas précis de transparence ; une relecture et un contrôle éditorial peuvent aussi être importants. En cas de doute sur votre situation, demandez un avis juridique adapté.
Un badge prouve-t-il que mon contenu est fiable ?
Non. Un badge signale l’utilisation de l’IA. Il ne remplace ni la vérification des faits, ni la relecture humaine, ni un conseil juridique.
Comment commencer sans alourdir mon site ?
Commencez par inventorier vos chatbots et vos contenus assistés par IA, puis ajoutez une mention claire à l’endroit où le visiteur les rencontre. Vous pouvez ensuite utiliser un badge visible et sobre pour harmoniser l’information sur vos pages.
Sources
- [1] The Verge, « Lawyer fined $5K over AI-hallucinated witnesses in a murder case », 11 septembre 2026 : lire l’article
- [2] AI Act Service Desk, « Article 50: Transparency obligations for providers and deployers of certain AI systems » : consulter le texte
- [3] Commission européenne, « Transparency obligations under Article 50 of the AI Act » : lire la FAQ officielle
Cet article est fourni à titre informatif et ne constitue pas un conseil juridique. Pour une analyse de votre situation, consultez un professionnel du droit.
Derniers articles : Régulation IA en Europe : ce que l’AI Act impose déjà, malgré le « non » de Jensen Huang · Microsoft impose un code de conduite à ses IA : la transparence devient la norme · Suno v6 prouve que la transparence est devenue un argument de vente — et l'AI Act est derrière · Où vont vos données quand vous utilisez l'IA en Europe ? · OpenAI Astra et l’AI Act : la transparence devient obligatoire pour les PME · Agents IA incontrôlés : comment prouver qui est derrière l'IA sur votre site
Guides par plateforme : Intercom · Crisp · Tidio · Chatbase · Botpress