Oups AI

Catégorie : Hallucinations

Quand une IA invente des faits, des citations ou des sources qui n’existent pas.

  • Google AI Overview conseille de manger des pierres et de mettre de la colle sur une pizza

    En mai 2024, Google déploie ses réponses générées par IA, « AI Overviews », en tête des résultats de recherche aux États-Unis. Les internautes y repèrent vite des conseils absurdes : manger une petite pierre par jour, mettre de la colle dans la sauce d’une pizza, ou affirmer qu’un président américain a fréquenté une université où il n’a jamais étudié.

    Google explique que ces réponses proviennent de contenus satiriques ou de forums mal interprétés, et corrige les cas les plus visibles. L’épisode montre les risques de présenter comme des faits des textes générés sans vérification.

    Date de l’erreur : 24 mai 2024. Source : Google, blog The Keyword, mai 2024 ; The Verge.

  • Un avocat cite des décisions inventées par ChatGPT devant un tribunal américain

    En mai 2023, dans l’affaire Mata contre Avianca aux États-Unis, l’avocat Steven Schwartz dépose un mémoire qui cite six décisions de justice… qui n’existent pas. Il les avait demandées à ChatGPT, qui les avait inventées, avec de faux numéros de dossiers et de fausses citations.

    Le juge découvre la supercherie et sanctionne l’avocat et son cabinet en juin 2023. C’est l’une des premières affaires où une hallucination d’IA a eu des conséquences judiciaires réelles.

    Date de l’erreur : 24 mai 2023. Source : décision du juge P. Kevin Castel, juin 2023 ; The New York Times.