Le développement de l’intelligence artificielle s’est accompagné d’un nouveau vocabulaire, et notamment du mot “hallucination”.
Qu’est ce qu’une hallucination dans le domaine de l’IA ? Selon IBM , une hallucination désigne le cas où un grand modèle de langage (comme un chatbot d’IA) “perçoit des modèles ou des objets qui sont inexistants ou imperceptibles pour les observateurs humains, créant des résultats absurdes ou totalement inexacts”. Pour Google Cloud , il s’agit de “résultats incorrects ou trompeurs générés par des modèles d’IA”. Le verbe “halluciner” a d’ailleurs été choisi comme mot de l’année par le dictionnaire de Cambridge, qui le définit de la manière suivante” : ‘Lorsqu’une intelligence artificielle (un système informatique qui possède certaines des qualités du cerveau humain, comme la capacité de produire du langage d’une manière qui semble humaine) hallucine, elle produit de fausses informations”.
Lexing UK nous explique dans un article ce qu’est une “hallucination” dans le domaine de l’intelligence artificielle et ses conséquences concrètes sur le plan judiciaire en prenant pour exemple l’affaire Harber v The Commissioners for His Majesty’s Revenue and Customs [2023] UKFTT 01007 (TC).
En l’espèce, une contribuable a formé appel devant la chambre fiscale du tribunal de première instance du Royaume-Uni (FTT) d’une amende prononcée à son encontre par le HMRC (His Majesty’s Revenue and Customs), un organisme responsable de la collecte des taxes et du paiement de certains services fournis par l’État britannique. Dans le cadre de sa défense, qu’elle a assurée seule, sans être assistée d’un avocat, l’appelante a produit neuf décisions antérieures du FTT qu’elle affirmait aller dans son sens . Or, il s’est avéré qu’aucune de ces décisions n’était réelle : il s’agissait en fait d’affaires fictives générées par une IA suite à des hallucinations.
Cette affaire illustre bien comment l’utilisation de l’IA peut se retourner contre les utilisateurs qui ne procèdent pas à un examen approfondi de la qualité des résultats obtenus.