Hallucination

Une hallucination se produit lorsqu’un modèle d’IA génère une information fausse ou entièrement inventée, mais la présente avec la même assurance qu’une réponse correcte. Comme un grand modèle de langage produit un texte plausible plutôt que de vérifier les faits, il peut inventer des citations, des statistiques ou même des adresses Web qui n’ont jamais existé.

Ce n’est pas un bug rare mais une caractéristique intégrée au fonctionnement de ces modèles, avec des conséquences réelles. Des attaquants ont remarqué que les outils inventaient souvent les mêmes fausses adresses. Ils les ont enregistrées et y ont installé des sites malveillants, attendant que des utilisateurs arrivent.

La défense pratique est simple : vérifiez tout ce qui compte, faits, chiffres, liens et citations, avant de vous y fier. Traitez la sortie d’une IA comme un brouillon assuré, pas comme une source définitive de vérité.