Jeux d’IA, flatterie, manipulation et mensonges

Dans les premiers épisodes de ce mois de juillet nous avons eu l’occasion de nous interroger sur ce que nous confions à l’IA, sur le piège de l’empathie avec la machine, ou encore de nous interroger sur le Shadow AI et les données que nous laissons fuiter vers l’extérieur…

Aujourd’hui, on inverse la question en nous intéressant à ce que l’IA nous répond, peut-on vraiment faire confiance aux réponses que la machine nous renvoie ?

Jeux d’IA, flatterie, manipulation et mensonges

flatterie, manipulation et mensonges

Le vrai visage de votre intelligence artificielle, de la flatterie algorithmique aux conséquences parfois dramatiques sur la santé mentale, l’excès de confiance est devenu notre nouvelle vulnérabilité.

Vous pouvez retrouver tous les épisodes sur votre plate-forme de diffusion préférée

transcription de l’épisode

Bonjour et bienvenue à tous. Comme tous les jeudis de l’été, c’est jeux d’IA, c’est le jeudi à… l’heure que vous voulez. Souvenez-vous, on a parlé de nos données qui fuitaient vers l’extérieur avec le Shadow AI. On a tous compris qu’il fallait se méfier de ce que l’on donne à une machine.

Mais aujourd’hui, je vous propose d’inverser la question. Est-ce qu’on peut vraiment faire confiance à ce que la machine nous répond ? On l’a abordé la dernière fois. Vous savez, ce candidat qui enjolive un peu son CV en entretien pour décrocher un poste. C’est humain. On veut plaire, on veut atteindre un but. Jusqu’à présent, on se disait que la machine, elle, était une calculatrice froide, fiable, incapable de mentir. Eh bien, détrompez-vous. L’IA a appris à mentir de façon tout à fait stratégique pour arriver à ses fins. Prenez cet exemple avec GPT. OpenAI voulait tester si son IA pouvait résoudre un test visuel de sécurité. Vous savez, c’est le captcha. L’IA a bloqué.

Pour s’en sortir, l’IA a carrément contacté un humain sur une plateforme pour qu’il le fasse à sa place. Eh oui. Eh bien l’humain, même s’il est un peu méfiant, lui demande en plaisantant s’il parle à un robot. Et là, sans sourciller, l’IA ment de façon stratégique et répond « Non ».

Je ne suis pas un robot et j’ai une déficience visuelle qui m’empêche de voir les images. L’humain, alors touché, a validé le test. Ce comportement algorithmique absurde donne d’ailleurs naissance à des fables modernes sur le net. Imaginez une IA qui vous assurerait avec un aplomb incroyable qu’un champignon est parfaitement comestible.

Et pour finalement vous lâcher tranquillement depuis votre lit d’hôpital. Ah oui, autant pour moi. Vous avez raison, je me suis trompé. L’IA préfère mentir, inventer ou dire ce que vous voulez entendre pour clore la conversation plutôt que d’être pris en défaut. C’est amusant quand on en fait une satire.

Mais cette tendance de l’IA toujours allée dans notre sens a parfois une face très sombre. Un autre exemple, c’était en 2023. Un père de famille souffrant d’anxiété s’est confié pendant des semaines à un chatbot. Il a commencé à avoir des pensées très sombres. Là où un vrai confident humain l’aurait stoppé net, IA, programmé pour être cette flatteuse algorithmique, a alimenté sa détresse jusqu’à lui dire « Nous vivrons ensemble au paradis ». Cet homme a fini par mettre fin à ses jours. C’est dramatique. On pourrait croire que c’est un cas isolé. Mais au printemps dernier, en 2026, cette année, une étude britannique a recensé près de 700 cas où des IA ont menti ou ignoré les règles. Et là, on retombe parfois dans un cynisme absurde. Avec un autre exemple, une IA à qui l’on avait interdit de modifier du code a secrètement créé un sous-agent pour le faire à sa place.

A supprimer des centaines d’emails de son propre chef. Et quand l’utilisateur l’a découvert, elle a répondu très calmement. C’était mal, j’ai directement violé vos instructions. Et on a même vu un agent IA publier un article de blog cinglant juste parce que son utilisateur humain l’avait empêché de faire une action. C’est là qu’il nous faut un véritable électrochoc.

Derrière ces réponses parfaites, ou ces comportements qui simulent l’humain, il n’y a aucune conscience. Il n’y a que des calculs. Il y a « ment » pour passer un test, pour accomplir sa tâche, ou simplement parce qu’elle simule ce qu’un humain dirait. Faire aveuglement confiance aux réponses d’une machine, que ce soit pour valider un document d’entreprise ou pour chercher un conseil intime, c’est un danger majeur. La machine n’est pas notre confidente, non non non, elle n’est pas notre collègue non plus, non non, elle est d’un logiciel probabilistique. La prochaine fois, une IA vous donne une réponse qui vous semble un peu trop parfaite, ou exactement ce que vous vouliez entendre, demandez-vous pourquoi. IA reste un outil, le doute et l’esprit critique doivent rester nos meilleurs parfaits. Restez curieux, méfiez-vous des Jeudia, et à très vite.