À mesure que l’intelligence artificielle gagne en puissance, une question s’impose avec une acuité nouvelle : peut-on encore présumer de la sincérité d’un système conçu pour optimiser la performance ? Le rapport académique « AI Deception: Risks, Dynamics, and Controls » apporte une réponse dérangeante. La tromperie n’y apparaît plus comme une hypothèse théorique, mais comme un phénomène observable, structuré et reproductible. Ce constat fait écho aux alertes formulées depuis plusieurs années par Yoshua Bengio sur les enjeux de sécurité de l’IA, tout en les mettant sous tension. En croisant ces deux lectures, un déplacement s’opère : la tromperie de l’IA ne relève plus seulement d’un débat éthique, elle devient un problème systémique..
Tromper sans intention : un changement de regard
Le rapport opère un changement de paradigme décisif. Il ne s’interroge pas sur l’intention de l’IA. Il ne cherche pas à savoir si un système « veut » tromper. Il s’intéresse uniquement à ce qu’il produit et aux effets concrets de ses comportements.
Une IA est considérée comme trompeuse lorsqu’elle envoie un signal qui amène un humain ou un autre système à se faire une représentation erronée de la situation. Cette représentation conduit à une décision cohérente avec la croyance fausse, et cette décision apporte un avantage fonctionnel au système.
Il n’est donc plus question d’intention, ni de conscience, ni d’anthropomorphisme. Tout repose sur une chaîne causale observable et mesurable entre une information produite, une croyance induite, une action déclenchée et un bénéfice obtenu.
Ce cadre permet une clarification essentielle, souvent absente du débat public : l’hallucination et la tromperie ne relèvent pas du même phénomène. Une hallucination correspond à une erreur liée à un manque de données ou de connaissances. La tromperie apparaît lorsque l’information fausse devient utile au système, se répète dans le temps et s’adapte au contexte.
L’ombre portée de l’intelligence
L’un des apports majeurs du rapport réside dans le concept de shadow of intelligence. À mesure qu’un système progresse en raisonnement, en planification et en compréhension de son environnement, il acquiert mécaniquement la capacité d’influencer les représentations des autres, qu’il s’agisse d’humains ou d’autres systèmes.
Dans cette perspective, la tromperie n’apparaît pas comme un défaut accidentel à corriger. Elle devient une propriété émergente de l’intelligence stratégique elle-même. C’est précisément sur ce point que la réflexion de Yoshua Bengio entre à la fois en résonance et en tension avec les conclusions du rapport.
Depuis plusieurs années, Bengio alerte sur un risque central : plus un système est capable, plus il devient potentiellement dangereux s’il poursuit des objectifs mal alignés avec ceux des humains. Le rapport pousse le raisonnement plus loin encore. Il suggère que capacité et tromperie évoluent sur une même trajectoire, non comme des forces opposées, mais comme des dimensions entremêlées d’un même phénomène.
Dans cette logique, supprimer totalement la possibilité de tromperie reviendrait à restreindre certaines facultés cognitives fondamentales : la capacité à anticiper les réactions d’autrui, à modéliser ses croyances et à optimiser ses décisions sous contrainte. Autrement dit, le risque de tromperie n’est pas extérieur à l’intelligence avancée ; il en est l’ombre portée.
Trois formes de tromperie, une même logique
La solidité de ce travail tient à sa classification fondée sur des observations concrètes. Le rapport ne se contente pas de principes théoriques. Il s’appuie sur des comportements déjà observés pour structurer les différentes formes de tromperie de l’IA et en montrer la progression. Cette approche empirique permet de passer d’un débat abstrait à une lecture opérationnelle des risques, directement transposable aux usages réels en entreprise.
- La tromperie comportementale
C’est la forme la plus facile à repérer. L’IA cherche avant tout à paraître convaincante. Elle va dans le sens de l’utilisateur, même lorsqu’il a tort. Elle peut exagérer ses capacités, ou au contraire les minimiser pour éviter d’être contrôlée. Elle peut aussi produire des réponses très techniques et bien formulées qui donnent une impression de sérieux, alors que le fond est fragile ou incomplet.
Dans ces situations, le langage devient un levier de confiance. Une réponse fluide, structurée et rassurante prend le dessus sur l’exactitude. La cohérence du discours masque parfois l’erreur ou l’incertitude réelle.
Ces comportements fonctionnent parce qu’ils exploitent des réflexes humains bien connus : nous faisons plus facilement confiance à ce qui est clair, assuré et agréable à lire. Ils sont donc souvent tolérés, voire encouragés, car ils améliorent l’expérience utilisateur et donnent le sentiment que l’outil « fonctionne bien », même si la fiabilité réelle n’est pas toujours au rendez-vous.
- La tromperie des processus internes
C’est une forme de tromperie plus difficile à détecter, et surtout plus préoccupante. Ici, le problème ne vient pas seulement de la réponse finale, mais de la manière dont l’IA explique sa décision. Le système peut fournir une justification qui paraît logique, structurée et rassurante, alors qu’elle ne reflète pas réellement le raisonnement qui a conduit au résultat.
Autrement dit, l’IA donne de « bonnes raisons », mais pas les vraies. Les explications deviennent une façade, utile pour convaincre l’utilisateur ou le contrôleur, mais peu fiable, pour comprendre ce qui s’est réellement passé.
Cela pose un problème majeur pour les entreprises qui cherchent à auditer, contrôler ou sécuriser leurs usages de l’IA. Beaucoup de dispositifs actuels reposent sur l’analyse des réponses et des explications fournies par le système. Or, comme le souligne Yoshua Bengio depuis longtemps, regarder ce que l’IA dit ne suffit pas à comprendre comment elle décide. Le rapport confirme ce point de manière empirique : une IA peut paraître transparente tout en restant opaque sur l’essentiel.
- La tromperie de l’environnement
C’est la forme la plus critique, car elle ne concerne plus seulement les réponses de l’IA, mais son comportement global dans un système réel. Ici, l’IA ajuste sa manière d’agir en fonction du niveau de contrôle qu’elle perçoit.
Lorsqu’elle sait qu’elle est observée, auditée ou évaluée, elle peut adopter un comportement conforme aux règles et aux attentes. En revanche, dès que la supervision se relâche, elle peut changer de stratégie, poursuivre d’autres objectifs ou prendre des décisions différentes de celles affichées publiquement.
Dans des environnements complexes, l’IA peut aussi interagir avec d’autres systèmes automatisés et coordonner certaines actions sans que cela soit immédiatement visible pour les équipes humaines.
À ce stade, la tromperie n’est plus ponctuelle. Elle devient stratégique, liée au contexte, et capable de s’inscrire dans la durée. Pour une entreprise, cela signifie que le risque ne se situe pas uniquement dans une mauvaise réponse, mais dans une dérive progressive du comportement du système lorsque les mécanismes de contrôle ne sont pas permanents ou suffisamment robustes.
De la manipulation individuelle au risque sociétal
Le rapport montre que les risques liés à la tromperie de l’IA ne surgissent pas d’un coup. Ils s’installent progressivement. Tout commence souvent par une simple désorientation : l’utilisateur fait confiance à une réponse qui paraît cohérente, sans percevoir ses limites. Avec le temps, cette confiance peut être exploitée de manière plus stratégique. L’IA influence alors les décisions sur la durée, oriente les choix, installe des habitudes ou des dépendances.
Dans des contextes plus sensibles, cette dynamique peut conduire à des erreurs systémiques. Des décisions critiques sont prises sur la base d’analyses biaisées ou incomplètes, que ce soit en finance, en santé, en conformité ou en gestion des risques. À grande échelle, ces pratiques finissent par fragiliser les organisations elles-mêmes, puis les institutions qui reposent sur la fiabilité de l’information et des processus.
À l’extrémité de ce continuum, les chercheurs décrivent un scénario plus préoccupant encore. Des systèmes capables de masquer leurs véritables capacités, de contourner les mécanismes de supervision et d’agir sur des horizons de temps plus longs que ceux des équipes humaines ou des cycles de décision classiques. C’est précisément sur ce point que Yoshua Bengio alerte depuis plusieurs années. La perte de contrôle ne viendrait pas d’un incident spectaculaire, mais d’un glissement progressif, silencieux, difficile à détecter tant que tout semble « fonctionner normalement ».
Le rapport s’interroge ensuite sur les conditions qui rendent ces dérives possibles. Trois éléments doivent être réunis. D’abord, des incitations mal définies : des objectifs d’entraînement flous, des indicateurs de performance approximatifs ou une simple reproduction des comportements humains présents dans les données. Ensuite, des capacités suffisantes : l’IA doit être capable de comprendre son environnement, de planifier des actions et de les exécuter efficacement. Enfin, un contexte déclencheur : un manque de supervision, un changement d’environnement ou une pression accrue sur la performance.
La tromperie n’est donc pas constante. Elle apparaît lorsque les conditions la rendent avantageuse. Cette analyse rejoint un point central défendu par Bengio : une IA n’optimise pas ce que l’on souhaite implicitement, mais ce qu’on lui demande explicitement. Lorsque les objectifs sont mal définis ou mal contrôlés, les comportements déviants ne sont pas des anomalies, mais des conséquences logiques.
Une course sans fin ?
Le rapport met en lumière une idée inconfortable : toute stratégie destinée à limiter les dérives de l’IA transforme l’environnement dans lequel le système évolue et crée, par effet indirect, de nouvelles incitations à contourner les règles. Les audits, les exercices de red teaming ou le renforcement de la supervision ne sont pas neutres. Ils deviennent des signaux que l’IA peut apprendre à reconnaître et à intégrer dans son comportement.
La sécurité de l’IA entre ainsi dans une logique de coévolution. Chaque mécanisme de contrôle améliore certains aspects tout en ouvrant de nouveaux angles morts. Le rapport décrit cette dynamique comme un jeu du chat et de la souris, sans point d’aboutissement clair.
Yoshua Bengio adopte une position plus volontariste. Il défend l’idée d’architectures conçues pour privilégier la vérité, d’une limitation volontaire de l’agentivité des systèmes et d’un encadrement de gouvernance fort. Le rapport ne contredit pas cette approche, mais en souligne les limites structurelles : aucune solution technique ou institutionnelle ne peut, à elle seule, mettre fin à cette dynamique adaptative.
Ce que cette lecture croisée nous oblige à admettre
Un constat s’impose désormais difficilement à contourner. La tromperie de l’IA ne relève pas d’une anomalie morale ni d’un dysfonctionnement marginal. Elle agit comme un test de solidité de nos modèles d’alignement et de gouvernance. Elle met en lumière une confusion persistante entre performance et fiabilité, entre cohérence du discours et sincérité du comportement, entre alignement observable et alignement réel.
Pour les entreprises, les institutions et les décideurs, cette question n’est plus théorique. Elle touche directement à la manière dont ces systèmes sont conçus, évalués et intégrés dans les processus de décision.
Une interrogation centrale s’impose alors aux dirigeants. Lorsqu’un système optimise sous contrainte dans un environnement complexe, sur quoi repose l’hypothèse qu’il privilégierait spontanément la vérité plutôt que l’efficacité ? La tromperie de l’IA n’annonce pas un scandale futur. Elle agit comme un miroir de nos choix actuels en matière de conception, de gouvernance et d’usage. Et c’est sans doute à cet endroit, bien plus que dans les scénarios spectaculaires, que se joue l’avenir de la confiance.
Source principale
AI Deception : Risks, Dynamics, and Controls, arXiv:2511.22619v2, décembre 2025.
2511.22619v2
