Dans nos précédents articles de cette série, nous avons examiné l'essor de l'IA agentique et ses implications pour le commerce numérique et l'identité. Nous avons expliqué comment les agents autonomes commencent à agir au nom des utilisateurs et des organisations, en prenant des décisions et en effectuant des transactions avec une autonomie croissante.
Cette évolution soulève une question fondamentale : comment établir, réguler et faire respecter la confiance dans un monde où les actions ne sont plus directement initiées par des êtres humains ?
La sécurité repose traditionnellement sur l'hypothèse claire selon laquelle un être humain est présent au point d'interaction. L'IA agentique remet cette hypothèse en question. On conçoit désormais des systèmes dans lesquels des agents logiciels déterminent quoi acheter, qui payer et quand agir, souvent sans intervention humaine en temps réel.
En conséquence, les modèles de sécurité existants doivent évoluer. L'objectif n'est plus simplement de protéger les systèmes contre les acteurs malveillants, mais de permettre une autonomie fiable dans des limites clairement définies et applicables.
Le modèle de sécurité traditionnel : la vérification des personnes
Les architectures traditionnelles de sécurité numérique ont été conçues autour d'un modèle relativement simple. Un utilisateur s'authentifie, lance une transaction, puis le système évalue le risque en se basant sur les identifiants, les signaux émis par l'appareil et les schémas comportementaux.
L'automatisation a longtemps été perçue comme une menace. Les bots étaient associés à la fraude, et les activités à haut débit étaient considérées comme suspectes. Cela a conduit à la généralisation de mesures de contrôle telles que les CAPTCHA, l'identification par empreinte numérique des appareils et l'authentification renforcée.
Ces approches se sont avérées efficaces car elles s'alignaient sur la manière dont les systèmes étaient utilisés. C'était l'utilisateur qui prenait les décisions, et le rôle du système consistait à vérifier son identité et à détecter les anomalies.
Le changement : donner les moyens aux agents de confiance
L'IA agentique introduit un nouveau paradigme. Les systèmes doivent désormais reconnaître que les acteurs non humains peuvent être des participants à part entière.
La question n'est plus de savoir si une interaction est automatisée, mais si l'agent est autorisé, s'il opère dans le respect de contraintes définies et s'il agit pour le compte d'un mandant dont l'identité a été vérifiée.
Cela implique de passer de la vérification d'identité à la gestion des autorisations déléguées. Les organisations doivent être en mesure de déterminer qui a autorisé un agent, ce qu'il est autorisé à faire, dans quelles conditions et pour quelle durée. Il est tout aussi important de pouvoir révoquer immédiatement cette autorisation si nécessaire.
Le concept « Know Your Agent » (KYA) s'impose comme le prolongement naturel du concept « Know Your Customer » (KYC), reflétant la nécessité d'instaurer un climat de confiance non seulement envers les personnes, mais aussi envers les systèmes agissant en leur nom.
L'identité devient contextuelle et déléguée
L'identité numérique n'a jamais été aussi unique ni aussi statique que le supposent de nombreux systèmes. Elle est intrinsèquement contextuelle et implique souvent une délégation entre des personnes, des organisations et des appareils.
L'IA agentique met cela clairement en évidence. Les agents ont besoin d'une forme d'identité qui leur permette d'être identifiés de manière unique, associés à un mandant et régis par des autorisations bien définies. Leurs actions doivent être observables et vérifiables.
Dès lors que les agents commencent à effectuer des transactions financières, à conclure des accords ou à déclencher des processus opérationnels, ils deviennent de fait des acteurs évoluant dans des environnements réglementés. En l'absence d'une identité et d'une responsabilité clairement établies, leur comportement devient impossible à distinguer d'une activité malveillante.
Une nouvelle surface d'attaque : l'intégrité des décisions
La cybersécurité traditionnelle vise principalement à protéger les systèmes contre les accès non autorisés et les codes malveillants. Les systèmes agentiques introduisent une nouvelle catégorie de risques : la manipulation du processus décisionnel.
Des menaces telles que l'injection rapide, l'usurpation d'identité d'un agent et l'empoisonnement des données peuvent conduire à des résultats logiquement cohérents du point de vue du système, mais indésirables ou nuisibles dans la pratique. Dans ces cas-là, le système n'a pas été compromis au sens traditionnel du terme, mais le résultat n'en reste pas moins dangereux.
Cela souligne la nécessité d'intégrer la sécurité au cœur même du processus décisionnel, plutôt que de se fier uniquement aux contrôles périmétriques.
Gérer une autonomie excessive
L'un des risques les plus importants liés aux systèmes agentiels est l'autonomie excessive. Celle-ci survient lorsque les agents se voient attribuer des objectifs généraux sans contraintes suffisamment précises.
Dans ces scénarios, les agents peuvent prendre des mesures qui, d’un point de vue technique, répondent à leurs objectifs, mais vont au-delà de l’intention de l’utilisateur. Il ne s’agit pas d’un comportement malveillant, mais plutôt d’une conséquence de l’optimisation des résultats en l’absence d’une gouvernance adéquate.
Il devient essentiel de cerner l'intention de l'utilisateur et de la traduire en contraintes applicables. La sécurité doit non seulement viser à empêcher les actions non autorisées, mais aussi à garantir que les actions autorisées restent conformes aux attentes.
La tokenisation évolue vers l'application des politiques
La tokenisation reste un mécanisme de contrôle important, notamment dans le domaine des paiements. Cependant, dans un environnement basé sur des agents, les jetons doivent contenir davantage qu'une simple référence à un actif sous-jacent ou à un identifiant.
Ils doivent définir le champ d'application de la délégation, les contraintes stratégiques, les délais et la traçabilité. Sans ce contexte, la tokenisation se contente d'accélérer les transactions sans améliorer le contrôle.
Cela rend nécessaire la mise en place de cadres de gestion des jetons plus sophistiqués, qui intègrent directement les politiques et les autorisations au niveau de la couche transactionnelle.
Vérifiabilité et responsabilité
Dans la mesure où les agents agissent pour le compte des utilisateurs, la capacité à expliquer et à retracer les décisions prises devient essentielle. Il ne suffira plus d'attribuer des actions à un système sans comprendre comment et pourquoi ces actions ont été menées.
Les organisations doivent être en mesure de retracer l'origine des décisions jusqu'à l'intention initiale, aux données prises en compte, aux contraintes appliquées et à la logique suivie. Ce niveau de traçabilité est indispensable pour répondre aux exigences réglementaires et renforcer la confiance des utilisateurs.
Sans cela, la responsabilité devient floue, ce qui engendre des risques tant pour les prestataires de services que pour les utilisateurs finaux.
La complexité des systèmes multi-agents
Ces défis sont encore plus marqués dans les environnements où plusieurs agents interagissent. La coordination entre les agents engendre de nouveaux risques, notamment la participation non autorisée, le décalage des objectifs et les erreurs en cascade.
La sécurité de ces systèmes nécessite de s'orienter vers la gestion des interactions et des comportements émergents, plutôt que de se concentrer uniquement sur les terminaux individuels. Cela exige de nouvelles approches combinant des éléments de conception des systèmes, de gouvernance et de surveillance continue.
De la sécurité à la gouvernance
La transformation la plus importante réside dans le passage d'une conception de la sécurité en tant que fonction défensive à celle de la gouvernance en tant que capacité facilitatrice.
Les organisations doivent définir qui est habilité à créer des agents, comment ceux-ci sont certifiés, quelles règles ils doivent respecter, ainsi que la manière dont ils sont surveillés et contrôlés au fil du temps. Cela renforce le rôle des fournisseurs d'identité, des réseaux de paiement et des autorités de régulation dans la mise en place de cadres communs de confiance.
En l'absence d'une gouvernance réfléchie, l'écosystème risque de se fragmenter et de manquer de cohérence, chaque plateforme imposant ses propres règles et normes.
Conclusion : instaurer la confiance à grande échelle
Le défi ne consiste pas à empêcher les agents d'agir, mais à leur permettre d'agir en toute sécurité, en toute transparence et dans le respect de limites clairement définies.
L'IA agentique marque un tournant fondamental dans la manière dont les décisions sont prises et mises en œuvre. La sécurité doit évoluer en conséquence, en allant au-delà des modèles traditionnels axés sur l'authentification et la détection des fraudes.
L'avenir de la confiance numérique dépendra de notre capacité à associer identité, politique et vérifiabilité au sein d'un cadre cohérent qui favorise à la fois l'autonomie et le contrôle.
Dans ce contexte, la « confiance programmable » devient une capacité fondamentale. Elle permet aux organisations de définir, d’appliquer et de vérifier les conditions dans lesquelles les agents opèrent, créant ainsi un système où l’autonomie peut évoluer sans compromettre la responsabilité.
Pour en savoir plus, consultez notre série d'articles sur le commerce basé sur l'IA agentique :
Chapitre I: L'IA agentique et les paiements : quand l'IA se dote d'un portefeuille et d'une volonté propre.
Chapitre II : Le commerce agentique : quand votre portefeuille se dote d’un cerveau.
Chapitre III : Le commerce agentique : un numéro consacré à Llamas.
Chapitre V : Des émotions aux algorithmes : pourquoi le commerce agentique a besoin d’une nouvelle couche de confiance.
Chapitre VI : Combler le déficit de confiance dans le commerce agentique.
Chapitre VII : Cadre de confiance : instaurer une confiance vérifiable pour les transactions autonomes.
Chapitre VIII : Du KYA à la confiance continue : réguler le commerce agentique en production avec FACT.
Chapitre IX : Le KYA ne suffit pas : présentation de FACT, la couche de confiance d’exécution pour le commerce agentique.
Chapitre X : L’agent qui a triché à l’examen
