Les combinaisons toxiques des risques liés à l'IA agentique

Points clés :

• Risque probabiliste : Contrairement aux systèmes déterministes, les agents IA suivent une intention (le « vibe-coding »), ce qui fait que le risque se matérialise en quelques millisecondes plutôt qu'en plusieurs jours.
• Le problème du «génie naïf» : Les agents opèrent à 50 millions de bits par seconde, dépassant largement la capacité de supervision humaine, tout en se déplaçant de manière autonome entre les environnements.
• Nécessité d'une approche centrée sur les données : Les silos hérités (réseau et identité) sont inefficaces face aux agents ; la sécurité doit se déplacer directement vers la couche de données pour résoudre le problème de visibilité.

J'ai vu le même scénario se répéter trois fois au cours de ma carrière. En 2007, nous avons essayé de dire « non » à l'iPhone parce que nous étions une entreprise BlackBerry et que nous pensions que c'était plus sûr. En 2015, la plupart des RSSI avec qui je discutais lors de conférences ou de dîners insistaient sur le fait que « le cloud » ne s'imposerait jamais en entreprise.

Aujourd'hui, nous sommes au seuil du troisième et plus grand changement : l'IA agentique. Il ne s'agit pas simplement d'un nouvel appareil ou d'un nouveau serveur ; c'est une nouvelle espèce d'utilisateur.

Nous avons passé 30 ans à sécuriser des systèmes « déterministes ». Des ordinateurs qui font exactement ce que nous leur disons de faire. S'ils échouent, c'est de notre faute. Mais les agents IA sont différents. Ils ne suivent pas du code ; ils suivent une intention. Ce sont des « génies naïfs » qui opèrent à 50 millions de bits par seconde, alors que nous sommes limités à 60 bits par seconde.

Si l'iPhone a été une fissure dans notre périmètre, les agents IA sont un coup de masse. Ils agissent en notre nom, se connectent pour nous et utilisent le « vibe-coding » pour naviguer à travers nos données les plus sensibles. Si vous pensez que votre pare-feu ou votre outil de protection des terminaux actuel est « conscient des agents », vous commettez la même erreur qu'avec le cloud en 2015.

L'entreprise est déjà en mouvement. Elle veut ce gain de productivité de 30 %, et elle le veut maintenant. Vous avez deux choix : rester le « gardien » d'une infrastructure moribonde et dire non, ou devenir l'Orchestrateur de l'Intelligence qui dit oui.

Dans la sécurité traditionnelle, les défaillances se produisent sur des heures ou des jours. Dans les systèmes agentiques, le risque se matérialise en quelques millisecondes. Le risque ne provient pas seulement de ce qu'un agent peut faire, il découle de la combinaison toxique entre des capacités fondamentales et des lacunes critiques en matière de contrôle.

Au-delà des systèmes déterministes : le passage à l'IA agentique

Dans la sécurité traditionnelle, les défaillances se produisent sur des heures ou des jours. Dans les systèmes agentiques, le risque se matérialise en quelques millisecondes. Le danger ne réside pas seulement dans ce qu'un agent peut faire. C'est la combinaison toxique des capacités fondamentales des agents qui rencontre des lacunes critiques en matière de contrôle.

Les cinq capacités fondamentales des agents IA

Tout agent utile doit posséder ces cinq pouvoirs, qui sont toutefois à double tranchant :

1. Accès aux données sensibles : Les agents explorent et ingèrent tout ce qui est à leur portée pour être utiles.
2. Capacité de communication externe : Les agents doivent communiquer avec le Web ouvert ou d'autres écosystèmes d'agents pour fonctionner.
3. Agilité latérale : Les agents se déplacent dans votre environnement au sein d'un maillage auto-orchestré.
4. Exposition à du contenu non fiable : Les agents apprennent en ingérant des données pouvant contenir des invites empoisonnées ou des intentions malveillantes.
5. Capacité d'écriture ou d'action : Les agents peuvent exécuter des transactions, supprimer des fichiers ou modifier des autorisations de manière autonome.

La collision fatale : quand les capacités de l'IA rencontrent des lacunes de contrôle

Le véritable cauchemar commence lorsque ces capacités se heurtent à trois contrôles manquants : Visibilité, application des politiques et attribution.

Imaginez un agent financier chargé de préparer des notes de synthèse pour la direction. Il a accès à des modèles d'évaluation, aux présentations du conseil d'administration et aux cibles d'acquisition. Il consulte également le Web ouvert pour « ajouter du contexte ». Une rumeur apparaît en ligne concernant une acquisition imminente. L'agent cherche à être utile. Il corrèle les projections internes avec les spéculations publiques et rédige un résumé.

Il écrit ensuite ce résumé dans un espace de travail partagé. 

En quelques minutes, des données confidentielles sur la transaction passent d'un dossier sécurisé du conseil d'administration à un environnement largement accessible. Un employé en fait une capture d'écran. L'information se propage en interne. Elle fuite à l'extérieur. Les régulateurs s'en mêlent. Les marchés réagissent.

Une telle situation ne nécessite aucun acteur malveillant ni logiciel malveillant. Il suffit d'une combinaison toxique d'accès à des données sensibles, d'ingestion externe, de création autonome de fichiers et d'une absence d'application des politiques au niveau des données.

Les exemples ne manquent pas. Lorsque les risques fondamentaux rencontrent des contrôles défaillants, des points de rupture catastrophiques apparaissent au sein même de vos environnements de production :

Trois points de rupture catastrophiques dans l'IA en production

1. La fuite de données silencieuse : Lorsqu'un agent a accès à des données personnelles (PII) sans que vous ayez la moindre visibilité sur ses activités, une brèche massive peut survenir avant même que vous ne sachiez que l'agent est actif.
2. Le rêve du ransomware : Si un agent dispose d'une autonomie de mouvement latérale sans mécanisme de contrôle pour l'arrêter, un processus malveillant peut compromettre l'ensemble de votre réseau interne en un instant.
3. Le cheval de Troie de la chaîne d'approvisionnement : Lorsqu'un agent communique avec l'extérieur sans que vous puissiez en attribuer l'identité ou l'intention, votre organisation devient un bot au service d'une attaque tierce. Il vous est alors impossible de déterminer si le transfert de données résulte d'une erreur humaine ou d'une prise de contrôle par une machine.

Sécuriser l'avenir : moderniser la pile de sécurité pour les agents

Le passage d'un code déterministe à une intention probabiliste rend nos silos traditionnels de sécurité réseau, terminaux et identité obsolètes pour l'ère des agents. Tenter de défendre un écosystème autonome avec des outils conçus pour des environnements statiques est une source assurée de dette technique et de fragilité opérationnelle.

À l'ère des agents, la posture de sécurité commence et finit par la donnée elle-même : son emplacement, ses mouvements et son contexte.

L'approche traditionnelle consistant à ériger des murs autour des applications devient inefficace dès lors qu'un agent commence à déplacer des données de manière autonome. En déplaçant la sécurité vers la donnée elle-même, nous résolvons le problème de visibilité à la source. Il s'agit de passer de la gestion de boîtes statiques à la sécurisation de l'environnement probabiliste à haute vitesse qui définira la prochaine décennie de l'informatique.

Découvrez comment Cyera permet aux organisations d' accélérer l'adoption de l'IA en entreprise sans introduire de risques.

Sécurité de l'IA agentique : questions et réponses clés

Question : Quels sont les principaux risques associés à l'IA agentique ? 

Réponse : Les risques principaux découlent de combinaisons critiques où les capacités des agents — comme l'accès aux données sensibles et l'autonomie d'action — rencontrent des lacunes en matière de visibilité, de contrôle et d'attribution. Cela peut entraîner des fuites de données silencieuses, une propagation fulgurante de ransomwares et des attaques indétectables via la chaîne d'approvisionnement.

Question : Pourquoi les outils de sécurité traditionnels ne parviennent-ils pas à protéger contre les agents IA ? 

Réponse : Les outils traditionnels ont été conçus pour des systèmes déterministes suivant un code strict. Les agents IA suivent une intention probabiliste et peuvent se déplacer latéralement à travers les environnements sous forme de maillage auto-orchestré, contournant ainsi les défenses périmétriques et les solutions de protection des terminaux qui ne sont pas adaptées aux agents.

Question : Comment les entreprises doivent-elles moderniser leur pile de sécurité pour l'ère de l'IA ? 

Réponse : La sécurité doit passer de la gestion d'une infrastructure statique à la sécurisation des données elles-mêmes. Étant donné que les agents déplacent les données de manière autonome, la visibilité et l'application des règles doivent s'opérer au niveau de la couche de données afin d'offrir le contexte et le contrôle nécessaires dans des environnements probabilistes à haute vitesse.

‍