GenAI transforme la sécurité des données : ce que les responsables de la sécurité doivent savoir

L'essor de l'IA générative (GenAI) transforme en profondeur les programmes de sécurité des données, obligeant votre équipe de sécurité à repenser les approches traditionnelles. Les outils GenAI comme ChatGPT ou DeepSeek sont devenus des atouts précieux pour les équipes Produit, Marketing et Commerciales. Il est donc probable que davantage de vos employés utilisent ces outils et y saisissent des données d'entreprise que vous ne le pensez. Rassurez-vous, vous n'êtes certainement pas la seule équipe concernée. Notre conseil : intégrez pleinement ces outils, mais en adoptant une approche fondée sur les données.

Alors que votre équipe s'efforce d'exploiter le potentiel de l'IA de nouvelle génération, de nouveaux défis émergent en matière de protection des données, de confidentialité et de conformité. Cet article explore trois transformations majeures à l'origine de ces changements :

1. Besoin urgent de plateformes de sécurité des données natives de l'IA pour l'IA générale

À mesure que les organisations intègrent l'IA de génération (GenAI) à leurs processus, un nouveau risque apparaît : l'exposition des données lors de l'entraînement des modèles d'IA et via les invites. Faute d'une gouvernance adéquate, la GenAI peut exposer par inadvertance des données sensibles à des utilisateurs internes non autorisés, à des fournisseurs externes ou à des fournisseurs de services cloud, voire créer des risques d'accès interne par le biais d'invites malencontreuses.

Pour atténuer ces risques, les organisations doivent privilégier les solutions de sécurité des données conçues avec des architectures natives de l'IA, qui :

• Découvrir et classer les données : Identifiez les données sensibles dans des référentiels structurés et non structurés avec rapidité, à grande échelle et avec une hyper-précision. Conseil de pro Lors de votre évaluation comparative, privilégiez la rapidité de déploiement, la vitesse d'analyse et la couverture. Évitez toute solution offrant une précision de classification inférieure à 95 %. Les architectures natives de l'IA doivent être un prérequis pour toute plateforme de sécurité des données choisie.
• Identifier les outils d'IA de génération sans accès surprivilégié : Identifier et analyser le contexte de l'identité non humaine, et déterminer quelles données sensibles sont accessibles à ces outils. Ensuite, minimiser l'accès là où il n'est pas nécessaire afin de réduire les risques.
• Surveiller l'accès à GenAI : Surveillez la manière dont les modèles d'IA interagissent avec les données, en veillant au respect des politiques de sécurité.
• Détection des pipelines de données : Détectez les connexions non autorisées aux systèmes externes et atténuez les risques liés aux tiers. Empêchez les fuites de données sensibles vers les outils GenAI et l'intégration de données non nettoyées dans les LLM.

Commencez par adopter une solution DSPM axée principalement sur la découverte et la classification des données. Il s'agit du fondement de toute sécurité des données. Ces solutions, autrefois considérées comme un concept de niche, sont devenues une pratique courante en matière de sécurité ; les responsables de la sécurité doivent donc intégrer ces fonctionnalités à leur stratégie globale de sécurité des données.

2. Utilisation de données synthétiques plutôt que de l'anonymisation traditionnelle dans l'entraînement de GenAI

Nos échanges avec nos clients du Fortune 2000 révèlent que les équipes de données privilégient de plus en plus les données synthétiques aux techniques d'anonymisation traditionnelles pour l'entraînement des modèles d'IA. Les entreprises établies qui souhaitent protéger leurs données sensibles s'appuient désormais sur des solutions générant des jeux de données synthétiques spécifiques à leur secteur ou personnalisés, contribuant ainsi à réduire les risques de divulgation de données réelles. Contrairement aux données anonymisées, les données synthétiques garantissent une meilleure protection de la vie privée tout en palliant le manque de données d'entraînement réelles.

Voici quelques avantages de cette approche :

• Confidentialité et protection des données renforcées : En générant des ensembles de données artificiels, les organisations minimisent les risques associés à l'utilisation de données réelles, qui contiennent souvent des informations sensibles.
• Amélioration des performances du modèle d'IA : Les données synthétiques permettent de s'entraîner sur divers cas limites et scénarios rares, améliorant ainsi la fiabilité de l'IA.
• Gestion des biais et des erreurs : Les données synthétiques générées par l'IA peuvent être supervisées pour éviter le renforcement des biais ou, inversement, pour introduire des biais intentionnels dans des cas d'utilisation spécifiques comme la détection de fraudes.

Pour des secteurs comme soins de santé et financeDans les pays où la réglementation sur la protection de la vie privée est plus stricte, les données synthétiques deviennent un élément essentiel de l'adoption de l'IA. Les données réelles ne sont utilisées que périodiquement pour valider l'alignement du modèle et surveiller les dérives, réduisant ainsi l'exposition aux informations sensibles. Alors, utilisez des données synthétiques !

3. Le passage de la sécurité des données structurées à la sécurité des données non structurées

Historiquement, les solutions de sécurité des données se concentraient sur les données structurées, telles que les bases de données et les enregistrements transactionnels. Cependant, les capacités de GenAI vont bien au-delà des données structurées, car elles lui permettent de traiter de vastes quantités de données non structurées, notamment du texte, des images et des vidéos. Un véritable défi.

À l’instar des deux méga-changements que nous avons déjà évoqués, ce changement a également des implications majeures pour les équipes de sécurité :

• Les données non structurées comme priorité en matière de sécurité : Les organisations prennent de plus en plus conscience de la valeur — et des risques — associés aux données non structurées.
• Surfaces d'attaque plus larges : Les informations sensibles se trouvent souvent dans les courriels, les historiques de conversations, les documents juridiques et les fichiers multimédias, autant de types de données que GenAI peut traiter. Nous avons constaté des cas où des administrateurs de dossiers de cadres supérieurs disposent d'un dossier spécial contenant des numéros de carte de crédit, des numéros de sécurité sociale et des coordonnées bancaires. Ce phénomène est donc beaucoup plus courant qu'on ne le pense.
• Nouvelles stratégies de protection : Les solutions de sécurité des bases de données traditionnelles sont insuffisantes. Les entreprises doivent désormais déployer des mesures de sécurité qui couvrent l'ensemble des formats de données.

Avec la démocratisation de l'accès à l'analyse des données non structurées grâce à l'IA générale, les équipes de sécurité doivent veiller à la mise en place de protections adéquates afin de prévenir tout accès non autorisé et toute fuite de données. Compte tenu de la rapidité d'adoption de l'IA générale et du fait que la sécurité ne souhaite jamais être perçue comme un service opposant systématiquement les intrusions, cela représente un défi de taille.

Pour conclure…

La demande en intelligence artificielle générale (GenAI) continue de croître, les entreprises étant désireuses d'exploiter le potentiel de l'IA dans diverses applications. Cependant, les préoccupations relatives à l'exactitude des données, à la confidentialité et à la conformité réglementaire demeurent des obstacles importants à son adoption. Loi européenne sur l'IA est un parfait exemple de ce domaine de l'IA en pleine évolution.

Les hauts dirigeants font désormais pression sur les responsables informatiques et de la sécurité pour qu'ils s'attaquent de front à ces défis. En conséquence, des budgets sont alloués à un mélange de contrôles de sécurité éprouvés et de technologies innovantes en phase de démarrage, notamment dans le domaine de la gestion des données et de la prévention des menaces. En effet, la plupart des RSSI et des DSI avec lesquels nous discutons affirment souvent que leurs budgets sont réduits dans tous les domaines SAUF celui de la sécurité des données.

Voici quelques actions stratégiques à l'intention des responsables de la sécurité des données.

1. Investissez dans les technologies DSPM – Mettre en œuvre des outils permettant de visualiser l’accès aux données de GenAI et de garantir leur conformité aux politiques de sécurité.Adopter la génération de données synthétiques – Passer de l’anonymisation traditionnelle à des solutions de données synthétiques afin de réduire les risques liés à la protection de la vie privée et les contraintes de conformité.
2. Améliorer la protection des données non structurées – Déployer des mesures de sécurité régissant les textes, les images, les vidéos et autres types de données non structurées de plus en plus utilisés par l'IA de génération.
3. Répartir les budgets de manière stratégique Ne vous y trompez pas, votre entreprise souhaite adopter l'IA. Réorientez donc vos ressources vers la sécurité des données et privilégiez une approche de sécurité GenAI plus globale qui vous permettra de déployer l'IA en toute sécurité, sans mettre vos données en danger. Ce mème me vient à l'esprit.

L'IA de nouvelle génération offre aux entreprises d'immenses opportunités, mais aussi de nouveaux risques. En s'attaquant de manière proactive aux problèmes de sécurité des données liés à l'IA, les organisations les plus avisées pourront tirer pleinement parti de cette technologie tout en protégeant les informations sensibles.

Agissez dès maintenant pour profiter de cette ère pilotée par l'IA.