GenAI verändert die Datensicherheit: Was Sicherheitsverantwortliche wissen müssen

Der Aufstieg von Generativer KI (GenAI) verändert Daten­sicherheits­programme grundlegend und erfordert, dass Ihr Security-Team traditionelle Ansätze überdenkt. GenAI-Tools wie ChatGPT oder DeepSeek sind zu beeindruckenden Werkzeugen für Produktteams, Marketingteams und Vertriebsmitarbeiter geworden. Das bedeutet, dass wahrscheinlich mehr Mitarbeitende diese Tools nutzen und Unternehmensdaten eingeben, als Ihnen bewusst ist. Aber keine Sorge, Sie sind mit diesem Thema keinesfalls allein – unser Rat ist, sich darauf einzulassen, aber mit einem datengesteuerten Ansatz.

Während Ihr Team sich beeilt, das Potenzial von GenAI zu nutzen, treten neue Herausforderungen im Bereich Datenschutz, Privatsphäre und Compliance auf, derer Sie sich bewusst sein sollten. Dieser Artikel beleuchtet drei grundlegende Veränderungen, die diese Entwicklungen vorantreiben:

1. Der dringende Bedarf an KI-nativen Datensicherheitsplattformen für GenAI

Wenn Organisationen GenAI in ihre Arbeitsabläufe integrieren, entsteht ein neues Risiko: die Datenexponierung durch das Training von KI-Modellen und durch Prompts. Wenn GenAI nicht ordnungsgemäß gesteuert wird, kann es versehentlich sensible Daten an unbefugte interne Nutzer, externe Anbieter oder Cloud-Dienstleister weitergeben und sogar interne Zugriffsrisiken durch unachtsames Prompting schaffen.

Um diese Risiken zu mindern, müssen Organisationen Datensicherheitslösungen priorisieren, die mit AI-nativen Architekturen entwickelt wurden und die:

• Daten entdecken und klassifizieren: Identifizieren Sie sensible Daten in strukturierten und unstrukturierten Repositorien mit Geschwindigkeit, Skalierbarkeit und höchster Präzision. Profi-Tipp – Priorisieren Sie während Ihres Vergleichs die Bereitstellungsgeschwindigkeit, Scangeschwindigkeit und Abdeckung. Lösungen, die weniger als 95 % Präzision bei der Klassifizierung bieten, sollten vermieden werden. KI-native Architekturen sollten eine Grundvoraussetzung für jede von Ihnen gewählte Data Security Plattform sein.
• Gen AI-Tools ohne überprivilegierten Zugriff identifizieren: Identifizieren Sie die nicht-menschlichen Identitäten, sehen Sie sich deren Kontext an und bestimmen Sie, auf welche sensiblen Daten diese Tools zugreifen können. Anschließend sollten Sie den Zugriff dort minimieren, wo er nicht notwendig ist, um Risiken zu reduzieren.
• GenAI-Zugriff überwachen: Verfolgen Sie, wie KI-Modelle mit Daten interagieren, um die Einhaltung von Sicherheitsrichtlinien sicherzustellen.
• Datenpipelines erkennen: Decken Sie unautorisierte Verbindungen zu externen Systemen auf und minimieren Sie Risiken durch Dritte. Verhindern Sie, dass sensible Daten in GenAI-Tools gelangen, und dass unbereinigte Daten in LLMs eingespeist werden.

Beginnen Sie mit der Einführung einer DSPM-Lösung, die sich in erster Linie auf das Auffinden und Klassifizieren konzentriert. Dies ist die grundlegende Komponente jeder Datensicherheit. Diese Lösungen haben sich von einem Nischenthema zu einer gängigen Sicherheitsmaßnahme entwickelt; Sicherheitsverantwortliche müssen diese Fähigkeiten als Teil ihrer umfassenderen Data-Security-Strategie übernehmen.

2. Synthetische Daten statt herkömmlicher Anonymisierung beim GenAI-Training

Durch unsere Gespräche mit unseren Fortune-2000-Kunden stellen wir fest, dass Datenteams zunehmend synthetische Daten traditionellen Anonymisierungstechniken für das Training von KI-Modellen vorziehen. Reife Unternehmen, die sensible Daten maskieren möchten, setzen mittlerweile auf Lösungen, die branchenspezifische oder individuell angepasste synthetische Datensätze generieren – was dazu beiträgt, das Risiko einer Offenlegung echter Daten zu verringern. Im Gegensatz zu anonymisierten Daten gewährleisten synthetische Daten einen stärkeren Schutz der Privatsphäre und lösen gleichzeitig die häufige Herausforderung unzureichender realer Trainingsdaten.

Hier sind einige der Vorteile dieses Ansatzes:

• Erhöhter Datenschutz und verbesserter Schutz personenbezogener Daten: Durch die Generierung künstlicher Datensätze minimieren Organisationen die Risiken, die mit der Verwendung von Echtdaten verbunden sind, da diese häufig sensible Informationen enthalten.
• Verbesserte KI-Modellleistung: Synthetische Daten ermöglichen das Training mit vielfältigen Randfällen und seltenen Szenarien, wodurch die Zuverlässigkeit der KI verbessert wird.
• Bias- und Fehlermanagement: KI-generierte synthetische Daten können überwacht werden, um die Verstärkung von Vorurteilen zu verhindern oder umgekehrt gezielt Bias für bestimmte Anwendungsfälle wie Betrugserkennung einzuführen.

Für Branchen wie das Gesundheitswesen und Finanzwesen, in denen Datenschutzvorschriften besonders streng sind, wird synthetische Daten zunehmend zu einem unverzichtbaren Bestandteil der KI-Einführung. Echte Daten werden nur gelegentlich verwendet, um die Übereinstimmung des Modells zu validieren und Abweichungen zu überwachen, wodurch die Exposition sensibler Informationen reduziert wird. Nutzen Sie also synthetische Daten!

3. Der Wandel von strukturierter zu unstrukturierter Datensicherheit

Historisch konzentrierten sich Datensicherheitslösungen auf strukturierte Daten wie Datenbanken und Transaktionsaufzeichnungen. Die Fähigkeiten von GenAI gehen jedoch weit über strukturierte Daten hinaus – denn sie können riesige Mengen an unstrukturierten Daten wie Texten, Bildern und Videos verarbeiten. Das ist die eigentliche Herausforderung.

Wie die beiden Megashifts, die wir bereits besprochen haben, hat auch dieser Shift erhebliche Auswirkungen auf Sicherheitsteams:

• Unstrukturierte Daten als Sicherheitspriorität: Organisationen erkennen zunehmend den Wert – und das Risiko –, das mit unstrukturierten Daten verbunden ist.
• Größere Angriffsflächen: Sensible Informationen befinden sich häufig in E-Mails, Chat-Protokollen, juristischen Dokumenten und Mediendateien – all diese kann GenAI verarbeiten. Es gibt Beispiele von Administratoren für Führungskräfte, die einen speziellen Ordner haben, der Kreditkartennummern, Sozialversicherungsnummern und Bankkonten enthält. Das ist also viel häufiger, als viele denken.
• Neue Schutzstrategien: Herkömmliche Datenbanksicherheitslösungen sind unzureichend. Unternehmen müssen nun Sicherheitsmaßnahmen einsetzen, die das gesamte Spektrum an Datenformaten abdecken.

Da GenAI den Zugang zur Analyse unstrukturierter Daten demokratisiert, müssen Sicherheitsteams sicherstellen, dass die richtigen Schutzmaßnahmen vorhanden sind, um unbefugten Zugriff und Datenlecks zu verhindern. Das ist nicht immer einfach, angesichts der Geschwindigkeit, mit der GenAI eingeführt wird, und der Tatsache, dass die Sicherheit nie als „Abteilung des Neins“ wahrgenommen werden möchte.

Zum Abschluss…

Die Nachfrage nach GenAI wächst weiterhin, da Unternehmen bestrebt sind, das Potenzial von KI in verschiedenen Anwendungsbereichen zu nutzen. Dennoch bleiben Bedenken hinsichtlich Datengenauigkeit, Datenschutz und regulatorischer Compliance bedeutende Hürden für die Einführung. Der EU AI Act ist ein herausragendes Beispiel für diesen sich rasant entwickelnden KI-Bereich.

Führungskräfte setzen IT- und Sicherheitsverantwortliche nun zunehmend unter Druck, diese Herausforderungen direkt anzugehen. Infolgedessen werden Budgets für eine Mischung aus etablierten Sicherheitskontrollen und innovativen, frühen Technologien bereitgestellt, insbesondere im Bereich DSPM. Tatsächlich berichten die meisten CISOs und CIOs, mit denen wir sprechen, häufig, dass ihre Budgets in allen Bereichen KÜRZER werden – AUSSER im Bereich Datensicherheit.

Einige strategische Maßnahmen für euch, die Data Security-Führungskräfte da draußen

1. Investieren Sie in DSPM-Technologien – Implementieren Sie Tools, die Einblick in den Zugriff auf GenAI-Daten bieten und die Einhaltung von Sicherheitsrichtlinien gewährleisten.Setzen Sie auf synthetische Datengenerierung – Wechseln Sie von herkömmlicher Anonymisierung zu synthetischen Datenlösungen, um Datenschutzrisiken und Compliance-Aufwand zu reduzieren.
2. Schutz unstrukturierter Daten verbessern – Setzen Sie Sicherheitsmaßnahmen ein, die Texte, Bilder, Videos und andere unstrukturierte Datentypen absichern, die zunehmend von GenAI genutzt werden.
3. Budgets strategisch zuweisen – Machen Sie keinen Fehler: Ihr Unternehmen möchte KI einführen. Verlegen Sie daher Ressourcen von der reinen Datensicherheit hin zu einem ganzheitlicheren GenAI-Sicherheitsansatz, der Ihnen hilft, die Einführung von KI sicher zu ermöglichen, ohne Ihre Daten zu gefährden. Dieses Meme kommt mir dabei in den Sinn

GenAI bietet Unternehmen sowohl enorme Chancen als auch neue Risiken. Indem sie proaktiv die Sicherheitsbedenken bezüglich KI-Daten angehen, können kluge Organisationen die Vorteile von KI nutzen und gleichzeitig sensible Informationen schützen.

Handeln Sie jetzt, um von diesem KI-gesteuerten Zeitalter zu profitieren.