DSPM ist Ihr KI-Minenräumer: Wie Cyera Ihnen helfen kann, sich im Bedrohungsumfeld der KI zurechtzufinden

In Generative AI Security: Theories and Practices zeichnet Ken Huang ein eindrucksvolles Bild der Bedrohungslage durch KI. In diesem Artikel werfen wir einen Blick auf einige der wichtigsten Merkmale dieser Landschaft – Beobachtbarkeit, Datenintegrität und -sicherheit, Berechtigungsrichtlinien und die Integration von Sicherheitstools – und darauf, wie die Data Security Platform von Cyera Ihrem Unternehmen dabei helfen kann, diese erfolgreich zu meistern.

Beobachtbarkeit

„Mit Tools wie Microsofts Copilot, die in verschiedenen Branchen immer wichtiger werden“, sagt Huang, „übersteigt die Geschwindigkeit, mit der KI-Modelle Ergebnisse erzeugen, oft die Fähigkeit von Unternehmen, entsprechende Sicherheitsprotokolle durchzusetzen.“

Eine zentrale Herausforderung besteht hier in der korrekten Datenklassifizierung. Laut Tina Ying und Neta Haiby von Microsoft werden manuelle Klassifizierungsbemühungen einfach zu langsam sein, um mit von KI generierten Daten Schritt zu halten. Glücklicherweise kann Cyeras KI-natives DSPM Daten überall in Ihrem Datenbestand entdecken und klassifizieren – unabhängig davon, wer oder was sie generiert – und das mit einer Präzision von 95 Prozent. Im Gegenzug kann Cyeras Omni DLP in Echtzeit eingreifen und die übermäßige Weitergabe von KI-generierten Daten verhindern.

Ein weiteres Problem im Bereich der Beobachtbarkeit betrifft das Management von Risiken durch Dritte, insbesondere wo und wie organisatorische Daten entlang der Lieferkette offengelegt werden könnten. Wie Belle Lin es im Wall Street Journal formulierte:

„Die Herausforderung bei generativer KI besteht darin, dass sich die Technologie so rasant entwickelt, dass Unternehmen eilig herausfinden müssen, ob sie neue Cybersicherheitsprobleme mit sich bringt oder bestehende Sicherheitslücken verstärkt. Währenddessen haben Technologieanbieter Unternehmen mit neuen, auf generativer KI basierenden Funktionen und Angeboten überschwemmt – von denen nicht alle benötigt werden oder überhaupt bezahlt wurden.“

Auch hier kann Cyera Ihre Daten überall dort entdecken, wo sie sich befinden, einschließlich in Shadow-IT-Anwendungen und -Diensten, die generative KI nutzen. Organisationen können die von Cyera bereitgestellte Transparenz nutzen, um ein Inventar von KI-Assets zu erstellen und zu verwalten. Außerdem können sie Cyeras Omni DLP einsetzen, um zu verhindern, dass Nutzer wertvolles geistiges Eigentum oder sensible Kundendaten mit KI-gestützten Anwendungen teilen.

Datenintegrität und Sicherheit

Datenintegrität wird die zentrale Herausforderung des KI-Zeitalters sein, und Huang benennt zwei Hauptbedrohungen: Datenvergiftung und Datenmanipulation. Datenvergiftung bezeichnet die Verfälschung von Trainingsdatensätzen, um ein LLM dazu zu bringen, ein gewünschtes Ergebnis zu erzeugen. Mit Datenmanipulation meint Huang den Einsatz von KI zur Erstellung von Inhalten wie Deepfakes, Desinformation oder anderen Artefakten, die für böswillige Zwecke genutzt werden könnten.

Cyeras Data Risk Assessment Service bietet Ihnen einen vollständigen Überblick über die Risiken für Ihren Datenbestand, einschließlich KI-Trainingsdatensätze. Durch die Nutzung seines DSPM in Verbindung mit virtuellen, von CISOs geleiteten Bewertungen in Bezug auf dreißig verschiedene Kontrollrahmenwerke wie ISO 27001 und NIST CSF, liefert Cyera Ihnen umsetzbare Erkenntnisse, mit denen Sie Ihre Angriffsfläche sofort verkleinern, potenzielle Bedrohungen erkennen und einen Plan zur Verbesserung Ihrer Datensicherheitslage für die Zukunft entwickeln können.

Cyera's KI-native Datensicherheitsplattform stellt die Trennung von Trainings-, Test- und Validierungsdaten für KI-Systeme sicher. Sie erkennt außerdem riskantes Verhalten und schützt proaktiv vor Betrug und Insider-Bedrohungen.

KI stellt auch eine Bedrohung für die Datensicherheit dar. Insbesondere beschreibt Huang das potenzielle Problem von Datenlecks durch die Aggregation von Trainingsdatensätzen. Selbst wenn Trainingsdaten anonymisiert wurden, können generative KI-Systeme möglicherweise zwischen verschiedenen Trainingsdatensätzen triangulieren und sensible oder persönliche Daten ableiten. Aber Cyeras Omni DLP überwacht und klassifiziert KI-generierte Daten in Echtzeit und kann warnen, wenn KI-Tools versuchen, Dinge wie PII, PHI oder Geschäftsgeheimnisse zu erstellen und zu teilen.

Berechtigungsrichtlinie

Laut Huang „birgt das Fehlen klarer Berechtigungsrichtlinien in Bezug auf GenAI-Systeme erhebliche Risiken für Datenschutz und -sicherheit. Ohne festgelegte Zugriffskontrollen und Benutzerrollen kann sensible Information unbefugten Nutzern offengelegt werden.“

Darüber hinaus sind ein robustes Identitäts- und Zugriffsmanagement sowie die Nutzung von rollenbasierten Zugriffskontrollen nicht nur für menschliche Nutzer relevant. Jason Clinton, CISO von Anthropic, ist der Meinung, dass wir nur noch zehn Monate davon entfernt sind, vollständig autonome Sicherheitsverteidiger in unseren SOC-Umgebungen einzusetzen. In zwei bis drei Jahren, so seine Prognose, werden alle menschlichen Cybersicherheitsfachkräfte Teams von KI-Agenten leiten. Diese Agenten werden organisatorische Identitäten und Berechtigungen benötigen, und die gleichen Anforderungen an Authentifizierung und das Prinzip der minimalen Rechte werden auch für sie gelten.

Cyera kann alle Entitäten identifizieren, egal ob menschlich oder nicht-menschlich, intern oder extern, die Zugriff auf Ihre Daten haben. Es kann einen Katalog von Identitäten und zugehörigen Berechtigungen erstellen, der Administratoren dabei hilft, Ihre risikoreichsten Nutzer zu identifizieren, veraltete Identitäten zu erkennen, deren Zugriff entzogen werden sollte, RBAC aufrechtzuerhalten und Konfigurationsabweichungen zu verhindern.

Integration von Sicherheitstools

Huang argumentiert, dass Sicherheitsanbieter „Connectoren und APIs entwickeln müssen, die eine nahtlose Kommunikation zwischen GenAI und SIEM-, DLP- und SOAR-Systemen ermöglichen“, und dass das Fehlen dieser Integrationen zu einer „zersplitterten Sicherheitslandschaft führen wird, in der Bedrohungen unentdeckt bleiben können“.

Bei Cyera sind wir derselben Meinung. Cyera kann sich in Ihre bestehenden SIEM-, SOAR- und DLP-Tools integrieren, um die Koordination der Incident Response und die Automatisierung von Remediation-Workflows zu unterstützen. Darüber hinaus stellt Cyeras Omni DLP-Lösung einen Quantensprung gegenüber bestehenden DLP-Tools dar. Die KI-native Policy Engine von Omni versteht die DNA Ihrer Daten und ermöglicht es, DLP-Regeln zu erstellen, die tatsächlich für die von Ihnen relevanten Datenkategorien passen. Die Klassifizierungs-Engine analysiert und priorisiert Datenereignisse, reduziert Fehlalarme um 95 Prozent und entlastet so Sicherheitsexperten, damit sie sich auf die wirklich wichtigen Themen konzentrieren können.

Fazit

Wie Shane Coleman, Chief Data Security Evangelist von Cyera, gesagt hat, bietet KI Unternehmen die Möglichkeit, „neue Märkte vor der Konkurrenz zu erschließen, die Kundentreue zu stärken und eine beispiellose interne Produktivität freizusetzen. Aber ... Geschwindigkeit ohne Überlegung ist nur ein getarntes Risiko.“ Wenn Sie nicht wissen, welche Daten Sie haben und wo sie sich befinden, ist der Versuch, KI sicher einzusetzen, wie ein blindes Umherirren in einem Minenfeld.

Cyera's Datensicherheitsplattform ist Ihre Landkarte, Ihr Kompass und Ihr Minensuchgerät in einem. Die KI-nativen Erkennungs- und Klassifizierungsfunktionen von Cyera DSPM sowie die intelligente Richtlinien-Engine von Omni DLP geben Ihnen das Vertrauen, sich schnell und sicher in der KI-Bedrohungslandschaft zu bewegen. Erfahren Sie mehr unter cyera.com.