Von KI bis Identität: 5 Erkenntnisse der Black Hat 2024 über moderne Datensicherheit

Auf der Black Hat 2024 standen Datensicherheit, Identität und KI im Mittelpunkt der Diskussionen, da Unternehmen mit den Herausforderungen der Integration von KI-Technologien wie Microsoft Copilot zu kämpfen haben und gleichzeitig robuste Maßnahmen zur Datensicherheit und zum Identitätszugriff gewährleisten müssen. Es besteht ein deutlicher Konflikt: der Wunsch, modernste KI-Technologien zu nutzen, steht im Gegensatz zu den damit verbundenen Sicherheitsrisiken.

Im Folgenden analysieren wir die KI-Problematik und mehr und präsentieren unsere 5 wichtigsten Erkenntnisse von der Black Hat 2024.

1. Das KI-Dilemma: Innovation und Sicherheit im Gleichgewicht halten

Es herrschte weitgehende Einigkeit darüber, dass KI-Sicherheit im Kern Datensicherheit ist. Unternehmen sind bestrebt, KI-Technologien einzuführen, bleiben aber angesichts der Risiken, insbesondere bei mangelnder Datentransparenz, vorsichtig. Die Befürchtung, dass ein einziges kompromittiertes Konto oder ein unregulierter KI-Trainingsprozess zu einem schwerwiegenden Datenleck, einem Verstoß gegen Compliance-Vorgaben oder fehlerhaften KI-Ergebnissen führen könnte, ist berechtigt. Dieses Risiko veranlasst viele, den Einsatz von KI-Tools ohne angemessene Sicherheitsvorkehrungen, einschließlich Datenbereinigungsverfahren und strenger Zugriffskontrollen, zu überdenken.

Eines der dringlichsten diskutierten Probleme war die unbeabsichtigte Einspeisung sensibler Informationen, wie etwa geistigen Eigentums oder personenbezogener Daten, in KI-Modelle. Werden solche Daten zum Trainieren von KI verwendet, kann dies zu unbeabsichtigten Folgen führen, beispielsweise zur Generierung von Ergebnissen, die diese sensiblen Informationen offenlegen.

Vor diesem Hintergrund wurde auch die immer wiederkehrende Sorge thematisiert, die sich aus der Möglichkeit ergibt, dass ein Angreifer Zugriff auf ein Benutzerkonto erlangt und Copilot nutzt, um in großem Umfang sensible Informationen wie IP- oder PII-Daten zu extrahieren.

Es bestehen weiterhin Bedenken hinsichtlich der langfristigen Folgen der Einbettung sensibler Daten in KI-Modelle. Sobald Daten im Training verwendet wurden, ist es schwierig, wenn nicht gar unmöglich, sie vollständig aus dem Modell zu entfernen. Diese Persistenz birgt ein dauerhaftes Risiko, insbesondere wenn die Daten ursprünglich nicht für das Training vorgesehen waren. Da KI zunehmend in Geschäftsprozesse integriert wird, müssen Unternehmen ihre Datensicherheitspraktiken kontinuierlich weiterentwickeln, um diesen neuen Herausforderungen gerecht zu werden.

Nvidia veranschaulichte dies zudem anhand einer Fallstudie mit einem KI-gestützten Kundenservice-Chatbot, bei dem ein unsicheres Plugin zu unberechtigtem Datenzugriff führte. Dieses Beispiel unterstrich die entscheidende Bedeutung einer sicheren Integration bei der Implementierung von Plugins in KI-Systemen.

Zusammenfassend lässt sich sagen, dass wir immer wieder von vier Anwendungsfällen im Bereich KI-Sicherheit gehört haben.

• Sicherstellen, dass Copilot und andere KI-Assistenten nicht auf sensible Daten zugreifenOrganisationen wollen verhindern, dass generative KI-Tools mit regulierten oder sensiblen Daten interagieren, um so das Risiko versehentlicher Datenlecks zu mindern.
• Bereinigung der TrainingsdatenBevor Daten zum Trainieren oder Optimieren von KI-Modellen verwendet werden, ist es entscheidend sicherzustellen, dass sie keine regulierten Daten oder personenbezogenen Daten enthalten. Dieser Schritt ist unerlässlich, um die Einhaltung gesetzlicher Bestimmungen zu gewährleisten und sensible Informationen zu schützen.
• Steuerung der KI-AusgabeEs besteht eine wachsende Nachfrage nach Mechanismen, die sicherstellen, dass KI-generierte Ergebnisse ordnungsgemäß gekennzeichnet und kontrolliert werden, insbesondere wenn es sich um sensible oder regulierte Daten handelt.
• KI-InventarViele Organisationen äußerten den Wunsch, einfach zu wissen, wo KI in ihren Systemen eingesetzt wird. Ein Verzeichnis der KI-Tools und -Anwendungen kann helfen, diese Technologien effektiver zu verwalten und zu sichern.

Mehr über Cyeras Ansatz zur Absicherung von KI-Tools erfahren Sie in unserem kürzlich abgehaltenen Webinar. „Von künstlich zu intelligent: Datensicherung für KI“

2. MFA-Implementierung: Das Dilemma des Entscheidungsbaums

Die Multi-Faktor-Authentifizierung (MFA) ist ein Eckpfeiler moderner Cybersicherheit, doch ihre Implementierung in großen Unternehmen gestaltet sich alles andere als einfach. Viele Organisationen arbeiten mit komplexen Entscheidungsprozessen, in denen die Nutzung von MFA für einige Benutzer verpflichtend ist, für andere jedoch nicht. Dieser uneinheitliche Ansatz resultiert häufig aus einem Mangel an Kontextinformationen über die Benutzer und die Arten von Datensätzen, auf die sie zugreifen können.

Es setzt sich zunehmend die Erkenntnis durch, dass das Verständnis des Nutzerkontexts und der Datenzugriffsmuster den Entscheidungsprozess für die Multi-Faktor-Authentifizierung (MFA) vereinfachen kann. Mit besseren Einblicken in die Zugriffsrechte können Unternehmen ihre MFA-Richtlinien optimieren und so sicherstellen, dass Personen mit Zugriff auf sensible Informationen angemessen geschützt sind. Letztendlich handelt es sich hierbei um eine Herausforderung im Bereich Identitäts- und Zugriffsmanagement.

3. Identität und externe Freigabe mit Microsoft 365

Auf der Black Hat-Konferenz wurde deutlich, dass Microsoft 365 nach wie vor ein unverzichtbares Werkzeug für die Zusammenarbeit ist, die externe Weitergabe von Datensätzen jedoch eine erhebliche Sicherheitsherausforderung darstellt. Sicherheitsteams stehen vor dem Dilemma, einerseits die operative Effizienz zu gewährleisten und andererseits sensible Informationen zu schützen. Zwar lässt sich die externe Weitergabe technisch absichern, dies kann jedoch Geschäftsprozesse stören und die Zusammenarbeit behindern.

Um dies zu bewältigen, greifen viele Sicherheitsteams auf benutzerdefinierte PowerShell-Skripte zurück, um freigegebene Dateien und Domänen zu überwachen. Es besteht jedoch ein deutlicher Bedarf an einer effizienteren Lösung – einer Art „Knopf“, der aufzeigt, wer Zugriff auf Dateien hat, wie diese freigegeben werden und mit wem.

Das Szenario, in dem externe Nutzer, wie ehemalige Beratungsunternehmen oder ausgegliederte Geschäftsbereiche, weiterhin Zugriff auf sensible Dateien haben, war ein häufig diskutiertes Thema. Die Tatsache, dass diese externen Nutzer bei der Aktualisierung von Identitäts- und Zugriffskontrollen oft übersehen werden, verdeutlicht eine erhebliche Sicherheitslücke.

Dies ist zwar kein neues Problem, aber aufkommende Datensicherheitstechnologien wie Cyeras Identitätsmodul Unternehmen rücken dieses Thema in den Vordergrund. Sie legen zunehmend Wert darauf, dass externe Nutzer umgehend aus den Zugriffslisten entfernt werden, sobald ihre Verbindung zum Unternehmen endet, um potenzielle Datenlecks zu verhindern.

4. Der Kampf mit veralteten Datenklassifizierungswerkzeugen

Auf der Black Hat herrschte Einigkeit: Herkömmliche Tools zur Datenklassifizierung haben die Erwartungen nicht erfüllt. Sicherheitsverantwortliche äußerten ihre Frustration über die lange Zeit, die benötigt wird, um den Nutzen dieser Tools zu realisieren, die Komplexität der Implementierung und den hohen Wartungsaufwand. Oftmals mangelte es an Support, und die Kosten überstiegen den Nutzen.

Diese Unzufriedenheit veranlasst Unternehmen, nach Alternativen zu suchen, die schnellere Implementierungen, einfachere Wartung und besseren Support bieten. Gefragt sind Lösungen, die sofortigen Nutzen bringen und den Zeit- und Arbeitsaufwand für die Sicherung sensibler Daten reduzieren.

5. Der Weg nach vorn

Die Erkenntnisse der Black Hat 2024 unterstreichen die Komplexität, mit der moderne Unternehmen bei der Datensicherung und der gleichzeitigen Einführung neuer Technologien wie KI konfrontiert sind. Organisationen suchen nach Datensicherheitslösungen, die Kontextinformationen liefern, Prozesse optimieren und unmittelbaren Mehrwert bieten. Da KI, Identitätsmanagement und Datensicherheit immer stärker zusammenwachsen, rücken Lösungen in den Fokus, die sensible Informationen schützen, ohne Innovationen zu behindern.

Für Unternehmen, die wettbewerbsfähig bleiben wollen, ist jetzt der richtige Zeitpunkt zum Handeln. Ob es um die Verbesserung der Datensicherheit, die Untersuchung von Identitätszugriffs- und MFA-Problemen, die Suche nach besseren Möglichkeiten zum sicheren Informationsaustausch mit Microsoft 365 oder die Absicherung von KI-Initiativen geht – die heute getroffenen Entscheidungen prägen die Sicherheitslandschaft von morgen.

Möchten Sie wissen, wie Cyera zur Bewältigung dieser Herausforderungen beitragen kann? Fordern Sie noch heute eine Demo an.Die