Aufbau einer vertrauenswürdigen KI: Vergleich des MITRE AI Assurance Guide, NIST AI RMF und CSA AICM

Da KI-Systeme zunehmend in den Unternehmensbetrieb integriert werden, hat sich die Diskussion von der Frage, ob KI eingeführt werden sollte, hin zu der Frage, wie dies verantwortungsbewusst getan werden kann, verlagert. Unternehmen stehen nun vor einer Reihe neuer Herausforderungen: Wie stellen wir sicher, dass KI-Systeme sicher und erklärbar sind und unseren Werten und regulatorischen Verpflichtungen entsprechen? Drei der einflussreichsten Frameworks im KI-Risikoökosystem — der MITRE AI Assurance Guide, das NIST AI Risk Management Framework (RMF) und das CSA AI Control Management (AICM) — bieten ergänzende Antworten auf diese Frage.

Jedes Framework nähert sich dem Problem aus einem anderen Blickwinkel. Der MITRE AI Assurance Guide basiert auf technischen Sicherungspraktiken. Es ist ein praktisches Handbuch für KI-Ingenieure, rote Teams und Tester, mit dem bewertet werden soll, ob KI-Systeme robust, widerstandsfähig und überprüfbar sind. Es stützt sich umfassend auf reale Bedrohungsszenarien, insbesondere auf die im MITRE ATLAS dokumentierten, und konzentriert sich stark auf Modelltests, Widerstandsfähigkeit gegen Gegner und Betriebsüberwachung. Wichtig ist, dass MITRE Folgendes betont Risiken in Bezug auf Datenintegrität, Herkunft und Eingabemanipulation als Hauptfehlermodi, die die Modellleistung beeinträchtigen oder zu kontradiktorischem Verhalten führen können — was die grundlegende Rolle der Datensicherheit bei der KI-Absicherung unterstreicht.

Im Gegensatz dazu bietet das NIST AI RMF eine strategische Grundlage für das Management von KI-Risiken in einer Organisation. Das Framework wurde im Rahmen eines Multistakeholder-Prozesses entwickelt und umfasst vier übergeordnete Funktionen — Map, Measure, Manage und Governance —, die Unternehmen dabei unterstützen, ihre KI-Risikohaltung zu definieren, potenzielle Schäden zu erkennen, Auswirkungen zu bewerten und verantwortungsvolle KI-Prinzipien in die Unternehmensführung einzubetten. In diesem Modell wird Datensicherheit sowohl als grundlegende Voraussetzung als auch als Risikoquelle betrachtet. Dabei werden Probleme wie Datenschutzverletzungen, unbefugter Zugriff, Datenqualität und Lebenszyklusmanagement berücksichtigt. Das RMF unterstützt Unternehmen dabei, Datenabhängigkeiten abzubilden und sicherzustellen, dass Kontrollen vorhanden sind, um Risiken in jeder Phase, von der Erfassung bis zur Bereitstellung, zu minimieren.

Wenn NIST das „Warum“ skizziert und MITRE das „Wie“ zeigt, dann liefert das AI Control Management Framework von CSA das „Was“. CSA AICM ist ein robuster Katalog von Kontrollen, die speziell für KI-Systeme entwickelt wurden. Er umfasst technische, verfahrenstechnische und behördliche Schutzmaßnahmen. Diese Kontrollen umfassen den gesamten KI-Stack — von Datenpipelines und Schulungsumgebungen bis hin zu Modellbereitstellungen und Integrationen von Drittanbietern. Das AICM-Framework umfasst spezielle Kontrollbereiche, die folgenden Themen gewidmet sind Datenklassifizierung, Entdeckung, Herkunft, Zugriffskontrollen und Integritätsvalidierungund ist damit das präskriptivste der drei, wenn es um die Implementierung von Datensicherheitspraktiken auf Unternehmensebene für KI-Systeme geht.

Obwohl sich diese Rahmenbedingungen in Umfang und Struktur unterscheiden, handelt es sich nicht um konkurrierende Philosophien. Sie verstärken sich vielmehr gegenseitig. Ein ausgereiftes KI-Governance-Programm könnte mit dem NIST RMF beginnen, um Unternehmensziele und Risikotoleranz zu definieren, dann CSA AICM verwenden, um konkrete Schutzmaßnahmen zu implementieren, und den MITRE AI Assurance Guide anwenden, um diese Systeme unter realen Bedingungen einem Drucktest zu unterziehen. Auf diese Weise können Unternehmen über übergeordnete Prinzipien hinausgehen und in einen Zustand aktiver, messbarer Sicherheit übergehen — insbesondere in Bereichen, in denen Datensicherheit für die Aufrechterhaltung von Vertrauen, Vertraulichkeit und Systemzuverlässigkeit von entscheidender Bedeutung ist.

Vertrauenswürdige KI-Sicherheits-/Assurance-Frameworks

Vertrauenswürdige KI ist kein Produkt der Politik allein und kann auch nicht isoliert durch technische Tests garantiert werden. Sie ist das Ergebnis einer durchdachten, vielschichtigen Unternehmensführung, die strategische Absicht, betriebliche Kontrolle und technische Integrität umfasst — mit Datensicherheit im Mittelpunkt. Wenn Sicherheitsverantwortliche verstehen, wie MITRE, NIST und CSA zusammenpassen, können sie die Komplexität von KI-Risiken besser bewältigen — und Systeme entwickeln, die durch ihr Design Vertrauen gewinnen.