DSPM is Your AI Minesweeper: How Cyera can help you navigate the AI threat landscape

En Seguridad de IA generativa: teorías y prácticas, Ken Huang pinta un panorama desalentador del escenario de amenazas de la IA. En este artículo, veremos algunas de las características clave de ese panorama —observabilidad, integridad y seguridad de los datos, políticas de autorización y la integración de herramientas de seguridad— y cómo la plataforma de seguridad de datos de Cyera puede ayudar a su organización a navegarlo con éxito.

Observabilidad

“Con herramientas como Copilot de Microsoft volviéndose fundamentales en diversas industrias,” dice Huang, “la velocidad a la que los modelos de IA generan resultados a menudo supera la capacidad de las organizaciones para aplicar los protocolos de seguridad pertinentes.”

Un desafío clave aquí es la clasificación correcta de los datos. Según Tina Ying y Neta Haiby de Microsoft, los esfuerzos de clasificación manual serán simplemente demasiado lentos para mantenerse al día con los datos generados por IA. Afortunadamente, el DSPM nativo de IA de Cyera puede descubrir y clasificar datos en cualquier lugar de tu patrimonio de datos, sin importar quién o qué los esté generando, con un 95 por ciento de precisión. A su vez, Omni DLP de Cyera puede actuar en tiempo real y evitar la sobrecompartición de datos generados por IA.

Otro problema de observabilidad se relaciona con la gestión de riesgos de terceros, en particular dónde y cómo los datos de la organización pueden quedar expuestos a lo largo de la cadena de suministro. Como lo expresó Belle Lin en el Wall Street Journal:

“El reto con la IA generativa es que la tecnología está evolucionando tan rápido que las empresas se apresuran a averiguar si introduce nuevos desafíos de ciberseguridad o magnifica debilidades de seguridad existentes. Mientras tanto, los proveedores de tecnología han inundado a las empresas con nuevas funciones y ofertas basadas en IA generativa —no todas las cuales necesitan o incluso han pagado.”

Aquí también, Cyera puede descubrir tus datos dondequiera que residan, incluso en aplicaciones y servicios de TI en la sombra que usan IA generativa. Las organizaciones pueden aprovechar la visibilidad que ofrece Cyera para crear y gestionar un inventario de activos de IA. También pueden implementar Omni DLP de Cyera para evitar que los usuarios compartan propiedad intelectual valiosa o datos sensibles de clientes con aplicaciones impulsadas por IA.

Integridad y seguridad de los datos

La integridad de los datos será el desafío central de la era de la IA, y Huang identifica dos amenazas principales: el envenenamiento de datos y la manipulación de datos. El envenenamiento de datos se refiere a la corrupción de los conjuntos de datos de entrenamiento con el fin de engañar a un LLM para que genere un resultado deseado. Por manipulación de datos, Huang se refiere al uso de la IA para generar contenido como deepfakes, desinformación u otros artefactos que podrían utilizarse con fines maliciosos.

El servicio de Evaluación de Riesgos de Datos de Cyera te ofrece una vista completa de los riesgos para tu patrimonio de datos, incluidos los conjuntos de datos de entrenamiento de IA. Al aprovechar su DSPM junto con evaluaciones virtuales dirigidas por CISOs y alineadas con treinta marcos de control diferentes como ISO 27001 y NIST CSF, Cyera te brindará información accionable que te permitirá reducir de inmediato tu superficie de ataque, obtener visibilidad de posibles amenazas y desarrollar un plan para mejorar tu postura de seguridad de datos a futuro.

La plataforma de seguridad de datos nativa de IA de Cyera garantiza la segregación de los datos de entrenamiento, prueba y validación para sistemas de IA. También detecta comportamientos de riesgo y protege proactivamente contra el fraude y las amenazas internas.

La IA también representa una amenaza para la seguridad de los datos. En particular, Huang describe el posible problema de la filtración de datos debido a la agregación de conjuntos de datos de entrenamiento. Incluso cuando los datos de entrenamiento han sido anonimizados, los sistemas de IA generativa pueden triangular entre varios conjuntos de datos de entrenamiento e inferir información sensible o personal. Pero Omni DLP de Cyera monitorea y clasifica en tiempo real los datos generados por IA, y puede alertar cuando las herramientas de IA están creando e intentando compartir elementos como PII, PHI o secretos comerciales.

Política de derechos

Según Huang, "la ausencia de políticas claras de derechos de acceso respecto a los sistemas de IA generativa plantea riesgos significativos para la privacidad y la seguridad de los datos. Sin controles de acceso definidos y roles de usuario, la información sensible puede quedar expuesta a usuarios no autorizados."

Además, una gestión sólida de identidad y acceso, y el uso de controles de acceso basados en roles, no son solo para usuarios humanos. Jason Clinton, CISO de Anthropic, cree que estamos a solo diez meses de desplegar defensores de seguridad totalmente autónomos en nuestros entornos SOC. En dos o tres años, pronostica que todos los profesionales humanos de ciberseguridad estarán gestionando equipos de agentes de IA. Esos agentes necesitarán identidades y privilegios organizacionales, y las mismas preocupaciones sobre autenticación y privilegio mínimo se aplicarán a ellos.

Cyera puede identificar todas las entidades, ya sean humanas o no humanas, internas o externas, que tienen acceso a tus datos. Puede crear un catálogo de identidades y privilegios asociados que ayudará a los administradores a identificar a tus usuarios de mayor riesgo, detectar identidades obsoletas cuyo acceso debe revocarse, mantener el RBAC y prevenir la deriva de configuración.

Integración de herramientas de seguridad

Huang sostiene que los proveedores de seguridad deben desarrollar “conectores y API que permitan una comunicación fluida entre GenAI y los sistemas SIEM, DLP y SOAR”, y que la ausencia de estas integraciones resultará en un “paisaje de seguridad fragmentado donde las amenazas pueden pasar desapercibidas.”

En Cyera, estamos de acuerdo. Cyera puede integrarse con tus herramientas de SIEM, SOAR y DLP existentes para ayudar a coordinar la respuesta a incidentes y automatizar los flujos de trabajo de remediación. Además, la solución Omni DLP de Cyera representa un salto cuántico más allá de las herramientas de DLP actuales. El motor de políticas nativo de IA de Omni puede comprender el ADN de tus datos, lo que le permite crear reglas de DLP realmente relevantes para las categorías de datos que te importan. Su motor de clasificación analiza y prioriza eventos de datos, reduce los falsos positivos en un 95 por ciento y libera a los ingenieros de seguridad para que se enfoquen en los problemas que realmente importan.

Conclusión

Como ha dicho Shane Coleman, Evangelista Principal de Seguridad de Datos de Cyera, la IA les da a las empresas la oportunidad de “entrar en nuevos mercados antes que la competencia, aumentar la lealtad de los clientes y desbloquear una productividad interna sin precedentes. Pero… la velocidad sin deliberación es solo riesgo disfrazado”. A menos que sepas qué datos tienes y dónde se encuentran, intentar habilitar la IA de forma segura es como andar a ciegas en un campo minado. 

La plataforma de seguridad de datos de Cyera es tu mapa, brújula y detector de minas, todo en uno. Las capacidades de descubrimiento y clasificación nativas de IA de Cyera DSPM, y el motor de políticas inteligente de Omni DLP, te darán la confianza para moverte rápida y seguramente por el panorama de amenazas de IA. Conoce más en cyera.com.