GenAI está transformando la seguridad de los datos: lo que los líderes en seguridad deben saber.

El auge de la IA generativa (GenAI) está transformando profundamente los programas de seguridad de datos, lo que obliga a su equipo de seguridad a replantearse los enfoques tradicionales. Herramientas de GenAI como ChatGPT o DeepSeek se han convertido en herramientas increíbles para los equipos de producto, marketing y ventas. Esto significa que probablemente tenga más empleados utilizando estas herramientas e introduciendo datos de la empresa de lo que cree. Pero no se preocupe, no es el único equipo que se enfrenta a esto, y nuestro consejo es que se involucre, pero con un enfoque basado en datos.

A medida que su equipo se apresura a aprovechar el potencial de la IA genómica, surgen nuevos desafíos en torno a la protección de datos, la privacidad y el cumplimiento normativo que debe tener en cuenta. Este artículo explora tres cambios trascendentales que impulsan estas transformaciones:

1. La necesidad urgente de plataformas de seguridad de datos nativas de IA para GenAI

A medida que las organizaciones integran la IA genómica en sus flujos de trabajo, surge un nuevo riesgo: la exposición de datos a través del entrenamiento de modelos de IA y mediante las indicaciones. Si no se gestiona adecuadamente, la IA genómica puede exponer inadvertidamente datos confidenciales a usuarios internos no autorizados, proveedores externos o proveedores de servicios en la nube, e incluso generar riesgos de acceso interno debido a indicaciones inadecuadas.

Para mitigar estos riesgos, las organizaciones deben priorizar las soluciones de seguridad de datos que fueron diseñadas con arquitecturas nativas de IA, las cuales:

• Descubre y clasifica datos: Identifique datos confidenciales en repositorios estructurados y no estructurados con rapidez, escalabilidad y máxima precisión. Consejo profesional Durante la fase de evaluación, priorice la velocidad de implementación, la velocidad de escaneo y la cobertura. Evite cualquier solución que ofrezca una clasificación con una precisión inferior al 95 %. Las arquitecturas nativas de IA deben ser un requisito indispensable para cualquier plataforma de seguridad de datos que seleccione.
• Identificar herramientas de IA de Gen sin acceso con privilegios excesivos: Identificar y analizar el contexto de la identidad no humana, y determinar qué datos sensibles son accesibles para estas herramientas. Luego, se busca minimizar el acceso innecesario para reducir los riesgos.
• Supervise el acceso a GenAI: Supervise cómo interactúan los modelos de IA con los datos, garantizando el cumplimiento de las políticas de seguridad.
• Detectar flujos de datos: Descubra conexiones no autorizadas a sistemas externos y mitigue los riesgos de terceros. Evite que los datos confidenciales se filtren en las herramientas de GenAI y que los datos no sanitizados se introduzcan en los LLM.

Comience por adoptar una solución DSPM que se centre principalmente en el descubrimiento y la clasificación. Este es el componente fundamental de la seguridad de datos. Estas soluciones han evolucionado de un concepto especializado a una práctica de seguridad generalizada; los responsables de seguridad deben incorporar estas capacidades como parte de su estrategia general de seguridad de datos.

2. Datos sintéticos frente a la anonimización tradicional en el entrenamiento de GenAI

A través de nuestras conversaciones con clientes de la lista Fortune 2000, observamos que los equipos de datos prefieren cada vez más los datos sintéticos a las técnicas de anonimización tradicionales para entrenar modelos de IA. Las empresas consolidadas que buscan proteger datos confidenciales ahora utilizan soluciones que generan conjuntos de datos sintéticos personalizados o específicos del sector, lo que ayuda a reducir el riesgo de que se expongan datos reales. A diferencia de los datos anonimizados, los datos sintéticos garantizan una mayor protección de la privacidad, al tiempo que abordan el problema común de la insuficiencia de datos de entrenamiento reales.

Estas son algunas de las ventajas de este enfoque:

• Mayor privacidad y protección de datos: Al generar conjuntos de datos artificiales, las organizaciones minimizan los riesgos asociados con el uso de datos del mundo real, que a menudo contienen información confidencial.
• Mejora del rendimiento del modelo de IA: Los datos sintéticos permiten entrenar la IA en diversos casos extremos y escenarios poco comunes, lo que mejora su fiabilidad.
• Gestión de sesgos y errores: Los datos sintéticos generados por IA pueden ser supervisados ​​para evitar el refuerzo de sesgos o, por el contrario, para introducir sesgos intencionados en casos de uso específicos, como la detección de fraudes.

Para industrias como cuidado de la salud y finanzasEn entornos donde las regulaciones de privacidad son más estrictas, los datos sintéticos se están convirtiendo en un componente esencial para la adopción de la IA. Los datos reales solo se utilizan periódicamente para validar la alineación del modelo y detectar desviaciones, lo que reduce la exposición a información confidencial. ¡Así que utilice datos sintéticos!

3. El cambio de la seguridad de datos estructurados a la de datos no estructurados.

Históricamente, las soluciones de seguridad de datos se centraban en datos estructurados, como bases de datos y registros transaccionales. Sin embargo, las capacidades de GenAI van mucho más allá de los datos estructurados, ya que pueden procesar grandes cantidades de datos no estructurados, incluyendo texto, imágenes y vídeos. El verdadero desafío.

Al igual que los dos megacambios que ya hemos comentado, este cambio también tiene importantes implicaciones para los equipos de seguridad:

• Los datos no estructurados como prioridad de seguridad: Las organizaciones son cada vez más conscientes del valor —y del riesgo— asociado a los datos no estructurados.
• Superficies de ataque más amplias: La información confidencial suele residir en correos electrónicos, registros de chat, documentos legales y archivos multimedia, todos los cuales GenAI puede procesar. Hemos visto ejemplos de administradores de cuentas ejecutivas que tienen una carpeta especial con números de tarjetas de crédito, números de la seguridad social y cuentas bancarias. Esto es mucho más común de lo que la gente cree.
• Nuevas estrategias de protección: Las soluciones tradicionales de seguridad de bases de datos son insuficientes. Las empresas deben ahora implementar medidas de seguridad que abarquen todo el espectro de formatos de datos.

Con la democratización del acceso al análisis de datos no estructurados gracias a la IA general, los equipos de seguridad deben garantizar que existan las medidas de protección adecuadas para prevenir el acceso no autorizado y las filtraciones. Esto no siempre es fácil, dada la velocidad de adopción de la IA general y el hecho de que la seguridad nunca quiere ser vista como el "Departamento del no".

Para terminar…

La demanda de GenAI sigue creciendo, con empresas deseosas de aprovechar el potencial de la IA en diversas aplicaciones. Sin embargo, las preocupaciones sobre la precisión de los datos, la privacidad y el cumplimiento normativo siguen siendo barreras importantes para su adopción. Ley de IA de la UE es un ejemplo perfecto de este campo de la IA en rápida evolución.

Los altos ejecutivos ahora están presionando a los líderes de TI y seguridad para que aborden estos desafíos de frente. Como resultado, se están asignando presupuestos para una combinación de controles de seguridad consolidados y tecnologías innovadoras en fase inicial., particularmente en el ámbito de la gestión del rendimiento de los datos (DSPM). De hecho, la mayoría de los CISO y CIO con los que hablamos afirman que sus presupuestos se están reduciendo en todas las áreas, EXCEPTO en seguridad de datos.

Algunas acciones estratégicas para los líderes en seguridad de datos.

1. Invierta en DSPM Technologies – Implementar herramientas que proporcionen visibilidad sobre el acceso a los datos de GenAI y garanticen el cumplimiento de las políticas de seguridad.Adoptar la generación de datos sintéticos – Pasar de la anonimización tradicional a soluciones de datos sintéticos para reducir los riesgos de privacidad y las cargas de cumplimiento normativo.
2. Mejorar la protección de datos no estructurados – Implementar medidas de seguridad que regulen el texto, las imágenes, los vídeos y otros tipos de datos no estructurados que utiliza cada vez más la IA general.
3. Asignar presupuestos estratégicamente – No se equivoque, su empresa quiere adoptar la IA. Por lo tanto, destine recursos a la seguridad de los datos con un enfoque de seguridad GenAI más integral que le ayudará a habilitar la adopción de la IA de forma segura, sin poner en riesgo sus datos. Este meme me viene a la mente.

La IA de nueva generación presenta tanto enormes oportunidades como nuevos riesgos para las empresas. Al abordar de forma proactiva las preocupaciones sobre la seguridad de los datos de la IA, las organizaciones inteligentes aprovecharán los beneficios de la IA al tiempo que protegen la información confidencial.

Actúa ahora para aprovechar esta era impulsada por la IA.