En Black Hat 2024, la seguridad de los datos, la identidad y la IA fueron temas prioritarios, ya que las organizaciones se enfrentan a los desafíos de integrar tecnologías de IA como Microsoft Copilot, al tiempo que garantizan medidas sólidas de seguridad de datos y control de acceso. Existe una tensión crucial: el deseo de aprovechar las tecnologías de IA de vanguardia frente a la realidad de los riesgos de seguridad que conllevan.
Analizamos en detalle los problemas relacionados con la IA y otros aspectos, junto con nuestras 5 conclusiones clave de Black Hat 2024.
1. El dilema de la IA: equilibrar la innovación con la seguridad.
Existe un amplio consenso y un gran interés en que la seguridad de la IA se centra fundamentalmente en la seguridad de los datos. Las organizaciones están deseosas de adoptar tecnologías de IA, pero siguen siendo cautelosas ante los riesgos, especialmente ante la falta de una sólida visibilidad de los datos. La idea de que una sola cuenta comprometida o un proceso de entrenamiento de IA no regulado pueda provocar una importante filtración de datos, una infracción de la normativa o una desalineación de los resultados de la IA es un temor real. Este riesgo lleva a muchos a reconsiderar la implementación de herramientas de IA sin las salvaguardas adecuadas, incluidos los procesos de saneamiento de datos y los estrictos controles de acceso.
Uno de los temas más apremiantes que se abordaron fue la introducción involuntaria de información sensible, como propiedad intelectual o información personal identificable, en los modelos de IA. Si estos datos se utilizan para entrenar la IA, pueden tener consecuencias no deseadas, como la generación de resultados que expongan dicha información sensible.
Teniendo esto en cuenta, otra preocupación recurrente que se abordó fue el riesgo que supone que un atacante acceda a la cuenta de un usuario y empiece a utilizar Copilot para extraer información confidencial, como direcciones IP o información de identificación personal, a gran escala.
También existe una preocupación constante sobre las implicaciones a largo plazo de la incorporación de datos sensibles en los modelos de IA. Una vez que los datos se utilizan en el entrenamiento, puede resultar difícil —si no imposible— extraerlos por completo del modelo. Esta permanencia crea un riesgo duradero, especialmente si no se pretendía incluir los datos en primer lugar. A medida que la IA se integra más en los procesos empresariales, las organizaciones deben estar atentas para garantizar que sus prácticas de seguridad de datos evolucionen para afrontar estos nuevos desafíos.
Además, Nvidia ilustró esto con un caso práctico que involucraba un chatbot de atención al cliente impulsado por IA, donde un complemento inseguro provocó el acceso no autorizado a los datos. Este ejemplo subrayó la importancia crucial de la integración segura al implementar complementos en sistemas de IA.
En resumen, hubo cuatro casos de uso de la IA en materia de seguridad que escuchamos repetidamente.
- Garantizar que Copilot y otros asistentes de IA no accedan a datos confidenciales.Las organizaciones desean evitar que las herramientas de IA generativa interactúen con datos regulados o sensibles, mitigando así el riesgo de fugas accidentales de datos.
- Limpieza de datos de entrenamientoAntes de utilizar datos para entrenar o ajustar modelos de IA, es fundamental asegurarse de que no contengan datos regulados ni información de identificación personal (PII). Este paso es esencial para garantizar el cumplimiento normativo y proteger la información confidencial.
- Controlar la salida de la IAExiste una creciente demanda de mecanismos que garanticen que los resultados generados por la IA estén debidamente etiquetados y controlados, especialmente cuando implican datos sensibles o regulados.
- Inventario de IAMuchas organizaciones expresaron su deseo de saber simplemente dónde se está utilizando la IA dentro de sus sistemas. Contar con un inventario de herramientas y aplicaciones de IA puede ayudar a gestionar y proteger estas tecnologías de manera más eficaz.
Para obtener más información sobre el enfoque de Cyera para proteger las herramientas de IA, consulte nuestro seminario web reciente. “De lo artificial a lo inteligente: cómo proteger los datos para la IA”
2. Implementación del MFA: El dilema del árbol de decisiones
La autenticación multifactor (MFA) es un pilar fundamental de la ciberseguridad moderna, pero su implementación en grandes empresas dista mucho de ser sencilla. Muchas organizaciones operan con un complejo árbol de decisiones, donde algunos usuarios están obligados a usar MFA, mientras que otros no. Este enfoque inconsistente suele deberse a la falta de información sobre los usuarios y los tipos de registros a los que pueden acceder.
Cada vez se reconoce más que comprender el contexto del usuario y sus patrones de acceso a los datos podría simplificar el proceso de toma de decisiones sobre la autenticación multifactor (MFA). Con una mejor comprensión de quién accede a qué, las organizaciones pueden optimizar sus políticas de MFA, garantizando que quienes tienen acceso a información confidencial estén adecuadamente protegidos. En definitiva, se trata de un desafío de acceso a la identidad.
3. Identidad y uso compartido externo con Microsoft 365
En Black Hat, observamos que Microsoft 365 sigue siendo una herramienta fundamental para la colaboración, pero el intercambio externo de registros plantea un importante desafío de seguridad. Los equipos de seguridad se encuentran ante la disyuntiva de mantener la eficiencia operativa y proteger la información confidencial. Si bien técnicamente es posible restringir el intercambio externo, hacerlo puede interrumpir los procesos empresariales y dificultar la colaboración.
Para gestionar esto, muchos equipos de seguridad recurren a scripts personalizados de PowerShell para rastrear archivos y dominios compartidos. Sin embargo, existe una clara necesidad de una solución más eficiente: un "botón sencillo" que permita identificar quién tiene acceso a los archivos, cómo se comparten y con quién.
El escenario en el que usuarios externos, como antiguas consultoras o unidades de negocio desinvertidas, aún tienen acceso a archivos confidenciales fue un tema recurrente. El hecho de que estos usuarios externos a menudo se pasen por alto al actualizar los controles de acceso a la identidad pone de manifiesto una importante brecha de seguridad.
Si bien este no es un problema nuevo, las tecnologías emergentes de seguridad de datos como Módulo de identidad de Cyera Lo están poniendo en primer plano. Las organizaciones se centran cada vez más en garantizar que los usuarios externos sean eliminados rápidamente de las listas de acceso cuando finaliza su relación con la empresa, evitando así posibles fugas de datos.
4. La lucha con las herramientas de clasificación de datos heredadas
En Black Hat, el consenso fue claro: las herramientas tradicionales de clasificación de datos no han cumplido con las expectativas. Los ejecutivos de seguridad expresaron su frustración por el tiempo que se tarda en obtener valor de estas herramientas, la complejidad de las implementaciones y los altos costos de mantenimiento. En muchos casos, el soporte ha sido deficiente y el costo ha superado el retorno de la inversión.
Esta insatisfacción está impulsando a las organizaciones a buscar alternativas que ofrezcan implementaciones más rápidas, un mantenimiento más sencillo y un mejor soporte. La demanda se centra en soluciones que aporten valor inmediato, reduciendo el tiempo y el esfuerzo necesarios para proteger los datos confidenciales.
5. El camino a seguir
Las conclusiones de Black Hat 2024 ponen de manifiesto la complejidad a la que se enfrentan las empresas modernas para proteger sus datos al tiempo que adoptan nuevas tecnologías como la IA. Las organizaciones buscan soluciones de seguridad de datos que proporcionen contexto, optimicen los procesos y ofrezcan valor inmediato. A medida que la IA, la identidad y la seguridad de los datos converjan, la atención se centrará cada vez más en soluciones que puedan salvaguardar la información confidencial sin obstaculizar la innovación.
Para las organizaciones que buscan mantenerse a la vanguardia, es el momento de actuar. Ya sea mejorando la seguridad de sus datos, investigando problemas de acceso a la identidad y autenticación multifactor (MFA), encontrando mejores maneras de compartir información de forma segura con Microsoft 365 o protegiendo las iniciativas de IA, las decisiones que se tomen hoy definirán el panorama de seguridad del mañana.
¿Le interesa saber cómo Cyera puede ayudar a afrontar estos retos? Solicita una demostración hoy mismo..
Get your AI Security Assessment
.svg)