DSPM is Your AI Minesweeper: How Cyera can help you navigate the AI threat landscape

Em Generative AI Security: Theories and Practices, Ken Huang pinta um quadro assustador do cenário de ameaças de IA. Neste artigo, vamos dar uma olhada em alguns dos principais recursos desse cenário - observabilidade, integridade e segurança de dados, políticas de direitos, e integração de ferramentas de segurança - e como a plataforma de segurança de dados da Cyera pode ajudar sua organização a navegá-los com sucesso.

Observabilidade

"Com ferramentas como o Copilot da Microsoft se tornando parte integrante de vários setores", diz Huang, "a velocidade com que os modelos de IA geram resultados frequentemente excede a capacidade das organizações de aplicar protocolos de segurança relevantes."

Um desafio fundamental aqui é a classificação correta de dados. De acordo com Tina Ying e Neta Haiby da Microsoft, os esforços de classificação manual simplesmente serão muito lentos para acompanhar os dados gerados por IA. Felizmente, o DSPM nativo de IA da Cyera pode descobrir e classificar dados em qualquer lugar do seu ambiente de dados, independentemente de quem ou o que os está gerando, com 95 por cento de precisão. Por sua vez, o Omni DLP da Cyera pode intervir em tempo real e evitar o compartilhamento excessivo de dados gerados por IA.

Outra questão de observabilidade está relacionada ao gerenciamento de riscos de terceiros, em particular onde e como os dados organizacionais podem ser expostos ao longo da cadeia de suprimentos. Como Belle Lin colocou no Wall Street Journal:

"O desafio com a IA generativa é que a tecnologia está se desenvolvendo tão rapidamente que as empresas estão correndo para descobrir se ela introduz novos desafios de cibersegurança ou amplifica as fraquezas de segurança existentes. Enquanto isso, os fornecedores de tecnologia inundaram as empresas com novos recursos e ofertas baseados em IA generativa—nem todos os quais elas precisam ou sequer pagaram.""

Aqui também, a Cyera pode descobrir seus dados onde quer que estejam, incluindo em aplicativos e serviços de TI invisível que usam IA generativa. As organizações podem aproveitar a visibilidade que a Cyera oferece para criar e gerenciar um inventário de ativos de IA. Elas também podem implantar o Omni DLP da Cyera para impedir que os usuários compartilhem propriedade intelectual valiosa ou dados confidenciais de clientes com aplicativos baseados em IA.

Integridade e segurança de dados

A integridade dos dados será o desafio central da era da IA, e Huang identifica duas grandes ameaças: envenenamento de dados e manipulação de dados. Envenenamento de dados refere-se à corrupção de conjuntos de dados de treinamento com o objetivo de enganar um LLM para gerar um resultado desejado. Por manipulação de dados, Huang se refere ao uso de IA para gerar conteúdo como deepfakes, desinformação ou outros artefatos que poderiam ser usados para fins maliciosos.

O serviço de Avaliação de Risco de Dados da Cyera oferece uma visão completa dos riscos ao seu patrimônio de dados, incluindo conjuntos de dados de treinamento de IA. Aproveitando seu DSPM em conjunto com avaliações virtuais lideradas por CISO em relação a trinta estruturas de controle diferentes, como ISO 27001 e NIST CSF, a Cyera fornecerá insights acionáveis que permitirão que você reduza imediatamente sua superfície de ataque, obtenha visibilidade sobre ameaças potenciais e desenvolva um plano para melhorar sua postura de segurança de dados daqui para frente.

A plataforma de segurança de dados nativa de IA da Cyera garante a segregação de dados de treinamento, teste e validação para sistemas de IA. Ela também detecta comportamentos de risco e protege proativamente contra fraudes e ameaças internas.

A IA também representa uma ameaça à segurança de dados. Em particular, Huang descreve o problema potencial de vazamento de dados devido à agregação de conjuntos de dados de treinamento. Mesmo quando os dados de treinamento foram anonimizados, os sistemas de IA generativa podem ser capazes de triangular entre vários conjuntos de dados de treinamento e inferir dados sensíveis ou pessoais. Mas o Omni DLP da Cyera monitora e classifica dados gerados por IA em tempo real, e pode alertar quando ferramentas de IA estão criando e tentando compartilhar coisas como PII, PHI ou segredos comerciais.

Política de direitos

Segundo Huang, "a ausência de políticas claras de direitos de acesso relacionadas aos sistemas de IA Generativa representa riscos significativos à privacidade e segurança dos dados. Sem controles de acesso e funções de usuário definidos, informações confidenciais podem ser expostas a usuários não autorizados."

Além disso, o gerenciamento robusto de identidade e acesso, e o uso de controles de acesso baseados em funções, não são apenas para usuários humanos. Jason Clinton, CISO da Anthropic, acredita que estamos a apenas dez meses de implantar defensores de segurança totalmente autônomos em nossos ambientes de SOC. Em dois a três anos, ele prevê que todos os profissionais de cibersegurança humanos estarão gerenciando equipes de agentes de IA. Esses agentes precisarão de identidades e privilégios organizacionais, e as mesmas preocupações relacionadas à autenticação e ao privilégio mínimo se aplicarão a eles.

A Cyera pode identificar todas as entidades, sejam humanas ou não humanas, internas ou externas, que têm acesso aos seus dados. Ela pode criar um catálogo de identidades e privilégios associados que ajudará os administradores a identificar seus usuários de maior risco, detectar identidades obsoletas cujo acesso deve ser revogado, manter o RBAC e evitar desvios de configuração.

Integração de ferramentas de segurança

Huang argumenta que os fornecedores de segurança precisam desenvolver "conectores e APIs que permitam comunicação perfeita entre GenAI e sistemas SIEM, DLP e SOAR", e que a ausência dessas integrações resultará em uma "paisagem de segurança desarticulada onde ameaças podem passar despercebidas."

Na Cyera, concordamos. A Cyera pode se integrar com suas ferramentas SIEM, SOAR e DLP existentes para ajudar a coordenar a resposta a incidentes e automatizar fluxos de trabalho de remediação. Além disso, a solução Omni DLP da Cyera representa um salto quântico além das ferramentas DLP existentes. O mecanismo de políticas nativo de IA do Omni pode entender o DNA dos seus dados, permitindo que ele crie regras DLP que sejam realmente relevantes para as categorias de dados que você se importa. Seu mecanismo de classificação analisa e prioriza eventos de dados, reduzindo falsos positivos em 95 por cento e liberando engenheiros de segurança para se concentrarem nas questões que realmente importam.

Conclusão

Como disse Shane Coleman, Evangelista-Chefe de Segurança de Dados da Cyera, a IA oferece às empresas a oportunidade de "entrar em novos mercados antes da concorrência, aumentar a fidelidade dos clientes e desbloquear uma produtividade interna sem precedentes. Mas... velocidade sem deliberação é apenas risco disfarçado." A menos que você saiba quais dados possui e onde eles estão, tentar habilitar a IA de forma segura é como vagar às cegas em um campo minado.

A plataforma de segurança de dados da Cyera é seu mapa, bússola e detector de minas, tudo em um. Os recursos de descoberta e classificação nativos de IA do DSPM da Cyera, e o mecanismo de políticas inteligente do Omni DLP, darão a você confiança para se mover de forma rápida e segura pelo cenário de ameaças de IA. Veja como em cyera.com.