Agentes de IA estão comprometendo a segurança de dados; veja como solucionar o problema.

O manual de segurança de dados que a maioria das empresas utiliza hoje foi escrito para um mundo onde os humanos eram a identidade principal. Um usuário é autenticado em um sistema e, com base em controles de autorização, acessa os dados. Todo controle significativo em múltiplos domínios, incluindo DLP, DSPMIAM, ITDR e CASB são baseados nessa premissa.

Esse mundo foi revolucionado pelos agentes. Fluxos de trabalho baseados em agentes, cada vez mais autônomos, estão sendo adotados em massa pelas empresas.

• Desenvolvedores executando agentes de codificação em seus laptops.
• Equipes de finanças que utilizam agentes para analisar dados proprietários no Snowflake.
• Equipes de marketing que trabalham com dados de clientes em sistemas CRM.
• E talvez até mesmo um aplicativo público desenvolvido internamente, com a marca da sua empresa, que tome decisões para as quais você não tenha nenhum registro de auditoria.

Isso representa uma grande diferença em relação aos chatbots de resposta rápida. Os agentes são entidades autônomas e semiautônomas que podem ler seus dados confidenciais, acessar ferramentas, utilizar APIs e tomar decisões. O modelo que você utiliza não foi projetado para eles. Abaixo, detalharemos os problemas e sugeriremos soluções.

Como os agentes estão rompendo com os controles tradicionais

1. Identidades equivalem a seres humanos‍

Sua infraestrutura de IAM e ITDR é construída em torno de identidades humanas. SSO, MFA, funções de usuário, provisionamento, etc., tudo é desenvolvido pensando em humanos. Os agentes são mais rápidos que humanos e operam em uma escala muito maior. Eles atuam 24 horas por dia, 7 dias por semana, em rajadas, por meio de milhares de chamadas de API, muitas vezes herdando permissões do usuário que os criou. Para as ferramentas tradicionais de ITDR, os agentes se parecem com contas comprometidas. O problema da relação sinal-ruído é brutal.

2. Dados sensíveis residem em sistemas, e nós controlamos os sistemas.‍

DSPM e DLP foram criados para descobrir e proteger dados em repouso em sistemas conhecidos. Os agentes adicionam um novo modo de falha: eles recuperam dados sensíveis de um sistema, os mantêm em contexto, os transformam e agem sobre eles em outro lugar. Os dados não estão se movendo da maneira que o DLP foi projetado para detectar. Eles estão sendo raciocinados sobre e agiu emSuas necessidades de visibilidade de dados devem fornecer contexto sobre as ações do agente, não sobre o estado do arquivo.

3. Defesas baseadas no perímetro. ‍

Analisar prompts e respostas é importante, mas o verdadeiro risco em um agente surge muito antes. Está nas permissões. A chamada de ferramenta à qual você não sabia que ele tinha acesso, o conector que lhe dá acesso de gravação a uma base de conhecimento pública, a recuperação de um repositório vetorial que nunca foi higienizado. Também se trata de como o agente foi construído e da intenção por trás de suas ações.

4. Visibilidade e governança são a mesma coisa‍

Planilhas repletas de casos de uso de IA aprovados são a nova TI paralela. O número de agentes dentro de qualquer grande empresa está crescendo rapidamente à medida que as plataformas de baixo código se democratizam para profissionais sem formação em engenharia. Inventários estáticos construídos por meio de processos manuais não acompanharão esse ritmo. A governança precisa ser contínua e automatizada, caso contrário, torna-se nada mais do que uma mera formalidade para cumprir exigências.

O novo manual: descobrir, governar, proteger, validar.

Descobrir

A descoberta de agentes é mais difícil do que era para cargas de trabalho em nuvem ou aplicativos SaaS. Os agentes residem em muitos locais que a descoberta tradicional não alcança:

• Plataformas de agentes nativos (Copilot Studio, Agentforce, Bedrock Agents, Foundry Agents)
• Serviços de agentes autohospedados na AWS, Azure e GCP.
• Agentes de endpoint, como Claude Code, Cursor ou CodeEx, executados em laptops de desenvolvedores, geralmente com credenciais que chegam à produção.
• Ferramentas públicas de IA baseadas em navegador que se conectam a servidores MCP e registros de ferramentas que poucas equipes de segurança já auditaram.

A descoberta eficaz precisa levar em conta esses casos de uso, utilizando uma combinação de APIs nativas da plataforma, telemetria de rede, sinais OAuth, detecção baseada em logs e mapeamento de endpoints. Se o seu inventário de agentes cobre apenas o que sua equipe de engenharia relatou, é provável que você tenha atingido apenas a ponta do iceberg.

Governar

A descoberta é uma lista, enquanto a governança garante a prestação de contas.

Para cada agente, você precisa de três coisas: uma noção clara de intenção. (Para que esse agente foi projetado?), uma imagem precisa de seu raio de explosão (Quais dados e sistemas ele realmente consegue alcançar, considerando suas ferramentas e permissões efetivas?) e um risco que leva em consideração postura, comportamento, nível de autonomia e exposição de dados sensíveis, transformando-os em uma métrica quantificável que permite ao líder de segurança tomar medidas.

A questão de governança mais útil é uma que quase ninguém consegue responder hoje: considerando tudo a que este agente tem acesso, seu comportamento real é consistente com sua intenção declarada? Um agente criado para resumir chamados de suporte não deveria estar lendo a pasta de fusões e aquisições. O fato de isso ser difícil de detectar hoje em dia é exatamente o motivo pelo qual a governança de agentes precisa ser contínua e orientada a dados, e não relegada a uma única revisão estática de acesso em um determinado momento.

Proteger

Como se proteger contra ameaças em tempo real? Como bloquear ações maliciosas? A verificação de prompts e respostas é crucial, mas por si só é insuficiente. A proteção real do agente significa aplicação de políticas dentro do sistema. o loop:

• Bloquear a chamada de uma ferramenta antes de sua execução, caso isso viole a residência de dados.
• Redija o contexto sensível antes que ele chegue a um modelo de terceiros.
• Interrompa um agente que repentinamente comece a acessar dados fora de seu escopo de propósito.
• Detectar injeção de prompts incorporada no conteúdo recuperado, não apenas na entrada do usuário.

O nível de exigência técnica é alto porque as piores falhas de agentes não se parecem com ataques. Parecem apenas com um agente executando exatamente o que lhe foi instruído, em relação a dados que não deveria ter acesso. A proteção fica entre o agente e os dados. Próxima o suficiente da ação para garantir a sua aplicação, e inteligente o bastante para não interromper fluxos de trabalho legítimos.

Validar

A etapa final se tornará popular quando a regulamentação da IA ​​amadurecer. Ela se concentra na seguinte questão: Como você sabe se seus controles realmente funcionaram?‍

Validação significa testar seus próprios agentes de forma automática e em larga escala. Significa sondá-los com injeções imediatas, tentativas de desbloqueio (jailbreaks), tentativas de exfiltração de dados e chamadas de ferramentas fora das políticas estabelecidas, produzindo evidências de que as salvaguardas foram mantidas. Sem essa camada, você tem uma ideia da sua postura, mas não tem provas concretas. Com evidências de validação, você tem algo em que um conselho, um auditor ou um órgão regulador pode confiar.

O futuro da segurança de dados

A segurança de agentes de IA não pode se basear no status quo ou em uma infraestrutura tecnológica da era pré-IA. Trata-se de uma reestruturação de como a segurança de dados e a segurança de identidade funcionam em conjunto, juntamente com uma nova camada de execução de agentes que não existia antes.

Esse é o princípio sobre o qual a Cyera tem se baseado. Nosso solução de segurança de IA já combina descoberta e governança para ativos e agentes de IA, juntamente com uma camada de proteção para o que se cruza entre modelos, agentes e dados. Ambos residem no mesmo grafo de dados e plataforma que alimenta nosso DSPM e DLP. Isso possibilita vincular qualquer agente, em qualquer plataforma, diretamente aos dados sensíveis dentro de seu raio de alcance, levando em consideração as identidades humanas, de máquina e de agentes.

Para que a visão de empresas orientadas a agentes decole, a segurança terá que ser escalável na mesma proporção. As empresas que acertarem nesse ponto não serão aquelas com o modelo mais sofisticado. Serão aquelas que conseguirem responder a uma pergunta simples, sob demanda, para qualquer agente em seu ambiente: Quais dados você acessou, por quê e isso era permitido?‍

Se a sua estratégia atual não consegue responder a isso, ela já está falha. A boa notícia é que a nova estratégia está sendo escrita agora, e você ainda tem tempo para liderá-la.