Aproveitando os dados organizacionais para IA/ML e LLMs: uma estrutura estratégica

No anterior artigoEnfatizei que os Modelos de Linguagem de Grande Porte (LLMs) não são meramente uma busca técnica, mas um imperativo estratégico. Nesta discussão, explorarei como as empresas podem aproveitar efetivamente os dados para casos de uso de IA/ML e LLM. Com base na minha vasta experiência como CISO e agora como consultor de estratégia de IA/ML, observei que muitas organizações carecem de uma abordagem holística para a gestão de dados.

O Dilema dos Dados

Em muitas organizações, os dados são frequentemente considerados uniformemente sensíveis, ou seja, tudo é importante. No entanto, existe uma clara desconexão: as equipes de segurança e as unidades de negócios precisam entender claramente onde os dados residem e como são utilizados. Cada departamento opera isoladamente, criando, usando e armazenando dados de forma independente, muitas vezes sem processos padronizados. Esse cenário é igualmente comum em casos de uso de IA/ML e LLM, onde as equipes técnicas precisam de maior visibilidade do panorama de dados da organização. Surge então a pergunta: quem é responsável por organizar, estruturar e proteger os dados da organização?

A necessidade de um gestor de dados

Existe uma necessidade urgente de um cargo dedicado à gestão do ciclo de vida dos dados da organização — da criação à exclusão, em conformidade com os requisitos legais. Essa função deve ser distinta da de CIO ou CISO. O CIO concentra-se na eficiência operacional, e a redução de custos pode entrar em conflito com a necessidade de uma gestão de dados abrangente. Da mesma forma, o foco do CISO na proteção de dados pode limitar o uso inovador dos dados. Portanto, um novo cargo, idealmente o de Gestor de Dados, é essencial. Esse profissional deve possuir conhecimento profundo do negócio e a capacidade de conectar os pontos entre a criação, o uso e a exclusão de dados.

Um "Passo Zero" Crítico: Compreendendo o Panorama dos Dados

Com a estrutura organizacional estabelecida, é essencial compreender o panorama de dados em geral. As organizações devem realizar uma auditoria de dados abrangente para mapear o estado atual dos dados em todos os departamentos, o que envolve:

• Fontes de dados do catálogo: Catalogar todas as fontes de dados, incluindo dados de engenharia, bancos de dados, aplicativos, serviços de terceiros e pontos de entrada manual de dados.
• Formatos de dados: Reconhecer os diferentes formatos em que os dados existem, como estruturados, não estruturados, semiestruturados, etc.
• Fluxo de dados: Compreenda como os dados fluem por meio de vários processos dentro da organização, destacando os pontos de integração e os possíveis gargalos.

Passos práticos para desbloquear todo o potencial dos seus dados

Etapa 1: Identificar Armazenamento de dados Locais

• O primeiro passo envolve cada departamento definindo claramente seus dados importantes. Os departamentos estão em melhor posição para identificar os dados que produzem e utilizam, bem como as condições para sua exclusão. Esta etapa envolve determinar os dados mais valiosos em nível departamental e identificar seus locais de armazenamento.

Etapa 2: Descobrir e classificar dados 

• Defina classificações de dados claras e simples, idealmente limitadas a três níveis, para garantir a usabilidade em toda a organização. Esquemas de classificação simples têm maior probabilidade de sucesso e são mais fáceis de gerenciar. Uma vez que os dados críticos, ou "joias da coroa", sejam classificados e identificados, inicie o processo de descoberta e etiquetagem. Selecionar a tecnologia certa para esta etapa é crucial, pois muitas organizações têm dificuldades para chegar a este estágio, tornando sua conquista um marco significativo. A utilização de soluções de Gestão da Postura de Segurança de Dados (DSPM) pode etiquetar automaticamente os dados descobertos, simplificando ainda mais o processo. Além disso, dados classificados e etiquetados simplificam a tarefa da equipe de Prevenção de Perda de Dados (DLP) na identificação de desvios e tentativas de exfiltração, proporcionando um benefício tangível para os CISOs.

Etapa 3: Plataforma centralizada de visibilidade de dados

• As organizações devem se concentrar na implementação de uma plataforma centralizada que ofereça visibilidade completa de todos os seus dados. Essa abordagem ajuda a reduzir os riscos identificados, como o uso inadvertido de dados sensíveis por modelos que não deveriam ter acesso a eles ou usuários que acessam ferramentas e dados de IA sem autorização. Por exemplo, uma plataforma de visibilidade centralizada pode alertar os administradores se um usuário não autorizado tentar acessar informações confidenciais de clientes por meio de uma ferramenta de IA.

Há alguns anos, enquanto prestávamos serviços a uma grande empresa de telecomunicações, identificamos um problema significativo: os dados dos clientes eram armazenados em locais diferentes, de acordo com as necessidades de cada departamento. Marketing, finanças e engenharia tinham seus próprios repositórios de dados, resultando em múltiplas cópias do mesmo conjunto de dados. Essa situação criava um ecossistema complexo, gerando enormes problemas de segurança e conformidade. Se tivessem implementado uma plataforma central com visibilidade abrangente, esse problema teria sido simplificado. Ao evitar silos de dados, garantir a conformidade e aprimorar a segurança, essa plataforma oferece uma visão completa do acesso e uso dos dados, protegendo, em última instância, os ativos de dados da organização.

Etapa 4: Implementar as melhores práticas técnicas básicas

• Implementar a normalização e a ofuscação de dados dos ambientes de produção para os ambientes de desenvolvimento.
• Faça backups regulares dos dados para garantir a integridade e a disponibilidade dos mesmos.
• Utilize o Controle de Acesso Baseado em Funções (RBAC) e a Autenticação de Dois Fatores (2FA) para aprimorar a segurança dos dados.
• Realizar auditorias periódicas e testes de penetração para identificar vulnerabilidades do sistema e acessos não autorizados.

Começar com essa abordagem estruturada ajudará as organizações a estabelecer uma base sólida para aproveitar os dados organizacionais em sua jornada de IA/ML. Essa estrutura mitiga os riscos de segurança e minimiza o acúmulo de dívida técnica.

Como você ajudaria as organizações a desbloquear todo o potencial de seus ativos de dados, impulsionar a inovação e obter uma vantagem competitiva? Vamos conversar sobre isso.