SafeType™ da Cyera Labs Oferece Suporte à Experimentação Segura de IA Generativa

Como desenvolvedor, adoro experimentar novas tecnologias. Também sou apaixonado por incentivar minhas equipes a resolver problemas complexos na vanguarda da inovação. Recentemente, a imaginação coletiva da indústria de tecnologia foi capturada pela promessa (e potenciais aspectos negativos) da IA generativa, com o ChatGPT ocupando o centro das discussões. As plataformas de IA generativa representam um tremendo potencial para transformar os negócios.

Hoje, a equipe de pesquisa de segurança do Cyera Labs lançou o SafeType. Esta extensão para os navegadores Chrome e Edge permite que você saiba quando sua sessão do ChatGPT inclui dados sensíveis que você não deveria estar enviando para a OpenAI, e permite que você anonimize as informações. O SafeType é uma extensão de navegador de código aberto que agrupa classificadores estáticos para várias classes de dados comumente usadas. O SafeType não está conectado à plataforma de segurança de dados da Cyera, não compartilha código com a plataforma e não interage com a Cyera ou os sistemas de nossos clientes de forma alguma. O objetivo do Cyera Labs é ajudar a mitigar divulgações acidentais durante a experimentação com a tecnologia.

Não há dúvida de que o ChatGPT está ganhando manchetes e capturando a imaginação das pessoas. Os investidores claramente viram o potencial, com a Microsoft estimada em ter investido aproximadamente US$ 10 bilhões, e recentemente empresas de capital de risco incluindo Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global e Founders Fund aportando pouco mais de US$ 300 milhões, com uma avaliação entre US$ 27 bilhões e US$ 29 bilhões. Não surpreendentemente, o ecossistema de tecnologia foi rápido em construir tecnologias que aproveitam a plataforma de IA. No Winter 2023 YC Demo Day quatro startups afirmaram estar construindo "ChatGPT para X", e a IA generativa foi o foco de muitas discussões na RSA Conference deste ano em São Francisco.

Atualmente, o ChatGPT registra tudo o que você digita nele. Sua política de privacidade afirma que, quando você usa o ChatGPT, ele pode coletar informações pessoais de suas mensagens, quaisquer arquivos que você enviar e qualquer feedback que você fornecer. Essas informações podem ser compartilhadas com fornecedores e prestadores de serviços e outras empresas, afiliadas e entidades jurídicas, bem como com treinadores de IA que revisam conversas. Isso levanta preocupações claras sobre privacidade, compartilhamento de segredos e uso indevido que podem levar a violações de dados e fraudes.

Essas preocupações levaram a Itália e outros países a instituir proibições e exigir que a Open AI aplique salvaguardas. Vários distritos escolares de ensino fundamental e médio dos EUA e algumas universidades internacionais proibiram o uso do ChatGPT por alunos e funcionários. E funcionários do JPMorgan Chase, Amazon, Verizon e Accenture supostamente foram impedidos de usar o ChatGPT para trabalho devido a preocupações de que os funcionários possam enviar informações confidenciais ao chatbot.

Desde a nossa criação, a Cyera tem trabalhado para aproveitar o poder que o aprendizado de máquina, a IA e os grandes modelos de linguagem representam. À medida que trabalhamos com a tecnologia, discutimos frequentemente como implementar salvaguardas para manter a privacidade e evitar o compartilhamento excessivo. Ao testemunharmos as ações que abordei acima, percebemos que poderíamos ajudar as empresas a construir conscientização e implementar procedimentos que permitiriam que suas equipes experimentassem o ChatGPT com segurança.

A OpenAI afirmou que planeja lançar o ChatGPT Business, como uma solução "para profissionais que precisam de mais controle sobre seus dados, bem como para empresas que buscam gerenciar seus usuários finais." Um dos principais controles que eles implementarão impedirá que os dados dos usuários finais sejam usados para treinar os modelos de IA. E embora isso pareça ser um passo positivo para incentivar um uso mais seguro da tecnologia no futuro, nossa equipe quis fornecer alguns benefícios imediatos para empresas que buscam capacitar suas equipes a experimentar o ChatGPT com segurança, hoje.

SafeType™ está atualmente em pré-visualização da comunidade. Estamos avaliando o interesse e buscando contribuições sobre o que tornaria esta ferramenta mais valiosa para você e sua equipe. Quer a capacidade de adicionar suas definições de dados sensíveis? Ajudaria conectar isso à plataforma de segurança de dados da Cyera para obter todo o poder da Cyera ajudando você a proteger sessões do ChatGPT? Queremos ter essas conversas com você. Por favor, junte-se à nossa comunidade pública no Slack #cyeralabs - e compartilhe seus pensamentos conosco.

E se você ainda não tem o SafeType, baixe-o aqui!