Como desenvolvedor, adoro experimentar novas tecnologias. Também sou apaixonado por incentivar minhas equipes a resolver problemas complexos na vanguarda da inovação. Recentemente, o imaginário coletivo da indústria de tecnologia foi capturado pela promessa (e pelos potenciais aspectos negativos) da IA generativa, com o ChatGPT assumindo o protagonismo nas discussões. As plataformas de IA generativa representam um enorme potencial para revolucionar os negócios.
Hoje, a equipe de pesquisa de segurança da Cyera Labs lançou o SafeType. Esta extensão para os navegadores Chrome e Edge permite que você saiba quando sua sessão do ChatGPT inclui dados confidenciais que você não deveria estar enviando para a OpenAI, e possibilita anonimizar essas informações. O SafeType é uma extensão de navegador de código aberto que reúne classificadores estáticos para diversas classes de dados comumente usadas. O SafeType não está conectado à plataforma de segurança de dados da Cyera, não compartilha código com a plataforma e não interage com os sistemas da Cyera ou de nossos clientes de forma alguma. O objetivo da Cyera Labs é ajudar a mitigar divulgações acidentais durante a experimentação com a tecnologia.
Não há dúvida de que o ChatGPT está ganhando destaque e conquistando a imaginação de muitos. Os investidores claramente enxergaram o potencial, com a Microsoft estimando ter investido aproximadamente US$ 10 bilhões, e recentemente empresas de capital de risco como Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global e Founders Fund investiram pouco mais de US$ 300 milhões, com uma avaliação entre US$ 27 bilhões e US$ 29 bilhões. Não surpreendentemente, o ecossistema tecnológico rapidamente desenvolveu tecnologias que aproveitam a plataforma de IA. No inverno de 2023 Dia de demonstração da YC Quatro startups afirmaram estar construindo um “ChatGPT para X”, e A inteligência artificial generativa foi o foco de muitas discussões. na Conferência RSA deste ano em São Francisco.
Atualmente, o ChatGPT registra tudo o que você digita. Sua política de privacidade afirma que, ao usar o ChatGPT, ele pode coletar informações pessoais de suas mensagens, arquivos que você envia e feedbacks que você fornece. Essas informações podem ser compartilhadas com fornecedores, prestadores de serviços, outras empresas, afiliadas e entidades legais, bem como com treinadores de IA que revisam as conversas. Isso levanta preocupações claras sobre privacidade, compartilhamento de segredos e uso indevido, que podem levar a violações de dados e fraudes.
Essas preocupações levaram Itália e outros países instituir proibições e exigir que a OpenAI aplique medidas de segurança. Vários distritos escolares do ensino fundamental e médio dos EUA e algumas universidades internacionais proibiram o uso do ChatGPT por alunos e funcionários. E funcionários do JPMorgan Chase, Amazon, Verizon e Accenture teriam sido proibidos de usar o ChatGPT para o trabalho devido a preocupações de que possam enviar informações confidenciais para o chatbot.
Desde a nossa fundação, a Cyera tem se dedicado a explorar o potencial do aprendizado de máquina, da IA e dos grandes modelos de linguagem. Ao longo da nossa experiência com essa tecnologia, discutimos frequentemente como implementar medidas de segurança para preservar a privacidade e evitar o compartilhamento excessivo de informações. Ao presenciarmos as ações que mencionei anteriormente, percebemos que poderíamos ajudar empresas a conscientizar e implementar procedimentos que permitissem às suas equipes experimentar o ChatGPT com segurança.
A OpenAI anunciou que planeja lançar o ChatGPT Business como uma solução "para profissionais que precisam de mais controle sobre seus dados, bem como para empresas que buscam gerenciar seus usuários finais". Um dos principais controles que serão implementados impedirá que os dados dos usuários finais sejam usados para treinar os modelos de IA. Embora isso pareça ser um passo positivo para incentivar um uso mais seguro da tecnologia no futuro, nossa equipe quis oferecer alguns benefícios imediatos para empresas que desejam permitir que suas equipes experimentem o ChatGPT com segurança, hoje mesmo.
O SafeType™ está atualmente em pré-visualização para a comunidade. Estamos avaliando o interesse e buscando sugestões sobre o que tornaria essa ferramenta ainda mais valiosa para você e sua equipe. Gostaria de poder adicionar suas definições de dados sensíveis? Seria útil conectar o SafeType™ à plataforma de segurança de dados da Cyera para aproveitar ao máximo os recursos da Cyera na proteção de sessões do ChatGPT? Queremos conversar sobre isso com você. Participe da nossa consulta pública. Comunidade Slack #cyeralabs - e compartilhe suas ideias conosco.
E se você ainda não tem o SafeType, Faça o download aqui.!
Get your AI Security Assessment
.svg)