En tant que développeur, j'adore expérimenter les nouvelles technologies. J'ai également à cœur d'encourager mes équipes à résoudre des problèmes complexes à la pointe de l'innovation. Récemment, l'intelligence artificielle générative (IAG) a captivé l'imagination collective du secteur technologique, avec ChatGPT au centre des débats. Les plateformes d'IAG présentent un potentiel considérable pour transformer les entreprises.
Aujourd'hui, l'équipe de recherche en sécurité de Cyera Labs a publié SafeType. Cette extension pour les navigateurs Chrome et Edge vous avertit lorsque votre session ChatGPT contient des données sensibles que vous ne devriez pas envoyer à OpenAI et vous permet de les anonymiser. SafeType est une extension open source qui intègre des classificateurs statiques pour plusieurs classes de données courantes. SafeType est indépendante de la plateforme de sécurité des données de Cyera, ne partage aucun code avec elle et n'interagit d'aucune manière avec les systèmes de Cyera ou de ses clients. L'objectif de Cyera Labs est de contribuer à limiter les divulgations accidentelles lors de l'expérimentation de cette technologie.
Nul doute que ChatGPT fait les gros titres et captive les imaginations. Les investisseurs ont clairement perçu son potentiel : Microsoft aurait investi environ 10 milliards de dollars, et récemment, des sociétés de capital-risque telles que Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global et Founders Fund ont injecté un peu plus de 300 millions de dollars, pour une valorisation comprise entre 27 et 29 milliards de dollars. Sans surprise, l’écosystème technologique s’est rapidement adapté pour développer des technologies exploitant cette plateforme d’IA. À l’hiver 2023 Journée de démonstration YC quatre start-ups affirmaient développer « ChatGPT pour X », et L'IA générative a été au centre de nombreuses discussions. à la conférence RSA de cette année à San Francisco.
Actuellement, ChatGPT enregistre tout ce que vous y saisissez. Sa politique de confidentialité indique que lorsque vous utilisez ChatGPT, des informations personnelles peuvent être collectées à partir de vos messages, des fichiers que vous téléchargez et de vos commentaires. Ces informations peuvent être partagées avec des fournisseurs, des prestataires de services, d'autres entreprises, des filiales et des entités juridiques, ainsi qu'avec des formateurs d'IA chargés d'analyser les conversations. Ceci soulève des inquiétudes légitimes quant au respect de la vie privée, au partage de données confidentielles et aux risques d'utilisation abusive pouvant entraîner des violations de données et des fraudes.
Ces préoccupations ont conduit L'Italie et d'autres pays Des interdictions ont été mises en place et des mesures de protection ont été exigées pour OpenAI. Plusieurs districts scolaires américains (de la maternelle à la terminale) et quelques universités internationales ont interdit l'utilisation de ChatGPT à leurs élèves et à leur personnel. Par ailleurs, des employés de JPMorgan Chase, Amazon, Verizon et Accenture auraient été interdits d'utiliser ChatGPT dans un cadre professionnel, par crainte que des informations sensibles ne soient transmises par le biais du chatbot.
Depuis sa création, Cyera s'efforce d'exploiter la puissance du machine learning, de l'IA et des grands modèles de langage. Au fil de notre expérience avec ces technologies, nous avons régulièrement abordé la question des mesures de protection à mettre en place pour garantir la confidentialité et éviter le partage excessif d'informations. En observant les pratiques décrites précédemment, nous avons compris que nous pouvions aider les entreprises à sensibiliser leurs équipes et à instaurer des procédures leur permettant d'expérimenter ChatGPT en toute sécurité.
OpenAI a annoncé son intention de lancer ChatGPT Business, une solution destinée aux professionnels souhaitant un meilleur contrôle de leurs données et aux entreprises désireuses de gérer leurs utilisateurs finaux. L'une des principales mesures de contrôle mises en place empêchera l'utilisation des données des utilisateurs finaux pour l'entraînement des modèles d'IA. Bien que cela représente un pas en avant positif vers une utilisation plus sécurisée de cette technologie, notre équipe souhaitait offrir dès aujourd'hui des avantages immédiats aux entreprises désireuses de permettre à leurs équipes d'expérimenter ChatGPT en toute sécurité.
SafeType™ est actuellement en avant-première communautaire. Nous évaluons l'intérêt suscité et souhaitons recueillir vos suggestions pour en faire un outil encore plus précieux pour vous et votre équipe. Souhaiteriez-vous pouvoir ajouter vos définitions de données sensibles ? Serait-il utile de connecter SafeType™ à la plateforme de sécurité des données Cyera afin de bénéficier pleinement de la puissance de Cyera pour sécuriser vos sessions ChatGPT ? Nous souhaitons échanger avec vous à ce sujet. Rejoignez notre forum public. Communauté Slack #cyeralabs - et partagez vos impressions avec nous.
Et si vous n'avez pas encore SafeType, Téléchargez-le ici!
Get your AI Security Assessment
.svg)