SafeType™ de Cyera Labs prend en charge l'expérimentation sûre de l'IA générative

En tant que développeur, j'adore expérimenter avec les nouvelles technologies. Je suis également passionné par l'encouragement de mes équipes à résoudre des problèmes complexes à la pointe de l'innovation. Récemment, l'imagination collective de l'industrie technologique a été captivée par la promesse (et les potentiels aspects négatifs) de l'IA générative, avec ChatGPT occupant le devant de la scène dans les discussions. Les plateformes d'IA générative représentent un potentiel énorme pour bouleverser les entreprises.

Aujourd'hui, l'équipe de recherche en sécurité de Cyera Labs a publié SafeType. Cette extension pour les navigateurs Chrome et Edge vous informe lorsque votre session ChatGPT contient des données sensibles que vous ne devriez pas envoyer à OpenAI, et vous permet d'anonymiser ces informations. SafeType est une extension de navigateur open source qui intègre des classificateurs statiques pour un certain nombre de catégories de données couramment utilisées. SafeType n'est pas connecté à la plateforme de sécurité des données de Cyera, ne partage aucun code avec la plateforme et n'interagit d'aucune manière avec Cyera ou les systèmes de nos clients. L'objectif de Cyera Labs est d'aider à réduire les divulgations accidentelles tout en expérimentant la technologie.

Il ne fait aucun doute que ChatGPT fait les gros titres et captive les imaginations. Les investisseurs ont clairement perçu le potentiel, Microsoft ayant investi environ 10 milliards de dollars selon les estimations, et récemment des sociétés de capital-risque, notamment Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global et Founders Fund, ont injecté un peu plus de 300 millions de dollars, pour une valorisation comprise entre 27 et 29 milliards de dollars. Sans surprise, l'écosystème technologique s'est empressé de développer des technologies exploitant cette plateforme d'IA. Lors du Winter 2023 YC Demo Day, quatre startups ont affirmé construire un "ChatGPT pour X", et l'IA générative était au cœur de nombreuses discussions lors de la conférence RSA de cette année à San Francisco.

Actuellement, ChatGPT enregistre tout ce que vous saisissez. Sa politique de confidentialité indique que lorsque vous utilisez ChatGPT, il peut collecter des informations personnelles à partir de vos messages, des fichiers que vous téléchargez et de tout retour que vous fournissez. Ces informations peuvent être partagées avec des fournisseurs, des prestataires de services, d'autres entreprises, des affiliés, des entités juridiques, ainsi qu'avec des formateurs en IA qui examinent les conversations. Cela soulève des préoccupations évidentes concernant la confidentialité, le partage de secrets et les abus pouvant entraîner des violations de données et des fraudes.

Ces préoccupations ont conduit l’Italie et d’autres pays à instaurer des interdictions et à exiger qu’OpenAI mette en place des garde-fous. Plusieurs districts scolaires américains (K-12) et quelques universités internationales ont interdit l’utilisation de ChatGPT par les élèves et le personnel. JPMorgan Chase, Amazon, Verizon et Accenture auraient également interdit à leurs employés d’utiliser ChatGPT dans le cadre professionnel, par crainte que des informations sensibles ne soient saisies dans le chatbot.

Depuis notre création, Cyera s'efforce de tirer parti de la puissance que représentent l'apprentissage automatique, l'IA et les grands modèles de langage. Au fil de notre travail avec ces technologies, nous discutons fréquemment des moyens de mettre en place des garde-fous pour préserver la confidentialité et éviter la divulgation excessive d'informations. En observant les actions que j'ai évoquées plus haut, nous avons compris que nous pouvions aider les entreprises à sensibiliser leurs équipes et à instaurer des procédures leur permettant d'expérimenter ChatGPT en toute sécurité.

OpenAI a annoncé son intention de lancer ChatGPT Business, comme solution « pour les professionnels qui ont besoin de plus de contrôle sur leurs données ainsi que pour les entreprises cherchant à gérer leurs utilisateurs finaux ». L'un des principaux contrôles qu'ils mettront en place empêchera l'utilisation des données des utilisateurs finaux pour entraîner les modèles d'IA. Et bien que cela semble être une étape positive vers l'encouragement d'une utilisation plus sécurisée de la technologie à l'avenir, notre équipe souhaitait offrir des avantages immédiats aux entreprises cherchant à permettre à leurs équipes d'expérimenter ChatGPT de manière sécurisée, dès aujourd'hui.

SafeType™ est actuellement en aperçu communautaire. Nous évaluons l'intérêt et recherchons des retours sur ce qui rendrait cet outil plus utile pour vous et votre équipe. Souhaitez-vous pouvoir ajouter vos propres définitions de données sensibles ? Serait-il utile de connecter cela à la plateforme de sécurité des données de Cyera afin de bénéficier de toute la puissance de Cyera pour sécuriser vos sessions ChatGPT ? Nous souhaitons échanger avec vous à ce sujet. Rejoignez notre communauté Slack publique #cyeralabs et partagez-nous vos idées.

Et si vous n'avez pas encore SafeType, téléchargez-le ici !