Como desarrollador, me encanta experimentar con nuevas tecnologías. También me apasiona motivar a mis equipos para que resuelvan problemas complejos a la vanguardia de la innovación. Recientemente, la industria tecnológica ha captado la atención del público ante las promesas (y los posibles inconvenientes) de la IA generativa, con ChatGPT como protagonista en los debates. Las plataformas de IA generativa representan un enorme potencial para transformar los negocios.
Hoy, el equipo de investigación de seguridad de Cyera Labs lanzó SafeType. Esta extensión para los navegadores Chrome y Edge te avisa cuando tu sesión de ChatGPT incluye datos confidenciales que no deberías enviar a OpenAI, y te permite anonimizar la información. SafeType es una extensión de código abierto para navegadores que incluye clasificadores estáticos para varias clases de datos de uso común. SafeType no está conectada a la plataforma de seguridad de datos de Cyera, no comparte código con la plataforma y no interactúa con Cyera ni con los sistemas de nuestros clientes. El objetivo de Cyera Labs es ayudar a mitigar las divulgaciones accidentales mientras se experimenta con la tecnología.
No cabe duda de que ChatGPT está acaparando titulares y cautivando la imaginación. Los inversores han visto claramente su potencial: se estima que Microsoft ha invertido aproximadamente 10.000 millones de dólares, y recientemente firmas de capital riesgo como Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global y Founders Fund han invertido algo más de 300 millones de dólares, con una valoración de entre 27.000 y 29.000 millones de dólares. Como era de esperar, el ecosistema tecnológico se ha apresurado a desarrollar tecnologías que aprovechan la plataforma de IA. En el invierno de 2023 Día de demostración de YC Cuatro startups afirmaron estar creando “ChatGPT para X”, y La inteligencia artificial generativa fue el tema central de muchos debates. en la Conferencia RSA de este año en San Francisco.
Actualmente, ChatGPT registra todo lo que escribes. Su política de privacidad establece que, al usar ChatGPT, puede recopilar información personal de tus mensajes, archivos subidos y comentarios. Esta información puede compartirse con proveedores, prestadores de servicios, otras empresas, afiliados y entidades legales, así como con entrenadores de IA que revisan las conversaciones. Esto genera claras preocupaciones sobre la privacidad, la divulgación de información confidencial y el uso indebido, que puede derivar en filtraciones de datos y fraude.
Estas preocupaciones llevaron Italia y otros países Se han impuesto prohibiciones y se ha exigido a OpenAI que aplique medidas de seguridad. Varios distritos escolares de primaria y secundaria de EE. UU., así como algunas universidades internacionales, han prohibido el uso de ChatGPT a estudiantes y personal. Además, según se informa, se ha prohibido al personal de JPMorgan Chase, Amazon, Verizon y Accenture el uso de ChatGPT para trabajar, ante la preocupación de que los empleados puedan introducir información confidencial en el chatbot.
Desde nuestros inicios, Cyera se ha dedicado a aprovechar el potencial del aprendizaje automático, la IA y los modelos de lenguaje a gran escala. Al trabajar con esta tecnología, hemos analizado con frecuencia cómo implementar medidas de seguridad para proteger la privacidad y evitar la divulgación excesiva de información. Tras observar las acciones descritas anteriormente, nos dimos cuenta de que podíamos ayudar a las empresas a generar conciencia y establecer procedimientos que permitieran a sus equipos experimentar con ChatGPT de forma segura.
OpenAI ha anunciado que planea lanzar ChatGPT Business como una solución para profesionales que necesitan mayor control sobre sus datos, así como para empresas que buscan gestionar a sus usuarios finales. Uno de los principales controles que implementarán impedirá que los datos de los usuarios finales se utilicen para entrenar los modelos de IA. Si bien esto parece un paso positivo hacia un uso más seguro de la tecnología en el futuro, nuestro equipo quería ofrecer hoy mismo algunos beneficios inmediatos a las empresas que buscan que sus equipos puedan experimentar con ChatGPT de forma segura.
SafeType™ se encuentra actualmente en fase de vista previa para la comunidad. Estamos evaluando el interés y buscando sugerencias sobre cómo convertirla en una herramienta más valiosa para usted y su equipo. ¿Le gustaría poder agregar definiciones de datos confidenciales? ¿Le sería útil conectarla con la plataforma de seguridad de datos de Cyera para aprovechar al máximo las capacidades de Cyera y proteger sus sesiones de ChatGPT? Queremos conversar con usted sobre estos temas. Únase a nuestra comunidad. Comunidad de Slack #cyeralabs - y comparte tus opiniones con nosotros.
Y si aún no tienes SafeType, Descárgalo aquí¡
Get your AI Security Assessment
.svg)