SafeType™ von Cyera Labs unterstützt sicheres generatives KI-Experimentieren

Als Entwickler experimentiere ich leidenschaftlich gern mit neuen Technologien. Es ist mir außerdem ein Anliegen, meine Teams zu ermutigen, komplexe Probleme an der Spitze der Innovation zu lösen. In letzter Zeit hat die Technologiebranche die vielversprechenden (und potenziellen) Risiken generativer KI in ihren Bann gezogen, wobei ChatGPT im Mittelpunkt der Diskussionen steht. Plattformen für generative KI bergen ein enormes Potenzial, Unternehmen grundlegend zu verändern.

Das Sicherheitsforschungsteam von Cyera Labs hat heute SafeType veröffentlicht. Diese Erweiterung für Chrome und Edge benachrichtigt Sie, wenn Ihre ChatGPT-Sitzung sensible Daten enthält, die Sie nicht an OpenAI senden sollten, und ermöglicht Ihnen die Anonymisierung dieser Informationen. SafeType ist eine Open-Source-Browsererweiterung, die statische Klassifikatoren für eine Reihe häufig verwendeter Datenklassen bündelt. SafeType ist nicht mit der Datensicherheitsplattform von Cyera verbunden, teilt keinen Code mit der Plattform und interagiert in keiner Weise mit Cyera oder den Systemen unserer Kunden. Ziel von Cyera Labs ist es, versehentliche Offenlegungen zu minimieren und gleichzeitig die Technologie zu erproben.

ChatGPT sorgt zweifellos für Schlagzeilen und begeistert die Fantasie. Investoren haben das Potenzial erkannt: Microsoft investierte schätzungsweise rund 10 Milliarden US-Dollar, und Risikokapitalgeber wie Sequoia Capital, Andreessen Horowitz, Thrive, K2 Global und Founders Fund legten kürzlich über 300 Millionen US-Dollar bei, was einer Unternehmensbewertung zwischen 27 und 29 Milliarden US-Dollar entspricht. Wenig überraschend hat das Technologie-Ökosystem rasch Technologien entwickelt, die die KI-Plattform nutzen. YC Demo Day Vier Startups behaupteten, „ChatGPT für X“ zu entwickeln, und Generative KI stand im Mittelpunkt vieler Diskussionen. auf der diesjährigen RSA-Konferenz in San Francisco.

ChatGPT zeichnet derzeit alles auf, was Sie eingeben. Laut Datenschutzerklärung kann ChatGPT bei der Nutzung Ihrer Nachrichten, hochgeladenen Dateien und Ihres Feedbacks personenbezogene Daten erfassen. Diese Informationen können an Anbieter, Dienstleister, andere Unternehmen, verbundene Unternehmen und juristische Personen sowie an KI-Trainer, die die Konversationen auswerten, weitergegeben werden. Dies wirft berechtigte Bedenken hinsichtlich Datenschutz, Weitergabe von Geschäftsgeheimnissen und Missbrauch auf, der zu Datenlecks und Betrug führen kann.

Diese Bedenken führten Italien und andere Länder Es werden Verbote verhängt und OpenAI wird aufgefordert, Sicherheitsvorkehrungen zu treffen. Mehrere US-amerikanische Schulbezirke und einige internationale Universitäten haben die Nutzung von ChatGPT für Schüler und Mitarbeiter untersagt. Auch Mitarbeitern von JPMorgan Chase, Amazon, Verizon und Accenture wurde Berichten zufolge die dienstliche Nutzung von ChatGPT untersagt, da befürchtet wird, dass Mitarbeiter sensible Informationen in den Chatbot eingeben könnten.

Seit unserer Gründung arbeitet Cyera daran, das Potenzial von maschinellem Lernen, KI und großen Sprachmodellen nutzbar zu machen. In unserer Arbeit mit dieser Technologie diskutieren wir regelmäßig, wie wir Sicherheitsvorkehrungen treffen können, um die Privatsphäre zu wahren und die Weitergabe von Daten zu verhindern. Angesichts der oben beschriebenen Entwicklungen wurde uns klar, dass wir Unternehmen dabei unterstützen können, das Bewusstsein für ChatGPT zu schärfen und Verfahren zu implementieren, die es ihren Teams ermöglichen, sicher damit zu experimentieren.

OpenAI hat angekündigt, ChatGPT Business als Lösung für „Profis, die mehr Kontrolle über ihre Daten benötigen, sowie Unternehmen, die ihre Endnutzer verwalten möchten“, zu veröffentlichen. Eine der wichtigsten Maßnahmen wird verhindern, dass Endnutzerdaten zum Trainieren der KI-Modelle verwendet werden. Dies scheint ein positiver Schritt hin zu einer sichereren Nutzung der Technologie zu sein. Unser Team wollte jedoch bereits heute Unternehmen, die ihren Mitarbeitern sicheres Experimentieren mit ChatGPT ermöglichen möchten, unmittelbare Vorteile aufzeigen.

SafeType™ befindet sich aktuell in der Community-Vorschau. Wir möchten Ihr Interesse ermitteln und freuen uns über Ihr Feedback, wie Sie und Ihr Team dieses Tool noch wertvoller gestalten können. Wünschen Sie sich die Möglichkeit, Definitionen für sensible Daten hinzuzufügen? Wäre es hilfreich, SafeType™ mit der Datensicherheitsplattform von Cyera zu verbinden, um die volle Leistungsfähigkeit von Cyera zur Sicherung Ihrer ChatGPT-Sitzungen zu nutzen? Wir möchten diese Fragen mit Ihnen besprechen. Nehmen Sie an unserer öffentlichen Vorschau teil. Slack-Community #cyeralabs – und teilt eure Gedanken mit uns.

Und falls Sie SafeType noch nicht haben, Hier herunterladen!