OpenAI's ChatGPT wird die Arbeitsweise revolutionieren, bringt jedoch Herausforderungen bei der Integration in Unternehmen mit sich. Obwohl Unternehmen generative KI als Wettbewerbsvorteil erkennen, bleibt das Risiko, vertrauliche Informationen preiszugeben, hoch.
Die Herausforderung unkontrollierter Nutzung
Viele Mitarbeiter nutzen ChatGPT bereits unbemerkt von ihren Arbeitgebern und teilen unbeabsichtigt sensible Daten. Unternehmen benötigen eine Lösung, und Metomic hat dafür den Browser-Plugin Metomic für ChatGPT entwickelt, der die Nutzeraktivitäten innerhalb von OpenAIs großem Sprachmodell (LLM) verfolgt.
„Es gibt keine Grenzen für diese Anwendungen; es ist ein Wildwest-Szenario bei den Datenaustauschaktivitäten“, sagte Rich Vibert, CEO von Metomic. „Niemand hat einen Überblick.“
Umfang der Datenleckagen
Forschungen zeigen, dass 15 % der Mitarbeiter regelmäßig Unternehmensdaten in ChatGPT eingeben, hauptsächlich Quellcode (31 %), interne Geschäftsinformationen (43 %) und personenbezogene Daten (PII) (12 %). Die betroffenen Abteilungen sind Forschung und Entwicklung, Finanzen sowie Vertrieb und Marketing.
„Das ist ein brandneues Problem“, erklärte Vibert und wies auf die „riesige Angst“ der Unternehmen hin, dass Mitarbeiter diese Werkzeuge nutzen. „Es gibt keine Barrieren; man benötigt nur einen Browser.“
Die Ergebnisse von Metomic zeigen, dass Mitarbeiter kritische Finanzdaten, einschließlich Bilanzen und Code-Snippets, leaken. Besonders besorgniserregend ist die Preisgabe von Kundenchat-Protokollen, die umfangreiche sensible Informationen wie Namen, E-Mail-Adressen und Kreditkartennummern enthalten können.
„Vollständige Kundenprofile werden in diese Werkzeuge eingegeben“, bemerkte Vibert, was potenziellen Zugang für Wettbewerber und Hacker ermöglichen und Vertragsrisiken mit sich bringen kann.
Das Risiko böswilliger Insider-Bedrohungen
Über unbeabsichtigte Lecks hinaus bestehen Risiken durch ausscheidende Mitarbeiter, die generative KI-Tools missbrauchen könnten, um proprietäre Daten mitzunehmen. Zudem könnten böswillige Insider absichtlich sensible Informationen preisgeben und weitergehende Bedrohungen darstellen.
Einige Unternehmen entscheiden sich dafür, ChatGPT und ähnliche Plattformen zu verbannen, doch Vibert warnt, dass dies keine nachhaltige Strategie ist.
„Diese Werkzeuge sind bleiben“, betont er und hebt den Wert von ChatGPT zur Steigerung von Produktivität und Effizienz hervor.
Datensicherheit mit Fokus auf Mitarbeiterengagement
Die Metomic-Integration für ChatGPT funktioniert im Browser, erkennt, wenn Mitarbeiter sich auf der Plattform anmelden, und scannt hochgeladene Daten in Echtzeit. Bei der Erkennung sensibler Daten wie PII oder Sicherheitsanmeldeinformationen werden die Nutzer benachrichtigt, diese Daten zu redigieren oder angemessen zu kategorisieren. Sicherheits-Teams erhalten ebenfalls Alerts über potenzielle Datenpannen, um proaktive Maßnahmen zu gewährleisten.
„Das ist Datensicherheit durch die Brille der Mitarbeiter“, erklärte Vibert und betonte Sichtbarkeit und Kontrolle statt strikter Einschränkungen.
„Es verwandelt Lärm in umsetzbare Erkenntnisse für Sicherheits- und Analyse-Teams“, fügte er hinzu und bekämpft die Alarmmüdigkeit, mit der IT-Abteilungen konfrontiert sind.
Navigieren im SaaS-Umfeld
Heutzutage nutzen Unternehmen eine Vielzahl von SaaS-Anwendungen – schätzungsweise 991, von denen jedoch nur 25 % miteinander vernetzt sind.
Vibert hebt den beispiellosen Anstieg der Nutzung von SaaS-Tools hervor und betont, dass Metomic mit verschiedenen Anwendungen verbunden ist und über 150 Datenklassifikatoren verfügt, um kritische Datenrisiken basierend auf kontextuellen Faktoren wie Branchenvorschriften zu erkennen.
„Zu verstehen, wo Daten in den Tools platziert sind, ist entscheidend“, sagt er und weist auf die Bedeutung hin, „Daten-Hotspots“ in spezifischen Abteilungen oder bei bestimmten Mitarbeitern zu identifizieren.
Mit der Expansion des SaaS-Ökosystems wird auch die Nutzung von generativen KI-Tools wie ChatGPT zunehmen.
Wie Vibert treffend feststellt: „Es ist noch nicht einmal Tag Null einer langen Reise vor uns.“
Rangliste
