Der neueste Cloud Threat Report zeigt, dass Mitarbeiter ihre persönlichen Konten nutzen, um auf LLM-Tools wie ChatGPT, Google Gemini, Copilot und andere zuzugreifen, und dass dies zu einem der Hauptkanäle für Datenschutzverletzungen in Unternehmen geworden ist, wobei die Zahl der Datenschutzverletzungen im Zusammenhang mit generativer KI im Durchschnitt bei 223 pro Monat liegt, was eine Verdoppelung gegenüber dem Vorjahr bedeutet. Dem Bericht zufolge hat sich die Zahl der Hinweise, die in einigen Unternehmen an generative KI-Anwendungen gesendet werden, innerhalb eines Jahres versechsfacht, wobei das Unternehmen mit der Schlagzeile 1% mehr als 1,4 Millionen Hinweise pro Monat einreicht, die hochsensible Daten wie Quellcode, Vertragstexte, Kundeninformationen und sogar Zugangsdaten enthalten, die, sobald sie für das Modelltraining verwendet oder sekundär gestohlen werden, langfristige, irreversible Risiken für die Einhaltung von Vorschriften und das geistige Eigentum darstellen. Die Gemeinsamkeit dieser Art von Schatten-KI ist, dass sie "unsichtbar und unkontrollierbar" ist: Sicherheitsteams neigen dazu, sich nur auf den offiziellen Zugang zu den großen Modellen zu konzentrieren, während sie die grauen Kanäle von Browsern, persönlichen Konten und Mobiltelefonen ignorieren, und in Zukunft wird sie mit personalisierter Werbung überlagert werden, die auf dem Kontext der Sitzung und dem Plug-in-Ökosystem von Drittanbietern basiert, was die Grenzen der Daten weiter verwischen wird. Unternehmen sollten so bald wie möglich Richtlinien für die Nutzung von KI sowie Klassifizierungs- und Einstufungsnormen festlegen, den KI-Verkehr mit Hilfe von CASB/SASE identifizieren und blockieren, den persönlichen LLM-Zugang für hochsensible Abteilungen standardmäßig verbieten und als Alternative eine Unternehmensversion des kontrollierten LLM einführen, mit unterstützenden Audits und Strategien zur Datenminimierung.
