Последний отчет Cloud Threat Report показывает, что использование сотрудниками личных учетных записей для доступа к инструментам LLM, таким как ChatGPT, Google Gemini, Copilot и другим, стало одним из основных каналов утечки корпоративных данных, причем число нарушений политики обработки данных, связанных с genAI, составляет в среднем 223 в месяц, что вдвое больше, чем в прошлом году. Согласно отчету, количество советов, отправляемых приложениям генеративного ИИ в некоторых организациях, за год увеличилось в шесть раз, а на головном предприятии 1% ежемесячно отправляется более 1,4 миллиона советов, которые содержат очень конфиденциальные данные, такие как исходный код, текст контракта, информация о клиентах и даже учетные данные, которые после использования для обучения моделей или вторичной кражи представляют собой долгосрочные необратимые риски для соблюдения нормативных требований и интеллектуальной собственности. Общим для этого типа теневого ИИ является то, что он "невидим и неуправляем": команды безопасности, как правило, фокусируются на официальном доступе к большим моделям, игнорируя серые каналы браузеров, личных аккаунтов и мобильных устройств, а в будущем на него будут накладываться персонализированные объявления, основанные на контексте сессии, и сторонние плагины, что еще больше размоет границы данных. Предприятиям следует как можно скорее разработать политики использования genAI, нормы классификации и классификации, выявлять и блокировать трафик ИИ с помощью CASB/SASE, по умолчанию запретить персональный доступ к LLM для особо важных подразделений и внедрить корпоративную версию контролируемого LLM в качестве альтернативы, с поддержкой стратегий аудита и минимизации данных.
