Отчет "Основные выводы":
В августе-октябре 2025 года ВЭФ (Всемирный экономический форум) провел анкетный опрос 800 корпоративных специалистов-практиков по всему миру, результаты которого будут опубликованы в январе 2026 года. Результаты опроса показали, что 94% руководителей считают ИИ наиболее значимым фактором изменения ландшафта кибербезопасности в 2026 году; 87% респондентов назвали уязвимости, связанные с ИИ, наиболее быстро растущим риском кибербезопасности. По сравнению с опросом 2025 года доля предприятий, оценивающих безопасность инструментов ИИ, значительно возросла - с 37% до 64%. С точки зрения наступления и защиты предприятия обеспокоены как использованием злоумышленниками ИИ для ускорения своих атак (обеспокоенность 72%), так и инвестированием в инструменты защиты от ИИ.
Три основных "подводных камня" безопасности ИИ:
ОГО выделили три наиболее значимых риска в порядке убывания:
(1) Нарушение конфиденциальности данных (30%) - учебные данные модели искусственного интеллекта отравлены или конфиденциальная информация извлечена в процессе вычисления;
(2) Расширение возможностей ИИ противника (28%) - злоумышленники используют ИИ для создания фишинговых писем, адаптивных вредоносных программ и ложных заключений;
(3) Техническая безопасность систем ИИ (15%) - специфические для ИИ уязвимости, такие как бэкдоры в моделях, обфускация привилегий и внедрение подсказок.
Тем временем предприятие 73% переходит от "защиты от вымогательства в первую очередь" в 2025 году к "защите от мошенничества и фишинга с помощью искусственного интеллекта" в 2026 году.
ИИ Intelligentsia Permission Explosion Problem:
CyberArk и другие поставщики систем безопасности сообщают о ключевой тенденции: нечеловеческие идентификаторы скоро станут вектором нарушений в облаке номер один. К 2026 году каждый искусственный интеллект будет представлять собой "личность", требующую учетных данных базы данных, токенов облачных сервисов, ключей репозиториев кода и т. д. По мере того как организации развертывают десятки или даже сотни ИИ-интеллектов, эти идентификаторы накапливают все больше привилегий, что делает их мишенью для злоумышленников. Новый вектор атаки oWASP "неправомерное использование инструмента" особенно опасен: злоумышленник может внедрить вредоносные данные через инжектор вредоносных данных, не изменяя командный префикс ИИ (системный запрос), но и не изменяя командный префикс ИИ. Новый вектор атаки "злоупотребление инструментами" в OWASP особенно опасен: злоумышленник может обманом заставить ИИ выполнить непредусмотренные вызовы API, повысить привилегии или украсть данные, не изменяя системный запрос ИИ.
Перспективные стратегии преодоления:
Внедрите управление идентификацией и доступом к ИИ (IAM): назначьте минимально необходимые разрешения для каждого ИИ-интеллекта, регулярно проверяйте его учетные данные и журналы вызовов API.
Разверните защиту от выражений и подсказок: добавьте обнаружение инъекций команд на уровень проверки ввода агента ИИ и поместите в карантин недоверенные внешние источники данных.
Создание системы доверия к цепочке поставок ИИ: проверка источников безопасности сторонних моделей ИИ, плагинов и источников данных для предотвращения развертывания моделей с "черным ходом".
Расширение SIEM с поддержкой ИИ: традиционный анализ журналов с трудом справляется с высоким уровнем автономности ИИ, поэтому требуется специальное обнаружение аномалий, связанных с поведением ИИ.
Формирование группы экстренного реагирования на угрозы безопасности ИИ: поскольку традиционным группам кибербезопасности не хватает опыта экстренного реагирования на угрозы, характерные для ИИ
Trend Insight:
2026 год станет поворотным пунктом от "защиты безопасности с помощью ИИ" к "систематизации управления безопасностью с помощью ИИ". Это уже не просто "использование ИИ для борьбы с вредоносным ИИ", а интеграция осознания рисков ИИ во все процессы управления идентификацией, управления привилегиями, журналами аудита, реагирования на чрезвычайные ситуации и так далее. Те предприятия, которые все еще застряли в "теории преимуществ ИИ" и игнорируют управление привилегиями, столкнутся с самой большой ценой.
