В 2025 году ряд международных организаций обнародовал информацию о том, что: с помощью генеративного ИИ для автоматического создания мультиязычных, сильных симуляций содержания разговора, количество фишинговых атак в некоторых отраслях выросло примерно на 1200%, представляя собой новые характеристики “большое количество, высокое качество, трудно идентифицировать”. Злоумышленники использовали украденные данные для точного создания образа руководителей и партнеров компаний, обходя простую фильтрацию по ключевым словам и традиционные механизмы черных списков. В то же время синтезированные ИИ голос и видео используются в сценариях телефонного мошенничества и глубокой подделки, что значительно увеличивает стоимость ручной проверки. Индустрия безопасности пытается заранее выявить подозрительные шаблоны на уровне диалогов и вложений с помощью анализа поведения электронной почты на основе ИИ, семантического обнаружения контента и моделирования аномального поведения учетной записи, чтобы добиться “ИИ распознает ИИ”. Для предприятий создание комплексной “человеко-машинной совместной защиты”, включающей контроль доступа с нулевым доверием, тонкую аутентификацию и непрерывное обучение по вопросам безопасности, стало обязательным условием борьбы с фишинговыми атаками нового поколения.
