2025년에 여러 국제 기관에서 발표한 바에 따르면, 대화 내용의 강력한 다국어 시뮬레이션을 자동으로 생성하는 생성 AI의 도움으로 일부 산업에서 피싱 공격이 약 1200% 급증하여 “대량, 고품질, 식별하기 어려운”이라는 새로운 특성을 나타냈습니다. 공격자들은 훔친 데이터를 사용하여 단순한 키워드 필터링과 기존의 블랙리스트 메커니즘을 우회하여 기업 임원 및 파트너의 이미지를 정확하게 구축했습니다. 동시에 전화 사기 및 심층 위조 시나리오에서는 AI 합성 음성 및 비디오가 사용되어 수동 검증 비용이 크게 증가했습니다. 보안 업계에서는 AI 기반 이메일 행동 분석, 콘텐츠 시맨틱 탐지, 계정 이상 행동 모델링을 통해 대화 및 첨부 파일 수준에서 의심스러운 패턴을 사전에 식별하여 “AI가 AI를 인식하는” 보안을 실현하고자 합니다. 기업의 경우 제로 트러스트 액세스 제어, 세분화된 인증, 지속적인 보안 인식 교육을 포함하는 포괄적인 “인간과 기계의 협력적 방어'를 구축하는 것이 차세대 피싱 공격에 대응하는 데 필수적인 요소가 되었습니다.
