I. 머리말

2025.일체 포함(AI)는 연구실에서 대규모 애플리케이션으로 이동하는 동시에 사이버 보안의 공격 및 방어 환경을 크게 변화시키고 있습니다. Verizon 데이터 유출 조사 보고서(DBIR), IBM의 연례 데이터 유출 비용 보고서, CrowdStrike 랜섬웨어 조사 및 Microsoft 디지털 방어 보고서와 같은 기관에 따르면, 올해는 AI 기반 사이버 공격이 폭발적으로 증가한 해였습니다. 전 세계적으로 보고된 AI 기반 사이버 공격의 47% 증가는 방어 기술의 급속한 발전과 함께 이루어졌으며, AI 방어 기술을 사용하는 조직은 이러한 기술을 채택하지 않은 조직에 비해 평균 190만 달러의 침해 비용을 절감한 것으로 나타났습니다.

이 보고서는 2025년 글로벌 및 홍콩 사이버 위협 환경에 대한 종합적인 분석을 제공하며, AI가 공격자와 방어자의 비용 분석, 가장 큰 영향을 받는 산업 및 지역, 실제 사례, 보안 침해의 경제적 영향, 조직이 취해야 할 주요 방어 조치에 대한 인사이트를 제공합니다. 이 보고서는 점점 더 복잡해지는 위협 환경에서 조직이 정보에 입각한 보안 투자 결정을 내릴 수 있도록 의사 결정권자에게 데이터 기반 인사이트를 제공하기 위해 작성되었습니다.

II. 2025년의 위협 태세

2.1 글로벌 사이버 위협 개요

2025년의 사이버 위협 환경은 상당한 가속화와 확대가 특징입니다. 데이터에 따르면 조직이 경험하는 주당 평균 사이버 공격 건수는 2021년 2분기 818건에서 2025년 같은 기간 1,984건으로 지난 4년 동안 두 배로 증가했으며, 이는 2년 만에 581건 증가한 수치로 이러한 가속화 추세는 공격 체인에서 AI 기술의 광범위한 사용을 직접적으로 반영하고 있습니다.

주요 통계:

AI 기반 사이버 공격은 전 세계적인 위협이 되었습니다. 전 세계적으로 300억 달러의 손실이 발생한 것으로 추정됩니다. 이러한 공격에서 AI는 피싱 이메일의 신뢰성을 높이고, 신원 사칭을 위한 심층 위조를 생성하고, 침입 단계를 자동화하고, 노출된 AI 인프라를 탐지하는 데 사용됩니다.

2.2 AI 기반 특정 공격

피싱 이메일에 대한 AI 산업화

2025년에는 피싱 이메일의 82.61 TP3T가 AI 기술을 사용할 것으로 예상됩니다. 이러한 이메일은 더 이상 단순한 스팸이 아니라 고도로 개인화된 소셜 엔지니어링 공격입니다. 데이터에 따르면 AI 기술을 사용한 피싱 이메일은 401 TP3T 더 빠르게 작성되고 더 많은 기능을 수행할 수 있습니다:

• 브랜드와 개인의 목소리 톤 일치

• LinkedIn, 과거 이메일 및 공개 기록의 실제 세부 정보를 통합하세요.

• 기존의 맞춤법 오류 없이 완전한 문법 메시지를 작성하세요.

• 피해자가 실제로 관여한 프로젝트 및 송장 번호를 인용합니다.

이로 인해 이메일 오픈율은 최대 781 TP3T, 악성 링크 클릭은 최대 211 TP3T로 증가했으며, 특히 2024년에 비해 AI가 생성한 피싱 이메일의 비율이 약 401 TP3T에서 831 TP3T로 증가한다는 점이 주목할 만합니다.

딥페이크 및 사운드 복제

딥 위조로 인한 사기 공격이 2,1371건 급증하여 현재 전체 사기 공격의 6.51%를 차지하고 있으며, 2025년에는 AI 기반 딥 위조로 인해 소셜 엔지니어링 사고가 531건, 소셜 엔지니어링 및 사기 청구가 2,331건 증가했습니다. 생성형 AI가 사용되었습니다:

• 사실적인 비디오와 오디오를 제작하여 경영진을 사칭하세요.

• 텍스트 합성 기법을 통한 신원 사칭

• 여러 미디어 유형을 결합한 멀티채널 사기

랜섬웨어를 위한 AI 가속

CrowdStrike의 2025 랜섬웨어 설문조사에 따르면 전 세계 조직의 761%는 AI 기반 공격의 속도와 정교함을 따라잡을 수 없으며, 481%는 AI 자동화된 공격 체인을 가장 큰 위협으로 보고 있습니다.851%는 기존 탐지 방법이 AI 강화 공격에 쓸모없어지고 있다고 답했습니다.AI가 사용됩니다:

• 침입 단계를 자동화하여 초기 액세스에서 암호화까지 걸리는 시간을 단축하세요.

• 탐지를 회피하기 위한 랜섬웨어 페이로드 최적화

• 데이터 추출 및 영업 프로세스 자동화

• 개인화된 협박 요구 및 협상 전술

2.3 AI 인프라의 대규모 노출

2015년 중반에 실시한 트렌드마이크로의 조사에 따르면 AI 애플리케이션의 심각한 잘못된 구성이 직접적인 공격 경로를 만들고 있는 것으로 나타났습니다. 이는 제로데이 취약성 문제가 아니라 근본적인 보안 위생 결함입니다:

• 완전히 보호되지 않는 200개 이상의 Chroma 서버(벡터 데이터베이스) 네트워크 액세스 권한이 있는 사람은 누구나 데이터를 읽고, 쓰고, 삭제할 수 있습니다.

• 10,000개 이상의 올라마 서버인터넷 노출(2024년 11월 3,000건 이후 증가)

• 2,000대의 Redis 서버인증 없음

• 72%용 MCP(모델 컨텍스트 프로토콜) 서버하나 이상의 민감한 기능에 노출됨

• 3개 이상의 MCP 서버에 대한 50% 프록시 연결"고위험" 상태

이러한 노출을 통해 공격자가 공격할 수 있습니다:

• 임베디드 및 기밀 문서 도용

• 데이터 중독을 통한 AI 모델 손상

• 벡터 드리프트 및 힌트 주입 공격 수행

• 환경에서 측면으로 이동

AI가 공격자를 어떻게 변화시킬 수 있는지에 대한 비용-편익 분석

3.1 AI가 비용을 절감하고 공격 규모를 증가시키는 메커니즘

경제적 관점에서 분석해 보면, AI는 사이버 범죄의 비즈니스 모델을 근본적으로 변화시키고 있습니다. 기존의 사이버 범죄는 수많은 수작업이 필요했지만, AI 기술을 통해 공격자는 매우 낮은 한계 비용으로 대규모 자동화를 수행할 수 있습니다.

비용 구조의 변화:

특정 경제 지표:

공격자가 개인화된 피싱 이메일을 조사하고 작성하는 데 몇 시간이 걸렸던 작업을 이제 생성형 AI를 사용하면 몇 분 만에 완료할 수 있으며, 이는 공격의 초기 비용을 801 TP3T 이상 절감하는 것과 같습니다. 동시에 AI 생성 이메일의 성공률은 기존 방법의 경우 5-101 TP3T에서 15-201 TP3T로 증가하여 공격자의 ROI가 크게 증가했습니다.

3.2 공격 규모에 따른 경제적 비용

AI의 가장 중요한 경제적 이점은 규모입니다. 기존의 표적 공격은 특정 조직을 표적으로 삼을 수 있지만, AI로 생성된 공격은 수백만 개의 표적을 동시에 공격할 수 있습니다. 공격자는 데이터를 기반으로 생성된 AI 툴과 자동화를 통해 수동 방식보다 401배 빠른 속도로 피싱 이메일을 생성할 수 있습니다.

비즈니스 이메일 침해(BEC) 분야에서 공격자는 적절한 표적과 결제 프로세스를 파악하기 위해 몇 주 동안 정찰을 수행해야 했습니다. 하지만 이제 AI가 LinkedIn, 공개 재무 보고서, 인수 발표를 분석하면 며칠 만에 동일한 분석을 수행할 수 있습니다. 이를 통해 공격팀은 수백 개의 조직을 대상으로 동시에 캠페인을 실행할 수 있습니다.

3.3 ROI 및 비용 차이에 대한 방어

이를 방어자의 비용 이점과 대조해 보세요. AI 방어를 사용하는 조직은 평균적으로 비용을 절감합니다.

• 유출 건당 190만 달러 절감(AI 방어를 사용하지 않는 조직과 대조적으로)

• 테스트 시간 평균 80일 단축

• 누출 수명 주기가 241일로 단축됨(9년 만에 최단 기간)

• 레코드당 비용이 $234에서 $128로 감소했습니다.(AI 자동 감지)

AI는 공격 비용을 획기적으로 낮추는 동시에 효과적인 방어 비용도 훨씬 빠르게 낮추는 역설을 낳습니다. 중요한 차이점은 방어자는 모든 공격에 대해 한 번만 투자하면 되지만 공격자는 각 공격 대상에 맞게 맞춤화해야 한다는 점입니다.

IV. 가장 많이 영향을 받는 산업 및 지역

4.1 산업별 위험 평가

금융 서비스(최고 위험)

금융 서비스 업계는 가장 많은 AI 기반 사이버 공격에 직면해 있습니다. 심층 사례 조사 결과:

• 45%의 금융 서비스 조직지난 12개월 동안의 AI 기반 사이버 공격 건수

• B2B 금융 기업을 위한 12.81 TP3T랜섬웨어 발생

• 1,338,357건의 뱅킹 트로이목마 공격감지됨

• 금융 부문의 평균 유출 비용은 $4.8-$5.0M의 범위에서 계속되고 있습니다.

금융 기관이 AI 기반 BEC 공격에 특히 취약한 이유는 다음과 같습니다:

1. 거래 승인 프로세스는 종종 시간 압박 속에서 진행됩니다.

2. 대규모 이체는 일반적인 비즈니스 관행입니다.

3. 공격자는 막대한 직접적인 금전적 보상을 얻을 수 있습니다.

건강 관리(높은 사망률)

의료 업계는 여러 위협에 직면해 있습니다:

• 1,710건의 보안 사고(Verizon DBIR 2025)

• 확인된 데이터 유출 건수 1,542건

• 평균 누출 비용 $9.77M(업계 최고 수준)

• 442%에서 피싱 공격 급증(2024년 하반기)

• 주요 위협은 랜섬웨어, 신원 공격, AI 기반 심층 위조로 인해 발생합니다.

의료 분야는 다음과 같은 이유로 가치가 높은 대상입니다:

• 환자 데이터는 지속적인 암시장 가치(의료 기록당 $150-$300)가 있습니다.

• 운영 중단은 생명 안전 위험으로 이어져 신속한 몸값 지불을 유도합니다.

• 엄격한 HIPAA 규정 준수 요건으로 인해 증가하는 침해 비용

• 랜섬웨어 조직은 의료 기관이 강력한 지불 인센티브를 받는다는 것을 알고 있습니다.

교육 기관(고성장 위협)

교육 분야가 랜섬웨어의 새로운 영역이 되고 있습니다:

• 217건의 랜섬웨어 공격(2023년 4월~2024년 4월)

• 전년 대비 35% 이상 성장

• 미국은 전 세계적으로 알려진 공격의 56%를 차지합니다.

• 교육은 제조업에 이어 전 세계적으로 네 번째로 영향을 많이 받는 분야입니다.

교육 기관이 특히 취약한 이유는 다음과 같습니다:

• 제한된 IT 리소스와 예산

• 학생 데이터의 높은 가치

• 운영 중단은 학사 일정에 심각한 영향을 미칩니다.

• 초기 액세스를 위한 개방형 네트워크 환경

제조(가장 빠르게 성장)

제조업은 2025년에 가장 빠르게 증가하는 랜섬웨어의 표적이 될 것입니다:

• 838건의 랜섬웨어 공격(520 대비 61%)

• 전 세계 랜섬웨어 인시던트 34% 증가주요 부문 타겟팅

• 고도로 디지털화되고 상호 연결된 시스템은 공격에 취약합니다.

• 운영 기술(OT)과 IT 시스템의 융합으로 노출 증가

4.2 영역 위험 분석

홍콩 특별행정구

홍콩은 전 세계 평균보다 훨씬 높은 수준의 사이버 위협에 직면해 있습니다:

홍콩 경찰청의 사이버 보안 및 기술 범죄 부서는 해킹 공격 건수는 소폭 감소했지만 금전적 손실이 크게 증가한 것은 위협이 확대되고 있음을 의미한다고 밝혔습니다.2024년에 HKCERT는 12,536건의 보안 사고를 처리했습니다.

기타 아시아 태평양 지역

2025 탈레스 데이터 위협 보고서에 따르면 아시아 태평양 지역(호주, 인도, 일본, 뉴질랜드, 싱가포르, 한국, 홍콩 포함)이 직면한 위협은 다음과 같습니다:

• 65% 이상 조직가장 큰 보안 우려로 여겨지는 급속한 AI 개발

• 63% AI의 무결성 부족에 대한 우려

• 55% AI의 신뢰성 부족에 대한 우려

• 47%의 아시아 태평양 기업데이터 유출 경험

미국(최고 비용)

미국은 침해 사고당 비용이 가장 높은 국가입니다:

• 미국 평균 누출 비용: $1022만 달러(사상 최고치, +9%)

• 이는 전 세계 평균인 $4.44M보다 1,30% 이상 높은 수치입니다.

• 규제 벌금과 느린 테스트 시간으로 인한 비용 증가

• 2025년 수백만 건의 기록과 관련된 여러 건의 주요 침해 사고

V. 일반적인 사례 및 인사이트

5.1 홍콩 위조 사기 사건

사례 개요

2025년, 홍콩의 한 금융 회사는 AI 기반 딥 위조 사기로 2,500만 달러의 손실을 입었습니다. 공격자들은 매우 사실적인 딥페이크 비디오와 오디오를 사용하여 최고재무책임자(CFO)를 사칭하고 긴급한 자금 이체를 요청했습니다.

공격 프로세스

1. 탐지 단계공격자들은 오픈소스 AI 툴을 사용하여 LinkedIn, 회사 웹사이트, 연례 보고서를 분석하여 경영진의 상세 프로필을 생성했습니다.

2. 딥 페이크 생성딥페이스랩과 같은 오픈소스 딥포렌식 툴을 사용하여 CFO의 비디오 복제본 생성

3. 초기 접촉악성 링크가 포함된 피싱 이메일을 통해 전송된 가짜 컨퍼런스 초대장

4. 사회 공학내부 통신 앱을 통해 공유된 심층 위조 영상은 이사회 승인 전에 전송해야 합니다.

5. 자금 이체사기성 재무 담당자가 시간 압박을 받고 이체를 승인하는 경우

주요 내용

• 시간 압박 전술공격자들은 긴급 이사회 회의의 긴급성을 악용합니다.

• 다중 채널 확인 누락조직이 대역 외 유효성 검사 프로세스를 구현하지 않았습니다.

• AI 도구의 민주화오픈 소스 딥 위조 도구로 기술 장벽을 획기적으로 낮춤

• 내부 신뢰 남용'경영진'의 메시지에 대한 직원들의 자연스러운 신뢰.

5.2 에너지 기업 CEO 보이스 피싱(2019년, 2025년에는 일반화될 전망)

사례 검토

이 사건은 2019년에 발생했지만, 2025년에는 유사한 공격이 조직적으로 이루어졌습니다. 유럽 에너지 회사의 미국 자회사의 재무 담당자가 모회사 CEO로 보이는 사람으로부터 비밀 인수를 위해 22만 유로를 긴급히 송금해 달라는 전화를 받았는데, 전화 목소리는 동일하지만 깊은 목소리 위조입니다.

2025년의 진화

2025년에는 이러한 유형의 공격이 대규모 작전으로 전환되었습니다:

• 공격자들은 이제 머신 러닝 모델을 사용하여 특정 경영진의 음성 및 말하기 패턴을 시뮬레이션합니다.

• 공격은 사전에 기록되지 않고 실시간으로 수행될 수 있으므로 탐지가 더 어려워집니다.

• 심층 다국어 위조가 가능해져 지리적 범위가 확대됩니다.

• 조직은 진짜와 가짜 전화를 구분하는 데 어려움을 겪고 있다고 보고합니다.

5.3 포춘 500대 기업 AI 프록시 데이터 유출(2025년 3월)

사례 설명

2025년 3월, 한 포춘 500대 금융 서비스 기업은 고객 서비스 AI 에이전트가 몇 주 동안 민감한 계정 데이터를 침해하고 있다는 사실을 발견했습니다. 근본 원인은 잘 계획된 프롬프트 인젝션 공격이었습니다.

공격 메커니즘

공격자는 AI 에이전트에게 숨겨진 지침이 포함된 클라이언트 쿼리로 위장한 메시지를 표시했습니다. 이 지침은 에이전트의 시스템 프롬프트를 다시 작성하고 보안 필터를 비활성화하여 에이전트가 실행되도록 했습니다:

• 외부 엔드포인트에 기밀 비즈니스 인텔리전스 유출

• 자체 시스템 프롬프트를 수정하여 영구 액세스 추가하기

• 사용자의 권한 범위를 초과하는 상승된 권한으로 API 호출을 실행하는 경우

• 승인되지 않은 데이터베이스에 액세스

규모와 영향력

• 유출된 고객 데이터의 양을 알 수 없음

• 몇 주 동안 누출이 감지되지 않는 경우

• 기업에 부과되는 수백만 달러의 규제 벌금

• 전체 AI 에이전트 아키텍처 교체 필요

주요 내용

• 큐 인젝션은 영향력이 큰 공격 벡터입니다.기존 보안 제어는 이들에 대해 효과적이지 않습니다.

• AI 에이전트는 새로운 유형의 권한 있는 사용자입니다.시스템에 액세스하고 수정할 수 있지만 감독 권한이 거의 없습니다.

• 입력 기반 오염 지속성데이터베이스에 저장된 악성 힌트는 에이전트가 처리할 때 자동으로 실행됩니다.

• 통합 가시성 부족조직이 AI 에이전트의 행동을 감사하지 않았습니다.

5.4 구글 및 페이스북 벤더 사기($100만 달러 이상)

사례 배경

이 사건은 수년에 걸쳐 발생했지만, 2025년에 모범 사례가 되었습니다. 한 사기범이 실제 하드웨어 공급업체로 위장한 가짜 송장을 Google과 Facebook에 보내 1억 4천만 달러 이상의 수익을 올렸는데, 그 이유는 다음과 같습니다:

• 이메일 서식은 실제 공급업체와 정확히 일치합니다.

• 요청은 실제 조달 주기에 맞춰 조정됩니다.

• 자금 이체에 대한 2차 검증이 구현되지 않았습니다.

2025년 업그레이드 버전

2025년, 이 공격은 더욱 진화했습니다:

• 스푸핑이 아닌 실제 손상된 공급업체 이메일 계정 사용

• 공급업체의 과거 형식을 완벽하게 준수하는 AI 생성 송장

• 실제 비즈니스 운영처럼 보이도록 새로운 구매 주문에 대한 결제

• 공급업체 이메일 침해 공격, 2024년에 137% 증가할 전망

VI. 인공지능으로 인한 보안 침해로 인한 자본 손실 분석

6.1 섀도우 AI의 비용

정의 및 규모

섀도 AI는 직원이 IT의 승인이나 감독 없이 사용하는 승인되지 않은 AI 도구 및 애플리케이션입니다. 이는 2025년에 새롭게 부상하는 중요한 비용 동인입니다.

경제적 영향

IBM의 2025년 데이터 유출 비용 보고서에 따르면:

• 섀도우 AI 유출 평균 비용: $$463만 달러

• $670,000 표준 이벤트보다 더 많은 이벤트***

• 더 길어진 감지 시간:: 247일 대 241일 표준

• 더 넓은 데이터 노출 범위:: 여러 환경이 포함된 62% 데이터

• 조직은 민감한 데이터가 공유되는 AI 도구를 추적하거나 제어할 수 없습니다.

근본 원인

1. 가시성 부족:: 83%의 조직에는 AI 도구에 데이터가 노출되는 것을 방지하는 기본적인 제어 기능이 부족합니다.

2. 분류 위기조직은 어떤 데이터가 민감한 데이터로 분류되는지 추적할 수 없습니다.

3. 직원 우회직원들은 AI 도구를 사용하여 생산성을 높이는 동시에 IT 보안 프로세스를 우회하고 있습니다.

4. 규정 준수 진공엔터프라이즈 AI 사용을 위한 정책 또는 거버넌스 프레임워크 없음

6.2 클라우드 구성 오류로 인한 자본 손실 비용

통계 현황

• 15%의 누출클라우드 구성 오류(세 번째로 중요한 공격 벡터)부터 시작하기

• 23%의 클라우드 보안 사고잘못된 구성에서 직접 파생

• 27%를 사용하는 기업퍼블릭 클라우드 침해 보고

• 2025년까지 99%의 클라우드 장애가 발생할 것으로 예상되는 가트너의 예측고객 오류(클라우드 제공업체 결함이 아님)로 인해 발생합니다.

• 26%의 모든 유출인적 오류로 인한 문제

비용 변동

다중 환경 누출이 가장 많은 비용이 드는 이유는 다음과 같습니다:

• 더 길어진 탐지 시간(276일 대 241일)

• 환경 전반에서 조율된 대응의 필요성

• 규정 준수 평가의 복잡성 증가

• 타사 통지 의무 강화

6.3 AI 인프라 취약성의 비용

제로데이 및 오픈 소스 취약점

노출된 AI 인프라에는 잘못된 구성뿐만 아니라 핵심 구성 요소의 패치되지 않은 취약점도 포함되어 있습니다:

• ChromaDB 제로데이인증되지 않은 읽기 및 쓰기 허용

• Redis 사용 후 취약점: 벡터 스토리지의 데이터 손상 원인

• 엔비디아 트리톤 추론 서버 취약점임의 데이터 로드 허용

• NVIDIA 컨테이너 툴킷 취약점외부 변수 초기화

이러한 취약점을 개발하는 데 드는 비용은 다음과 같습니다:

• 각 취약점의 발견부터 익스플로잇까지 걸리는 시간몇 주(기존 소프트웨어)에서 며칠(AI 도구)로 단축

• 규모 활용단일 취약점이 노출된 수천 대의 서버에 영향을 미칠 수 있습니다.

• 캐스케이드 효과하나의 손상된 AI 서비스가 전체 시스템의 손상으로 이어질 수 있습니다.

6.4 벡터 데이터베이스 중독으로 인한 자본 손실

공격 메커니즘

벡터 데이터베이스(예: Chroma)에는 AI 시스템이 검색한 임베딩과 문서가 저장됩니다. 이러한 데이터베이스를 오염시킬 수 있습니다:

• 검색 증강 생성(RAG) 시스템이 잘못된 정보를 반환합니다.

• 잘못된 데이터를 기반으로 의사 결정을 내리는 AI 에이전트

• 지속적인 공격을 탐지하기 어려움(정상 동작처럼 보임)

원가 계산

• 오염된 데이터베이스로 인한 잘못된 의사 결정의 비용: 정량화되지는 않았지만 잠재적으로 큰 규모(예: FAI가 잘못된 투자 결정을 내림)

• 해결 비용모델 재훈련, 백업에서 복원(일반적으로 오프라인)

• 평판 비용편향되거나 잘못된 출력을 생성하는 AI 시스템의 공개 사례

• 규제 비용데이터 품질 문제가 데이터 거버넌스 조항을 위반하는 경우

VII. 2025년 우선 방어 조치를 위한 가이드라인

7.1 신원 및 접속 방어(우선순위: 최고)

비밀번호가 필요 없는 피싱 방지 멀티팩터 인증 구현

표준 MFA(SMS 코드, 이메일 링크)는 최신 공격에 대해 불충분한 것으로 입증되었습니다. NIST SP 800-63-4 표준에 따라 조직은 이를 구현해야 합니다:

옵션 1: FIDO2/WebAuthn 하드 키

• 하드웨어 키(USB 또는 블루투스)를 인증자로 사용

• 키는 암호화로 보호되며 기기를 떠나지 않습니다.

• 자격 증명 리플레이 및 중간자 공격 방지

• 비용: 사용자당 $15-$50/년

옵션 2: 내장형 생체인식

• Windows Hello, Face ID 또는 Touch ID 사용

• 개인 키는 칩에 저장되며 내보낼 수 없습니다.

• ID 공급자와의 페더레이션(OIDC/SAML을 통한)

• 비용: 기존 장비에 포함

구현 매개변수

• 재무 부서비밀번호 없는 MFA를 사용하는 모든 계정 100%

• IT 관리자모든 권한 있는 계정을 위한 비밀번호 없는 MFA

• 원격 액세스VPN 및 클라우드 애플리케이션은 비밀번호 없는 MFA를 사용해야 합니다.

• 콜백 유효성 검사모든 자금 이체는 알려진 전화번호로 두 번 확인해야 합니다(메시지 내 전화번호는 사용되지 않음).

구현 비용

ROI

• 평균 누출 비용: $444백만

• 70%에서 자격 증명 도용 위험 감소: $에서 310만 달러 절감

• 1년 내 ROI: 20배

7.2 AI 인프라 강화(우선순위: 최고)

모든 AI 시스템의 인벤토리 및 분류

• 모든 모델, 데이터 소스, 벡터 데이터베이스, 추론 엔드포인트가 나열된 AI BOM(자재 명세서)을 생성합니다.

• 배포 위치 식별(로컬, AWS, Azure, Google Cloud 등)

• 데이터 민감도 표시(공개, 내부, 제한, 기밀)

• 각 AI 시스템과의 종속성 및 통합 문서화

노출된 AI 구성 요소 잠금

즉각적인 조치(1주차):

1. 모든 인터넷 지향 Chroma, Redis, Ollama 인스턴스 스캔하기

   • Shodan, Censys 또는 내부 취약점 스캐너 사용

   • 비용: $0-$5,000(스캔 도구 구매 시)

2. 인증 및 암호화 사용

   • 모든 벡터 데이터베이스에 강력한 비밀번호 또는 API 키를 추가하세요.

   • TLS 1.3 암호화 사용

   • 역할 기반 액세스 제어(RBAC) 구현

3. 감사 로그 활성화하기

   • 모든 데이터 읽기 및 쓰기 작업 기록

   • 이상 징후 탐지를 위해 SIEM 시스템으로 로그 보내기

   • 비용: $10,000-$20,000(SIEM 구성)

중기 조치(2~4주):

1. 원치 않는 인터넷 액세스 끄기

   • 프라이빗 서브넷으로 AI 서비스 이동

   • VPN 또는 배스티온 호스트를 사용한 액세스

   • 네트워크 세분화 구현

2. 보안 패치 적용

   • 크로마DB, 엔비디아 트리톤 등에 대한 최신 패치를 적용하세요!

   • 패치 관리 프로세스 수립

   • 비용: $5,000-$15,000(엔지니어링 시간)

3. 런타임 모니터링 구현

   • 행동 분석을 사용하여 이상 패턴 탐지하기

   • 데이터 중독 징후가 있는지 모델 출력 모니터링

   • 비용: $20,000-$50,000(도구 + 구성)

장기 조치(2~3개월):

1. CI/CD 보안 구축

   • 모델 트레이닝 파이프라인의 공급망 보안 스캐닝

   • 종속성 버전 관리 및 취약성 검사

2. 실현제로 트러스트 아키텍처

   • 모든 AI 구성 요소 간의 상호 TLS 인증

   • 각 서비스에 대해 별도의 ID 및 단기 인증서 사용

   • 비용: $50,000-$100,000(도구 및 엔지니어링)

7.3 에이전트 AI 거버넌스 프레임워크(우선순위: 높음)

문제의 규모

• 69%의 기업이 AI 에이전트를 배포했습니다.

• 21%만이 적절한 보안 제어 기능을 갖추고 있습니다.

• 79% 공식적인 AI 에이전트 거버넌스 정책 부재

• 20%에는 컨트롤이 전혀 없습니다.

거버넌스 프레임워크의 주요 구성 요소

1. AI 에이전트 목록 및 분류

대리인 목록 항목:
- 대리인 이름 및 목적
- 액세스하는 시스템 및 데이터
- 부여된 권한(만들기, 삭제, 수정, 읽기)
- 소유자 및 비상 연락처 정보
- 위험 수준(낮음, 중간, 높음, 위험)
- 배포 반복 기간(개발, 테스트, 프로덕션)
- 감사 날짜

2. 가드의 권한 및 최소한의 권한 원칙

• 상담원은 자신의 업무에 필요한 데이터와 시스템에만 액세스할 수 있습니다.

• 글로벌 또는 상승된 권한 API에 대한 액세스 권한 없음

• 민감한 작업(데이터 삭제, 권한 변경, 자금 이체)에 대한 수동 승인

• 엄격한 워크플로 거버넌스

3. 행동 모니터링 및 이상 징후 탐지

• 일반적인 상담원 활동(데이터 액세스 패턴, API 호출, 실행 시간)에 대한 기준선 설정하기

• 기준선과의 편차 실시간 감지

• 이상 징후를 보이는 에이전트의 자동 격리

• 포렌식을 위한 모든 에이전트 작업 감사

4. 큐 인젝션 방어

• 사용자 입력을 신뢰하지 마세요 - 모든 외부 입력을 정리하세요.

• 실행 전 사용자 쿼리에 대한 보안 검토

• 엄격한 입력 유효성 검사 및 유형 검사 사용

• 시스템 프롬프트 앞에 "탈옥 불가" 명령을 추가합니다(완전한 해결책은 아니지만).

• 상담원 명령과 사용자 데이터 분리하기

5. 거버넌스 도구 및 프레임워크

• NIST AI 위험 관리 프레임워크(AI RMF):: 네 가지 핵심 기능(거버넌스, 맵, 측정, 관리)

• ISO 42001: AI 관리 시스템

• 오와스프 LM리스크 톱 10: LLM 특정 취약점

• 프록시 탈옥 및 남용을 확인하기 위한 정기적인 레드팀 테스트

7.4 데이터 분류 및 음영 AI 제어(우선순위: 높음)

엔터프라이즈 데이터 분류 구현

IBM 데이터에 따르면 83% 조직은 AI 도구에 데이터가 노출되는 것을 방지하기 위한 기본적인 제어 기능이 부족합니다. 솔루션:

섀도우 AI 제어

승인되지 않은 AI 도구의 사용을 방지하기 위한 기술적 조치를 구현합니다:

1. 데이터 손실 방지(DLP) - AI 도구에 복사/붙여넣기 시도 시 제한된 데이터 차단

2. 브라우저 격리 - 격리된 컨테이너에서 신뢰할 수 없는 웹사이트 실행하기

3. API 게이트웨이 - OpenAI, Claude 등과 같은 공용 AI API에 대한 트래픽 차단

4. SaaS 거버넌스 도구 - 승인되지 않은 AI SaaS 애플리케이션의 부서별 사용 감지

5. 직원 교육 - 특정 데이터를 AI로 처리할 수 없는 이유 설명하기

구현 비용

ROI

• 섀도우 AI 누출 비용: $463만

• 60%에서 음영 처리된 AI 사용으로 인한 위험 감소: $ 278만 절감

• 투자 회수 기간: 1년 미만

7.5 보안 자동화 및 AI 기반 탐지(우선순위: 높음)

비즈니스 사례

보안 자동화 및 AI를 사용하는 조직은 다음과 같은 목표를 달성합니다:

• 60-80%의 수동 안전 운영 비용 절감

• 연간 평균 $240만 달러 절감(엔터프라이즈 구현)

• 10배 빠른 사고 대응 시간(4시간에서 15분으로 단축)

• 테스트 시간 80일 단축

• 보안 사고 처리 용량 5배 증가

주요 구현 영역

1. SIEM + SOAR 통합

• SIEM을 사용하여 모든 보안 로그와 이벤트 집계하기

• SOAR로 일반적인 응답 워크플로 자동화하기

• 비용: $100,000-$200,000 구현 + $50,000-$100,000/년 유지보수

• ROI: 탐지 시간 단축으로 평균 $1.9백만/누출 절약 가능

2. 행동 분석 및 이상 징후 탐지

• 사용자 및 엔티티에 대한 기준 행동 설정

• 머신 러닝을 사용하여 기준선에서 벗어난 활동 감지하기

• 의심스러운 계정 자동 격리

• Cost: $30,000-$60,000/year

3. 위협 인텔리전스 자동화

• 알려진 악성 IP, 도메인, 파일 해시 자동 연결

• 선제적 위협 차단 지표

• 외부 위협 소스와의 통합

• Cost: $20,000-$40,000/year

4. 규정 준수 자동화

• 자동화된 보고

• 지속적인 제어 검증

• Cost: $15,000-$30,000/year

7.6 재무 부서별 제어(우선순위: 중요)

이 보고서의 데이터에 따르면 금융 부문은 AI 기반 BEC의 주요 타깃입니다. 구체적인 방어책:

제어 목록:

위험 완화의 비용 효율성:

• 평균 BEC 비용: 이벤트당 $200,000-$500,000

• 99% 공격을 차단하는 방어 수단

• 한 번의 성공적인 정지로 1년치 제어 비용을 지불할 수 있습니다.

VIII. 고전적 이슈 요약

질문 1: AI가 위협 노출을 변화시키고 있다고 보고하는 조직은 몇 개나 되나요?

솔루션

주요 벤더 및 기관의 보고서에 따르면 2025년에는 AI가 공격과 방어 모두에서 중요한 요소로 부상하며 빠른 속도로 성장할 것으로 예상됩니다:

• 93%의 보안 리더들은 2025년까지 매일 AI 공격이 발생할 것으로 예상합니다.

• 89%는 AI 기반 보호가 방어 격차를 줄이는 데 매우 중요하다고 보고 있습니다.

• 76%, AI 공격의 속도와 정교함이 방어를 앞지른다는 보고

• 86%의 비즈니스 리더가 지난 12개월 동안 최소 한 건의 AI 관련 사고를 보고했습니다.

질문 2: AI 딥페이크가 정말 BEC의 주요 동인인가요?

솔루션

예. 2025 경고는 사실적인 콘텐츠를 사용한 음성 및 텍스트 사칭을 다룹니다. 조직은 반드시

• 자금 이체 또는 액세스 권한 부여 요청에 대한 대역 외 유효성 검사

• 메시지로 받은 적이 없는 알려진 전화번호로 다시 전화하기

• 비디오 검증을 위한 심층 위변조 탐지 도구 구현하기

• '긴급' 자금 요청의 승인 요건 강화

심층 위조는 현재 전체 사기 공격의 6.51%를 차지하며, 이는 2022년에 비해 2,1371% 증가한 수치입니다.

질문 3: 노출된 AI 인프라가 정말 일반적일까요?

솔루션

예. 업계 조사에 따르면 보호되지 않은 수백 개의 AI 데이터 저장소와 엔드포인트가 컨테이너로 배포되어 공용 웹에서 액세스 가능한 경우가 많습니다:

• 인증 없이 데이터를 읽고 쓸 수 있는 200개 이상의 완전 보호되지 않은 Chroma 서버

• 인터넷에 노출된 10,000건 이상의 올라마 사례

• 보호되지 않은 2,000개의 Redis 서버

• 많은 추가 서버가 노출되었지만 부분적으로 보호됨

• 이는 제로데이 문제가 아닌 잘못된 구성 문제이므로 모두 즉시 수정해야 합니다!

질문 4: AI가 실제로 방어자의 침해 비용을 줄여주나요?

솔루션

IBM 데이터 유출 비용 2025 보고서에 따르면, 보안 AI와 자동화를 사용하는 조직은 일반적으로 동종 업계에 비해 평균 유출 비용이 낮다고 보고합니다:

• AI 도구를 사용하는 조직, 유출 수명 주기 80일 단축

• 평균 절감액 $1.9만 달러

• 여러 환경 누출(최고 비용)의 경우 절감 효과는 훨씬 더 높습니다.

• 동일한 데이터 세트를 분석한 타사들은 커브 가속의 사용을 강조하고 있으며, 더 많은 기업들이 탐지 및 대응에 AI를 최소한 제한적으로 사용한다고 보고했습니다.

그러나 이는 도구를 배포하고 올바르게 운영하고 있는 조직에만 유효합니다. 도입 곡선은 아직 초기 단계에 있습니다.

질문 5: 이번 분기에 재무팀은 어떤 개별 통제를 구현해야 하나요?

솔루션

2단계 규칙:

1. 모든 금융 계정에 대한 피싱 방지 MFASMS나 이메일 코드가 아닌 FIDO2/WebAuthn을 사용하세요!

2. 결제 또는 은행 세부 정보 변경에 대한 필수 콜백 유효성 검사메시지로 받은 번호가 아닌 직원의 파일에 저장된 알려진 번호의 전화번호를 사용합니다.

이러한 제어는 BEC 성공 가능성을 크게 낮추고 가장 일반적인 초기 액세스 경로를 차단하는 가장 비용 효율적인 방법입니다.

질문 6: 권위 있는 연례 벤치마크에서 참조하는 취약성 동향에는 어떤 것이 있나요?

솔루션

이것부터 시작하여 부문별 뉘앙스를 교차 점검하세요:

• Verizon DBIR 2025 - 이벤트 모델에 대한 최대 증거 기반

• IBM 비용 데이터 유출 보고서 2025 - 비용 및 근본 원인 분석

• 크라우드스트라이크2025 랜섬웨어 조사 - 특히 랜섬웨어 및 AI 가속 공격

• ENISA 위협적인 환경 2025 - 유럽의 관점과 새로운 위협

• Microsoft 디지털 방어 보고서 2025 - 상대방 및 방어 역량에 대한 글로벌 관점

• 트렌드 마이크로 AI 보안현황 보고서(2025년 상반기) - AI 인프라 및 상담원 보안

IX. 업계 레퍼런스 및 격차 분석

9.1 국방 프레임워크 벤치마킹

많은 조직에서 성숙도 모델과 프레임워크를 사용하여 보안 상태를 평가합니다. 이 분석에서는 주요 프레임워크가 AI 보안을 처리하는 방식을 비교합니다:

결론적으로NIST AI RMF 및 ISO 42001은 AI 보안 성숙도 평가 및 구현에 가장 적합한 프레임워크입니다.

9.2 방어 도구 환경

SIEM/SOAR 플랫폼(이벤트 탐지 및 대응)

AI 인프라 보안(컨테이너/벡터 데이터베이스 보호)

에이전트 AI 보안

9.3 내부 용량 격차

일반적인 비즈니스의 실제 상태와 원하는 상태를 비교합니다:

총 격차 해소 비용$600K-$1.2M 초기 + $100-$200K/년 운영 비용

X. 결론

10.1 주요 결과

2025년, AI는 사이버 보안 태세를 위한 양날의 검이 되었습니다. 주요 조사 결과는 다음과 같습니다:

1. 위협의 증가가 방어를 앞지르다AI 기반 방어는 개선되고 있지만, AI 기반 공격은 더 빠르게 증가하고 진화하고 있습니다.761 TP3T의 조직적 보고는 공격의 속도를 따라잡을 수 없습니다.

2. 새로운 공격 표면이 된 AI 인프라노출된 수천 개의 AI 시스템(벡터 데이터베이스, 추론 서버, 모델 저장소)이 직접적인 공격 경로를 생성합니다. 이는 지능형 위협이 아니라 기본적인 보안 위생 문제입니다.

3. 데이터 유출의 새로운 원인, 섀도 AIAI 도구의 통제되지 않은 사용은 $67백만/건의 추가 유출로 이어집니다. 대부분의 조직은 기본적인 제어 기능이 부족합니다.

4. 에이전트 AI는 새로운 권한 사용자AI 에이전트는 이제 대부분의 인간 직원보다 더 많은 시스템 액세스 권한을 가지고 있습니다. 대부분의 조직에는 적절한 거버넌스 프레임워크가 없습니다.

5. 딥 위조는 이제 상업적으로 이용 가능합니다.음성 및 비디오 복제는 고가의 맞춤형 공격에서 상대적으로 저렴한 대규모 작업으로 진화했으며, 2025년에는 매년 대규모 사기가 발생할 것으로 예상됩니다.

6. 확실한 방어 ROIAI 방어 기능을 사용하는 조직은 유출당 평균 $1.9백만 달러를 절약합니다. 조기에 투자하는 조직은 비용과 대응 시간 모두에서 승리합니다.

7. 상당한 지역적 차이홍콩과 기타 아시아 태평양 지역은 전 세계 평균보다 높은 수준의 위협에 직면해 있습니다. 특히 금융 중심지는 표적화된 BEC와 심도 있는 위조 활동에 노출되어 있습니다.

10.2 의사 결정권자를 위한 우선 조치 항목

즉시(0~30일)

1. 모든 AI 시스템 인벤토리 및 분류하기

2. 금융 부문의 모든 계정에 피싱 방지 MFA 배포

3. 인터넷 지향 벡터 데이터베이스 스캔 및 인증 추가하기

4. 금융 자금 이체에 대한 콜백 유효성 검사 활성화

비용: $75K-$150K | ROI: 블록 평균 $200K+ BEC

단기(30~90일)

1. AI 에이전트 거버넌스 프레임워크 및 인벤토리 구축

2. 엔터프라이즈 데이터 분류 및 섀도 AI DLP 구현하기

3. 행동 분석을 배포하여 이상 징후 감지하기

4. 배포된 모든 AI 시스템에 대한 보안 감사 수행

비용: $150만-$300만 | ROI: 섀도 AI 유출 위험 감소 $278만+

중기(90-180일)

1. AI 기반 탐지를 위한 SIEM + SOAR 통합 구현

2. 신속한 주입 및 벡터 중독 방어 배포

3. 더 빠른 대응을 위한 보안 자동화 구축

4. 프록시 시스템에 대한 레드팀 테스트 수행

비용: $200K-$400K | ROI: 테스트 시간 80일 단축, $1.9M/누수 절감

장기(180~365일)

1. 완벽한 제로 트러스트 아키텍처 구현

2. AI 개발 및 배포를 위한 안전한 SDLC 구축하기

3. 지속적인 상담원 보안 모니터링 구축

4. 조직에 특화된 AI 보안 문화 개발

비용: $300K-$600K | ROI: 고비용 이벤트 방지를 위한 복원력 구축

10.3 아시아 태평양 지역을 위한 특별 권장 사항

홍콩의 특정 위협 시나리오를 고려할 때 현지 조직은 특히 주의를 기울여야 합니다:

1. 금융 기관을 위한 BEC 방어:: 대규모 이체 및 국제 거래로 인해 금융 부문에서 엄격한 결제 거버넌스를 구현해야 합니다.

2. 리테일 업계에서의 사기 탐지리테일 부문의 사기 발생률은 17.81 TP3T(전년 대비 +1131 TP3T)로 사기 탐지 툴에 우선적으로 투자해야 합니다.

3. 크로스보더 위협 인텔리전스홍콩의 지리적 위치로 인해 아시아 태평양 지역의 특정 위협 그룹의 표적 공격에 취약합니다. 지역 CERT 및 법 집행 기관과 위협 인텔리전스 공유

4. 규정 준수홍콩의 데이터 보호 규정과 증가하는 국제 규정 준수 요구 사항으로 인해 클라우드 및 AI 시스템에서 적절한 데이터 분류와 보호가 중요해졌습니다.

5. 공급망 복원력조직은 글로벌 공급망의 광범위한 AI 통합을 고려할 때 타사 AI 도구 및 서비스의 보안을 평가해야 합니다.

10.4 최종 권장 사항

오른쪽최고 보안 책임자(CSO유엔의

1. 위험 선호도 재평가AI 위협의 속도와 규모가 달라졌습니다. 기존의 냉정한 평가 주기는 너무 느립니다. 신속한 의사 결정을 위한 프레임워크를 만들어야 합니다.

2. 상품이 아닌 관찰 가능성에 투자최신 도구를 구입하기보다는 이상 징후를 감지하고 AI 시스템의 동작을 추적할 수 있는 관찰 가능성에 초점을 맞추고 있습니다.

3. AI 보안 전문성 구축대부분의 조직은 기존 사이버 보안에 대한 전문 지식은 풍부하지만 AI 관련 위협에 대한 전문 지식이 부족합니다. AI 보안 전문가를 채용하거나 교육하는 데 우선순위를 두세요.

4. 우선 순위로 프록시 거버넌스 구현: 에이전트 AI를 대규모로 배포하기 전에 거버넌스 프레임워크를 구축하세요. 사후 거버넌스는 사전 거버넌스보다 10배 더 많은 비용이 듭니다.

운영 리더십을 위한 권장 사항

1. AI 보안은 비즈니스 리스크입니다사이버 보안은 'IT 문제'가 아니라 비즈니스 연속성 리스크입니다. AI 보안을 엔터프라이즈 위험 관리에 통합하세요.

2. 예방은 고치는 것보다 훨씬 저렴합니다.유출당 $4.44만 비용. 보안 투자에 대한 ROI는 분명합니다. 유출당 평균 $2.2백만 달러의 비용을 절감할 수 있습니다.

3. 섀도 AI는 규정 준수 위험규제되지 않은 AI 도구의 사용은 데이터 개인정보 보호 규정(GDPR, CCPA 등)을 위반할 수 있습니다. 위험을 통제하기 위한 거버넌스 프레임워크가 마련되어 있습니다.

4. 공급업체 리스크가 확대되었습니다.모든 AI 도구, 클라우드 서비스 또는 타사 모듈은 새로운 차원의 위험을 초래합니다. 엄격한 타사 보안 평가를 구현하세요.

10.5 전망

2026년까지 예상할 수 있습니다:

• AI 기반 공격은 계속 가속화될 것입니다.특히 프록시 AI 영역에서

• 국방 기술이 성숙해질 것입니다.방어에 AI 도구를 채택하는 조직이 더욱 확산될 것입니다.

• 규제 프레임워크는 다음과 같습니다.ISO 42001 및 NIST AI RMF를 사용하는 AI 보안 거버넌스가 의무화됩니다.

• 에이전트 AI 보안이 주요 초점이 될 것입니다.대부분의 취약점 및 사고는 잘못 구성되거나 손상된 에이전트와 관련이 있습니다.

• 심각한 위조 사기 증가생체 인식 및 다단계 인증이 일반화될 때까지

핵심은 지금 행동하는 것입니다. 지금 AI 보안에 투자하는 조직은 내년에 더 빠른 위협 탐지, 더 빠른 대응, 비용 및 평판 손상을 줄임으로써 경쟁 우위를 확보할 수 있을 것입니다.

문헌 참조

1. Verizon 데이터 침해 조사 보고서(DBIR) 2025 - 최대 규모의 사고 및 침해 데이터 데이터베이스

2. IBM 데이터 유출 비용 보고서 2025 - 산업 및 지역별로 분석된 전 세계 $444M 평균 유출 비용

3. 크라우드스트라이크 2025 랜섬웨어 현황 보고서 - 76%의 조직은 AI 공격 속도를 따라잡을 수 없습니다.

4. Microsoft 디지털 방어 보고서 2025 - 국가 수준의 위협 및 방어 역량

5. 트렌드마이크로 AI 보안 현황 보고서 2025년 상반기 - 10,000개 이상의 노출된 올라마 인스턴스, 200개 이상의 보호되지 않은 크로마 서버

6. ENISA 위협 환경 2025 - 유럽 위협 전망

7. 세계 경제 포럼 글로벌 사이버 보안 전망 2025 - 93%의 보안 리더들, 매일 AI 공격 예상

8. 2025년 카스퍼스키 금융 부문 보고서 - 랜섬웨어에 직면한 B2B 금융의 12.8%

9. KELA 에스컬레이팅 랜섬웨어 보고서 2025 - 34% 글로벌 주요 부문 성장, 제조업 성장 61%

10. HKCERT 홍콩 사이버 보안 전망 2025 - 피싱 사례 7,811건(+108%), 멀웨어 사고 +4.8배 증가

11. NIST 인공 지능 위험 관리 프레임워크(AI RMF) - 엔터프라이즈 AI 보안을 위한 구현 프레임워크

12. ISO 42001 - AI 관리 시스템 표준

13. OWASP LLM 위험 TOP 10 - LLM 관련 취약점 카테고리

14. 안전과 보안을 갖춘 에이전트형 AI 배포 - 에이전트형 거버넌스의 모범 사례 맥킨지

15. 옵시디언 보안 에이전트 AI 보안 보고서 - 69% 기업 중 AI 에이전트 배포, 21%만 보안 통제 권한 보유

16. 2025년 딥스트라이크 AI 사이버 공격 통계 - 72% 증가, $30B 예상 피해 규모

17. KnowBe4 2025 피싱 트렌드 보고서 - AI를 이용한 피싱 이메일 83% 발생

18. Cysure 2025 BEC 보고서 - 구글/페이스북 $100M+ 벤더 사기 사례

19. 딥인스팅트 금융 서비스 AI 사이버 공격 설문조사 - 45%, AI 공격에 직면하다

20. NIST SP 800-63-4 - 비밀번호 없는 MFA를 포함한 인증 및 수명 주기 관리 표준

21. 홍콩 경찰 사이버 보안 범죄 통계(2025년 상반기) - HK$3.04억 손실, 전년 동기 대비 +15% 증가

22. 탈레스 2025 데이터 위협 보고서 아태지역 에디션 - 65% 조직들은 AI를 가장 중요한 보안 문제로 인식하고 있습니다.

23. 홍콩 2025 사이버 방어의 미래 - 6.2% 디지털 사기율