대형 모델 보안

본 백서는 AI 보안 위협 매트릭스를 핵심 프레임워크로 삼고, 성숙한 ATT&CK 방법론을 기반으로 데이터 포이즈닝, 모델 추출, 개인정보 유출, 적대적 샘플, 큐워드 인젝션과 같은 주요 공격 기법 등 AI 시스템이 직면한 전체 수명주기 보안 위협을 체계적으로 정교화하고, 이에 대응하는 방어 전략과 기업 랜딩 솔루션을 제안하여 AI 엔지니어, 보안 엔지니어 및 CSO에게 전문적인 기술 정보를 제공합니다. 참조.

오픈가드레일은 최초의 완전한 오픈 소스 엔터프라이즈급 대형 모델 보안 가드레일 플랫폼으로, 119개 언어, 통합 LLM 아키텍처, 구성 가능한 민감도 정책, 멀티 클라우드 배포를 지원합니다. 이 보고서는 핵심 기술 혁신, 애플리케이션 시나리오, 배포 모델, 성능 벤치마킹 및 향후 개발에 대한 심층 분석을 제공하여 금융, 의료, 법률 등 규제 산업에서 AI 애플리케이션을 위한 보안 규정 준수 가이드라인을 제공합니다. OpenGuardrails의 구성 가능한 정책, 효율적인 모델 설계 및 프로덕션급 인프라를 분석하여 차세대 AI 보안 가드레일의 방향을 제시합니다.

최고 보안 책임자(CSO)는 AI 시스템이 기존의 데이터 위험을 증폭시키는 동시에 데이터 중독, 모델 리버스 엔지니어링, 공급망 오염과 같은 완전히 새로운 위협을 도입하는 전례 없는 도전에 직면해 있습니다. 이 가이드는 NIST AI 위험 관리 프레임워크(AI RMF), Google 보안 AI 프레임워크(SAIF) 및 업계 관행을 기반으로 CSO에게 실행 가능한 데이터 보안 거버넌스 시스템을 제공합니다.

오픈소스 메가 모델인 랭체인은 직렬화/역직렬화 과정에서 "lc" 키가 누락된 심각도 수준의 직렬화 인젝션 취약점(CVE-2025-68664)을 발견한 Cyata Security의 보안 연구원 Yarden Porat에 의해 공개되었습니다. 이 취약점은 직렬화/역직렬화 프로세스에서 "lc" 키가 누락되어 공격자가 환경 변수를 유출하거나 임의의 객체를 인스턴스화하거나 프롬프트 인젝션을 통해 원격으로 코드를 실행할 수 있는 것으로, Cyata Security의 보안 연구원 Yarden Porat가 발견했습니다. 이 취약점은 버전 0.3.81 이전과 버전 1.0.0-1.2.5 범위 내의 모든 LangChain Core 배포에 영향을 미치며, 12월 24일에 공식 패치 버전 1.2.5 및 0.3.81이 릴리스되었고 동시에 기본 보안 정책도 강화되었습니다.

기업 애플리케이션에 대규모 언어 모델(LLM)과 생성 인공 지능(GenAI)이 널리 보급되면서 결정론적 논리에 기반한 기존의 소프트웨어 보안 패러다임으로는 모델 역전, 데이터 중독, 큐 워드 삽입과 같은 새로운 확률적 위협에 더 이상 대응할 수 없게 되었습니다.2023년에 출시될 Google의 보안 AI 프레임워크(SAIF)는 전통적인 사이버 보안 모범 사례와 AI 시스템의 특수성을 결합하는 것을 목표로 하는 체계적인 방어 아키텍처를 제안하고 있습니다. 구글이 2023년에 출시할 보안 AI 프레임워크(SAIF)는 기존 사이버 보안의 모범 사례와 AI 시스템의 특수성을 결합하는 것을 목표로 하는 체계적인 방어 아키텍처를 제안합니다. 이 백서에서는 아키텍처 설계 관점에서 SAIF의 6가지 핵심 요소, 생태적 시너지 메커니즘, 진화 경로를 분석하여 엔터프라이즈급 AI 보안 시스템 구축을 위한 이론적, 실무적 참고자료를 제공합니다.

이 보고서는 AI 어시스턴트, 에이전트, 도구, 모델, 스토리지의 5가지 핵심 공격 표면과 표적 보안 위험, 방어 아키텍처 및 솔루션으로 구성된 5가지 핵심 공격 표면을 기반으로 작성되었습니다.