많은 사이버 보안 홍보 및 업계 행사에서 대규모 모델이 공격을 받아 데이터가 유출되는 시나리오가 집중적으로 전시되고 논의되면서 새로운 세대의 “모델 자산'이 핵심 공격 표면이 되었다는 사실이 강조되고 있습니다. 공격자는 접근 제어가 없는 모델 API, 감사가 없는 내부 콜 체인, 취약한 비밀번호를 사용하여 권한을 획득한 후 실시간으로 모델 상호 작용을 확인한 다음 소스 코드, 비즈니스 기밀, 민감한 개인 정보에 액세스할 수 있습니다. 더 심각한 경우에는 공격자가 모델 매개변수나 지식 기반을 ”포이즌'하고 변조하여 모델 출력을 조용히 조작함으로써 의사 결정 및 비즈니스 프로세스에 숨겨진 위험을 초래할 수도 있습니다. 보안 회사들은 대규모 모델을 위한 전용 보안 게이트웨이, 대화 감사, 오버리치 탐지 및 샘플 방지 보호 기능을 출시하고 있으며, 규제 당국은 점차 대규모 모델 액세스 제어, 로그 보존 및 보안 평가를 규정 준수 요건에 통합하고 있습니다.
