多くのサイバーセキュリティ広報や業界イベントにおいて、大規模モデルが攻撃され、データ漏洩に至るシナリオが一元的に表示され、議論されており、新世代の「モデル資産」が中核的な攻撃対象になっている事実を浮き彫りにしている。 攻撃者は、アクセス制御のないモデルAPI、監査のない内部コールチェーン、脆弱なパスワードを利用し、パーミッションを取得した後、リアルタイムでモデルのインタラクションを閲覧し、ソースコード、ビジネス上の秘密、機密性の高い個人情報にアクセスします。 さらに深刻なケースでは、攻撃者がモデルのパラメータやナレッジベースに「毒」を入れて改ざんし、モデルの出力を無言で操作できるようにして、意思決定やビジネスプロセスに隠れたリスクをもたらすこともある。 セキュリティ企業は、大規模モデル専用のセキュリティゲートウェイ、対話監査、オーバーリーチ検出、アンチサンプル保護を発表しており、規制当局も大規模モデルのアクセス制御、ログ保持、セキュリティ評価をコンプライアンス要件に徐々に組み込んでいます。
