抱きつき顔モデルのセキュリティ:7z圧縮を装った悪質なPickleファイルがPicklescanの検出を回避、200以上の開発環境に埋め込まれる

世界最大のオープンソースモデルリポジトリ(開発者数400万人以上)であるHugging Faceが、AIサプライチェーン攻撃のフロンティアとなりつつある。この事件は、コラボレーション・プラットフォームとセキュリティの間に内在する矛盾を露呈している。
攻撃の技術的な詳細
Pickleファイルの悪用:Python標準ライブラリのPickleモジュールはMLモデルのシリアライズに使用されますが、そのデシリアライズは本質的に任意のPythonコードを実行します。pyTorchはデフォルトでPickleに依存しており、悪意のあるコードを隠すための完璧な手段となっています。

Picklescanバイパス:Hugging FaceはPicklescanツールを使用し、ブラックリストメカニズムに基づいて危険な機能(os.system、サブプロセスなど)を検出する。攻撃者は2つのレイヤーをバイパスします:

圧縮形式のバリエーション: PyTorch標準のZIP圧縮が7z形式に変更された。

ファイル破壊の悪用:Pickleストリームの末尾に破損したバイトを挿入し、Picklescanが検証に失敗した後、それらを直接解放する。しかし、Pythonインタプリタがそれらを順次実行するため、ファイルが破壊される前に悪意のあるコードがトリガーされてしまう。

隠しロード:悪意のあるコードはシリアライズされたストリームの先頭に位置し、検出ツールを混乱させるために実行直後にファイルが壊れる。

現実世界のサンプル:

模型库”glockr1/ballr7″、”who-r-u0000/0000000000000000000000000000000000000″含反向Shell

埋め込みIPアドレス:107.173.7.141(C2サーバー)

影響の範囲:どれだけの開発者がこれらのモデルをダウンロードして、生産コードに統合したかは不明である。

ディフェンスのレイヤー

プラットフォームレベル:Hugging FaceはPicklescanをアップグレードし、7zの解凍と壊れたファイルの検出をサポートした。

開発者レベル:未知のモデルを無効にする、モデルの署名検証を有効にする、モデルのロードプロセスを分離する、依存関係チェーンのPickleファイルをスキャンする

検出レベル:モデルがロードされたときのネットワーク接続とプロセス生成動作を監視するためのランタイムサンドボックスの実装。

要点:AIの民主化の代償として、セキュリティ上の負債が蓄積している。すべてのPickleファイルは潜在的な ”トロイの木馬 ”であり、ブラックリスト対策は崩壊しつつある。

前へ

次ページ