OpenAIは、ChatGPTの無料版とGo版の両方でセッション内広告をテストしていると発表した。 関係者は、会話データを広告主に販売しないこと、広告が回答ロジックから切り離されていないことを強調したが、パーソナライズされた配置に使用されるデータの種類と処理経路については明らかにしなかった。 技術的な観点からは、チャット広告は、会話のコンテキスト、興味信号、ユーザープロファイルのリアルタイムな特徴抽出を必要とし、その後、レコメンデーションやソートモデルを通じて「関連性の高いスポンサー付きコンテンツ」を選択する。そのためには、ログ収集、特徴生成、モデルトレーニング、プッシュチェーンにおいて、最小限の収集、非感覚化、使用制限のコントロールを確立する必要があり、そうでなければ、容易に「暗黙のペインティング」に発展する。このため、ログの収集、機能の生成、モデルのトレーニング、およびプッシュ・チェーンにおいて、最小限の収集、減感作、および使用制限の制御を確立する必要があり、そうでなければ、「暗黙のプロファイリング＋境界外の再使用」に非常に簡単に発展します。 企業のセキュリティチームにとっては、一方では、このような「会話型AI広告」をサードパーティサービスのリスクアセスメントに含め、クロスリージョンのデータフロー、規制のレッドライン（未成年者、センシティブシーンの広告ブロックポリシーなど）、監査ギャップがないかどうかをチェックすることが必要であり、他方では、自社内のAIアシスタントやカスタマーサービスロボットについても、同じような「借り物のインタラクション」がないかどうか、「借り物のインタラクション」がないかどうかを逆に検証することも必要である。他方、自社の社内AIアシスタントや接客ロボットにも、同じように「インタラクションを借りて広告・似顔絵を作る」という衝動や裏論理がないかどうか、目を向けるべきだろう。 今後の大型模型商品のセキュリティは、純粋に「模型の行き過ぎとプロンプト注入」を議論することから、「人間と機械の対話における隠れたマーケティングの境界線」へと拡大していくことが予見され、持続可能な収益性、ユーザーの信頼、規制要件の間で、いかに透明でコントロール可能な広告とデータガバナンスの仕組みを設計するかが、次世代の重要な課題となってきている。持続可能な収益性、ユーザーの信頼、規制要件の間で、透明で制御可能な広告とデータガバナンスの仕組みをどのように設計するかが、次のAIセキュリティ実践の重要な命題になりつつある。
