OpenAI hat angekündigt, dass es In-Session-Anzeigen sowohl in der kostenlosen als auch in der Go-Version von ChatGPT testen wird. Offizielle Stellen betonten, dass sie keine Konversationsdaten an Werbetreibende verkaufen werden und dass die Anzeigen nicht von der Antwortlogik getrennt sind, gaben aber nicht an, welche Arten von Daten und Verarbeitungspfaden für die personalisierte Platzierung verwendet werden, was die Grauzone ist, auf die sich Sicherheits- und Compliance-Teams konzentrieren müssen. Aus technischer Sicht erfordert Chat-Werbung die Extraktion von Merkmalen aus dem Gesprächskontext, Interessenssignalen und Nutzerprofilen in Echtzeit und die anschließende Auswahl "relevanter gesponserter Inhalte" durch Empfehlungs- oder Sortiermodelle, was die Einrichtung minimaler Erfassungs-, Desensibilisierungs- und Nutzungsbeschränkungskontrollen bei der Protokollerfassung, der Merkmalsgenerierung, dem Modelltraining und der Push-Kette erfordert, da sie sich sonst leicht zu "impliziter Malerei" entwickelt. Dies erfordert die Einrichtung minimaler Sammlungs-, Desensibilisierungs- und Verwendungsbeschränkungskontrollen in der Protokollsammlung, der Feature-Generierung, dem Modelltraining und der Push-Kette, da es sich sonst sehr leicht zu einem "impliziten Profiling + Wiederverwendung außerhalb der Grenzen" entwickeln kann. Für die Sicherheitsteams von Unternehmen ist es einerseits notwendig, solche "Conversational AI Ads" in die Risikobewertung von Drittanbieterdiensten einzubeziehen, um zu prüfen, ob es überregionale Datenflüsse, regulatorische rote Linien (wie Minderjährige, sensible Szene, Ad-Blocking-Policies) und Audit-Lücken gibt; andererseits ist es auch notwendig, die Prüfung der eigenen internen KI-Assistenten und Kundendienstroboter umzukehren, um zu sehen, ob es die gleiche "geborgte Interaktion" gibt und ob es die gleiche "geborgte Interaktion" gibt. Andererseits sollten wir auch unsere eigenen internen KI-Assistenten und Kundendienstroboter überprüfen, um festzustellen, ob es denselben Impuls und dieselbe Hinterzimmerlogik der "geliehenen Interaktion, um Werbung/Porträts zu machen" gibt. Es ist absehbar, dass sich die künftige Sicherheit großer Modellprodukte von der reinen Diskussion über "Model Overreach und Prompt Injection" auf "versteckte Marketinggrenzen im Mensch-Maschine-Dialog" ausweiten wird, und die Frage, wie transparente und kontrollierbare Werbe- und Data-Governance-Mechanismen zwischen nachhaltiger Rentabilität, Nutzervertrauen und regulatorischen Anforderungen gestaltet werden können, wird zu einem Schlüsselthema für die nächste Generation. Die Frage, wie transparente und kontrollierbare Werbe- und Datenverwaltungsmechanismen zwischen nachhaltiger Rentabilität, Nutzervertrauen und regulatorischen Anforderungen gestaltet werden können, wird zu einem Schlüsselthema für die nächste Runde der KI-Sicherheitspraktiken.
