OpenAI объявила о тестировании внутрисессионной рекламы в бесплатной и Go-версиях ChatGPT. Это коммерческая реорганизация, которая также выдвигает на первый план "соответствие рекламе и безопасность данных". Представители компании подчеркнули, что не будут продавать данные о разговорах рекламодателям и что реклама не отделена от логики ответа, но не уточнили типы данных и пути обработки, используемые для персонализированного размещения, что является серой зоной, на которой должны сосредоточиться команды безопасности и соответствия. С технической точки зрения реклама в чате требует извлечения в реальном времени характеристик контекста разговора, сигналов интереса и профилей пользователей, а затем выбора "релевантного спонсируемого контента" с помощью моделей рекомендаций или сортировки, что требует установления минимального контроля сбора, десенсибилизации и ограничения использования в цепочке сбора логов, генерации характеристик, обучения моделей и вытеснения, иначе она легко превратится в "неявное рисование". Для этого необходимо установить минимальный контроль сбора, десенсибилизации и ограничения использования в процессе сбора журналов, генерации функций, обучения моделей и цепочки push, иначе это очень легко перерастет в "неявное профилирование + повторное использование за пределами границ". Для команд безопасности предприятий, с одной стороны, необходимо включить такие "разговорные объявления ИИ" в оценку рисков сторонних сервисов, проверить наличие межрегиональных потоков данных, красных линий регулирования (например, несовершеннолетние, политики блокировки рекламы на чувствительных сценах) и пробелов в аудите; с другой стороны, необходимо провести обратную проверку собственных внутренних помощников ИИ и роботов для обслуживания клиентов на предмет наличия такого же "заимствованного взаимодействия" и его наличия. С другой стороны, нам также следует присмотреться к своим собственным внутренним ИИ-помощникам и роботам для обслуживания клиентов, чтобы понять, нет ли в них того же импульса и закулисной логики "заимствования взаимодействия для создания рекламы/портретов". Можно предположить, что в будущем безопасность продуктов, созданных на основе больших моделей, расширится с чистого обсуждения "чрезмерного влияния моделей и оперативного введения" до "скрытых маркетинговых границ в человеко-машинном диалоге", и как разработать прозрачные и контролируемые механизмы управления рекламой и данными между устойчивой прибыльностью, доверием пользователей и нормативными требованиями становится ключевым вопросом для следующего поколения ИИ-ассистентов и роботов для обслуживания клиентов. Как разработать прозрачные и контролируемые механизмы управления рекламой и данными между устойчивой рентабельностью, доверием пользователей и нормативными требованиями становится ключевым предложением для следующего раунда практики безопасности ИИ.
