防止提示注入攻击
-
AI安全指南：人工智能安全21大风险检查清单与防御策略
关键级（6个）：提示注入、越狱提示、AI供应链妥协、训练数据投毒、模型反演、深度伪造
高级（10个）：模型滥用、影子提示、提示混淆、对抗性提示链、内部滥用、监管不合规、AI社会工程、人为错误、水印规避、算法偏见
中级（4个）：数据外泄、品牌损害、DoS攻击、缺乏可审计性
低级（1个）：跨模型不一致性
关键级（6个）：提示注入、越狱提示、AI供应链妥协、训练数据投毒、模型反演、深度伪造
高级（10个）：模型滥用、影子提示、提示混淆、对抗性提示链、内部滥用、监管不合规、AI社会工程、人为错误、水印规避、算法偏见
中级（4个）：数据外泄、品牌损害、DoS攻击、缺乏可审计性
低级（1个）：跨模型不一致性
