Как защититься от рисков безопасности ИИ
-
Руководство по безопасности ИИ: 21 контрольный список рисков и стратегии защиты для обеспечения безопасности ИИ
Критические уровни (6): введение подсказок, введение подсказок при побеге из тюрьмы, компрометация цепочки поставок ИИ, отравление обучающих данных, инверсия модели, глубокая подделка
Продвинутые (10): неправомерное использование модели, теневая подсказка, обфускация подсказок, цепочка подсказок противника, внутреннее неправомерное использование, несоблюдение нормативных требований, социальная инженерия ИИ, человеческие ошибки, обход водяных знаков, алгоритмическая предвзятость
Промежуточные (4): утечка данных, ущерб бренду, DoS-атака, отсутствие возможности аудита
Низкий уровень (1): несоответствие между моделями