ИИ Безопасность цепочки поставок
-
Руководство по безопасности ИИ: 21 контрольный список рисков и стратегии защиты для обеспечения безопасности ИИ
Критические уровни (6): введение подсказок, введение подсказок при побеге из тюрьмы, компрометация цепочки поставок ИИ, отравление обучающих данных, инверсия модели, глубокая подделка
Продвинутые (10): неправомерное использование модели, теневая подсказка, обфускация подсказок, цепочка подсказок противника, внутреннее неправомерное использование, несоблюдение нормативных требований, социальная инженерия ИИ, человеческие ошибки, обход водяных знаков, алгоритмическая предвзятость
Промежуточные (4): утечка данных, ущерб бренду, DoS-атака, отсутствие возможности аудита
Низкий уровень (1): несоответствие между моделями -
Безопасность ИИ: создание системы безопасности корпоративного ИИ на основе методологии ATT&CK
В данной статье в качестве основы взята матрица угроз безопасности ИИ, и на основе зрелой методологии ATT&CK систематически рассматриваются угрозы безопасности, с которыми сталкиваются системы ИИ на протяжении всего жизненного цикла, включая отравление данных, извлечение моделей, утечку конфиденциальной информации, вражеские образцы и ключевые методы атаки, такие как внедрение слов-ключей, а также предлагаются соответствующие стратегии защиты и решения для посадки предприятий, чтобы обеспечить инженеров ИИ, инженеров безопасности и CSO профессиональными техническими средствами. Ссылка.
