На многих публичных и отраслевых мероприятиях, посвященных кибербезопасности, центральное место занимают сценарии атак на крупные модели, приводящие к утечке данных, что подчеркивает тот факт, что новое поколение “модельных активов” стало основной поверхностью атаки. Злоумышленники используют API модели без контроля доступа, внутренние цепочки вызовов без аудита и слабые пароли для просмотра взаимодействия моделей в режиме реального времени после получения разрешений, а затем получают доступ к исходному коду, коммерческим секретам и конфиденциальной личной информации. В более серьезных случаях злоумышленники также могут “отравить” и подделать параметры модели или базы знаний, чтобы можно было бесшумно манипулировать выходными данными модели, создавая скрытые риски для принятия решений и бизнес-процессов. Компании, занимающиеся вопросами безопасности, выпускают специальные шлюзы безопасности, проводят диалоговый аудит, выявляют превышение допустимых пределов и защищают большие модели от выборок, а регулирующие органы постепенно включают контроль доступа к большим моделям, сохранение журналов и оценку безопасности в требования по соблюдению нормативных требований.
