Ряд поставщиков систем безопасности раскрыли информацию о том, что в темной паутине продаются вредоносные инструменты ИИ с возможностью локального запуска и автоматизации атак, которые могут в режиме “одного окна” генерировать код, адаптировать сценарии эксплуатации уязвимостей, создавать фишинговые страницы и синтетический голосовой контент. В то же время модели “вредоносное ПО как услуга” и "выкуп как услуга" и инструменты ИИ глубоко интегрированы, так что преступные группировки без глубоких технических знаний также могут быстро запускать сложные атаки против предприятий и частных лиц, значительно расширяя потенциальную поверхность атаки. В отчете также отмечается, что некоторые из инструментов специально нацелены на SDK с открытым исходным кодом для ИИ и экосистемы управления пакетами, маскируясь под популярные библиотеки моделей для реализации отравления цепочки поставок, от чего пострадали тысячи разработчиков в нескольких странах. В связи с этой тенденцией организации по безопасности призывают предприятия усилить аудит безопасности цепочки поставок, ограничить внедрение непроверенных компонентов ИИ, а также улучшить мониторинг и отслеживание деятельности по созданию оружия ИИ в "темной паутине" с помощью единых механизмов анализа угроз и совместного реагирования.
