AI Sicherheit in der Lieferkette
-
KI-Sicherheitsleitfaden: 21 Risiko-Checklisten und Verteidigungsstrategien für KI-Sicherheit
Kritische Stufen (6): Cue Injection, Jailbreak Cueing, Kompromittierung der KI-Lieferkette, Vergiftung von Trainingsdaten, Modellinversion, Deep Faking
Fortgeschritten (10): Modellmissbrauch, Shadow Cueing, Cue Obfuscation, adversarial cue chaining, interner Missbrauch, Nichteinhaltung von Vorschriften, AI Social Engineering, menschliches Versagen, Umgehung von Wasserzeichen, algorithmische Verzerrung
Zwischenstufe (4): Datenschutzverletzung, Markenschädigung, DoS-Angriff, mangelnde Überprüfbarkeit
Niedrige Ebene (1): modellübergreifende Inkonsistenz -
KI-Sicherheit: Aufbau eines KI-Sicherheitssystems für Unternehmen auf der Grundlage der ATT&CK-Methodik
In diesem Papier wird die KI-Sicherheitsbedrohungsmatrix als zentraler Rahmen verwendet, und auf der Grundlage der ausgereiften ATT&CK-Methode werden systematisch die Sicherheitsbedrohungen für KI-Systeme über den gesamten Lebenszyklus hinweg ausgearbeitet, einschließlich Data Poisoning, Modellextraktion, Preisgabe der Privatsphäre, gegnerische Proben und wichtige Angriffstechniken wie Cue-Word-Injection. Referenz.
