In vielen Veröffentlichungen zur Cybersicherheit und auf Branchenveranstaltungen wurde das Szenario eines Angriffs auf große Modelle, der zu einem Datenleck führt, zentral dargestellt und diskutiert, wobei die Tatsache hervorgehoben wurde, dass die neue Generation von “Modell-Assets” zur zentralen Angriffsfläche geworden ist. Angreifer nutzen Modell-APIs ohne Zugriffskontrolle, interne Aufrufketten ohne Auditing und schwache Passwörter, um Modellinteraktionen in Echtzeit einzusehen, nachdem sie die entsprechenden Berechtigungen erhalten haben, und verschaffen sich dann Zugang zu Quellcode, Geschäftsgeheimnissen und sensiblen persönlichen Daten. In schwerwiegenderen Fällen können Angreifer auch Modellparameter oder Wissensdatenbanken “vergiften” und manipulieren, so dass die Modellergebnisse unbemerkt manipuliert werden können, was versteckte Risiken für die Entscheidungsfindung und die Geschäftsprozesse mit sich bringt. Sicherheitsunternehmen bringen spezielle Sicherheits-Gateways, Dialog-Audits, Überschreitungserkennung und Schutz vor Stichproben für große Modelle auf den Markt, und die Aufsichtsbehörden integrieren allmählich die Zugangskontrolle für große Modelle, die Aufbewahrung von Protokollen und die Sicherheitsbewertung in die Compliance-Anforderungen.
