Im Jahr 2025 gaben mehrere internationale Organisationen bekannt, dass die Zahl der Phishing-Angriffe in einigen Branchen mit Hilfe generativer KI zur automatischen Generierung mehrsprachiger, starker Simulationen des Gesprächsinhalts um etwa 1200% gestiegen ist und die neuen Merkmale “große Menge, hohe Qualität, schwer zu identifizieren” aufweist. Die Angreifer nutzten die gestohlenen Daten, um das Bild von Führungskräften und Partnern des Unternehmens genau zu konstruieren, und umgingen so einfache Schlüsselwortfilter und herkömmliche Blacklist-Mechanismen. Gleichzeitig werden KI-synthetisierte Sprach- und Videodaten in Telefonbetrugs- und Fälschungsszenarien eingesetzt, was die Kosten für die manuelle Überprüfung erheblich erhöht. Die Sicherheitsbranche versucht, verdächtige Muster auf Dialog- und Anhängeebene durch KI-gesteuerte E-Mail-Verhaltensanalyse, semantische Erkennung von Inhalten und Modellierung von anomalem Verhalten von Konten im Voraus zu erkennen, um zu erreichen, dass “KI KI erkennt”. Für Unternehmen ist der Aufbau einer umfassenden “kollaborativen Mensch-Maschine-Verteidigung”, die eine Zero-Trust-Zugangskontrolle, eine feinkörnige Authentifizierung und eine kontinuierliche Schulung des Sicherheitsbewusstseins umfasst, ein Muss, um mit Phishing-Angriffen der neuen Generation fertig zu werden.
