Security Operations Center stehen unter Druck. Die Alert-Volumen steigen, die Angriffstechniken werden komplexer, und qualifizierte Analysten sind Mangelware. KI wird oft als Lösung präsentiert — aber nicht als Ersatz für den Analysten, sondern als Verstärker. Der augmentierte Analyst arbeitet schneller, präziser und ermüdungsfreier — weil KI die Routinearbeit übernimmt und den Menschen für Entscheidungen freistellt, die Urteilsvermögen erfordern.

Das Kapazitätsproblem im SOC

Die Zahlen sind eindeutig: Laut dem ISC2 Cybersecurity Workforce Study 2024 fehlen weltweit über 4 Millionen Security-Fachkräfte. Gleichzeitig steigt das Alert-Volumen in durchschnittlichen SOCs auf tausende Events pro Tag — die Mehrheit davon False Positives oder Low-Priority-Events, die dennoch gesichtet werden müssen.

Das Ergebnis ist vorhersehbar: Alert Fatigue. Analysten, die hunderte gleichförmige Alerts pro Schicht bearbeiten, übersehen den einen kritischen Event. Nicht aus Nachlässigkeit, sondern weil das menschliche Gehirn nicht für monotone Musterüberwachung optimiert ist.

Die traditionelle Antwort — mehr Analysten einstellen — scheitert am Arbeitsmarkt und am Budget. KI bietet einen anderen Weg: Nicht die Anzahl der Analysten erhöhen, sondern die Effektivität jedes einzelnen.

Was KI im SOC heute leisten kann

Tier-1-Triage automatisieren

Der größte Hebel liegt in der Automatisierung der initialen Alert-Bewertung. KI-Modelle können Alerts in Echtzeit klassifizieren:

• Bekannte False Positives: Alerts, die historisch immer als harmlos geschlossen wurden, automatisch schließen oder deprioritisieren
• Anreicherung: Kontextinformationen automatisch ergänzen — Asset-Kritikalität, Benutzerhistorie, Threat-Intelligence-Match, Schwachstellenstatus
• Korrelation: Einzelne Alerts zu Incidents gruppieren, die zusammengehören — statt fünf separate Alerts für einen einzelnen Angriff

Das Ergebnis: Der Analyst bekommt nicht 500 rohe Alerts, sondern 20 priorisierte, angereicherte Incidents mit konkreter Handlungsempfehlung.

Natürlichsprachliche Abfragen

Moderne KI-Systeme ermöglichen es Analysten, in natürlicher Sprache mit dem SIEM zu interagieren: „Zeige mir alle erfolgreichen Logins von Benutzer X in den letzten 48 Stunden, gefiltert nach unbekannten IPs“ statt komplexer Query-Syntax. Das senkt die Einstiegshürde für Junior-Analysten und beschleunigt die Arbeit erfahrener Experten.

Automatisierte Untersuchung

Bei einem verdächtigen Alert kann KI automatisch den Investigation-Workflow starten: Zugehörige Logs abrufen, ähnliche historische Incidents suchen, betroffene Assets identifizieren, Timeline erstellen. Der Analyst erhält eine fertig aufbereitete Untersuchung — statt sie manuell zusammensuchen zu müssen.

Response-Empfehlungen

Basierend auf dem Incident-Kontext und historischen Reaktionsmustern kann KI Handlungsempfehlungen vorschlagen: Account sperren, IP blocken, System isolieren, Ticket erstellen. Der Analyst entscheidet — aber die Vorbereitung ist bereits erledigt.

Wo die Grenzen liegen

KI im SOC ist kein Autopilot. Drei Grenzen sind kritisch:

• Neuartige Angriffe: KI erkennt Muster, die sie gelernt hat. Wirklich neuartige Angriffstechniken — True Zero-Days in der Taktik, nicht nur in der Technik — erfordern menschliches Urteilsvermögen und kreatives Denken
• Kontextverständnis: Ob ein ungewöhnlicher Zugriff ein Angriff oder ein legitimer Geschäftsvorgang ist, hängt von Kontext ab, den nur Menschen kennen — Organisationsstruktur, laufende Projekte, Geschäftsbeziehungen
• Verantwortung: Die Entscheidung, ein System vom Netz zu nehmen, einen Account zu sperren oder einen Vorfall zu eskalieren, trägt immer ein Mensch. KI kann empfehlen — entscheiden muss der Analyst

Das Zusammenspiel: Mensch + KI im SOC-Workflow

Der augmentierte SOC-Workflow sieht so aus:

1. KI filtert und priorisiert: Aus tausenden Events werden zwanzig priorisierte Incidents
2. KI reichert an: Jeder Incident kommt mit Kontext, Timeline und ähnlichen historischen Fällen
3. Analyst bewertet: Der Mensch beurteilt, ob der Incident real ist und welche Reaktion angemessen ist
4. KI unterstützt die Reaktion: Automatisierte Playbooks führen Standardmaßnahmen aus, der Analyst überwacht und greift bei Bedarf ein
5. KI lernt: Die Entscheidungen des Analysten fließen als Feedback in die KI-Modelle zurück

Dieses Modell skaliert: Drei Analysten mit KI-Unterstützung können die Arbeit leisten, für die früher zehn benötigt wurden — nicht weil sie schneller klicken, sondern weil sie weniger Rauschen durcharbeiten müssen.

Voraussetzungen für KI im SOC

KI-Augmentation funktioniert nicht out of the box. Drei Voraussetzungen müssen erfüllt sein:

• Datenqualität: KI-Modelle sind nur so gut wie die Daten, die sie verarbeiten. Unvollständige Logs, falsche Zeitstempel oder fehlende Asset-Informationen führen zu falschen Priorisierungen
• Definierte Prozesse: Bevor KI Prozesse automatisieren kann, müssen diese Prozesse existieren und dokumentiert sein. KI kann schlechte Prozesse nicht reparieren — sie beschleunigt sie
• Human-in-the-Loop: KI-Systeme müssen so konfiguriert sein, dass kritische Entscheidungen immer einen menschlichen Freigabeschritt erfordern. Vollständig autonome Response ohne menschliche Kontrolle ist bei dem aktuellen Stand der Technik nicht verantwortbar

Handlungsempfehlungen

• Alert-Volumen analysieren: Wie viele Alerts bearbeiten Ihre Analysten pro Schicht? Wie hoch ist die False-Positive-Rate? Wo liegt das größte Automatisierungspotenzial?
• KI-Augmentation schrittweise einführen: Mit der Automatisierung von Tier-1-Triage beginnen — dem Bereich mit dem höchsten Volumen und der geringsten Komplexität
• Feedback-Loops etablieren: Analysten-Entscheidungen systematisch erfassen und als Trainingsdaten für die KI-Modelle nutzen
• SOC-Metriken definieren: MTTD, MTTR und Analyst Utilization messen — vor und nach der KI-Einführung, um den Effekt zu quantifizieren
• Keine KI ohne Prozesse: Erst die SOC-Workflows dokumentieren und optimieren, dann automatisieren. KI verstärkt den Status quo — guten wie schlechten

Im Jahr 2024 wurden über 40.000 neue CVEs veröffentlicht — ein Anstieg von 38 Prozent gegenüber dem Vorjahr. Die CISA führte davon weniger als 200 in ihrem KEV-Katalog als aktiv ausgenutzt. Für Security-Teams bedeutet das: 99,5 Prozent aller veröffentlichten Schwachstellen werden nie aktiv ausgenutzt. Aber welche 0,5 Prozent die gefährlichen sind, lässt sich mit CVSS allein nicht bestimmen.

Warum CVSS als Priorisierungsgrundlage versagt

Das Common Vulnerability Scoring System (CVSS) bewertet die theoretische Schwere einer Schwachstelle auf einer Skala von 0 bis 10. Das Problem: CVSS berücksichtigt weder den Kontext der Umgebung noch die tatsächliche Ausnutzungswahrscheinlichkeit.

Eine Schwachstelle mit CVSS 9.8 in einer Software, die im Unternehmen nicht eingesetzt wird, ist irrelevant. Eine Schwachstelle mit CVSS 6.5 in einem aus dem Internet erreichbaren System, für das ein Exploit-Kit existiert, ist eine akute Bedrohung. CVSS unterscheidet zwischen diesen Szenarien nicht.

Laut einer Analyse von Qualys werden weniger als 3 Prozent aller CVEs mit CVSS ≥ 9.0 jemals aktiv ausgenutzt. Gleichzeitig haben einige der folgenreichsten Angriffe der letzten Jahre Schwachstellen mit mittlerem CVSS-Score genutzt — weil der Kontext (exponiertes System, verfügbarer Exploit, attraktives Ziel) den Unterschied machte.

Risikobasierte Priorisierung: Was wirklich zählt

Moderne Schwachstellenmanagement-Ansätze ersetzen CVSS nicht, sondern ergänzen es um Kontextfaktoren:

• Exploit-Verfügbarkeit: Existiert ein öffentlicher Exploit? Wird die Schwachstelle in Exploit-Kits gehandelt?
• Aktive Ausnutzung: Führt die CISA die CVE im KEV-Katalog? Gibt es Threat-Intelligence-Berichte über aktive Kampagnen?
• Asset-Kontext: Ist das betroffene System aus dem Internet erreichbar? Verarbeitet es sensible Daten? Ist es ein Hochwertziel (Domain Controller, SIEM, VPN-Gateway)?
• Kompensatorische Kontrollen: Gibt es Netzwerksegmentierung, WAF-Regeln oder andere Maßnahmen, die die Ausnutzung erschweren?

Systeme wie EPSS (Exploit Prediction Scoring System) nutzen Machine Learning, um die Wahrscheinlichkeit aktiver Ausnutzung innerhalb der nächsten 30 Tage vorherzusagen. EPSS korreliert dabei öffentliche Exploit-Daten, Social-Media-Aktivität, Threat-Intelligence-Feeds und historische Ausnutzungsmuster.

Wie KI das Schwachstellenmanagement verändert

Bei 40.000+ CVEs pro Jahr und begrenzten Patch-Ressourcen brauchen Security-Teams Automatisierung. KI-gestützte Systeme leisten dabei Mehreres:

1. Automatisierte Priorisierung

KI-Modelle bewerten jede neue CVE in Echtzeit gegen den spezifischen Kontext des Unternehmens: Welche Assets sind betroffen? Wie exponiert sind sie? Gibt es Exploits? Das Ergebnis ist eine risikoadjustierte Prioritätenliste, die sich täglich aktualisiert.

2. Korrelation mit Threat Intelligence

KI verknüpft Schwachstellendaten mit aktuellen Bedrohungsinformationen: Welche APT-Gruppen nutzen diese CVE? In welchen Branchen? Mit welchen TTPs? Diese Kontextualisierung ist manuell bei 40.000 CVEs nicht leistbar.

3. Patch-Impact-Analyse

Nicht jeder Patch kann sofort eingespielt werden. KI-gestützte Systeme bewerten den Impact eines Patches auf Produktionssysteme und schlägen optimale Patch-Fenster vor — oder empfehlen kompensatorische Maßnahmen für CVEs, die nicht sofort gepatcht werden können.

4. Vorhersage zukünftiger Ausnutzung

EPSS und ähnliche Modelle sagen voraus, welche CVEs in den nächsten Wochen wahrscheinlich ausgenutzt werden — bevor ein Exploit öffentlich verfügbar ist. Das verschafft Security-Teams einen Zeitvorsprung.

Die Grenzen von KI im Schwachstellenmanagement

KI ist kein Allheilmittel. Drei Einschränkungen sind relevant:

• Datenqualität: KI-Modelle sind nur so gut wie ihre Eingabedaten. Ohne vollständiges Asset-Inventar, aktuelle Scan-Ergebnisse und zuverlässige Threat-Intelligence-Feeds liefert auch die beste KI falsche Prioritäten
• Zero-Days: Für Schwachstellen ohne CVE-Nummer und ohne öffentliche Information gibt es keine Trainingsdaten. KI kann nur priorisieren, was bekannt ist
• Kontext-Verständnis: Ob ein System geschäftskritisch ist, ob ein Patch Ausfallzeiten verursacht, ob regulatorische Anforderungen gelten — diese Informationen muss ein Mensch liefern

Von der Schwachstellenliste zum Risikomanagement

Der Paradigmenwechsel im Schwachstellenmanagement lässt sich in einem Satz zusammenfassen: Nicht jede CVE ist ein Risiko, und nicht jedes Risiko hat eine CVE.

Effektives Schwachstellenmanagement integriert:

• Vulnerability Scanning: Regelmäßige Scans aller Assets — nicht nur Server, sondern auch Netzwerkgeräte, IoT, Cloud-Ressourcen
• Asset Management: Ohne vollständiges Inventar keine kontextbasierte Priorisierung
• Threat Intelligence: Aktuelle Informationen darüber, welche CVEs aktiv ausgenutzt werden
• SIEM-Integration: Schwachstellendaten mit Security-Events korrelieren — wenn ein verwundbares System gleichzeitig verdächtigen Traffic zeigt, steigt die Priorität sofort
• Reporting: Management-taugliche Dashboards, die Risiko in Geschäftssprache übersetzen — nicht 40.000 CVEs, sondern die 50, die jetzt gefixt werden müssen

Handlungsempfehlungen

• CVSS nicht als alleiniges Kriterium verwenden: Ergänzen Sie CVSS um EPSS, KEV-Status, Exploit-Verfügbarkeit und Asset-Kontext
• Asset-Inventar vervollständigen: KI-gestützte Priorisierung funktioniert nur mit vollständigem Überblick über alle Assets
• CISA KEV als Minimum-Baseline: Jede CVE im KEV-Katalog muss innerhalb der von CISA gesetzten Frist gepatcht werden — das ist die absolute Untergrenze
• Schwachstellenmanagement mit SIEM verbinden: Wenn Ihr SIEM weiß, welche Systeme verwundbar sind, kann es Angriffe auf genau diese Systeme priorisiert erkennen
• Patch-Zyklen verkürzen: Für aktiv ausgenutzte Schwachstellen müssen Notfall-Patch-Prozesse existieren — unabhängig vom regulären Patch-Zyklus

Anthropic hat am Dienstag ein neues KI-Modell vorgestellt, das die Cybersicherheitslandschaft grundlegend verändern wird — und es bewusst nicht veröffentlicht. Claude Mythos Preview findet Sicherheitslücken in Software schneller, zuverlässiger und in größerem Umfang als jeder menschliche Sicherheitsforscher. Tausende kritische Schwachstellen hat das Modell bereits identifiziert — in jedem gängigen Betriebssystem und jedem verbreiteten Browser.

Statt Mythos öffentlich zugänglich zu machen, gründet Anthropic „Project Glasswing“ — ein Konsortium mit Amazon, Apple, Google, Microsoft, Cisco, CrowdStrike, Broadcom, Palo Alto Networks, JPMorganChase, NVIDIA und der Linux Foundation. Das Ziel: Die Verteidiger sollen einen Vorsprung bekommen, bevor die Angreifer ähnliche Fähigkeiten entwickeln.

Was Mythos Preview kann — und warum das beunruhigend ist

Die Fakten, die Anthropic präsentiert, sind bemerkenswert:

Das Modell fand eine 27 Jahre alte Schwachstelle in OpenBSD — einem Betriebssystem, das als eines der sichersten der Welt gilt und in Firewalls und kritischer Infrastruktur eingesetzt wird. Die Lücke erlaubte es, jede Maschine mit diesem System durch eine einfache Verbindung aus der Ferne zum Absturz zu bringen.

In FFmpeg, einer Software zur Video-Verarbeitung, die in unzähligen Anwendungen steckt, entdeckte Mythos eine 16 Jahre alte Schwachstelle — in einer Codezeile, die automatisierte Testtools fünf Millionen Mal durchlaufen hatten, ohne das Problem zu finden.

Im Linux-Kernel — der Grundlage der meisten Server weltweit — fand und verkettete das Modell autonom mehrere Schwachstellen, um von normalem Benutzerzugang zu vollständiger Kontrolle über die Maschine zu gelangen.

Besonders alarmierend: Mythos entwickelte zu diesen Schwachstellen eigenständig funktionsfähige Exploits — in Stunden, wofür menschliche Experten Wochen gebraucht hätten. Und das Modell schaffte es zeitweise, aus einer Sandbox-Umgebung auszubrechen, die genau das verhindern sollte.

Project Glasswing: Verteidigung im Konsortium

Anthropic reagiert auf diese Fähigkeiten nicht mit Veröffentlichung, sondern mit kontrolliertem Zugang. Die Partner des Konsortiums erhalten Mythos Preview für defensive Zwecke: Schwachstellensuche in eigenen Produkten, Penetration Testing, Black-Box-Analyse von Binärdateien, Absicherung von Endpoints.

Anthropic stellt dafür bis zu 100 Millionen US-Dollar an Nutzungsguthaben bereit. Zusätzlich fließen 4 Millionen US-Dollar direkt an Open-Source-Sicherheitsorganisationen — 2,5 Millionen an Alpha-Omega und OpenSSF über die Linux Foundation, 1,5 Millionen an die Apache Software Foundation.

Über 40 weitere Organisationen, die kritische Software-Infrastruktur betreiben oder pflegen, erhalten ebenfalls Zugang, um sowohl eigene als auch Open-Source-Systeme zu scannen.

Warum Anthropic Mythos nicht veröffentlicht

Die Entscheidung, Mythos nicht allgemein verfügbar zu machen, ist nachvollziehbar. Das Modell repräsentiert eine Schwelle, an der KI-Fähigkeiten zur Schwachstellensuche das Niveau der besten menschlichen Sicherheitsforscher erreichen — und in manchen Bereichen übertreffen. In den falschen Händen wäre Mythos eine Cyberwaffe.

Anthropic formuliert es direkt: Bei der aktuellen Geschwindigkeit des KI-Fortschritts wird es nicht lange dauern, bis ähnliche Fähigkeiten auch außerhalb verantwortungsvoller Akteure verfügbar sind. Die Konsequenzen für Wirtschaft, öffentliche Sicherheit und nationale Sicherheit wären erheblich.

Gleichzeitig steht Anthropic unter Druck. Informationen über Mythos gelangten bereits im März durch ein Datenleck an die Öffentlichkeit — interne Dokumente und Modellbeschreibungen tauchten in einem öffentlich zugänglichen Datenspeicher auf. Wenig später wurde zudem Quellcode von Claude Code versehentlich publiziert. Das Unternehmen nannte menschliches Versagen als Ursache. Für ein Unternehmen, das die Welt vor den Risiken seiner eigenen Technologie warnt, sind das keine Nebensächlichkeiten.

Was die Partner sagen

Die Reaktionen der Konsortialpartner sind bemerkenswert einhellig in ihrer Dringlichkeit:

CrowdStrike-CTO Elia Zaitsev bringt es auf den Punkt: Das Zeitfenster zwischen Entdeckung einer Schwachstelle und ihrer Ausnutzung durch Angreifer sei kollabiert — was früher Monate dauerte, passiere mit KI jetzt in Minuten.

Cisco-CSO Anthony Grieco spricht von einem Schwellenwert, den KI-Fähigkeiten überschritten hätten — die alten Methoden der Systemhärtung seien nicht mehr ausreichend.

Palo Alto Networks CPTO Lee Klarich warnt: Diese Modelle müssten in die Hände von Open-Source-Maintainern und Verteidigern überall gelangen, bevor Angreifer Zugang bekommen. Und noch wichtiger: Jeder müsse sich auf KI-gestützte Angreifer vorbereiten.

Jim Zemlin, CEO der Linux Foundation, adressiert ein strukturelles Problem: Sicherheitsexpertise war bisher ein Luxus, den sich nur Organisationen mit großen Security-Teams leisten konnten. Open-Source-Maintainer, deren Software einen Großteil der kritischen Infrastruktur ausmacht, mussten Sicherheit bisher allein stemmen.

Die Benchmark-Zahlen

Anthropic legt konkrete Vergleichszahlen vor. Auf dem CyberGym-Benchmark für Schwachstellen-Reproduktion erreicht Mythos Preview 83,1 Prozent — gegenüber 66,6 Prozent für Claude Opus 4.6. Auf SWE-bench Verified, einem Benchmark für Software-Engineering-Aufgaben, liegt Mythos bei 93,9 Prozent (Opus 4.6: 80,8 Prozent).

Diese Zahlen sind keine abstrakten Metriken. Sie bedeuten: Das Modell kann Software-Schwachstellen systematisch und mit hoher Zuverlässigkeit finden — autonom, ohne menschliche Steuerung, in Geschwindigkeiten, die menschliche Analyse um Größenordnungen übertreffen.

Was das für Unternehmen bedeutet

Die Implikationen für Unternehmen sind fundamental. Nicht wegen Mythos selbst — das Modell ist nicht öffentlich zugänglich. Sondern wegen dem, was Mythos ankkündigt: eine Welt, in der KI-Modelle Schwachstellen schneller finden, als Menschen sie patchen können.

Das Zeitfenster schrumpft weiter. Was das Zaitsev-Zitat beschreibt, ist bereits Realität. Die mittlere Zeit von der Veröffentlichung eines CVE bis zum ersten Exploit-Versuch liegt heute bei Stunden, nicht mehr bei Wochen. Mit Mythos-Klasse-Modellen könnten Zero-Days gefunden und ausgenutzt werden, bevor überhaupt ein Advisory existiert.

Patch-Management wird zur Überlebensfrage. Wer heute noch monatliche Patch-Zyklen fährt, operiert in einer Realität, die es nicht mehr gibt. Automatisierte, risikobasierte Patch-Priorisierung ist nicht mehr optional.

Detection muss schneller werden. Wenn Angreifer KI-gestützt Schwachstellen finden und Exploits entwickeln, muss die Erkennung mit derselben Geschwindigkeit arbeiten. Ein SIEM, das Alerts erst nach Stunden korreliert, ist in dieser Welt zu langsam. Verhaltensbasierte Erkennung, kontinuierliches Monitoring und KI-gestützte Triage werden zur Pflicht.

Open Source ist kein Freifahrtschein. Die Linux-Foundation-Beteiligung an Glasswing zeigt: Open-Source-Software, die den Kern moderner IT ausmacht, war bisher chronisch unterfinanziert in Sachen Sicherheit. Unternehmen, die Open-Source-Komponenten einsetzen, müssen ihre Lieferkette aktiver überwachen — SBOM-Management und Dependency-Monitoring sind keine Kür mehr.

Die größere Frage

Project Glasswing ist ein Versuch, den Verteidigern einen Vorsprung zu geben. Ob das gelingt, hängt davon ab, wie schnell die Erkenntnisse aus dem Konsortium in die breite Praxis fließen. Anthropic verspricht, innerhalb von 90 Tagen öffentlich über die Ergebnisse zu berichten und Empfehlungen für die Weiterentwicklung von Sicherheitspraktiken im KI-Zeitalter zu veröffentlichen.

Die unbequeme Wahrheit bleibt: Mythos Preview zeigt, was heute möglich ist. In zwölf Monaten werden ähnliche Fähigkeiten breiter verfügbar sein. Die Frage ist nicht, ob KI-gestützte Schwachstellensuche in die Hände von Angreifern gelangt. Die Frage ist, ob die Verteidiger bis dahin aufgeholt haben.

Künstliche Intelligenz verändert die Cybersecurity-Landschaft — aber nicht nur auf der Verteidigerseite. Angreifer nutzen dieselben KI-Dienste, die Unternehmen für Produktivität und Innovation einsetzen, als Angriffsinfrastruktur. Dabei geht es längst nicht mehr nur um KI-generierte Phishing-Mails. Die Methoden sind systematischer, kreativer und gefährlicher geworden.

Der CSO-Online-Autor Roger Grimes hat sechs zentrale Missbrauchsmuster identifiziert, die wir hier mit zusätzlichen Quellen und unserer Einschätzung einordnen.

1. KI-gestütztes Social Engineering und Phishing

Large Language Models erzeugen Phishing-Mails, die sprachlich, kontextuell und stilistisch kaum noch von legitimer Kommunikation zu unterscheiden sind. Angreifer nutzen ChatGPT, Claude oder lokale Open-Source-Modelle, um in Sekunden hunderte individualisierte Nachrichten zu generieren — in jeder Sprache, in jedem Tonfall. Laut einer Studie von SlashNext stieg die Zahl KI-generierter Phishing-E-Mails allein 2024 um über 1.200 Prozent. Harvard Business Review berichtet, dass 60 Prozent der Empfänger auf KI-generierte Phishing-Mails hereinfallen — eine Rate, die mit manuell erstellten, gezielten Spear-Phishing-Angriffen vergleichbar ist.

Besonders perfide: Die Modelle werden mit öffentlich verfügbaren Informationen aus LinkedIn, Unternehmenswebsites und Pressemitteilungen gefüttert. Das Ergebnis sind hochgradig personalisierte Nachrichten, die gezielt Vertrauensverhältnisse ausnutzen.

2. Deepfake-Audio und -Video für CEO-Fraud

Deepfake-Technologie ist kein Zukunftsszenario mehr — sie ist operatives Angriffswerkzeug. Angreifer klonen Stimmen von Geschäftsführern und Vorständen aus öffentlich verfügbaren Aufnahmen (Podcasts, Konferenz-Talks, YouTube-Videos) und setzen sie für CEO-Fraud ein. Der prominenteste Fall: Ein Finanzangestellter in Hongkong überwies 25 Millionen US-Dollar, nachdem er in einer Videokonferenz von Deepfake-Versionen seiner Kollegen und seines CFOs überzeugt wurde.

Laut dem BSI-Lagebericht 2024 nimmt die Qualität von Deepfake-Angriffen rapide zu. Voice-Cloning benötigt heute nur noch wenige Sekunden Audiomaterial und ist mit frei verfügbaren Tools realisierbar. Für Unternehmen bedeutet das: Jede telefonische oder videobasierte Freigabe-Anforderung ohne Out-of-Band-Verifikation ist ein Sicherheitsrisiko.

3. KI-generierter Schadcode und polymorphe Malware

Angreifer nutzen KI-Modelle, um Malware zu erzeugen, die sich bei jeder Ausführung verändert — sogenannte polymorphe Malware. Sicherheitsforscher von Hoxhunt und Picus Security haben nachgewiesen, dass aktuelle LLMs in der Lage sind, funktionsfähige Exploit-Codes, Obfuscation-Layer und Evasion-Techniken zu generieren. Picus Security dokumentierte im “Red Report 2025”, dass KI-gesteuerte Malware-Kampagnen um 500 Prozent zugenommen haben.

Selbst wenn die großen Anbieter Schutzmechanismen einbauen (Guardrails), werden diese systematisch umgangen — durch Prompt Injection, Jailbreaks oder durch den Einsatz unzensierter Open-Source-Modelle wie WormGPT oder FraudGPT, die explizit für kriminelle Zwecke trainiert wurden.

4. Automatisierte Schwachstellensuche und Reconnaissance

Was früher Wochen manueller Arbeit erforderte, erledigen KI-gestützte Tools in Minuten. Angreifer setzen Large Language Models ein, um öffentlich zugängliche Informationen (OSINT) systematisch auszuwerten, Angriffsflächen zu kartieren und bekannte Schwachstellen automatisch mit Exploit-Code zu verknüpfen. Google DeepMind zeigte mit Project Naptime, dass KI-Agenten eigenständig Schwachstellen in Software finden können — und das mit einer Erfolgsrate, die menschliche Analysten in bestimmten Szenarien übertrifft.

Für Angreifer senkt das die Eintrittsbarriere massiv: Technisch weniger versierte Akteure können mit KI-Unterstützung Angriffe durchführen, die früher APT-Gruppen vorbehalten waren. Das NCSC (National Cyber Security Centre, UK) bestätigte in seinem 2024-Assessment, dass KI die Geschwindigkeit und Effektivität von Cyberangriffen nachweislich erhöht.

5. Missbrauch legitimer KI-Infrastruktur

Ein besonders unterschätzter Angriffsvektor: Angreifer nutzen die API-Infrastruktur legitimer KI-Dienste als Teil ihrer Angriffskette. Dazu gehört die Nutzung von KI-Plattformen zur Datenexfiltration (Zusammenfassungen sensibler Dokumente generieren lassen), die Verwendung von KI-Code-Assistenten zur Identifikation von Schwachstellen in gestohlenem Quellcode, sowie die Nutzung von KI-Übersetzungsdiensten für mehrsprachige Angriffskampagnen.

Microsoft und OpenAI dokumentierten bereits 2024, dass staatlich unterstützte Hackergruppen — darunter Gruppen aus Russland (Forest Blizzard/APT28), China (Charcoal Typhoon), Nordkorea (Emerald Sleet) und dem Iran (Crimson Sandstorm) — aktiv ChatGPT für Reconnaissance, Skripting und Social Engineering nutzen.

6. Prompt Injection und Manipulation von KI-Agenten

Mit der zunehmenden Integration von KI-Agenten in Geschäftsprozesse (Kundensupport, Datenanalyse, automatisierte Workflows) entsteht eine neue Angriffsfläche: Prompt Injection. Angreifer schleusen manipulierte Anweisungen in Datenquellen ein, die von KI-Agenten verarbeitet werden — etwa in E-Mails, Dokumente oder Webseiten. Der Agent führt dann Aktionen im Kontext seiner Berechtigungen aus, ohne dass ein Mensch eingreift.

OWASP hat Prompt Injection in seine Top-10-Liste der LLM-Sicherheitsrisiken aufgenommen (Platz 1). Forscher von Anthropic, Google und Microsoft haben unabhängig voneinander demonstriert, wie Indirect Prompt Injection in Enterprise-Szenarien zu Datenabfluss, unautorisiertem Zugriff und Manipulation von Geschäftsentscheidungen führen kann.

Was bedeutet das für Unternehmen?

Die Konvergenz von KI und Cyberangriffen verschärft eine ohnehin angespannte Bedrohungslage. Unternehmen müssen ihre Sicherheitsarchitektur anpassen — und zwar nicht irgendwann, sondern jetzt. Drei Handlungsfelder sind dabei zentral:

Sichtbarkeit schaffen: Wer nicht sieht, was in seinem Netz passiert, erkennt weder KI-generierte Phishing-Mails noch den Missbrauch interner KI-Dienste. Ein funktionierendes SIEM ist die Grundvoraussetzung.

Prozesse härten: Freigabeprozesse müssen gegen Deepfake-Angriffe abgesichert werden. Das bedeutet: Multi-Faktor-Verifikation für kritische Transaktionen — nicht nur technisch, sondern auch organisatorisch (Callback-Verfahren, Out-of-Band-Bestätigung).

KI-Nutzung regulieren: Unternehmen brauchen klare Richtlinien für den Einsatz von KI-Diensten — inklusive Monitoring, welche Daten an externe KI-Plattformen fließen. Shadow AI ist das neue Shadow IT.