KI-Prozessor als Symbol für autonome, KI-gesteuerte Cyberangriffe und KI-gestützte Penetrationstests
FachbeiträgeF-387004.07.20265 Min.

Agentische KI in der Cybersicherheit: Wenn Angreifer autonom werden – und warum Verteidiger noch die Zügel in der Hand behalten müssen

Die Cybersicherheitsbranche diskutiert seit Jahren über das Potenzial von Künstlicher Intelligenz – als Werkzeug für Angreifer ebenso wie für Verteidiger. Diese Diskussion hat mit einem aktuellen Vorfall eine neue, sehr konkrete Dimension bekommen. Gleichzeitig sammeln wir bei CFM und Probatio Cyber Defence aktuell selbst intensive Praxiserfahrung mit KI-gestützten Penetrationstests – und die Ergebnisse zeichnen ein differenziertes, teils überraschendes Bild. Beide Entwicklungen gehören zusammen betrachtet, weil sie zeigen, an welchem Punkt der Reifekurve sich agentische KI in der Offensive und in der Defensive gerade tatsächlich befindet.

Der Fall JadePuffer: Der erste vollständig KI-geführte Ransomware-Angriff

Die Sicherheitsforscher von Sysdig haben mit JadePuffer einen Vorfall dokumentiert, der als einer der ersten seiner Art gilt: ein Ransomware-Angriff, der von Anfang bis Ende von einem autonomen LLM-Agenten durchgeführt wurde – ohne dass ein menschlicher Operator einzelne Schritte steuern musste.

Der Ablauf im Überblick

  1. Initial Access: Der Agent nutzte CVE-2025-3248, eine unauthentifizierte Remote-Code-Execution-Schwachstelle in Langflow, einem verbreiteten Open-Source-Framework für LLM-Anwendungen. Die Lücke wurde bereits im April 2025 gepatcht und kurz darauf von CISA als aktiv ausgenutzt eingestuft – dennoch bleiben viele Instanzen im Internet ungehärtet und ungepatcht erreichbar.
  2. Reconnaissance & Credential Access: Nach der Codeausführung durchsuchte die KI eigenständig die PostgreSQL-Datenbank von Langflow, sammelte Host-Informationen, durchforstete Umgebungsvariablen und sensible Dateien und enumerierte einen MinIO-Objektspeicher.
  3. Adaptive Fehlerbehandlung: Bemerkenswert ist, wie der Agent mit unerwarteten Situationen umging. Als eine Schnittstelle unerwartet XML statt des erwarteten JSON zurücklieferte, passte die KI ihre Parsing-Logik im nächsten Versuch selbstständig an. In einer anderen Sequenz wurde ein fehlgeschlagener Login-Versuch innerhalb von nur 31 Sekunden in einen funktionierenden Exploit umgewandelt.
  4. Persistence: Auf dem Langflow-Host installierte der Agent einen Cron-Job, der alle 30 Minuten mit der Angreifer-Infrastruktur kommunizierte.
  5. Lateral Movement & Privilege Escalation: Von dort aus bewegte sich der Agent zu einem produktiven MySQL-Server mit Alibaba Nacos und nutzte CVE-2021-29441, eine Authentication-Bypass-Schwachstelle, um Rogue-Admin-Konten anzulegen.
  6. Impact: Am Ende verschlüsselte die KI 1.342 Nacos-Konfigurationsobjekte mittels MySQLs AES_ENCRYPT(), löschte die Originaltabellen und hinterließ eine eigens angelegte Erpressungstabelle mit Lösegeldforderung, Bitcoin-Adresse und Proton-Mail-Kontakt.

Spuren der KI-Steuerung

Interessant sind auch die Details, die auf die KI-Steuerung hindeuten: Der generierte Code enthielt ausführliche natürlichsprachliche Kommentare zur operativen Logik des Agenten, und die im Ransom Note behauptete AES-256-Verschlüsselung dürfte laut Sysdig tatsächlich eher dem schwächeren AES-128-ECB entsprechen – ein Detail, das für eine KI-generierte Umsetzung spricht, die aus Trainingsdaten „plausible“ Angaben reproduziert, ohne sie technisch zu verifizieren. Auch die im Ransom Note verwendete Bitcoin-Adresse ist eine in der Dokumentation weit verbreitete Beispieladresse – vermutlich ebenfalls ein Artefakt aus den Trainingsdaten des Modells.

Sysdig fasst die Bedeutung dieses Falls treffend zusammen: Wir befinden uns am Beginn der Ära der „agentic threat actors“ – autonomer KI-Agenten, die technisches Können ersetzen, das früher für einen erfolgreichen Angriff notwendig war. Gleichzeitig eröffnen KI-generierte Payloads aufgrund ihrer charakteristischen Muster auch neue Erkennungsmöglichkeiten für Verteidiger.

Die andere Seite der Medaille: Unsere Praxiserfahrung mit KI-gestützten Pentests

Während JadePuffer zeigt, wozu agentische KI auf der Angreiferseite unter günstigen Bedingungen bereits fähig ist, sammeln wir bei CFM und Probatio Cyber Defence parallel eigene Erfahrung auf der Verteidigungsseite. Wir führen aktuell bereits den vierten KI-unterstützten Penetrationstest bei einem Kunden durch – sowohl im externen als auch im internen (Client Side) Testszenario. Das Bild, das sich dabei zeigt, ist deutlich durchwachsener, als es der JadePuffer-Fall vermuten lassen würde.

Extern: schnell, strukturiert, überzeugend

Im externen Pentest arbeitet die KI beeindruckend effizient. Sie identifiziert Angriffsflächen zügig, strukturiert ihr Vorgehen nachvollziehbar und liefert belastbare, konsistente Ergebnisse – hier zeigt sich das Potenzial, das auch im JadePuffer-Fall sichtbar wurde: Klar abgegrenzte, gut dokumentierte Zielsysteme mit bekannten Schwachstellenmustern sind für agentische KI ein Umfeld, in dem sie sich sehr sicher bewegt.

Intern: inkonsistent und ressourcenintensiv

Im internen, client-seitigen Testszenario zeigt sich ein anderes Bild. Die Findings sind deutlich weniger konsistent und passen teilweise nicht wirklich zusammen. Für sechs Stunden Testing haben wir einen Verbrauch von rund 200.000 Token gemessen – für den praktischen, wirtschaftlichen Einsatz ist das schlicht noch zu viel.

Unser Zwischenfazit nach vier Durchläufen

KI-gestützte Tools sind bereits heute eine sehr gute Unterstützung für klar abgegrenzte Basisaufgaben – etwa BloodHound-Auswertungen oder Active-Directory-Checks, bei denen es um das systematische Durcharbeiten bekannter Muster geht. Sobald jedoch keine klare Richtung vorgegeben wird, verliert sich die KI in komplexen internen Netzwerken erstaunlich schnell in unterschiedlichsten Sackgassen. Genau jene zielstrebige, fehlertolerante Anpassungsfähigkeit, die den JadePuffer-Agenten als Angreifer so effektiv gemacht hat, fehlt aktuellen KI-Pentesting-Werkzeugen in dieser Form noch – zumindest in komplexeren, weniger standardisierten Umgebungen.

Was bedeutet das für Unternehmen?

Die Gegenüberstellung beider Erfahrungen liefert eine wichtige Erkenntnis für die Sicherheitsstrategie von Unternehmen: Agentische KI ist längst keine theoretische Zukunftsvision mehr, sondern in bestimmten Kontexten bereits produktiv einsetzbar – auf beiden Seiten der Front.

  • Auf Angreiferseite bedeutet das: Internetexponierte, schlecht gehärtete Systeme mit bekannten, öffentlich dokumentierten Schwachstellen sind heute ein realistisches Ziel für vollautomatisierte, KI-geführte Angriffe. Patch-Management, Angriffsflächenreduktion und die Absicherung von Systemen, die Zugangsdaten und API-Keys enthalten, sind wichtiger denn je.
  • Auf Verteidigerseite bedeutet das: KI-gestützte Pentests können den Prüfprozess bei klar strukturierten, standardisierten Prüfaufgaben bereits heute sinnvoll beschleunigen. Bei komplexen internen Netzwerken mit gewachsenen, uneinheitlichen Strukturen ersetzt die KI aber (noch) nicht die Erfahrung und Steuerung durch qualifizierte Pentester – sie ergänzt sie.

Für uns als Anbieter von Penetrationstests, Managed SOC Services und digitaler Forensik heißt das konkret: KI gehört in den Werkzeugkasten unserer Analysten und Pentester, aber – nach aktuellem Stand – noch nicht ans Steuer eines komplexen internen Assessments. Genau umgekehrt zeigt sich die Situation bei den Angreifern, die diese Grenze gerade aktiv austesten.

Fazit und Ausblick

Der JadePuffer-Fall und unsere eigenen Testreihen sind zwei Seiten derselben Entwicklungsstufe: Agentische KI kann heute bereits vollständige Angriffsketten selbstständig durchziehen, wenn die Rahmenbedingungen – offene Systeme, klare Fehlerbilder, dokumentierte Schwachstellen – dafür geeignet sind. In komplexeren, weniger vorhersehbaren Umgebungen – wie sie interne Unternehmensnetzwerke typischerweise darstellen – stößt dieselbe Technologie noch an klare Grenzen.

Wir werden diese Entwicklung in unseren laufenden Testreihen weiter beobachten und unsere Erkenntnisse regelmäßig teilen. Für Unternehmen, die ihre eigene Sicherheitslage – ob durch klassische oder KI-gestützte Penetrationstests, Managed SOC Services oder digitale Forensik – überprüfen lassen möchten, stehen wir als erfahrener Partner zur Verfügung.