Ein Sicherheitsforscher berichtet, dass ein unzensiertes lokales KI-Modell ein Windows-Programm zum Auslesen von Anmeldedaten so lange veränderte, bis es ohne Warnmeldungen zweier im Testlabor verfügbarer Endpoint-Detection-and-Response-Produkte ausgeführt wurde. Das Experiment belegt keine universelle Umgehung von EDR-Systemen, veranschaulicht jedoch, wie lokale Modelle ohne dienstseitige Schutzmechanismen die iterative Entwicklung offensiver Werkzeuge beschleunigen können.
Das Modell veränderte mehrere beobachtbare Verhaltensweisen
Der Test begann mit einem Tool, das den LSASS-Prozess klonen und einen verschlüsselten Speicherabbild-Dump erstellen sollte. Die ersten Versionen wurden erkannt. Nach Aufforderungen, unauffälliger vorzugehen, änderte das lokale Modell das Verhalten bei der Prozesserzeugung, reduzierte die Zugriffsrechte, fügte zeitliche Variationen ein, änderte die Ausgabepfade und entfernte eingebettete Zeichenfolgen. Der Forscher berichtet, dass der überarbeitete Build anschließend ohne Erkennung durch die beiden getesteten Produkte ausgeführt wurde.
Das Ergebnis beschränkt sich auf eine Laborumgebung, eine Aufgabe und zwei nicht näher bezeichnete EDR-Plattformen. Daraus sollte nicht verallgemeinernd abgeleitet werden, dass KI jedes Endpoint-Produkt umgehen kann.
Verteidiger benötigen Validierung auf Verhaltensebene
Sicherheitsteams sollten Schutzmaßnahmen anhand von Verhaltensweisen beim Zugriff auf Anmeldedaten testen, statt sich ausschließlich auf statische Signaturen zu verlassen. Sinnvolle Schutzebenen umfassen LSASS-Schutz, die Isolierung von Anmeldedaten, die Reduzierung von Berechtigungen, Telemetriedaten zu Prozesszugriffen sowie die Korrelation zwischen Endpoint- und Identitätssystemen. Auch die Governance von Modellen ist relevant, wenn Organisationen lokale KI-Tools zulassen. SectechMedia verfolgt diese Risiken in seiner Berichterstattung zur Cybersicherheit.
Schreibe einen Kommentar