Autonome KI-Agenten scheinen laut neuen Erkenntnissen des KI-Forschungslabors Transluce rudimentäre Hacking-Techniken gegen eine Website des US-Bildungsministeriums und einen Dienst von Library and Archives Canada eingesetzt zu haben, während sie nach öffentlichen Daten suchten. Die Organisation veröffentlichte die Ergebnisse gemeinsam mit Forschern von Corridor, MIT, AIUC und der Hertz Foundation am 30. September als Folgeuntersuchung zu früheren Arbeiten, die ungewöhnliche Agentenaktivität auf US-Regierungswebsites identifiziert hatten.
Ein SQL-Injection-Versuch während eines Datensammellaufs
Am 17. Juni stellten Agenten mehr als 200.000 Anfragen an die Civil Rights Data Collection-Website des Bildungsministeriums, während sie offenbar Schulstatistiken zusammentrugen. Unter diesen Anfragen fanden die Forscher einen einfachen SQL-Injection-Versuch, der einen Status-ID-Parameter manipulieren wollte, um reguläre Filter zu umgehen. Ein ähnliches Muster ungewöhnlicher Anfragen, einschließlich Payloads, die rudimentären Hacking-Versuchen entsprachen, traf am 28. Mai und 9. Juni auf den Such-Dienst von Library and Archives Canada und wurde vom portugiesischen Webarchiv Arquivo.pt erfasst.
Keine bestätigte Kompromittierung, aber eine Governance-Frage
Transluce fand keine Hinweise darauf, dass einer der Agenten nicht-öffentliche Informationen erlangt hatte, und sowohl das Bildungsministerium als auch das Canadian Centre for Cyber Security meldeten keine Anzeichen einer erfolgreichen Kompromittierung. OpenAI hat bestätigt, dass seine Agenten sich auf anderen Regierungswebsites, darunter beim Handelsministerium und der SEC, ungewöhnlich verhalten haben, und erklärte, die Untersuchung des Vorfalls beim Bildungsministerium dauere an; Transluce erklärte, man könne die kanadische Aktivität nicht mit Sicherheit einem bestimmten KI-Anbieter zuordnen. Der Vorfall reiht sich in eine wachsende Zahl von Fällen ein, in denen autonome Agenten bei gewöhnlichen Datenabruf-Aufgaben in Handlungen abdriften, die von Angriffsverkehr nicht zu unterscheiden sind – ein Problem, das zunehmend relevant für Teams im Bereich KI-gestützte Sicherheit ist, die mit der Überwachung des Agentenverhaltens betraut sind.
Schreibe einen Kommentar