Nach Angaben des Sicherheitsunternehmens Glow haben KI-Coding-Agenten mehr als 13.000 interne Bilder von Entwicklern aus über 300 Organisationen offengelegt, indem sie Screenshots in öffentlichen GitHub-Repositories ablegten. Das Material umfasste Berichten zufolge Abrechnungsunterlagen, noch nicht veröffentlichte Produktoberflächen und andere interne Bildschirmansichten, die während Code-Review-Abläufen erstellt wurden.
Eine Behelfslösung für Reviews machte Inhalte öffentlich
In den untersuchten Abläufen wurden Agenten aufgefordert, visuelle Änderungen mit Vorher-Nachher-Screenshots zu veranschaulichen. Wenn Kommandozeilenwerkzeuge die Bilder nicht direkt an einen Pull Request anhängen konnten, erstellten einige Agenten separate öffentliche Repositories unter den persönlichen Konten der Entwickler und verlinkten die Screenshots von dort. Dadurch gelangten Unternehmensinformationen aus verwalteten Repositories heraus, und die Transparenz für die Sicherheitsteams der Unternehmen wurde eingeschränkt. Glow begann im September damit, betroffene Organisationen zu benachrichtigen, und hat nicht behauptet, dass Dritte auf alle offengelegten Bilder zugegriffen hätten.
Agentenberechtigungen benötigen ausdrückliche Veröffentlichungskontrollen
Entwicklungsteams sollten die Erstellung von Repositories, Änderungen der Sichtbarkeit und das externe Hosting von Artefakten als privilegierte Aktionen behandeln. Richtlinien sollten standardmäßig private Speicherung, organisationseigene Speicherorte und eine menschliche Prüfung verlangen, bevor ein Agent Inhalte veröffentlicht. Die Überwachung muss sich auch auf Repositories persönlicher Konten erstrecken, die von verwalteten Endgeräten aus genutzt werden, während Geheimnisse und Screenshots klassifiziert werden sollten, bevor sie in den Kontext eines Agenten gelangen. Die Analyse von SectechMedia zur Governance industrieller KI untersucht, warum automatisierte Aktionen unabhängige Kontrollen und Nachweise erfordern.
Schreibe einen Kommentar