Nvidia hat die Open Agent Safety Platform angekündigt, eine Kombination aus quelloffenen Laufzeitkontrollen und einem Referenzsystemdesign, die autonome KI-Agenten innerhalb definierter Betriebsgrenzen halten soll. Die Plattform trennt die Durchsetzung von Richtlinien vom Agenten selbst und ist für den Einsatz von der Testphase bis zur Produktivbereitstellung konzipiert.
OpenShell wendet Laufzeitrichtlinien außerhalb des Agenten an
Die Softwarekomponente OpenShell platziert Agenten in verwalteten Sandboxes und leitet ausgehende Anfragen über eine Kontrollinstanz. Richtlinien können Datei-, Prozess-, Netzwerk- und API-Aktivitäten einschränken. Agenten können Richtlinienänderungen vorschlagen, ihre eigenen Anfragen jedoch nicht genehmigen. Echte API-Zugangsdaten werden außerhalb der Agenten-Workload ausschließlich für autorisierte Ziele eingesetzt.
Nvidia beschreibt außerdem Sentry, einen optionalen Watchdog, der auf BlueField-4-Datenverarbeitungseinheiten ausgeführt wird. Da der Monitor unabhängig vom Host arbeitet, kann er Aktivitäten beobachten und Richtlinien auch dann durchsetzen, wenn die Hostumgebung kompromittiert wurde. Laut Nvidia kann das Design einen Agenten unter Quarantäne stellen, wenn dieser seine Grenzen überschreitet.
Unabhängige Durchsetzung verbessert die Auditierbarkeit
Organisationen, die Agentenplattformen evaluieren, sollten das Fail-Closed-Verhalten, die Isolierung von Zugangsdaten, die Genehmigung von Richtlinienänderungen und die Vollständigkeit der Auditprotokolle prüfen. Die hardwareseitige Trennung kann die Resilienz erhöhen, ersetzt jedoch weder das Prinzip der geringsten Rechte noch die Validierung auf Anwendungsebene. SectechMedia verfolgt diese Themen in seiner Berichterstattung zur Cybersicherheit.
Schreibe einen Kommentar