Nvidia, açık kaynaklı çalışma zamanı kontrolleri ile otonom yapay zeka ajanlarını tanımlanmış operasyonel sınırlar içinde tutmayı amaçlayan bir referans sistem tasarımının birleşimi olan Açık Ajan Güvenliği Platformu’nu duyurdu. Platform, politika uygulamasını ajanın kendisinden ayırıyor ve testten üretim dağıtımına kadar kullanım için tasarlanmış durumda.
OpenShell çalışma zamanı politikasını ajan dışında uyguluyor
OpenShell yazılım bileşeni, ajanları yönetilen sandbox’lara yerleştirir ve giden istekleri bir denetleyici üzerinden yönlendirir. Politikalar dosya, işlem, ağ ve API etkinliğini sınırlayabilir. Ajanlar politika değişiklikleri önerebilir, ancak kendi isteklerini onaylayamazlar. Gerçek API kimlik bilgileri, yalnızca yetkilendirilmiş hedefler için ajan iş yükünün dışında değiştirilir.
Nvidia ayrıca BlueField-4 veri işleme birimleri üzerinde çalışan isteğe bağlı bir bekçi köpeği olan Sentry’yi tanımlıyor. İzleyici, ana makineden ayrı çalıştığı için, ana makine ortamı ele geçirilmiş olsa bile etkinliği gözlemleyebilir ve politikayı uygulayabilir. Nvidia, tasarımın sınırını aşan bir ajanı karantinaya alabileceğini söylüyor.
Bağımsız uygulama denetlenebilirliği iyileştiriyor
Ajan platformlarını değerlendiren kuruluşlar, hata durumunda kapanma davranışını, kimlik bilgisi yalıtımını, politika değişikliği onayını ve denetim günlüklerinin bütünlüğünü test etmelidir. Donanım ayrımı dayanıklılığı artırabilir, ancak en az ayrıcalık ilkesinin veya uygulama düzeyinde doğrulamanın yerini tutmaz. SectechMedia bu konuları siber güvenlik kapsamında takip etmektedir.








