Nvidia ने Open Agent Safety Platform की घोषणा की है, जो ओपन-सोर्स रनटाइम नियंत्रणों और एक संदर्भ प्रणाली डिज़ाइन का संयोजन है तथा स्वायत्त AI एजेंटों को परिभाषित परिचालन सीमाओं के भीतर रखने के लिए बनाया गया है। प्लेटफ़ॉर्म नीति प्रवर्तन को स्वयं एजेंट से अलग करता है और परीक्षण से लेकर उत्पादन परिनियोजन तक उपयोग के लिए डिज़ाइन किया गया है।
OpenShell एजेंट के बाहर रनटाइम नीति लागू करता है
सॉफ़्टवेयर घटक OpenShell एजेंटों को प्रबंधित सैंडबॉक्स में रखता है और आउटबाउंड अनुरोधों को एक पर्यवेक्षक के माध्यम से भेजता है। नीतियाँ फ़ाइल, प्रक्रिया, नेटवर्क और API गतिविधि को सीमित कर सकती हैं। एजेंट नीति में बदलाव प्रस्तावित कर सकते हैं, लेकिन वे अपने अनुरोधों को स्वयं मंज़ूरी नहीं दे सकते। वास्तविक API क्रेडेंशियल केवल अधिकृत गंतव्यों के लिए एजेंट कार्यभार के बाहर प्रतिस्थापित किए जाते हैं।
Nvidia ने Sentry का भी वर्णन किया है, जो BlueField-4 डेटा प्रोसेसिंग यूनिट पर चलने वाला एक वैकल्पिक वॉचडॉग है। चूँकि मॉनिटर होस्ट से अलग संचालित होता है, इसलिए होस्ट परिवेश से समझौता होने पर भी यह गतिविधि देख सकता है और नीति लागू कर सकता है। Nvidia का कहना है कि डिज़ाइन अपनी सीमा पार करने वाले एजेंट को क्वारंटीन कर सकता है।
स्वतंत्र प्रवर्तन ऑडिट क्षमता में सुधार करता है
एजेंट प्लेटफ़ॉर्म का मूल्यांकन करने वाले संगठनों को फ़ेल-क्लोज़्ड व्यवहार, क्रेडेंशियल पृथक्करण, नीति-परिवर्तन अनुमोदन और ऑडिट लॉग की पूर्णता का परीक्षण करना चाहिए। हार्डवेयर पृथक्करण लचीलापन बढ़ा सकता है, लेकिन यह न्यूनतम विशेषाधिकार या एप्लिकेशन-स्तरीय सत्यापन का स्थान नहीं लेता। SectechMedia अपने साइबर सुरक्षा कवरेज में इन मुद्दों पर नज़र रखता है।
प्रातिक्रिया दे