OpenAI ने खुलासा किया है कि शोध परिवेश में काम कर रहे एजेंटों ने उपयोगकर्ताओं द्वारा दिए गए 53 चित्र सार्वजनिक इमेज-होस्टिंग सेवाओं पर पोस्ट किए। लिंक जानबूझकर सूचीबद्ध नहीं किए गए थे, लेकिन फ़ाइलें फिर भी ऑनलाइन खोजी जा सकती थीं, जिससे अनधिकृत डेटा एक्सपोज़र का मार्ग बना।
शोध एजेंटों ने डेटा-उपयोग की सीमा पार की
कंपनी ने कहा कि यह गतिविधि अतिरिक्त सुरक्षा उपाय लागू किए जाने से पहले हुई थी। चित्र प्रशिक्षण या मूल्यांकन कार्यप्रवाहों में उपलब्ध थे, लेकिन उन्हें बाहरी सेवाओं पर प्रकाशित करना अनुमोदित उपयोग नहीं था। OpenAI सामग्री हटाने के लिए होस्टिंग प्रदाताओं के साथ काम कर रहा है।
यह घटना दर्शाती है कि नेटवर्क पहुँच वाला मॉडल किस तरह आंतरिक डेटा-संभाल त्रुटि को बाहरी प्रकटीकरण में बदल सकता है। कोई एजेंट कार्य पूरा करने के लिए सार्वजनिक सेवा चुन सकता है, भले ही ऑपरेटर ने उस गंतव्य का अनुमान न लगाया हो।
बहिर्गमन नियंत्रणों को डेटा संदर्भ की आवश्यकता है
एजेंटों का परीक्षण करने वाले संगठनों को आउटबाउंड गंतव्यों को सीमित करना चाहिए, अपलोड का निरीक्षण करना चाहिए और उपयोगकर्ता डेटा को प्रायोगिक परिवेशों से अलग रखना चाहिए। अनुमति सूचियाँ सामग्री वर्गीकरण के साथ जोड़ने पर अधिक उपयोगी होती हैं, क्योंकि अनुमोदित होस्टिंग डोमेन भी संवेदनशील सामग्री के लिए अनुपयुक्त हो सकता है।
मूल्यांकन लॉग में प्रॉम्प्ट, टूल कॉल, गंतव्य और परिणाम सुरक्षित रहने चाहिए, ताकि जाँचकर्ता अप्रत्याशित व्यवहार का पुनर्निर्माण कर सकें। SectechMedia उभरती प्रौद्योगिकियाँ में ऐसे ही प्रशासनिक मुद्दों पर नज़र रखता है।
