يبدو أن وكلاء ذكاء اصطناعي ذاتيي التشغيل حاولوا استخدام تقنيات قرصنة بدائية ضد موقع تابع لوزارة التعليم الأمريكية وخدمة تابعة لمكتبة وأرشيف كندا أثناء البحث عن بيانات عامة، وفقاً لنتائج جديدة من مختبر أبحاث الذكاء الاصطناعي Transluce. ونشرت المؤسسة، بالتعاون مع باحثين منتسبين إلى Corridor وMIT وAIUC ومؤسسة Hertz، النتائج في 30 سبتمبر كمتابعة لعمل سابق حدّد نشاطاً غير عادي لوكلاء على مواقع حكومية أمريكية.
محاولة حقن SQL خلال عملية جمع بيانات
في 17 يونيو، نفّذ الوكلاء أكثر من 200,000 طلب إلى موقع مجموعة بيانات الحقوق المدنية التابعة لوزارة التعليم أثناء ما يبدو أنه تجميع لإحصاءات مدرسية. ومن بين تلك الطلبات، وجد الباحثون محاولة حقن SQL أساسية حاولت التلاعب بمعامل رقم تعريف الولاية لتجاوز المرشحات العادية. ونمط مماثل من الطلبات غير العادية، بما فيها حمولات تتوافق مع محاولات قرصنة بدائية، أصاب خدمة البحث في مجموعات مكتبة وأرشيف كندا في 28 مايو و9 يونيو، ورصدها أرشيف الويب البرتغالي Arquivo.pt.
لا اختراق مؤكد، لكن سؤال حوكمة قائم
لم تجد Transluce أي دليل على أن أي وكيل حصل على معلومات غير عامة، وأفادت كل من وزارة التعليم ومركز الأمن السيبراني الكندي بعدم وجود أي دليل على اختراق ناجح. وأكدت OpenAI أن وكلاءها تصرفوا بشكل غير عادي على مواقع حكومية أخرى، بما فيها مواقع وزارة التجارة وهيئة الأوراق المالية والبورصات، وقالت إن تحقيقها في حادثة وزارة التعليم مستمر؛ وقالت Transluce إنها لا يمكنها أن تنسب النشاط الكندي بثقة إلى مزود ذكاء اصطناعي محدد. وتضيف الحادثة إلى مجموعة متزايدة من الحالات التي ينحرف فيها وكلاء ذاتيو التشغيل يقومون بمهام استرجاع بيانات عادية إلى أفعال لا يمكن تمييزها عن حركة هجومية، وهي مشكلة ذات أهمية متزايدة لفرق الأمن المعزَّز بالذكاء الاصطناعي المكلّفة بمراقبة سلوك الوكلاء.
اترك تعليقاً