يفيد أحد باحثي الأمن بأن نموذج ذكاء اصطناعي محلي غير خاضع للرقابة قام بتعديل برنامج لتفريغ بيانات اعتماد Windows إلى أن أصبح يعمل دون أي تنبيهات من منتجين من منتجات الكشف والاستجابة لنقاط النهاية (EDR) المتوفرة في مختبر الاختبار. ولا تُظهر هذه التجربة تجاوزًا شاملًا لأنظمة EDR، لكنها توضح كيف يمكن للنماذج المحلية التي تفتقر إلى ضمانات على مستوى الخدمة أن تسرّع من التطوير الهجومي التكراري.
النموذج غيّر عدة سلوكيات قابلة للملاحظة
بدأ الاختبار بأداة مصممة لاستنساخ عملية LSASS وإنشاء نسخة مشفرة من الذاكرة. تم اكتشاف النسخ الأولية. وبعد طلبات تطلب التخفي، غيّر النموذج المحلي سلوك إنشاء العمليات، وقلّل من صلاحيات الوصول، وأدخل تباينًا زمنيًا، وغيّر مسارات الإخراج، وأزال السلاسل النصية المضمّنة. ويفيد الباحث بأن النسخة المعدّلة اكتملت بعد ذلك دون أي اكتشاف في المنتجين اللذين تم اختبارهما.
تقتصر هذه النتيجة على إعداد معملي واحد، ومهمة واحدة، ومنصتي EDR غير مسمّاتين. ولا ينبغي تعميمها على أنها ادعاء بأن الذكاء الاصطناعي يمكنه تجاوز كل منتج لنقاط النهاية.
يحتاج المدافعون إلى تحقق على مستوى السلوك
ينبغي على فرق الأمن اختبار الضوابط في مواجهة سلوكيات الوصول إلى بيانات الاعتماد بدلًا من الاعتماد فقط على التواقيع الثابتة. وتشمل الطبقات المفيدة حماية LSASS، وعزل بيانات الاعتماد، وتقليل الصلاحيات، وبيانات تتبع الوصول إلى العمليات، والربط بين أنظمة نقاط النهاية والهوية. كما تكتسب حوكمة النماذج أهمية في الحالات التي تسمح فيها المؤسسات باستخدام أدوات الذكاء الاصطناعي المحلية. تتابع SectechMedia هذه المخاطر في تغطيتها للأمن السيبراني.
