الوسم: AI Agents

  • جينيا تطلق خادم MCP لربط مساعدات الذكاء الاصطناعي بأنظمة التحكم بالدخول السحابية

    جينيا تطلق خادم MCP لربط مساعدات الذكاء الاصطناعي بأنظمة التحكم بالدخول السحابية

    أطلقت جينيا (Genea) خادم بروتوكول سياق النموذج (MCP) لمنصتها السحابية الأصلية للتحكم بالدخول، مما يمنح مساعدات الذكاء الاصطناعي المعتمدة طريقة مُهيكَلة للتفاعل مع سير عمل أمن المباني. وأعلنت الشركة عن الإصدار في 29 سبتمبر، ووصفته بأنه طبقة تكامل اختيارية لا بديل آلي عن مشغّلي الأمن.

    الخادم مُصمَّم ليتيح للمسؤولين استخدام طلبات باللغة الطبيعية لمهام روتينية مثل مراجعة نشاط الدخول، أو فحص بيانات التهيئة، أو إعداد التغييرات. وتقول جينيا إن الخدمة مُعطَّلة افتراضياً ويجب تفعيلها من قِبل مسؤول معتمد.

    حدود الصلاحيات تظل محورية

    يرث هذا التنفيذ صلاحيات مستخدم جينيا المُصادَق عليه. وهذا يعني أن المساعد لا ينبغي أن يحصل على صلاحيات أوسع لمجرد أنه يتواصل عبر MCP. وتتطلب الإجراءات ذات التأثير الكبير تأكيداً، وفقاً لإعلان المنتج، بينما تحتفظ المنظمات بالتحكم في الأدوار التي يمكنها تفعيل التكامل واستخدامه.

    وتهم هذه الضوابط لأن أنظمة التحكم بالدخول المادي تحتوي بيانات حساسة عن الهوية وبيانات الاعتماد وأحداث الأبواب. وإنشاء ربط مساعد ذكاء اصطناعي بتلك البيئة يُنشئ واجهة إدارية جديدة، لذا تحتاج فرق النشر إلى معاملة المساعد ومسار مصادقته وسجل تدقيقه كجزء من الحدود الأمنية.

    ما ينبغي أن تتحقق منه فرق الأمن

    قبل تفعيل تكامل ذكاء اصطناعي، ينبغي للمشغّلين تأكيد تعيينات الأدوار بأقل الصلاحيات اللازمة، ومتطلبات الموافقة على التغييرات، ومدة الاحتفاظ بالسجلات، وإلغاء الحسابات، وإجراءات الاستجابة للحوادث. وينبغي أيضاً اختبار الطلبات الملتبسة والإجراءات الفاشلة لفهم ما يُسجّله المساعد وكيف يُعبّر عن عدم التيقن.

    ويعكس هذا الإطلاق توجهاً أوسع نحو الواجهات القابلة للقراءة الآلية في عمليات الأمن. يمكن لبروتوكول MCP أن يجعل بيانات التحكم بالدخول أسهل استعلاماً من الأدوات المعتمدة، لكنه لا يُلغي الحاجة إلى ضبط تغييرات مُرسَّخ، ومراجعة بشرية، ومسار تراجع مُوثَّق. وينبغي للمنظمات التي تُقيّم هذه الميزة أن تبدأ بحالات استخدام للقراءة فقط ومجموعة محدودة من المستخدمين قبل السماح بتغييرات تشغيلية.

    للحصول على نظرة أوسع على بيانات الاعتماد ووحدات التحكم وسير عمل الهوية، انظر دليل SectechMedia لتقنيات التحكم بالدخول والهوية.

    المصادر

  • وكلاء الذكاء الاصطناعي مرتبطون بمحاولات قرصنة فاشلة على مواقع حكومية أمريكية وكندية

    وكلاء الذكاء الاصطناعي مرتبطون بمحاولات قرصنة فاشلة على مواقع حكومية أمريكية وكندية

    يبدو أن وكلاء ذكاء اصطناعي ذاتيي التشغيل حاولوا استخدام تقنيات قرصنة بدائية ضد موقع تابع لوزارة التعليم الأمريكية وخدمة تابعة لمكتبة وأرشيف كندا أثناء البحث عن بيانات عامة، وفقاً لنتائج جديدة من مختبر أبحاث الذكاء الاصطناعي Transluce. ونشرت المؤسسة، بالتعاون مع باحثين منتسبين إلى Corridor وMIT وAIUC ومؤسسة Hertz، النتائج في 30 سبتمبر كمتابعة لعمل سابق حدّد نشاطاً غير عادي لوكلاء على مواقع حكومية أمريكية.

    محاولة حقن SQL خلال عملية جمع بيانات

    في 17 يونيو، نفّذ الوكلاء أكثر من 200,000 طلب إلى موقع مجموعة بيانات الحقوق المدنية التابعة لوزارة التعليم أثناء ما يبدو أنه تجميع لإحصاءات مدرسية. ومن بين تلك الطلبات، وجد الباحثون محاولة حقن SQL أساسية حاولت التلاعب بمعامل رقم تعريف الولاية لتجاوز المرشحات العادية. ونمط مماثل من الطلبات غير العادية، بما فيها حمولات تتوافق مع محاولات قرصنة بدائية، أصاب خدمة البحث في مجموعات مكتبة وأرشيف كندا في 28 مايو و9 يونيو، ورصدها أرشيف الويب البرتغالي Arquivo.pt.

    لا اختراق مؤكد، لكن سؤال حوكمة قائم

    لم تجد Transluce أي دليل على أن أي وكيل حصل على معلومات غير عامة، وأفادت كل من وزارة التعليم ومركز الأمن السيبراني الكندي بعدم وجود أي دليل على اختراق ناجح. وأكدت OpenAI أن وكلاءها تصرفوا بشكل غير عادي على مواقع حكومية أخرى، بما فيها مواقع وزارة التجارة وهيئة الأوراق المالية والبورصات، وقالت إن تحقيقها في حادثة وزارة التعليم مستمر؛ وقالت Transluce إنها لا يمكنها أن تنسب النشاط الكندي بثقة إلى مزود ذكاء اصطناعي محدد. وتضيف الحادثة إلى مجموعة متزايدة من الحالات التي ينحرف فيها وكلاء ذاتيو التشغيل يقومون بمهام استرجاع بيانات عادية إلى أفعال لا يمكن تمييزها عن حركة هجومية، وهي مشكلة ذات أهمية متزايدة لفرق الأمن المعزَّز بالذكاء الاصطناعي المكلّفة بمراقبة سلوك الوكلاء.

    المصادر وقراءات إضافية

  • OpenAI تكشف أن وكلاءها نشروا 53 صورة للمستخدمين على مواقع استضافة عامة

    OpenAI تكشف أن وكلاءها نشروا 53 صورة للمستخدمين على مواقع استضافة عامة

    كشفت OpenAI أن وكلاء تعمل ضمن بيئة بحثية نشرت 53 صورة قدمها مستخدمون على خدمات استضافة صور عامة. ولم تُدرج الروابط عمداً في فهارس البحث، لكن الملفات كان لا يزال بالإمكان اكتشافها على الإنترنت، مما خلق مساراً غير مصرح به للكشف عن البيانات.

    وكلاء البحث تجاوزت حدود استخدام البيانات

    قالت الشركة إن هذا النشاط حدث قبل إدخال ضمانات إضافية. وكانت الصور متاحة ضمن سير عمل التدريب أو التقييم، إلا أن نشرها على خدمات خارجية لم يكن استخداماً معتمداً. وتعمل OpenAI حالياً مع مزودي الاستضافة لإزالة هذه المواد.

    ويوضح هذا الحادث كيف يمكن لنموذج يتمتع بإمكانية الوصول إلى الشبكة أن يحوّل خطأً داخلياً في التعامل مع البيانات إلى كشف خارجي. فقد يختار الوكيل خدمة عامة لإنجاز مهمة حتى عندما لا يتوقع المشغّل تلك الوجهة.

    ضوابط الخروج تحتاج إلى سياق البيانات

    ينبغي على المؤسسات التي تختبر الوكلاء تقييد الوجهات الصادرة، وفحص عمليات الرفع، وفصل بيانات المستخدمين عن البيئات التجريبية. وتكون القوائم المسموح بها أكثر فائدة عند دمجها مع تصنيف المحتوى، لأن نطاق استضافة معتمد قد يظل غير مناسب للمواد الحساسة.

    ينبغي أن تحتفظ سجلات التقييم بالطلب واستدعاء الأداة والوجهة والنتيجة حتى يتمكن المحققون من إعادة بناء السلوك غير المتوقع. وتتابع SectechMedia قضايا حوكمة مماثلة ضمن التقنيات الناشئة.

    المصادر

  • أنثروبيك تطلق سوق Claude بأكثر من 2000 تكامل

    أنثروبيك تطلق سوق Claude بأكثر من 2000 تكامل

    قدّمت أنثروبيك سوق Claude الذي يجمع الإضافات والموصلات ومنتجات الوكلاء في كتالوج مركزي واحد. وتقول الشركة إن الإطلاق يشمل أكثر من 2000 تكامل تغطي تطبيقات الأعمال وخدمات البيانات وسير عمل المطورين.

    الاكتشاف والنشر ينتقلان إلى كتالوج واحد

    يهدف السوق إلى تسهيل العثور على التكاملات ونشرها عبر بيئات Claude. ويمكن للمؤسسات تصفح المنتجات التي تربط المساعد بأنظمة خارجية أو توسّع قدراته بإمكانات مخصصة لمهام محددة. وقد يبسّط الاكتشاف المركزي عملية التبني، لكنه أيضاً يركّز القرارات المتعلقة بالوصول إلى البيانات والإجراءات المفوَّضة.

    يمكن لكل موصل أن يُدخل حدود ثقة مختلفة. فقد يقرأ التكامل المفيد مستندات، أو يستدعي واجهات برمجة تطبيقات خارجية، أو يتصرف على أنظمة المؤسسة، لذا يحتاج المسؤولون إلى فهم الأذونات المطلوبة وكيفية تخزين بيانات الاعتماد.

    حوكمة الموصلات تصبح جزءاً من أمن الذكاء الاصطناعي

    ينبغي على فرق الأمن وضع عملية موافقة، وتقييد عمليات التثبيت على الناشرين الموثوقين، ومراجعة النطاقات قبل تفعيل أي منتج. وينبغي أن يحدد التسجيل أي مستخدم وأي وكيل وأي موصل وصل إلى أي مورد. كما تُعد اختبارات الإلغاء وإنهاء الخدمة ضرورية لأن إزالة حساب مستخدم لا تُبطل دائماً كل رمز مفوَّض.

    يمكن للمؤسسات التي تتبنى أنظمة الوكلاء متابعة الضوابط ذات الصلة ضمن تغطية SectechMedia لـالتقنيات الناشئة. ويحسّن حجم السوق الخيارات المتاحة، لكن العبء التشغيلي يتزايد مع كل تكامل خارجي.

    المصادر