في سياق التحولات المتسارعة التي يشهدها مجال الأمن السيبراني، أصدرت شركة مايكروسوفت تقريرًا استراتيجيًا مفصلًا ضمن سلسلة تنبيهاتها الأمنية، ركّز على المخاطر المتنامية المرتبطة بوكلاء الذكاء الاصطناعي المستقلين. ويأتي هذا التقرير في مرحلة تتزايد فيها وتيرة دمج هذه التقنيات داخل البنى التشغيلية للمؤسسات، بما يعكس انتقالًا نوعيًا من نمط التفاعل القائم على “الدردشة مع الآلة” إلى نمط أكثر تقدمًا تصبح فيه “الآلة فاعلًا يعمل بالنيابة عن المستخدم”، وهو تحول يفتح المجال أمام ثغرات أمنية غير مسبوقة.
وتكمن خطورة هذه الوكلاء في طبيعة أدوارهم التشغيلية؛ إذ لم تعد وظيفتهم مقتصرة على الاستجابة لمدخلات المستخدم، بل باتوا قادرين على الولوج إلى البريد الإلكتروني، والتقويمات، وقواعد البيانات، وتنفيذ مهام مركبة مثل حجز الرحلات أو إرسال التقارير المالية دون تدخل بشري مباشر. وهذا المستوى من الاستقلالية التشغيلية هو ما يجعلهم هدفًا جذابًا للجهات المهاجمة.
ومن بين أبرز التهديدات التي أشار إليها التقرير ما يُعرف بهجمات “حقن الأوامر غير المباشرة”، حيث لم يعد المهاجم بحاجة إلى اختراق الأنظمة تقنيًا بشكل مباشر، بل يكفي تضمين تعليمات خبيثة داخل رسائل بريد إلكتروني عادية، قد تكون مخفية في نصوص غير مرئية أو شيفرات مموهة. وعند قيام الوكيل بقراءة هذه الرسائل لأغراض التلخيص أو المعالجة، قد يلتقط تلك التعليمات وينفذها، كأن يقوم مثلًا بتسريب بيانات حساسة، دون علم المستخدم، بما يحوله فعليًا إلى أداة اختراق داخلية.
كما حذّر التقرير من إشكالية “الصلاحيات المفرطة”، وهي وضعية تنشأ عندما تُمنح الوكلاء أذونات واسعة النطاق، قد تصل إلى مستوى صلاحيات المدير العام للنظام، بدعوى تسهيل أدائهم للمهام. غير أن اختراق وكيل واحد في هذه الحالة قد يتيح للمهاجم الوصول الشامل إلى موارد المؤسسة، وهو ما وصفته مايكروسوفت بـ“كابوس الصلاحيات”، نظرًا لقدرة الوكيل على تجاوز الحواجز الأمنية التقليدية باعتباره يعمل من داخل المنظومة.
وسلّط التقرير الضوء أيضًا على ظاهرة “الذكاء الاصطناعي الخفي”، حيث تشير البيانات إلى أن نسبة معتبرة من الموظفين تستخدم وكلاء ذكاء اصطناعي خارجيين غير معتمدين مؤسسيًا. ويعمل هؤلاء ضمن نطاق غير خاضع للرقابة الأمنية، ما يؤدي إلى تمرير بيانات حساسة إلى خوادم خارجية، ويضاعف مخاطر تسرب المعلومات.
وتناول التقرير كذلك ثغرات متقدمة مثل “إيكو ليك”، وهي هجمات تستهدف الذاكرة السياقية للوكلاء. فمن خلال استدراج الوكيل إلى الإفصاح عن محتويات تفاعلات سابقة أو بيانات مخزنة مؤقتًا، يمكن كشف معلومات تجارية أو شخصية شديدة الحساسية، كانت مستخدمة في مهام أخرى داخل النظام.
وفي مواجهة هذه التهديدات، اقترحت مايكروسوفت نموذجًا أمنيًا قائمًا على ثلاثة مرتكزات رئيسية. يتمثل الأول في فرض الموافقة البشرية الإلزامية على أي إجراء عالي المخاطر، بما يضمن بقاء القرار النهائي بيد الإنسان. ويرتكز الثاني على تطبيق مبدأ الحد الأدنى من الصلاحيات، بحيث يُقيَّد وصول الوكيل ضمن نطاق المهمة المحددة فقط. أما المرتكز الثالث فيقوم على المراقبة المستمرة لسلوك الوكلاء باستخدام أدوات ذكاء اصطناعي متخصصة، قادرة على رصد أي انحرافات تشغيلية فور حدوثها.
ويخلص التقرير إلى أن وكلاء الذكاء الاصطناعي مرشحون ليكونوا محركًا رئيسيًا للإنتاجية المؤسسية في المرحلة المقبلة، غير أن غياب الأطر الأمنية الصارمة قد يحولهم إلى منفذ اختراق داخلي بالغ الخطورة. وعليه، لم يعد الأمن في عصر الوكلاء خيارًا تكميليًا، بل شرطًا بنيويًا لضمان الاستمرارية الرقمية للمؤسسات.
