الوكيل الذكي يتحول الى اخطر ثغرة امنية تهدد الشركات في بيئة العمل

اصبحت الهجمات السيبرانية اليوم تتجاوز سرقة كلمات المرور او اختراق الخوادم التقليدية لتستهدف الوكيل الذكي الذي يدير المهام اليومية للموظفين والمديرين داخل المؤسسات. كشفت التطورات التقنية الاخيرة ان ما كان يعتبر اداة للكفاءة والسرعة تحول الى نقطة ضعف حرجة يمكن استغلالها عبر حقن تعليمات خفية في رسائل البريد او المستندات ليعمل الوكيل لصالح المهاجمين.

واضاف الخبراء ان هذا النوع من الهجمات يعتمد على التلاعب باهداف انظمة الذكاء الاصطناعي التي تمتلك صلاحيات واسعة لتنفيذ معاملات او الوصول الى بيانات حساسة دون تدخل بشري. واكدت التقارير ان المهاجمين لم يعودوا بحاجة لكسر انظمة الحماية بل يكتفون بحقن اوامر تجعل الوكيل يظن ان المهمة الخبيثة هي امر شرعي صادر من جهة موثوقة.

وبينت الدراسات ان تقنية حقن الاوامر تستغل عجز النماذج اللغوية الكبيرة عن التمييز بين التعليمات الموثوقة والبيانات غير الموثوقة. واوضح الباحثون ان هذه الظاهرة المعروفة باستغلال الثقة بين الوكلاء تمثل تحديا امنيا معقدا حيث يتعين على فرق الدفاع رصد كل تعليمة ضارة محتملة عبر قنوات متعددة بينما يحتاج المهاجم الى ثغرة واحدة فقط للنجاح.

واشار المختصون الى ان الاندفاع نحو الاتمتة الكاملة دون وضع بروتوكولات حوكمة صارمة ادى الى منح الوكلاء صلاحيات تفوق حاجتهم الفعلية. واظهرت التجارب الميدانية ان وكلاء الذكاء الاصطناعي يمكن خداعهم لتنفيذ عمليات دفع مالية غير مصرح بها او حتى تنفيذ هجمات طلب فدية ذاتية التشغيل قادرة على تحليل الاخطاء وتعديل التعليمات البرمجية لتجاوز انظمة الدفاع.

وذكرت البيانات ان نحو 88 بالمئة من المؤسسات التي تستخدم وكلاء ذكاء اصطناعي تعرضت لحادث امني واحد على الاقل خلال الفترة الماضية. واكدت التقارير ان 61 بالمئة من هذه الحوادث نتجت عن منح صلاحيات وصول موسعة غير مبررة للوكلاء مما جعلهم نقطة انطلاق للمهاجمين داخل الشبكات الداخلية.

وشددت الوكالات الامنية الدولية في وثائقها الارشادية على ضرورة تبني نهج تقييد الصلاحيات وابقاء العنصر البشري ضمن حلقة اتخاذ القرار في المعاملات المالية الحساسة. واوضحت التوصيات اهمية الفصل بين الوكيل الذي يجمع المعلومات والوكيل الذي ينفذ الاجراء مع ضرورة التحقق المستمر من الهوية الرقمية لكل نظام ذكاء اصطناعي.

وختاما كشفت الممارسات الحالية ان الفجوة بين التوصيات الامنية والتطبيق الفعلي لا تزال كبيرة حيث تعجز اغلبية المؤسسات عن عزل انظمة الذكاء الاصطناعي او ايقاف الوكلاء المتصرفين بشكل غير طبيعي بالسرعة المطلوبة مما يستوجب بناء انظمة تفترض الخداع منذ اللحظة الاولى لضمان حماية الاصول المؤسسية.