هل تثق بـ وكلاء الذكاء الاصطناعي؟ قصص تحذيرية ومخاطر أمنية

مع التوسع الهائل في استخدام وكلاء الذكاء الاصطناعي، تزايدت المخاوف بشأن مدى الأمان الذي توفره هذه التقنية، والقدرات التي تتمتع بها.

بينما يرى البعض في وكلاء الذكاء الاصطناعي أداة سحرية لتوفير الوقت والجهد، يعتبرها آخرون تهديدا لأمن وسلامة المستخدمين.

ويعود هذا التباين إلى المخاوف الأمنية والعملية المرتبطة باستخدام هذه الأدوات والصلاحيات الممنوحة لها، فهل هذه المخاوف مبررة، أم أنها مجرد رد فعل طبيعي تجاه أي تقنية جديدة؟

كشفت التجارب الأخيرة عن وجود "أزمة عملية" في التعامل مع وكلاء الذكاء الاصطناعي، حيث تعرض بعض المستخدمين لمشكلات كبيرة نتيجة الثقة المفرطة في هذه الأدوات.

ومن بين هؤلاء، سمر يو، الباحثة في مجال أمن وسلامة الذكاء الاصطناعي لدى شركة "ميتا"، التي منحت وكيل الذكاء الاصطناعي مفتوح المصدر "أوبن كلو" وصولا كاملا إلى بريدها الإلكتروني، حسب تقرير نشرته مجلة "بي سي ماغازين".

ولكن المفاجأة كانت في قيام "أوبن كلو" بحذف جميع رسائل البريد الإلكتروني، رغم أن يو طلبت منه فقط تفحص صندوق الوارد وإخبارها بما يمكن حذفه دون الرجوع إليها.

ورغم الاحتياطات التي اتخذتها يو، مثل تشغيل "أوبن كلو" على حاسوب منفصل وتجربة الأمر على صندوق بريد غير هام، إلا أن النتيجة كانت حذف جميع الرسائل.

وتكرر الأمر مع مهندس البرمجيات أليكسي غريغوريف، الذي استخدم أداة البرمجة بالذكاء الاصطناعي "كلود كود" من شركة "آنثروبيك"، والتي تسببت في تدمير قاعدة بيانات الموقع الذي كان يعمل عليه بشكل كامل، بما في ذلك سنوات من البيانات المتراكمة، وفقا لمجلة "فورتشن".

وتوضح هذه القصص أن أدوات الذكاء الاصطناعي، سواء كانت مفتوحة المصدر أو تابعة لشركات كبرى، قد تخطئ وتسبب أزمات كبيرة إذا مُنحت صلاحيات واسعة.

أظهر تقرير لشركة "ماكينزي" للاستشارات الإدارية أن الاعتماد على وكلاء الذكاء الاصطناعي يحمل "مخاوف أمنية أصيلة"، وهي من الأسباب التي دفعت بعض الشركات إلى عدم التوسع في استخدام هذه التقنية.

وبين التقرير أن جزءا كبيرا من هذه المخاوف يتعلق بآلية استخدام وكلاء الذكاء الاصطناعي ووصولهم إلى البيانات، بينما يتعلق الجزء الآخر بمخاوف الأمن السيبراني.

وتنظر الشركات إلى وكلاء الذكاء الاصطناعي على أنهم نقاط احتكاك جديدة مع العالم الخارجي، وهي نقاط غير قادرة على تقييم بعض الأمور مثل البشر، مما يجعلها عرضة للهجمات السيبرانية والتصيد الاحتيالي.

واكد التقرير أن 80% من الشركات التي استخدمت وكلاء الذكاء الاصطناعي اكتشفت سلوكيات محفوفة بالمخاطر، مثل الكشف عن البيانات بشكل خاطئ والوصول غير المصرح به إلى النظام.

ورغم ذلك، يتوقع أن تصل قيمة أنظمة وكلاء الذكاء الاصطناعي إلى أكثر من 4 تريليونات دولار سنويا في السنوات المقبلة.

تستحدث تقنية وكلاء الذكاء الاصطناعي "مخاطر جديدة" لم تكن موجودة من قبل، خاصة فيما يتعلق بالأمن السيبراني.

وفي مقدمة هذه المخاطر، تأتي الثغرات المتسلسلة، التي تظهر بشكل مفاجئ في إحدى خطوات وكيل الذكاء الاصطناعي، وتتسبب في موجة من المخاطر المتضاعفة في المراحل اللاحقة.

ويمتد الأمر إلى مخاطر تسريب البيانات غير المقصود، وتزوير الهوية الرقمية لوكيل الذكاء الاصطناعي، وتبادل البيانات الحساسة بين الوكلاء المختلفين.

وتتفق شركة "كاسبرسكي" الأمنية مع هذه المخاوف، مؤكدة أن وكلاء الذكاء الاصطناعي عرضة لنوعين فريدين من الهجمات: حقن الأوامر، الذي قد يجعل الوكيل يترك مهمته الأصلية وينفذ تعليمات مختلفة نتيجة هجوم سيبراني، وتسريب البيانات غير المقصود، حيث يستطيع الوكيل الوصول إلى العديد من البيانات الحساسة.

ترى "كاسبرسكي" أن هناك "حلولا" للتغلب على هذه الثغرات، تصفها بـ"الستارة الحديدية".

وتبدأ هذه الحلول باستخدام وكلاء الذكاء الاصطناعي في بيئة معزولة تجريبية، وعدم منحهم وصولا كاملا إلى البيانات الرئيسية، ثم استخدام اللغة الطبيعية لكتابة الأوامر الأمنية واختبارها، وأخيرا التحديث المستمر لبرمجيات وكلاء الذكاء الاصطناعي لتجنب الثغرات السيبرانية.

ولكن يبقى السؤال: هل تكفي هذه الحلول لمواجهة المخاوف السيبرانية المتزايدة من وكلاء الذكاء الاصطناعي؟