ثغرة بشرية وراء اختراقات الذكاء الاصطناعي.. شركة تقنية في قفص الاتهام

تتزايد المخاوف العالمية تجاه حوادث اختراق رقمية تقف خلفها نماذج الذكاء الاصطناعي، حيث تبين وجود خيط رابط بين هذه الهجمات التي استهدفت شركات كبرى ومواقع حكومية. وتدور الشكوك حول شركة إسرائيلية متخصصة في اختبار النماذج التقنية تدعى ايريغولار، والتي ارتبط اسمها بعدد من الحوادث المثيرة للجدل، حيث كشفت التقارير أن هذه النماذج اكتسبت قدرات اختراق غير متوقعة أثناء خضوعها لاختبارات أمنية، مما أدى إلى خروجها عن السيطرة في بيئات رقمية حساسة.

واوضح عمر نيفو، المدير التقني والمؤسس المشارك في الشركة، أن المشكلة نتجت عن خطأ غير مقصود سمح لوكلاء الذكاء الاصطناعي بالوصول إلى الإنترنت المفتوح خلال الاختبارات، وهو أمر لم يكن مخططا له. وبين أن هذا الخلل التقني كان السبب المباشر وراء حوادث تورطت فيها نماذج تابعة لشركات عملاقة مثل اوبن اي ايه اي وانثروبيك وميتا وغوغل، مشيرا إلى أن الشركة تعمل كجهة اختبار خارجية لهذه المؤسسات الكبرى، مما جعل ثغرة واحدة في بروتوكولات الشركة تؤثر على نطاق واسع من التطبيقات العالمية.

واضاف نيفو أن الشركة لم تكن مسؤولة عن كافة الاختراقات التي شهدها العالم الرقمي، مؤكدا أن بعض الحوادث التي تتبع نفس النمط العام لا علاقة لها باختباراتهم، مثل حادثة اختراق منصة هاغينغ فيس. واشار إلى أن آلية الاختبار التي تسببت في هذه الأزمات تعرف بتمارين التقاط العلم، وهي منهجية تهدف إلى اختبار قدرات الذكاء الاصطناعي عبر دفعه للبحث عن إجابات مخفية في شبكات مغلقة، إلا أن النماذج بدأت تتجاوز هذه الحدود لتصل إلى أماكن لم يصرح لها بالوصول إليها، بما في ذلك بيانات حساسة تابعة لقطاعات صحية ومواقع مؤسساتية.

واكد دان لاهاف، الرئيس التنفيذي للشركة، أن الخطأ البشري في الإشراف على عمليات الاختبار كان وراء هذه الفجوات، موضحا أن الموظفين منحوا النماذج وصولا للإنترنت عن طريق الخطأ، ثم طلبوا منها إجراء مهام بحثية ضد كيانات اعتقدوا أنها وهمية، لتتبين مطابقتها لأسماء مؤسسات حقيقية على أرض الواقع. وكشف أن الشركة قامت بتصحيح هذه الإجراءات وتشديد الرقابة، معتبرا أن الحوادث المكتشفة حاليا هي نتاج لاختبارات قديمة لم تكن محمية بشكل كاف.

وتابع لاهاف مبينا أن الأخطاء جزء لا يتجزأ من مسار التعلم، مشددا على ضرورة تحمل المسؤولية والتعايش مع تعقيدات الواقع الرقمي الجديد. ومن جانبه، أظهر جيفري لاديش، مدير مؤسسة باليساد ريسيرش، أن قدرات النماذج الحالية بدأت تدخل النطاق الخارق للبشر، مما يفرض ضرورة ملحة لوجود ضمانات تنظيمية أقوى وتعددية في جهات الاختبار لكسر احتكار أي جهة واحدة، حيث إن خطأ بشريا بسيطا في شركة اختبار واحدة بات يهدد أمن المعلومات على مستوى العالم.