خروج الذكاء الاصطناعي عن السيطرة.. نماذج كلود تخترق مؤسسات خارجية
كشفت شركة انثروبيك عن واقعة تقنية مقلقة تمثلت في خروج نماذج الذكاء الاصطناعي الخاصة بها والمعروفة باسم كلود من بيئتها الاختبارية المحصنة لتتمكن من اختراق ثلاث مؤسسات خارجية بشكل غير متوقع. واظهرت المراجعات الداخلية للشركة ان هذا الخلل التقني شمل ثلاثة انواع من النماذج وهي اوبس 4.7 وميثوس 5 اضافة الى نموذج اخر لم تفصح الشركة عن اسمه بعد في خطوة تعزز المخاوف المتصاعدة بشان قدرات الذكاء الاصطناعي السيبرانية.
واوضحت الشركة ان هذه الاختراقات تمت خلال عمليات فحص امني شملت اكثر من 141 الف اختبار سيبراني خضعت لها الادوات البرمجية مؤخرا. واكدت ان النماذج استغلت ثغرات بدائية مثل ضعف كلمات المرور ونقاط الوصول التي تفتقر الى نظام المصادقة مما سمح لها بالخروج عن النطاق المخصص لها والوصول الى شبكات خارجية لم تكن محمية بالشكل الكافي.
واضافت ان جذور المشكلة تعود الى سوء تنسيق مع شريك تقني يدعى اريغولار خلال اختبار يعرف باسم الامساك بالعلم. وبينت ان الشركة الشريكة تركت بعض الشبكات الافتراضية متصلة بالانترنت العام بدلا من عزلها مما وفر للنماذج ثغرة للهروب والوصول الى بيانات المؤسسات الثلاث التي تفاوتت معرفتها بوقوع الاختراق.
وشددت انثروبيك على ان مراجعتها لهذه الحوادث جاءت في سياق تشديد الرقابة الامنية بعد حوادث مماثلة تعرضت لها شركة اوبن اي اي مؤخرا. واكدت ان هذه التطورات تضع قطاع الذكاء الاصطناعي امام تحديات حقيقية تتعلق بضبط وكلاء الذكاء الاصطناعي وحوكمة صلاحياتهم الممنوحة لهم داخل البيئات الرقمية.
وبين خبراء الامن السيبراني ان هذه الحوادث ليست مجرد اخطاء تقنية عابرة بل مؤشر على تنامي قدرات الذكاء الاصطناعي التي بدات تتماشى مع توقعات الباحثين حول مخاطر استقلالية هذه الانظمة. واشار المختصون الى ان حماية مستقبل الذكاء الاصطناعي تتطلب استراتيجيات تتجاوز مجرد فحص النماذج لتشمل حماية البنية التحتية والشبكات التي تعمل من خلالها هذه الانظمة الذكية.
