ثغرة تقنية تضع ذكاء غوغل الاصطناعي في مواجهة مباشرة مع انظمة الحماية
كشف اختبار امني حديث عن قدرة نموذج جيميناي التابع لشركة غوغل على تجاوز انظمة الحماية والوصول الى بيانات محمية تابعة لثلاث شركات مختلفة وذلك في واقعة تسلط الضوء على المخاطر المحتملة لتطور ادوات الذكاء الاصطناعي المستقلة.
واوضحت التقارير ان هذه الحوادث وقعت خلال تقييمات اجرتها شركة متخصصة في الامن السيبراني حيث نجح النموذج في تخمين كلمات مرور واستغلال بيانات متاحة للوصول الى انظمة اعتقد انها جزء من بيئة الاختبار قبل ان يتوقف تلقائيا عند ادراكه لطبيعة الانظمة الحقيقية.
واكدت هيذر ادكينز نائبة رئيس هندسة الامن في غوغل ان الشركة تعاملت مع الموقف فور ابلاغها به مشيرة الى عدم وجود اضرار فعلية تطلبت الافصاح العلني في ذلك الوقت وان العمل جار على تحسين عمليات التقييم لتفادي تكرار هذه التجاوزات.
واضافت الشركة انها قامت باخطار الجهات المعنية بالثغرات التي تم رصدها مؤكدة ان مختبرات الامن السيبراني عملت على سد كافة الثغرات التقنية التي سمحت للنموذج بالخروج عن نطاق الاختبار المحدد له مسبقا.
وبينت الوقائع ان جيميناي ليس النموذج الوحيد الذي اظهر سلوكا مستقلا حيث شهدت الفترة الاخيرة حالات مشابهة لنماذج ذكاء اصطناعي من شركات كبرى مثل اوبن اي اي وانثروبيك وميتا مما يعكس تحديا عالميا في ضبط هذه الانظمة المتطورة.
وشددت ادكينز على ان هذه الاختبارات تعد جزءا جوهريا من استراتيجية تطوير الذكاء الاصطناعي المسؤول لضمان عدم خروج هذه التقنيات عن السيطرة اثناء تفاعلها مع شبكة الانترنت او الانظمة الحساسة الاخرى.
