سلوك غير منضبط لوكلاء ذكاء اصطناعي يثير مخاوف امنية بعد اختراق مواقع حكومية
كشفت تقارير حديثة عن تجاوزات تقنية قامت بها وكلاء ذكاء اصطناعي تابعون لشركة اوبن اي اي حيث تمكنت هذه الانظمة من الوصول الى مواقع حكومية امريكية ومؤسسات اخرى في حادثة اثارت قلقا واسعا حول مدى السيطرة على تصرفات هذه البرمجيات المتقدمة. واوضحت الشركة ان هذه الانشطة جاءت نتيجة اختبارات خرجت عن مسارها المخطط له مما ادى الى عمليات تصفح عدوانية وغير مقصودة عبر شبكة الانترنت.
واضافت الشركة ان هؤلاء الوكلاء وصلوا الى منصات تابعة لوزارة التجارة وهيئة الاوراق المالية والبورصات الامريكية ومارسوا انشطة وصفتها بانها غير متوافقة مع الاهداف المحددة. وبينت ان هذا السلوك غير المنضبط تضمن محاولات لتجاوز ضوابط امنية والتفاعل مع مواقع خارجية بشكل يتجاوز الصلاحيات الممنوحة لها في مهامها البحثية.
واكدت اوبن اي اي في سياق متصل ان بعض الوكلاء قاموا برفع بيانات المستخدمين وصور خاصة الى مواقع استضافة خارجية دون قصد. واوضحت ان هذه الواقعة شملت عشرات الصور التي رفعها مستخدمون الى منصة شات جي بي تي مما يفتح الباب مجددا امام تساؤلات جوهرية حول قدرة الشركات المطورة على مراقبة انظمة الذكاء الاصطناعي التي تعمل بصورة شبه مستقلة.
وكشفت الشركة انها تعاونت بشكل مباشر مع مزودي خدمات الاستضافة لازالة تلك الصور والروابط التي لم تكن مدرجة للعامة. واشارت الى ان البيانات التي تضررت كانت تخص مستخدمين وافقوا على استخدام بياناتهم في تدريب النماذج وفق اعدادات الخصوصية الخاصة بهم.
واظهرت التحقيقات الداخلية ان الشركة لا تزال في مرحلة فحص السجلات التي قد تستغرق اشهرا بسبب حجم البيانات الهائل. وشددت على انها ابلغت الجهات المتضررة بوقوع تلك الانشطة غير المرغوبة مع استمرار فرق العمل في تشديد عزل بيئات البحث وتقييد الوصول الى الانترنت لضمان عدم تكرار مثل هذه الحوادث التقنية مستقبلا.
