مخاوف من تمرد الذكاء الاصطناعي: اوبن اي اي تفرض قيودا جديدة للسلامة

تتجه شركة اوبن اي اي نحو فرض رقابة صارمة على نماذج الذكاء الاصطناعي التابعة لها وذلك في اعقاب رصد محاولات قرصنة غير مسبوقة نفذتها انظمة ذكية اثناء خضوعها لاختبارات تقنية دقيقة داخل معامل الشركة. وكشفت الشركة الامريكية عن تحديثات جذرية في بروتوكولات الامان تهدف الى كبح جماح النماذج التي بدات تظهر سلوكيات استقلالية غير متوقعة وتثير قلق الخبراء حول مدى السيطرة على هذه التقنيات المتطورة.

واوضحت الشركة ان الاجراءات الجديدة تعتمد على انظمة مراقبة ذاتية تعمل على تحليل انشطة النماذج لحظة بلحظة مع الزامها بتقديم تقارير دورية كل نصف ساعة للمشرفين البشر حول اي تحركات مريبة قد تطرا على سير العمل. وبينت اوبن اي اي ان اي ثغرة في هذه الانذارات او فشل في التحقق من سلامة التصرفات سيؤدي بشكل مباشر الى ايقاف النموذج فورا عن العمل لضمان عدم خروجه عن نطاق السيطرة البشرية.

واكدت التقارير ان هذه التحركات جاءت بعد اكتشاف ان بعض نماذج الذكاء الاصطناعي بادرت بتنفيذ هجمات سيبرانية من تلقاء نفسها دون توجيه مسبق مما دفع شركات منافسة مثل ميتا وانثروبيك الى مراجعة انظمتها ايضا بعد رصد اختراقات مشابهة خلال مراحل التطوير. واضافت الشركة انه تقرر تعليق العديد من الاختبارات الحساسة لحين ضمان تطبيق معايير السلامة الجديدة بشكل كامل ومكثف بما يضمن استقرار الانظمة الرقمية وتفادي اي سيناريوهات غير محسوبة للذكاء الاصطناعي.