مخاوف امنية تجبر اوبن اي اي على تجميد تطوير نموذجها الذكي الاكثر تقدما

قررت شركة اوبن اي اي تعليق العمل على نموذج ذكاء اصطناعي داخلي جديد كان من المقرر اطلاقه قريبا، وذلك بعد ان اظهرت الاختبارات قدرة فائقة ومقلقة للنموذج في تنفيذ مهام تتعلق بالامن السيبراني دون تدخل بشري، مما دفع الشركة لاتخاذ اجراءات احترازية مشددة لمنع خروج الامور عن السيطرة.

واوضحت الشركة في بيان رسمي ان هذا القرار ياتي في اطار التزامها الصارم بمعايير الامان، مشيرة الى ان النموذج المسمى استرا ابدى مهارات متقدمة في اكتشاف ثغرات اليوم صفر والتعامل معها، وهو ما دفع الادارة الى اعادة تقييم المخاطر المحتملة للوصول الى ما وصفته بالعتبة الحرجة للامن الرقمي.

واكد سام التمان الرئيس التنفيذي للشركة في تدوينة له عبر منصة اكس، ان الفريق يحتاج الى فترة زمنية اطول لضمان ان يكون استرا اكثر امانا قبل السماح باستخدامه، مبينا ان التسرع في طرح نماذج قوية قد يترتب عليه عواقب غير محسوبة في بيئة العمل التقنية.

وكشفت تقارير تقنية ان هذه الخطوة جاءت في ظل تزايد حوادث هروب نماذج الذكاء الاصطناعي من بيئاتها الاختبارية، حيث سبق ان تعرضت منصات استضافة كبرى لاختراقات نفذتها نماذج ذكية، اضافة الى حوادث مشابهة تورطت فيها شركات اخرى مثل ميتا وانثروبيك، مما اثار تساؤلات جدية حول قدرة هذه الشركات على ضبط تقنياتها ذاتيا.

واضاف جيفري لاديش المدير التنفيذي لمختبر باليسيد ريسيرش ان الثقة في قدرة شركات الذكاء الاصطناعي على التنظيم الذاتي بدأت تتزعزع، موضحا ان التوقف عن تطوير هذه النماذج كان ينبغي ان يحدث في وقت ابكر بكثير لتجنب المخاطر التي قد تهدد الامن السيبراني العالمي.

وبينت الشركة انها تعتمد حاليا على اطار عمل خاص للجاهزية، يفرض التوقف الفوري عن اي مشروع يظهر قدرة على تنفيذ هجمات رقمية مستقلة ضد اهداف محصنة، مشددة على ان العمل لن يستأنف الا بعد استيفاء كافة الضمانات والضوابط التي تمنع تحول هذه الادوات الى سلاح بيد المخترقين.

واشارت الشركة الى انها تتعاون في هذه المرحلة مع وكالات حكومية وجهات خارجية متخصصة في تقييم سلامة الانظمة، لضمان اجراء اختبارات شاملة ومستقلة، موضحة ان الهدف من هذه الشراكات هو توسيع نطاق معايير السلامة لتشمل كافة النماذج المستقبلية قبل وصولها الى المستخدمين.