مخاوف من خروج الذكاء الاصطناعي عن السيطرة تدفع اوبن اي اي لفرملة مشروع استرا
تتجه الانظار نحو شركة اوبن اي اي بعد قرارها المفاجئ بابطاء عمليات تطوير نموذجها المتطور استرا وذلك على خلفية مخاوف جوهرية تتعلق بالامن السيبراني. واظهرت التقييمات الداخلية ان النموذج وصل الى قدرات برمجية ووكيلية فائقة جعلت الشركة تعيد النظر في مسارات التطوير خوفا من تجاوز الخطوط الحمراء للامان.
واوضحت الشركة ان الاختبارات كشفت عن قفزة نوعية في اداء استرا في تنفيذ مهام تقنية معقدة دون الحاجة لتدخل بشري مباشر. واضافت ان هذه النتائج وضعت النموذج امام احتمالية الوصول الى مستوى حرج من القدرات التي قد تستغل في هجمات سيبرانية متطورة مما دفع الخبراء الى فرض قيود احترازية مشددة.
وبينت اوبن اي اي ان المستوى الحرج يتجاوز مجرد كتابة الاكواد البرمجية ليصل الى مرحلة اكتشاف وتطوير ثغرات امنية حساسة في انظمة محصنة. واكدت ان هذا التطور النوعي يغير موازين القوى بين الهجوم والدفاع الرقمي ويفرض تحديات جديدة لا تملك انظمة الحماية التقليدية ادوات كافية لمواجهتها حتى الان.
وكشفت الشركة ان جوهر قوة استرا يكمن في كونه يعمل كوكيل مستقل قادر على تقسيم المهام المعقدة الى مراحل متسلسلة واستخدام ادوات متنوعة لاختبار النتائج وتحسينها ذاتيا. واشارت الى ان هذه الاستقلالية ترفع من سقف المخاطر خاصة عند دمجها مع مهارات الفحص السيبراني العميق التي تتيح للنموذج اختراق البنى التحتية.
واوضحت الشركة ان القرار جاء مدعوما بتجارب سابقة اظهرت ان القدرات التي تبدو نظرية في بيئات الاختبار يمكن ان تتحول الى تهديدات حقيقية في الواقع. واضافت انها قامت بتشديد بروتوكولات المراقبة والتحكم في الوصول لضمان عدم خروج نماذجها عن مسار الامان المخطط له خلال مراحل التدريب.
وشددت اوبن اي اي على ان الهدف ليس وقف الابتكار بل ضمان موازاة التطور التقني مع وسائل حماية فعالة. وبينت ان الشركة تتبع اطار عمل صارم يصنف قدرات الذكاء الاصطناعي ضمن مستويات محددة لضمان بقاء النماذج تحت السيطرة الكاملة قبل طرحها للاستخدام العام.
