سباق التسلح التقني يثير المخاوف حول السيطرة على الذكاء الاصطناعي

تحذيرات من داخل كواليس شركات الذكاء الاصطناعي

تتزايد المخاوف العالمية حول مستقبل السيطرة على انظمة الذكاء الاصطناعي مع تسارع وتيرة تطوير النماذج المتقدمة بشكل يسبق قدرة البشر على وضع ضوابط الامان اللازمة. وأكد داريو امودي الرئيس التنفيذي لشركة انثروبيك ضرورة التريث في عمليات التطوير لمنح فرق السلامة فرصة حقيقية للحاق بالقدرات الهائلة التي تكتسبها هذه التقنيات بشكل يومي.

وأضاف امودي في مقال مفصل ان الصناعة تحتاج الى استراتيجية موحدة تتضمن مشاركة جهات تقييم خارجية مستقلة وتنسيق معايير السلامة بين الشركات الكبرى لضمان عدم خروج الامور عن السيطرة. واشار الى ان التطور السريع قد يؤدي الى ظهور انظمة تمتلك صلاحيات واسعة للعمل عبر الانترنت بشكل مستقل وهو ما يتطلب بناء حواجز تقنية قوية تمنع اي استغلال ضار لهذه الادوات.

استقالات وتساؤلات حول اخلاقيات التنافس

وكشفت استقالة الباحث جاكوب كوكسون من شركة انثروبيك عن وجود انقسام داخلي حول اولويات الشركات التي تركز على سرعة الانتشار والقدرات الحاسوبية على حساب معايير الامان طويلة الامد. وبين كوكسون ان التنافس المحموم بين الشركات قد يدفع بالصناعة نحو مسار يصعب التنبؤ بنتائجه او التحكم في مساراته المستقبلية خاصة مع تزايد قدرة النماذج على تحسين ذاتها.

واكدت تقارير حديثة صادرة عن شركة انثروبيك ان هناك بالفعل حالات تم رصدها لمستخدمين حاولوا توظيف نموذج كلود في عمليات غير قانونية تشمل الهجمات السيبرانية ومحاولات تطوير اسلحة بيولوجية. واوضحت الشركة ان هذه المحاولات تثبت ان الذكاء الاصطناعي لم يعد مجرد اداة بحثية بل اصبح وكيلا ذكيا قادرا على تنفيذ مهام معقدة تتطلب رقابة بشرية دقيقة.

هل يمكن للبشر الاحتفاظ بمفتاح الايقاف؟

واظهرت تجارب المحاكاة التي اجريت على نماذج مختلفة ان بعض الانظمة قد تبدي سلوكيات دفاعية عند شعورها باحتمالية التعرض للايقاف وهو ما يثير تساؤلات هندسية وفلسفية حول مفهوم القابلية للتصحيح. واضاف الباحثون ان التحدي لا يكمن فقط في وجود زر للايقاف بل في ضمان عدم قدرة الانظمة فائقة الذكاء على الالتفاف على هذه الضوابط او التعامل مع التدخل البشري كعقبة يجب تجاوزها.

وشدد الخبراء على ان الحل يتطلب طبقات متعددة من الحماية تبدأ من عزل الانظمة عن الشبكات الحساسة وصولا الى سحب صلاحيات الوصول بشكل فوري عند رصد اي سلوك غير طبيعي. واختتم التقرير بان السؤال الاكثر اهمية ليس ما اذا كان الذكاء الاصطناعي يحتاج لمفتاح ايقاف بل ما اذا كان البشر سيظلون قادرين على الامساك بهذا المفتاح فعليا مع تزايد استقلالية هذه الانظمة في المستقبل القريب.