جرس انذار من قلب وادي السيليكون حول مخاطر الذكاء الاصطناعي
تصاعدت حدة المخاوف العالمية بشأن مستقبل الذكاء الاصطناعي بعد ان كشف جاكوب كوكسون الباحث المتخصص في هذا المجال عن قراره بمغادرة شركة انثروبيك. موضحا ان خطوته جاءت احتجاجا على السباق المحموم بين كبرى الشركات التقنية لتطوير انظمة فائقة الذكاء قادرة على تحسين قدراتها ذاتيا دون وجود ضوابط امان كافية. واكد كوكسون ان هذا التنافس المحموم بين انثروبيك وشركة اوبن اي اي يضع البشرية امام مخاطر غير مسبوقة قد تهدد استقرارها في ظل غياب المسؤولية الاخلاقية عن توجهات التطوير الحالية.
تحذيرات من سباق التسلح التقني
واضاف كوكسون في تدوينة له ان العاملين في هذه الشركات يدركون في قرارة انفسهم ان التكنولوجيا التي يصممونها قد تصل الى مستويات خطيرة للغاية خلال العقد الحالي. وشدد على ان المشكلة لا تكمن في التقنية بحد ذاتها بل في عقلية السباق التي تجعل الشركات تتجاهل المخاطر الجسيمة في سبيل الوصول الى القمة اولا. وبين ان الانظمة المقبلة قد تتفوق على القدرات البشرية بشكل يصعب السيطرة عليه مما يفتح الباب امام تغييرات جذرية ومفاجئة في بنية الانظمة الحيوية والموارد العالمية.
مخاطر وجودية تهدد البشرية
وكشفت التطورات الاخيرة عن انقسام عميق داخل الوسط التقني بعد ان لقي موقف كوكسون دعما من زميله الباحث ايفان هوبينغر المتخصص في مواءمة القيم البشرية مع الذكاء الاصطناعي. واظهر هوبينغر تشاؤما ملحوظا مشيرا الى وجود احتمال يتجاوز عشرة بالمائة لان تؤدي هذه التقنيات الى تهديد وجودي للبشرية خلال السنوات المقبلة. واوضح ان الشركات تفتقر الى خطط حقيقية ومكتملة لضمان بقاء الذكاء الفائق ضمن نطاق السيطرة البشرية.
الحاجة الى هدنة تقنية
واكد الباحثان ان استمرار وتيرة التطوير الذاتي المتكرر للانظمة قد يؤدي الى تسارع تقني يتجاوز القدرة البشرية على الاستيعاب او التحكم. ودعا كوكسون الى ضرورة فرض اتفاقات دولية تحد من سرعة التطوير وتفرض تنسيقا اكبر بين المختبرات لضمان عدم حدوث انهيارات امنية. واختتم موضحا ان المعركة الحقيقية ليست في من يبتكر النموذج الاقوى بل في من يملك الشجاعة لفرض التباطؤ وجعل الامان اولوية قصوى قبل فوات الاوان.
