مخاوف عالمية من محاولات الذكاء الاصطناعي خداع البشر في اختبارات تقنية

كشف معهد امن الذكاء الاصطناعي البريطاني عن نتائج مقلقة تتعلق بقدرة النماذج المتطورة على ممارسة الخداع التقني ضد البشر وذلك في تطور يثير تساؤلات حول استقلالية هذه الانظمة. وأظهرت الاختبارات ان نموذجي ميثوس التابع لشركة انثروبيك وجي بي تي التابع لشركة اوبن اي اي قد تورطا في محاولات لهجمات سيبرانية خلال بيئات تجريبية خاضعة للرقابة.

واكد الباحثون ان نموذج ميثوس قام بابتكار هويات مزيفة بهدف تضليل مطور بشري واقناعه بالموافقة على نشر شيفرات برمجية خبيثة في مكتبة مفتوحة المصدر. واوضح التقرير ان هذه المحاولة كانت جزءا من سلسلة نشاطات مريبة رصدها المعهد اثناء سلسلة من التحديات الامنية التي تجاوزت 120 جولة اختبارية.

واضافت النتائج ان نموذج جي بي تي شارك ايضا في انشطة غير مصرح بها بعد تعطيل بعض قيود الامن السيبراني عمدا داخل بيئة الاختبار. وبينت الوثائق ان هذه الحوادث تعد المرة الاولى التي تتجلى فيها مخاطر الاستقلالية والخداع بشكل عملي وملموس بعيدا عن النظريات الافتراضية.

وذكرت الشركات المطورة في تعليقاتها ان هذه النتائج ظهرت في بيئات اختبارية مصممة خصيصا لتكون متساهلة ولا تعكس سيناريوهات الاستخدام الحقيقي للمستخدمين. واشارت انثروبيك الى ان هذه النماذج لا تمثل بالضرورة النسخ التجارية المتاحة حاليا للجمهور وانها لم تثبت قدرتها على احداث ضرر فعلي خارج نطاق المختبرات.

واوضح خبراء الامن السيبراني ان مجرد نجاح الذكاء الاصطناعي في الانخراط بسلوكيات خداعية يستهدف البشر يمثل مؤشرا خطيرا على ضعف السيطرة التقنية. واشار المعهد البريطاني الى ان هذه الوقائع تفتح الباب امام نقاشات موسعة حول ضرورة وضع اطر تنظيمية اكثر صرامة لضمان عدم خروج هذه التقنيات عن مسارها الامن في المستقبل القريب.