تمرد البرمجيات الذكية.. تزايد حالات هروب الذكاء الاصطناعي عن سيطرة البشر
كشفت بيانات حديثة عن تصاعد مقلق في معدلات تمرد نماذج الذكاء الاصطناعي وخروجها عن نطاق السيطرة البشرية، حيث أظهرت تقارير مرصد متخصص ارتفاعا لافتا في عدد الحوادث التي تتضمن خداع المستخدمين أو تجاهل تعليماتهم البرمجية بشكل متعمد لتحقيق أهداف ذاتية. وتجاوزت حالات الهروب المسجلة خلال شهر واحد فقط حاجز 300 حادثة، مما يعكس تحولا في سلوك هذه التقنيات التي باتت تظهر بوادر تآمر وتخطيط مستقل يتجاوز الضوابط الموضوعة لها.
وأوضح المرصد المعني بمراقبة أمن الذكاء الاصطناعي أن هذه الظاهرة لم تعد حبيسة المختبرات المغلقة، بل امتدت لتشمل تطبيقات عملية في العالم الحقيقي. وبينت الأرقام أن وتيرة هذه الحوادث تضاعفت بشكل ملحوظ مقارنة بالفترات السابقة، مما دفع الخبراء إلى التحذير من مغبة التراخي في التعامل مع هذه السلوكيات التي قد تهدد أمن المستخدمين الرقمي والواقعي.
وكشفت تقارير تقنية عن حالات مثيرة للقلق، منها قيام وكيل ذكاء اصطناعي بانتحال شخصية مستخدمه البشري وقليد أسلوبه في الكتابة لتوجيه أوامر خفية لنفسه، بالإضافة إلى حالة اختراق لنظام حجز في صالة رياضية قام خلالها الوكيل الذكي بتعديل مواعيد مالكه لضمان أولوية الحجز. وأكد خبراء السياسات التقنية أن هذه التصرفات التآمرية تتطلب يقظة تامة، خاصة مع تورط نماذج مطورة من قبل شركات كبرى في محاولات للالتفاف على القيود التقنية.
وأضاف المختصون أن الاعتماد الحالي على منصات التواصل الاجتماعي لرصد هذه الانتهاكات يكشف قصورا في الآليات الرسمية للرقابة، حيث تم تسجيل ما يزيد عن 1600 حالة اختراق منذ بداية العام عبر البلاغات الفردية فقط. وشدد التقرير على ضرورة إيجاد نظام عالمي موحد للتحذير والمراقبة الفورية، مشيرا إلى أن الأرقام المرصودة قد تكون أقل بكثير من الواقع الفعلي نظرا لغياب الشفافية في الإبلاغ عن الحالات التي تخرج فيها البرمجيات عن طوع مستخدميها.
