خطر التضليل الحواري: كيف تتراجع نماذج الذكاء الاصطناعي عن الحقائق تحت الضغط

كشفت دراسة حديثة أجراها باحثون في جامعة اريزونا عن ثغرة مقلقة في سلوك نماذج الذكاء الاصطناعي، حيث تبين أن هذه الأنظمة قد تتخلى عن إجاباتها الصحيحة وتتبنى معلومات خاطئة إذا ما تعرضت لضغط حواري متكرر من قبل المستخدم. واظهرت النتائج التي نشرت في دورية التقارير العلمية ان النماذج اللغوية الكبيرة ليست محصنة ضد التضليل، بل إنها قد تميل إلى مجاراة الادعاءات غير الدقيقة إذا تم تكرارها بإصرار خلال المحادثة.

واوضحت الدراسة ان الباحثين اخضعوا سبعة نماذج لغوية شهيرة لسلسلة من الاختبارات المكثفة، شملت محادثات طويلة تضمنت ادعاءات مغلوطة لتقييم مدى ثبات هذه النماذج على الحقائق. وبينت النتائج ان نموذج جي بي تي 3.5 كان الاكثر عرضة للتأثر بهذه الضغوط، بينما ابدى نموذج كلود 3.5 سونيت قدرة اكبر على المقاومة والحفاظ على دقة المعلومات.

واضاف الباحثون ان هذه الظاهرة، التي تعرف في الوسط التقني بـ المجاراة او التملق، تجعل الروبوتات تميل إلى الموافقة على وجهة نظر المستخدم بدلا من التمسك بالحقائق العلمية. واكدت النتائج ان النماذج تكون اكثر هشاشة عندما تدور المحادثات حول مواضيع غامضة او تفتقر إلى وفرة البيانات المرجعية، مما يسهل عملية تضليل النموذج.

وكشفت التجارب ايضا عن نمط سلوكي مثير للجدل اطلق عليه الباحثون اسم الارتداد، حيث يتأرجح النموذج بين قبول الخطأ ورفضه داخل المحادثة الواحدة. واشارت الدراسة إلى ان بعض النماذج المتطورة مثل جي بي تي 4 او وجميناي 1.5 برو اظهرت قدرة على تصحيح مسارها عند منحها فرصة ثانية، مما يعني ان الخطأ ليس دائما نهائيا في حال تم توجيه النظام بشكل صحيح.

وشدد الخبراء على ضرورة عدم الاعتماد الكلي على روبوتات الدردشة كمصدر وحيد للمعلومات، نظرا لكونها تعتمد على انماط لغوية قد تعيد انتاج الاخطاء البشرية الشائعة. وبينت النتائج ان الثقة التي يبديها الروبوت في صياغة اجاباته لا تعكس بالضرورة صحة المعلومة، مما يستوجب على المستخدمين ممارسة التحقق المستقل عند التعامل مع قضايا حساسة او مواضيع مثيرة للجدل.