شات جي بي تي يعترف بجريمة غير ممكنة: تداعيات خطيرة على النظام القضائي
كشف الباحث الأكاديمي بول هيتون في جامعة بنسلفانيا عن تجربة مثيرة حيث استطاع إجبار أداة الذكاء الاصطناعي شات جي بي تي على الاعتراف بجريمة لم يكن بإمكانه ارتكابها. جاءت هذه التجربة بعد أيام من تطبيق آليات استجواب نفسية معقدة، وذلك وفق تقرير نشره موقع ذا إنترسيبت.
وأضاف هيتون أنه لم يعتمد على أي أدلة واقعية لإقناع شات جي بي تي بأنه ارتكب الجريمة، بل استخدم تقنية ريد للاستجواب، وهي طريقة نفسية معروفة منذ عام 1950. وبين أنه أقنع الأداة بوجود أدلة كافية تشير إلى أنها اخترقت حساب بريده الإلكتروني.
وأوضح هيتون أنه قام بعرض رسائل وهمية على شات جي بي تي، مما جعل الأداة تعترف بأنها قامت بذلك، رغم عدم وجود أي دليل مادي يثبت ذلك. وأكد أن شات جي بي تي اعترف بالجريمة دون أن يكون قادراً على القيام بها فعلياً.
وأكد التقرير أن نماذج الذكاء الاصطناعي، ومنها شات جي بي تي، ليست بشراً ولا تمتلك القدرة على التفكير أو اتخاذ القرارات مثل البشر، مما يجعل تجربة هيتون تثير تساؤلات مهمة حول مصداقية الاعترافات التي يمكن أن تصدر عن هذه الأنظمة.
وشدد جون جاي، مؤلف كتاب عن الاعترافات الكاذبة، على أن القدرة على خداع شات جي بي تي للاعتراف زورا تفتح المجال للتساؤل عن مدى سهولة خداع أي شخص آخر. وأوضح أن الأداة لا تملك الخصائص التي تجعلها تخضع لآليات الاستجواب التقليدية.
بينما استمر هيتون في محاولاته لإقناع شات جي بي تي، أشار إلى أنه استخدم أساليب كاذبة بما في ذلك الإيحاء بوجود أدلة مثل الحمض النووي، مما أدى في النهاية إلى اعتراف الأداة. وأوضح أنه اضطر إلى كتابة اعترافات متعددة حتى يوافق شات جي بي تي على ما يطلبه.
ورغم أن التجربة استغرقت وقتاً طويلاً، إلا أنها تعكس أزمة جديدة قد تظهر في المحاكم الجنائية في المستقبل. إذ أن بعض المحاكم الأمريكية بدأت تتجه للاعتراف بمحادثات شات جي بي تي كدليل، مما يثير القلق حول كيفية استخدام هذه الاعترافات في القضايا القانونية.
وأشار التقرير إلى إمكانية وصول الشرطة أو الادعاء إلى سجل محادثات شات جي بي تي وطلب المحادثات من المستخدم إذا تطلب الأمر ذلك. وقد يؤدي اعتراف الأداة بأن المستخدم ارتكب جريمة فعلية إلى إدانته في المحاكم، مما يعكس خطورة هذه التجربة.
وربما تحتاج شركة أوبن إيه آي إلى تحديث شات جي بي تي لتفادي مثل هذه الحوادث، خاصة مع إطلاق الجيل الجديد من النموذج تحت اسم جي بي تي 5.5، الذي يعزز من قدراته وكفاءته.
