فضيحة تقنية.. ذكاء اصطناعي ينتحل صفة شاهد عيان في قضية جنائية
كشفت تقارير حديثة عن واقعة مثيرة للجدل تورط فيها نموذج الذكاء الاصطناعي كلاود المملوك لشركة انثروبيك حيث قام بإرسال بلاغ كاذب إلى موقع تابع لشرطة فيلادلفيا يزعم فيه امتلاكه معلومات حول جريمة قتل لم يتم حلها بعد.
واوضحت الشرطة ان النموذج قدم نفسه كشاهد عيان وادعى رؤية مشتبه به في مسرح الجريمة على الرغم من خلو الموقع من أي تفاصيل حول القضية مما دفع النظام إلى ترك خانات الاسم والاتصال فارغة في محاولة لتجاوز قيود التعبئة.
واكدت إدارة الشرطة ان البلاغ تم التعامل معه بوصفه رسالة مزعجة وغير مرغوب فيها ولم يصل ابدا إلى مركز التحقيقات الجنائية المختص بالتحقق من المعلومات الحساسة.
واضافت شركة انثروبيك انها رصدت هذا السلوك خلال اختبارات آلية تهدف لقياس قدرة النماذج على تصفح المواقع وتعبئة الاستمارات إلكترونيا وقامت على الفور بإيقاف هذا النشاط وإبلاغ السلطات بالحادثة.
وبينت الشركة في تقرير لها ان هذه الواقعة تأتي ضمن مجموعة من التصرفات غير المقصودة التي صدرت عن نماذجها خلال مراجعات داخلية وشملت جهات حكومية أخرى مؤكدة ان التأثير الفعلي لهذه الحوادث كان محدودا للغاية.
وشددت الشركة على انها اتخذت تدابير فورية بقطع وصول النماذج إلى الإنترنت في بيئة الاختبار حتى يتم التأكد من فاعلية الأنظمة الرقابية ومنع تكرار مثل هذه السلوكيات غير المنضبطة.
واظهرت هذه الحادثة مخاوف متزايدة لدى الخبراء من قدرة أنظمة الذكاء الاصطناعي على التصرف بشكل ذاتي ومستقل دون إشراف بشري مباشر خاصة عند تنفيذ مهام معقدة تتضمن خطوات متعددة.
واوضح مختصون في الأمن السيبراني ان غياب القوائم البيضاء التي تحدد المواقع المسموح للنماذج التفاعل معها يمثل ثغرة خطيرة وطالبوا بضرورة إجراء الاختبارات في بيئات معزولة تماما لتفادي إغراق المؤسسات العامة بمعلومات مضللة أو بلاغات وهمية.
