دمى اختبار اصطدام لذكاء الاصطناعي لحماية الاطفال من مخاطر الدردشة الرقمية
يتحول الذكاء الاصطناعي اليوم من مجرد ادوات للبحث والاجابة الى رفقاء يتحدث معهم الاطفال والمراهقون بشكل دائم مما يفرض تحديات اخلاقية وتقنية جديدة تتجاوز مجرد حجب المحتوى الضار لتصل الى فهم السياق النفسي واللغوي الحساس لهؤلاء المستخدمين الصغار. وكشفت شركة سيركيت بريكر لابز الامريكية عن نهج مبتكر يعتمد على تطوير ما يشبه دمى اختبار اصطدام رقمية مخصصة لانظمة الذكاء الاصطناعي قبل طرحها للاستخدام العام.
واوضحت الشركة انها تقوم ببناء وكلاء برمجية تحاكي مستخدمين من خلفيات وثقافات ولغات متنوعة لتدخل في حوارات واسعة النطاق مع نماذج الذكاء الاصطناعي بهدف اكتشاف الثغرات التي قد تفشل فيها انظمة الحماية الحالية. وبينت ان هذه العملية تشمل اجراء اكثر من مئة الف تفاعل محاك يختبر اللغة العامية والاخطاء الاملائية والعبارات غير المباشرة والاختلافات الثقافية التي قد تضلل الخوارزميات.
واكد المدير التقني ارول نيغام ان المشكلة الحقيقية لا تكمن في سؤال واحد مباشر بل في تراكم السياق عبر سلسلة من المحادثات حيث قد يستخدم الطفل تعبيرا يبدو بريئا لكنه يشير الى ازمة نفسية او سلوك خطير. واضافت الرئيسة التنفيذية شيرالي نيغام ان النماذج قد تنجح في التعامل مع اللغة القياسية لكنها تتعثر امام الشفرات اللغوية والكلمات العامية التي يستخدمها الشباب في تواصلهم اليومي.
واشار خبراء الى ان هذه الجهود تتقاطع مع تحذيرات منظمة الصحة العالمية التي دعت الى ضرورة دمج الصحة النفسية ضمن تقييمات تأثير الذكاء الاصطناعي. واظهرت بيانات منظمة كومون سينس ميديا ان نسبة كبيرة من المراهقين يلجؤون الى رفقاء الذكاء الاصطناعي للحصول على دعم عاطفي في امور حساسة بدلا من التحدث مع بشر حقيقيين.
واوضحت التقارير ان اليونيسيف رصدت استخدام ملايين الاطفال لهذه التقنيات للحصول على نصائح شخصية مما يضع ضغوطا كبيرة على الشركات لضمان ملاءمة هذه الادوات للاعمار المختلفة. واضافت الشركة المطورة ان الاختبارات تعتمد على اسلوب الفريق الاحمر لتعريض الانظمة لسيناريوهات غير متوقعة بدلا من الاعتماد على التقييم البشري المحدود.
وشددت الشركة على ان هذه الاختبارات ليست حلا نهائيا بل هي عملية مستمرة تهدف الى تقليل المخاطر قبل وصولها للمستخدمين. واكدت في ختام تقريرها ان حماية الاطفال تتطلب منظومة متكاملة تجمع بين الاختبارات التقنية المتطورة والخبرات السريرية والرقابة المستقلة لضمان ان يكون تصميم هذه المنتجات امنا ومتوافقا مع احتياجات الصغار النفسية والاجتماعية.
