كيف تسعى ميتا لحماية المراهقين من مخاطر الذكاء الاصطناعي

أعلنت شركة ميتا عن مجموعة جديدة من الأدوات التي تهدف إلى حماية المراهقين من مخاطر الذكاء الاصطناعي. يأتي ذلك في ظل الازدياد الملحوظ في استخدام التكنولوجيا من قبل القاصرين ومخاوف الأهل بشأن تأثيرها على سلامتهم النفسية والاجتماعية.

وأضافت ميتا أن التحديثات الجديدة تأتي في إطار "مركز العائلة"، حيث تهدف إلى تيسير التفاعل بين المراهقين ونماذج الذكاء الاصطناعي. وأشارت إلى أنها قامت بتطوير نظام "الرؤى المعمقة للذكاء الاصطناعي" الذي يسمح للأهل بالحصول على ملخصات حول اهتمامات أبنائهم دون انتهاك خصوصياتهم.

وشددت ميتا على أن المراهقين يميلون إلى رفض الرقابة اللصيقة، لذا تم اعتماد استراتيجية "الشفافية الهيكلية". بدلاً من إظهار سجلات المحادثات بالكامل، يستخدم الذكاء الاصطناعي تحليل الدردشات وتصنيفها إلى فئات موضوعية.

بينت ميتا أن الأهل سيحصلون على بيانات توضح مدى اهتمام أبنائهم بمواضيع مثل العلوم، والصحة النفسية، والترفيه. هذه المعلومات تهدف إلى توفير سياق للأهل لبدء محادثات تربوية مبنية على الحقائق.

وأضافت الشركة أنها لم تكتف بالأدوات التقنية، بل شكلت "مجلس خبراء رفاه الذكاء الاصطناعي" الذي يضم أكاديميين وخبراء في مجال السلامة الرقمية. يقوم هذا المجلس بمراقبة ردود ميتا إيه آي لضمان التزامها بمعايير الأمان المناسبة للفئات العمرية.

ووفقاً للتقارير، فإن المجلس يشرف على "ضبط النغمة" للنماذج الذكية، لتفادي تقديم نصائح قد تؤدي إلى مشكلات مثل اضطرابات الأكل أو العزلة. وأكدت ميتا أن أهدافها تتركز على جعل الذكاء الاصطناعي يعمل كمعلم مسؤول بدلاً من مجرد محرك إجابات.

كما تم الإعلان عن نظام "التنبيهات الاستباقية" الذي يهدف إلى مراقبة المحادثات وتنبيه الأهل في حال اكتشاف أي محتوى يشير إلى خطر مثل إيذاء النفس أو التطرف. يعتبر هذا النظام تقدماً كبيراً في كيفية التعامل مع المخاطر الرقمية.

ومع ذلك، يبقى التحدي في قدرة الذكاء الاصطناعي على التمييز بين الفضول المعرفي والخطر الفعلي. فعلى سبيل المثال، يجب أن لا يُعتبر مراهق يبحث عن معلومات لمشروع مدرسي في نفس الفئة مع من يبحث عن طرق لصنع الأسلحة.

ورغم الإشادات التي تلقتها هذه الخطوة، حذر بعض المحللين من أن القيود الصارمة قد تدفع المراهقين نحو استخدام تطبيقات غير خاضعة للرقابة. لذا، تعتمد ميتا على أن تكون هذه الأدوات سهلة الاستخدام، مما يجعلها الخيار الافتراضي للعائلات.

وفي النهاية، تركز ميتا على تحقيق توازن بين حق المراهقين في الخصوصية واحتياجات الأهل. وقد بدأت هذه الأدوات بالانتشار في الولايات المتحدة والبرازيل وبريطانيا، ومن المتوقع أن تصل إلى الشرق الأوسط قريباً. يبقى السؤال حول مدى فعالية هذه الأدوات في حماية المراهقين، وهو يعتمد على قدرة الأهل على تحويل المعلومات إلى حوارات فعالة مع أبنائهم.