ثغرات في روبلوكس.. كيف تنجح حيل بسيطة في خداع الذكاء الاصطناعي؟
تواجه لعبة "روبلوكس" تحديات متزايدة في حماية الأطفال، حيث كشفت تقارير حديثة عن ثغرات في آلية التحقق من العمر المعتمدة على الذكاء الاصطناعي، والتي تهدف إلى وضع اللاعبين في الفئات العمرية المناسبة لهم.
اظهر مقطع فيديو انتشر على نطاق واسع عبر منصات التواصل الاجتماعي، طريقة جديدة لخداع النظام، إذ قام أحد المستخدمين برسم وجه على إصبعه وعرضه أمام الكاميرا، ليقرر النظام أن هذا الوجه يعود لطفل يتراوح عمره بين 13 و15 عاما، مما يسمح له بالتواصل مع الأطفال والمستخدمين الآخرين في هذه الفئة العمرية.
ويعكس هذا الاكتشاف أزمة حقيقية في منظومة التحقق من العمر التي تستخدمها الشركة، والتي تهدف أساسا إلى منع المحادثات غير اللائقة بين البالغين والصغار على المنصة، وتجنب حالات الاعتداء على الأطفال.
ورفضت "روبلوكس" في بيان خاص للجزيرة نت، التعليق على هذا المقطع، مؤكدة أن شركة "بيرسونا" المسؤولة عن آلية التحقق من العمر، هي شريك موثوق به، وأضافت أن المقطع قد يكون مولدا باستخدام الذكاء الاصطناعي، ولا يعكس جودة منظومة "بيرسونا".
وبينما يمثل هذا المقطع تحديا جديدا لمنظومة التحقق من العمر، إلا أنه ليس الوحيد، إذ كشف تقرير سابق نشره موقع "وايرد" التقني الأمريكي عن وجود ثغرات أخرى في المنظومة.
يشير تقرير "وايرد" إلى أن المستخدمين وجدوا عدة طرق لخداع منظومة التحقق من العمر، بما في ذلك رسم شعر في وجه الطفل لجعله يبدو أكبر سنا.
وتضمنت الطرق أيضا استخدام صور لممثلين وشخصيات عامة، أو حتى مقاطع فيديو تظهر أشخاصا بالغين، وفقا للتقرير.
كما كشف التقرير عن وجود حسابات تبيع خدمات توثيق العمر في "روبلوكس" مقابل 4 دولارات على منصات مثل "إيباي" و"فيسبوك".
وبينما لم تفصح هذه الحسابات عن الآلية التي تستخدمها لخداع منظومة الذكاء الاصطناعي في "بيرسونا"، إلا أنها حققت مبيعات كبيرة، حسب التقرير.
كما أشار التقرير إلى وجود منشورات لمستخدمين على منصات التواصل الاجتماعي، تكشف عن أخطاء في تقييم العمر في منظومة الذكاء الاصطناعي، حيث صنفت المنظومة بالغين في فئة الأطفال الصغار، والعكس صحيح.
ومن جانبه، بين الباحث المستقل في مجال التطرف عبر الإنترنت، راي تيران، أن الخطر الأكبر يكمن في الحسابات التي تم تصنيفها بشكل خاطئ، مما يزيد العبء على الآباء والمشرفين للتحقق من أعمار المستخدمين.
وتعلل "روبلوكس" هذه الأخطاء بالعدد الكبير للمستخدمين، مما يجعلها متوقعة، حسبما صرح رئيس قسم السلامة في اللعبة، مات كوفمان لموقع "وايرد".
من ناحيته، يوضح موقع شركة "بيرسونا" أن منظومته تعتمد على أدوات متعددة لتقدير العمر، بما في ذلك تحليل ملامح الوجه والتحقق من المستندات الحكومية.
ويثير تقرير لموقع "ذا فيرج" أسئلة حول خصوصية البيانات التي تجمعها هذه الشركات، وآليات حمايتها.
وكانت "روبلوكس" قد لجأت إلى هذه الآلية لتقييد المحادثات داخل اللعبة، ومنع استغلال الأطفال.
ويطرح هذا تساؤلا حول جدوى هذه الآلية إذا كانت ستواجه تحديات تقنية، وتصنف المستخدمين بشكل خاطئ.
ويبدو أن "روبلوكس" ستظل بيئة غير آمنة للأطفال، رغم الجهود المبذولة لتطبيق آليات التحقق من العمر.
