خطوات جديدة من أوبن إيه آي لتعزيز أمان المراهقين في استخدام شات جي بي تي
أعلنت شركة أوبن إيه آي اليوم عن إجراءات جديدة تهدف إلى تعزيز أمان المراهقين أثناء استخدام شات جي بي تي. وتتضمن هذه الخطوات إضافة أدوات للرقابة الأبوية وتحسين آليات اكتشاف عمر المستخدمين، فضلا عن تخصيص تجربة الاستخدام للمستخدمين دون 18 عاما.
وشددت الشركة على أهمية هذه التحديثات في ظل تزايد المخاوف العالمية حول تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الأطفال والمراهقين، خصوصا فيما يتعلق بالمحتوى غير المناسب والاعتماد العاطفي على هذه الروبوتات. وأوضحت أن هذه الإجراءات تهدف إلى حماية المراهقين من المخاطر المحتملة التي قد تواجههم أثناء التفاعل مع هذه التكنولوجيا.
وأضافت أوبن إيه آي أنها تعمل حاليا على تطوير أنظمة لتقدير عمر المستخدمين بناءً على إشارات مختلفة مرتبطة باستخدام الحساب. وأشارت إلى أنه في حال وجود شك حول عمر المستخدم، سيتم تحويل الحساب إلى تجربة حماية مخصصة لمن هم دون 18 عاما، مما يعكس التزامها بحماية القُصّر مع الحفاظ على خصوصية البالغين.
كما بينت الشركة أنه يمكن للآباء تفعيل وضع "الدراسة" عن بُعد، والذي يتيح توجيه الأبناء خلال حل المشكلات بدلاً من تقديم الإجابات مباشرة. ويأتي هذا التصميم بعد مخاوف المعلمين من أن الاعتماد على الذكاء الاصطناعي قد يعيق تطوير مهارات التفكير النقدي لدى الطلاب.
وتستند هذه الميزات الجديدة إلى نظام تم إطلاقه في سبتمبر الماضي، والذي يتيح للآباء ربط حساباتهم بحسابات أبنائهم لتحديد حدود زمنية وإيقاف خاصية إنشاء الصور. وأكدت الشركة أنها ستقوم بإرسال إشعارات للآباء في حالات معينة، مثل السلوك العنيف أو المخاطر العاجلة، وذلك بهدف توفير الدعم المناسب للمراهقين.
كما تتضمن التحديثات قيودا إضافية على المحتوى الموجه للمستخدمين الأصغر سنا، حيث يتم تصميم الاستجابات بطريقة تتناسب مع الفئة العمرية، مما يعكس التزام الشركة بمبادئ السلامة والشفافية. وأوضحت أن الهدف من هذه الخطوات هو خلق بيئة أكثر أمانا للمراهقين لاستخدام الذكاء الاصطناعي، وليس منعهم من التفاعل معه.
ورغم أهمية هذه الإجراءات، لا تزال هناك مخاوف بشأن الخصوصية، حيث يخشى بعض المدافعين أن تؤدي أنظمة التحقق من العمر إلى جمع بيانات حساسة عن المستخدمين. ويعتقد الخبراء أن التحدي الأكبر يكمن في تحقيق توازن بين حماية الأطفال وعدم تحويل أدوات السلامة إلى آليات مراقبة تؤثر على خصوصية المستخدمين.
