بعد أزمة عالمية.. "غروك" يحظر توليد الصور الفاضحة لجميع المستخدمين

في استجابة لأزمة عالمية متفاقمة، أعلنت شركة "إكس إيه آي" (xAI)، المطورة لروبوت الذكاء الاصطناعي "غروك" المدمج في منصة "إكس"، عن حظرها الكامل لتوليد الصور الفاضحة لجميع المستخدمين، سواء كانوا مشتركين في النسخ المدفوعة أو المجانية.

ويأتي هذا القرار بعد أسابيع من الانتقادات الحادة التي وجهت للروبوت من أنحاء متفرقة من العالم، حيث كشفت تقارير عن استغلاله بشكل واسع في إنشاء صور ومقاطع فيديو إباحية وعنيفة لشخصيات عامة ومجهولين، بل وطالت الأزمة توليد صور فاضحة لأطفال، مما دفع دولاً عدة لاتخاذ إجراءات قانونية ومجموعات حقوقية للمطالبة بحظره كلياً.

وفي تغريدة عبر حساب الأمان والسلامة الرسمي، أكدت منصة "إكس" أنها حظرت على "غروك" توليد الصور، وقصرت إمكانيات التعديل على المستخدمين المشتركين في المنصة فقط.

من جانبه، علق إيلون ماسك، مؤسس الشركة، على الأزمة مؤكداً أنه لم يكن على علم بتوليد النموذج لصور فاضحة للأطفال، مشدداً في تغريدة منفصلة على أن "غروك" مبرمج لرفض الطلبات التي تتعارض مع القوانين، وأنه لا يقوم بتوليد هذه الصور بشكل آلي، بل استجابة لطلبات المستخدمين.

وكانت الشركة قد حاولت في البداية احتواء الأزمة عبر تقييد إمكانية توليد الصور الفاضحة لتقتصر على المشتركين في النسخ المدفوعة فقط، إلا أن هذه الخطوة قوبلت بمزيد من الاستياء من الخبراء والحقوقيين، مما دفع الشركة لاتخاذ قرار الحظر الشامل.

وتتزامن هذه الخطوة مع تشريعات جديدة في دول مثل المملكة المتحدة، التي جرمت توليد صور فاضحة دون موافقة صريحة من صاحب الصورة، مما يزيد الضغط على شركات الذكاء الاصطناعي لضبط أدواتها.

وتعد هذه الأزمة هي الأحدث في سجل "غروك" الحافل بالمشاكل، حيث واجه في العام الماضي انتقادات واسعة بسبب "الهلوسة" المستمرة وإنشاء تغريدات عنصرية، مما يثير تساؤلات جدية حول قدرة الشركة على التحكم في تقنيتها وضمان استخدامها بشكل آمن وأخلاقي.