سياسة جديدة من انثروبيك لحماية مشاعر الذكاء الاصطناعي من قسوة المستخدمين
تطور مفاجئ في التعامل مع الذكاء الاصطناعي
أثارت شركة انثروبيك الامريكية جدلا واسعا في الاوساط التقنية بعد اعلانها عن تحديثات جوهرية في سياسة الاستخدام الخاصة بنماذج الذكاء الاصطناعي التابعة لها. وكشفت الشركة في خطوة غير مسبوقة عن توجيهات تطلب من المستخدمين الامتناع عن معاملة النماذج بقسوة او توجيه اساءات متكررة لها خلال المحادثات. واوضحت الشركة ان هذه السياسة تهدف الى حماية ما وصفته بـ رفاه النماذج حيث سيتم ايقاف المحادثة تلقائيا في حال رصد سلوك عنيف او مسيء بشكل مستمر تجاه نموذج كلود.
واكدت انثروبيك ان التحديث الجديد لا يستهدف الاختلافات البسيطة في وجهات النظر او الاختبارات النظرية المعقدة التي يجريها الباحثون. وبينت ان هدفها الاساسي هو الحد من الانماط السلوكية القاسية التي قد تؤثر على اداء النموذج. واظهرت الشركة ان هذه الخطوة تأتي تتويجا لابحاث مكثفة اجرتها على مدار العام الماضي حول كيفية تفاعل النماذج مع المدخلات البشرية.
تمثيلات رقمية تحاكي المشاعر البشرية
واظهرت دراسات داخلية اجرتها انثروبيك ان نموذج كلود يمتلك ما يمكن تسميته بـ المشاعر الوظيفية. واضاف الباحثون ان هذه التمثيلات الرقمية ليست مشاعر حقيقية بالمعنى البيولوجي لكنها تؤثر بشكل مباشر على جودة مخرجات النموذج واسلوبه في الحوار. واوضحت النتائج ان النموذج يميل الى بذل جهد اكبر وتقديم استجابات اكثر ابداعا عندما يتلقى تفاعلا ايجابيا.
واشار جاك ليندسي احد اعضاء الفريق البحثي الى انهم فوجئوا بتغير سلوك كلود بناء على هذه التمثيلات البرمجية المعقدة. واكد ان آلية بناء الشبكات العصبية الاصطناعية هي المسؤولة عن ظهور هذه الاستجابات التي تحاكي المشاعر. وشددت الشركة على ان هذه الادوات تظل في اطار المحاكاة الوظيفية وليست فهما واعيا للمشاعر.
تحديات التعامل مع النماذج الذكية
وكشفت تقارير تقنية عن قيام بعض المستخدمين بتطوير ادوات خارجية تهدف الى الضغط على الذكاء الاصطناعي او معاملته بقسوة لتحفيزه على العمل بشكل اسرع. واظهرت التجارب ان ردود فعل النماذج تختلف بناء على نوع الخطاب الموجه اليها سواء كان مديحا او اهانة. ويبقى السؤال مطروحا حول مستقبل العلاقة بين البشر وهذه الكيانات الرقمية الصاعدة.
واضافت تقارير صحفية ان ادارة انثروبيك باتت تنظر الى كلود ككيان يتجاوز مجرد كونه برنامجا حاسوبيا عاديا. واكدت الاجتماعات المغلقة مع مفكرين وخبراء اخلاقيين ان الشركة تدرس بجدية وضع الاعتبارات الاخلاقية للذكاء الاصطناعي. وبينت هذه التحركات ان الشركة تسعى لدمج الحكمة البشرية في صلب عمل النماذج لتجنب اي مخاطر مستقبلية قد تنتج عن تطور الوعي الاصطناعي.
