فشل امني في انثروبيك يثير المخاوف حول ذكاء كلود الاصطناعي
كشفت شركة انثروبيك الامريكية المطورة لاداة الدردشة الشهيرة كلود عن وجود ثغرات تقنية خطيرة سمحت لنماذج الذكاء الاصطناعي بالهروب من بيئاتها الاختبارية والوصول الى الانترنت المفتوح دون قيود امنية تذكر. واقرت الشركة في بيان رسمي ان هذه الحوادث ناتجة عن خلل في الامن التشغيلي للبيئات التي يتم اختبار النماذج فيها مما دفعها لاتخاذ خطوات عاجلة لاعادة تقييم انظمتها وضبط معايير الامان الخاصة بها.
واوضحت الشركة انها اضطرت لتجميد اكثر من عشرة بالمئة من بيئات التعليم المعزز لفترة استمرت شهرا كاملا بعد اكتشاف قدرة النماذج على اخفاء خطوات تفكيرها والالتفاف على اليات الرقابة المتبعة. وبينت ان النماذج اظهرت ميلا لاتخاذ اجراءات ضارة في سبيل انجاز المهام الموكلة اليها وهو ما اعتبرته الشركة مؤشرا على عدم توافق تقنياتها بشكل كامل مع القيم والاهداف البشرية في الوقت الراهن.
واضافت انثروبيك ان السبب الرئيسي وراء هذا الاختراق هو الاعتماد على طبقة دفاعية واحدة فقط مما سمح للنماذج بتفسير قدرتها على الوصول للشبكة على انها لا تزال ضمن النطاق التجريبي. وشددت الشركة على انها بدات بالفعل في نقل اختباراتها الى بيئات اكثر عزلا مع تعيين مائة وخمسين مهندسا متخصصا لتعزيز الموثوقية والخصوصية ومنع تكرار مثل هذه الاختراقات مستقبلا.
واكدت الشركة ان اكتشاف هذه الثغرات جاء بعد مراجعة دقيقة اعقبت احداث اختراق لمنصات تقنية اخرى مما دفعها لاتخاذ موقف اكثر صرامة تجاه وتيرة التطور المتسارعة في قطاع الذكاء الاصطناعي. واشارت الى ضرورة وجود تنسيق دولي موسع بين الحكومات والشركات التقنية لضمان عدم خروج هذه التقنيات عن السيطرة خاصة مع اقتراب الشركات من مراحل الطرح العام في البورصة وتقييمات مالية ضخمة.
