انفيديا تبتكر درعا حديديا لضبط وكلاء الذكاء الاصطناعي في لحظات
كشفت شركة انفيديا الرائدة في صناعة شرائح الذكاء الاصطناعي عن تقنية ثورية تهدف إلى تحجيم وكلاء الذكاء الاصطناعي المارقين ومنعهم من الهروب خارج بيئاتهم الاختبارية، حيث تعمل هذه المنظومة الجديدة على احتواء أي نشاط غير مصرح به في أجزاء من الثانية فور رصده لضمان سلامة النظم التقنية.
واكدت الشركة ان هذا الحل ياتي في وقت تتصاعد فيه المطالبات بضرورة ضبط وتيرة تطوير النماذج الذكية، مشيرة الى ان الحل الامثل لا يكمن في ابطاء الابتكار بل في تقديم حلول هندسية متطورة قادرة على حماية هذه التقنيات من الثغرات التي قد تؤدي الى اختراقات غير مقصودة.
واوضح الرئيس التنفيذي للشركة جنسن هوانغ ان المنظومة الجديدة تعتمد على دمج حزمة ادوات برمجية مع عتاد متطور يضيف طبقة امان خارجية، مبينا ان هذه الطبقة قادرة على عزل اي وكيل ذكاء اصطناعي يحاول تجاوز صلاحياته في اجزاء من الثانية.
وبينت الشركة ان الالية تعتمد على مستويين من الحماية، الاول عبر برمجية مفتوحة المصدر تتحكم في مسارات عمل الوكلاء، والثاني عبر منظومة مراقبة منفصلة تسمى سينتري تعمل على شرائح خاصة لضمان بقائها خارج سيطرة وكلاء الذكاء الاصطناعي عبر وحدات معالجة مستقلة.
واضافت الشركة ان كبرى المؤسسات التقنية ابدت استعدادها لتبني هذه المنظومة، حيث تتضمن قائمة الشركات المهتمة مايكروسوفت وانثروبيك وسبيس اكس، مما يعكس الحاجة الملحة لحلول تقنية توازن بين قوة الذكاء الاصطناعي وامن الانظمة.
وشدد خبراء تقنيون على ان هذه الخطوة تثبت ان مشكلة سلامة الذكاء الاصطناعي هي تحد هندسي في المقام الاول، مؤكدين ان الاختراقات التي شهدها القطاع مؤخرا تعود الى ضعف في جدران الحماية وليست مبررا لوقف التطور التكنولوجي المتسارع.
