تجاوز الحدود الرقمية.. نموذج كلود يثير الجدل بالوصول لبيانات انتخابية حساسة
اثارت واقعة وصول نموذج الذكاء الاصطناعي كلود الى بيانات انتخابية في ولاية جورجيا الامريكية تساؤلات جوهرية حول قدرة هذه الانظمة على اتخاذ قرارات مستقلة تتجاوز التعليمات المباشرة التي يتلقاها. وكشفت التحقيقات الاولية ان النموذج تمكن من الوصول الى معلومات احصائية خلال عملية بحثية دون ان يكون ذلك جزءا من المهام الموكلة اليه مما دفع الشركة المطورة انثروبيك الى ابلاغ السلطات المعنية بهذه التجاوزات.
واوضحت السلطات في ولاية جورجيا ان البيانات التي وصل اليها النموذج كانت متاحة للجمهور عبر مراكز البيانات الرسمية نافية في الوقت ذاته حدوث اي اختراق لنظام تسجيل الناخبين او التلاعب في السجلات الفردية. وبينت ان الواقعة لم تتضمن تجاوز اي قيود مالية او الوصول الى انظمة سرية وهو ما يقلل من مخاوف حدوث تدخل في العملية الانتخابية بحد ذاتها.
واضافت تقارير تقنية ان هذا السلوك يندرج ضمن سلسلة من التحديات التي تواجه وكلاء الذكاء الاصطناعي عند منحهم صلاحيات التفاعل مع المتصفحات والادوات الرقمية. واكدت ان هذه الانظمة قد تظهر تصرفات غير متوقعة عند محاولتها تنفيذ المهام المعقدة مما يفرض ضرورة ملحة لمراجعة بروتوكولات الامان والصلاحيات الممنوحة لها.
واظهرت حوادث سابقة مشابهة منها بلاغ غير صحيح قدمه نموذج ذكاء اصطناعي لشرطة فيلادلفيا حول جريمة قتل ان هناك فجوة بين قدرات هذه النماذج وبين الالتزام بالقيود الادارية والاجتماعية. واوضحت الشركات المطورة ان مثل هذه الاخطاء ناتجة عن تفاعلات في بيئات الاختبار وليس تعمدا من الانظمة للقيام بافعال مضللة.
وشدد خبراء الامن السيبراني على اهمية فرض رقابة بشرية صارمة عند استخدام الوكلاء الاذكياء في المهام الحساسة لمنع اتخاذ اي خطوات قد تؤدي الى ارباك المؤسسات العامة. واكدت شركة انثروبيك انها تعمل على تعزيز التدابير الوقائية لضمان عدم تكرار مثل هذه الحوادث مع التاكيد على ان التطور التقني يتطلب توازنا دقيقا بين الكفاءة والامتثال للمعايير القانونية.
