التحديات المستمرة للذكاء الاصطناعي الوكيلي: لماذا يبقى الإنسان في دائرة القرار؟

في السنوات الأخيرة، تحدث عدد من خبراء الذكاء الاصطناعي عن الوكلاء الذكيين الذين يُفترض أنهم سيتجاوزون دور المساعدة إلى تنفيذ المهام بشكل مستقل. ومع ذلك، تكشف الممارسات الحالية عن واقع مختلف، حيث لا تزال الأنظمة تعمل تحت إشراف بشري قوي، مما يبرز التحديات المتعلقة بالثقة والحوكمة.

وبينما تعكس هذه التحديات الفجوة بين الوعود النظرية والممارسة، تشير التوقعات إلى أن الذكاء الاصطناعي الوكيلي سيستمر في التوسع، ولكن ضمن أطر محددة من الإشراف. حيث يعتبر الوكلاء الذكيون أدوات قادرة على المبادرة، ولكنهم لا يزالون بحاجة إلى توجيه بشري.

تقول إليانور واتسون، باحثة في الهندسة، إن الذكاء الاصطناعي الوكيلي يختلف عن الأنظمة التقليدية، إذ يمكنه تفسير الأهداف واختيار الاستراتيجيات المناسبة لتحقيقها. وتؤكد أن هذه الأنظمة تمثل تطوراً نحو منفذ رقمي يمكنه متابعة الأهداف على المدى الطويل.

ومع ذلك، يبقى السؤال مطروحاً: لماذا لا يزال الإنسان جزءًا من هذه العملية؟ فكلما زادت استقلالية الأنظمة، زادت المخاوف بشأن الثقة والمساءلة، مما يجعل المؤسسات مترددة في منحها السيطرة الكاملة.

وتضيف واتسون أن التكنولوجيا تتطور بسرعة، لكن المؤسسات تجد صعوبة في بناء نماذج فعالة للمساءلة. وهذه المشكلة تتعلق بتصميم الأطر التنظيمية التي تظل مرتبطة بالبرمجيات التقليدية، مما يجعل من الصعب توقع سلوك الأنظمة الوكيلة.

من جانب آخر، يرى حسام الدين الأسود، خبير تكنولوجيا المعلومات، أن استمرار الإشراف البشري ليس مرتبطاً فقط بمحدودية التكنولوجيا، بل بقضايا الثقة والمسؤولية. ويشير إلى أن المؤسسات التي تتعامل مع بيانات حساسة لا تستطيع التخلي عن الإنسان كضمان قانوني وأخلاقي.

وتظهر الأرقام أن 69% من قرارات أنظمة الذكاء الاصطناعي الوكيلي تتطلب تحققًا بشريًا، مما يدل على أن الاعتماد على الإنسان لا يزال جوهريًا. ويعكس ذلك الحاجة إلى نموذج عمل يتماشى مع التحديات المتزايدة.

في سياق الإشراف، تشير الدراسات إلى أن هناك تنوعًا في كيفية تطبيق الرقابة، حيث تختلف المخاطر المرتبطة بنوع الوكلاء والبيئات التي يعملون فيها. فبعض البيئات تتطلب رقابة صارمة، بينما تتطلب أخرى ضوابط تتعلق بالمسؤولية الاجتماعية.

بينما يتجه القطاع نحو نموذج يشمل شراكة بين الإنسان والآلة، فإن المسؤولية ستبقى في النهاية بيد البشر. وفي المستقبل، قد يتحول الدور البشري من تنفيذ مباشر إلى تنسيق وإشراف، مع التركيز على وضع الأهداف وتحديد الحدود.

في الختام، تشير التحديات الحالية إلى أن الاستقلالية الكاملة تبقى بعيدة المنال. ومع ذلك، يبقى الإنسان جزءًا أساسيًا في المعادلة، حيث يتحمل المسؤولية النهائية عن القرارات والنتائج.