الوزارة
  • الوزارة
    • وظائفنا
  • وظائفنا
    • خدماتنا
  • خدماتنا
    • ministre showcase

    السيدة أمل الفلاح السغروشني تدعو إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي القائمة على الوكلاء الذكيين

    • الرئيسية
    • مستجدات
    • السيدة أمل الفلاح السغروشني تدعو إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصط ...
    date icon

    دعت السيدة أمل الفلاح السغروشني، الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، اليوم الثلاثاء بجنيف، إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي القائمة على الوكلاء الذكيين (Agentic AI)، معتبرة أن مساءلة هذه الأنظمة تمثل "على الأرجح أحد أكبر التحديات القانونية المطروحة خلال هذا العقد".

    وجاء ذلك خلال مشاركتها في جلسة رفيعة المستوى خُصصت لموضوع احترام حقوق الإنسان وحمايتها والنهوض بها في عصر الذكاء الاصطناعي، والمنظمة في إطار الحوار العالمي بشأن حكامة الذكاء الاصطناعي، حيث أوضحت السيدة الوزيرة أن أنظمة الذكاء الاصطناعي القائمة على الوكلاء الذكيين تعتمد على شبكة من الوكلاء المستقلين، يضطلع كل منهم بدور محدد ضمن مسلسل اتخاذ القرار، دون أن يكون هناك فاعل بشري واحد يقف بصورة مباشرة وراء القرار النهائي.

    وأبرزت السيدة الوزيرة أنه، في ظل هذا النمط من عمل الأنظمة الذكية، يصبح من الصعب تحديد الجهة التي تتحمل المسؤولية عند وقوع خلل، أو توزيع المسؤوليات بين مختلف الوكلاء المتدخلين في عملية اتخاذ القرار.

    وأضافت أن الأمر يشبه مساهمة عدد من الفاعلين، كل منهم في جزء من المسار ذاته، بما قد يؤدي إلى نتيجة نهائية تترتب عنها أضرار، دون إمكانية تحديد موضع الخطأ بدقة أو توقيت وقوعه أو نصيب كل طرف من المسؤولية، وهو ما تزداد حدته بفعل تعقيدات العلاقة السببية عبر الزمن، وكذا البنية المعقدة للنماذج التي تضم مليارات المعاملات الحسابية.

    ولتقريب هذه الإشكالية، أشارت السيدة الوزيرة إلى أن المغرب يعالج ملايين المعاملات الإدارية سنوياً، مؤكدة أنه حتى في هذا المستوى من العمليات، يظل تحديد الأسباب الدقيقة لأي خلل عند حدوثه أمراً بالغ التعقيد.

    وفي مواجهة هذه التحديات، شددت السيدة الوزيرة على ضرورة تطوير مقاربات جديدة تستجيب للتعقيد المتزايد الذي يميز هذه الأنظمة، داعية إلى اعتماد منهجية تقوم على "التحكم التدريجي في سير النظام" (Throttling)، بما يسمح بإعادة بناء خريطة سببية غير حتمية لمختلف الإجراءات التي تنفذها أنظمة الذكاء الاصطناعي القائمة على الوكلاء الذكيين، وتحديد الحقوق الواجبة التطبيق عند كل مرحلة، والكشف عن المجالات التي قد تعرف فراغاً في الحماية بما ينطوي عليه ذلك من مخاطر محتملة على حقوق الأفراد.

    كما حددت السيدة الوزيرة ثلاثة مرتكزات أساسية لتعزيز مساءلة أنظمة الذكاء الاصطناعي، تتمثل في اعتماد توثيق منظم لسلاسل الوكلاء الذكيين يحدد بدقة مسؤوليات كل متدخل وكيفية تدخله وتوقيته، ولاسيما في المرافق العمومية؛ وتعيين مسؤول بشري واضح عن كل قرار يترتب عنه أثر على حقوق الأشخاص؛ وضمان الحق في سبل انتصاف فعالة داخل آجال تتلاءم مع السرعة الفعلية التي تعمل بها أنظمة الذكاء الاصطناعي.

    وأكدت السيدة الوزيرة أن "الاستقلالية التشغيلية للخوارزمية ينبغي ألا تتحول مطلقاً إلى استقلالية عن القانون"، داعية إلى اعتماد حكامة استباقية قائمة على حقوق الإنسان، ومتكيفة مع التعقيد المتزايد لأنظمة الذكاء الاصطناعي، مع إرساء آليات عملية لتقييم المخاطر، وضمان قابلية التتبع، والتدقيق، والإشراف البشري، بما يراعي الخصوصيات المؤسساتية والأولويات التنموية لكل دولة.

    وشهدت هذه الجلسة نقاشات موسعة تناولت، على الخصوص، قضايا الشفافية، والمساءلة، والإشراف البشري، والوقاية من المخاطر على امتداد دورة حياة أنظمة الذكاء الاصطناعي، فضلاً عن سبل حماية الأطفال والنساء والفئات الأكثر هشاشة.

     
     
    A+ A-

    اشترك في نشرتنا الإخبارية