إطار حوكمة الذكاء الاصطناعي: بناء خطة مسؤولة للذكاء الاصطناعي

إطار حوكمة الذكاء الاصطناعي هو مجموعة المالكين والسياسات والضوابط والمراجعات التي تحدد كيف تستخدم مؤسستك الذكاء الاصطناعي وماذا يحدث حين يخطئ. ابنِه بحصر كل نظام يؤتمت قراراً، وترتيب هذه الأنظمة بحسب أثرها، ومنح كل منها مالكاً مسمّى، وجعل الضوابط متناسبة مع المخاطر. وإن كنت تعمل في الاتحاد الأوروبي، فإن قانون الذكاء الاصطناعي الأوروبي (EU AI Act) هو الذي يحدد المواعيد. وتسري قواعده الخاصة بالأنظمة عالية المخاطر، مثل التوظيف والتصنيف الائتماني، اعتباراً من 2 ديسمبر 2027.

تستخدم الشركات الذكاء الاصطناعي لفرز المتقدمين للوظائف وكشف الاحتيال وإدارة سلاسل الإمداد وتحديد الأسعار. رأيت منصات توظيف ترفض مرشحين مؤهلين لمجرد أن لديهم فترة انقطاع عن العمل. ورأيت أنظمة قرار تطبق قواعد خاطئة على شرائح كاملة من العملاء. والخيط المشترك أن أحداً لم يضع سياسات واضحة لكيفية سلوك النظام، ولا لما يجب فعله حين لا يتصرف كما ينبغي.

هذا إخفاق إداري لا تقني. ومعظم الشركات لا تستطيع الإجابة عن ثلاثة أسئلة أساسية:

1. من يعتمد طريقة استخدام الذكاء الاصطناعي؟
2. من يتحقق من أنه يعمل كما هو متوقع؟
3. ماذا يحدث حين يخطئ؟

الحوكمة تجيب عنها. وإذا أُحسن تطبيقها فهي لا تبطئ العمل. إنها تضمن أن الأنظمة التي تعتمد عليها تُستخدم بمسؤولية.

1. 01احصر كل نظامإذا كان يؤتمت قراراً فهو ضمن النطاق
2. 02رتّب بحسب الأثرالتوظيف والائتمان والتسعير وتقييم العملاء أولاً
3. 03سمِّ مالكاً واحداًشخص لا لجنة
4. 04اجعل الضوابط متناسبة مع المخاطراختبارات ونقاط مراجعة بشرية وتنبيهات
5. 05راجع بدورة ثابتةشهرياً للأنظمة الحرجة وفصلياً لبقية الأنظمة

الإخفاقات والحالات الحدّية تُعاد إلى الضوابط

الفرق التي تفترض أن موردي برمجياتها يتولون الامتثال تكون عادةً مخطئة. فبموجب قانون الذكاء الاصطناعي الأوروبي، على المؤسسة التي تنشر نظاماً التزاماتها الخاصة.

الإطار	أين	الوضع وما يطلبه
EU AI Act	الاتحاد الأوروبي	قانون نافذ منذ أغسطس 2024. قائم على المخاطر: يحظر بعض الاستخدامات، ويضع واجبات للأنظمة عالية المخاطر، وقواعد شفافية لغيرها
GDPR	الاتحاد الأوروبي	أساس قانوني، وتقليل البيانات إلى الحد الأدنى، وحقوق تتعلق بالقرارات الآلية التي تؤثر في الأشخاص
ISO/IEC 42001	عالمي	معيار قابل للاعتماد لنظام إدارة الذكاء الاصطناعي، نُشر في ديسمبر 2023
NIST AI RMF	الولايات المتحدة	إطار طوعي مبني على الحوكمة (Govern) والرسم (Map) والقياس (Measure) والإدارة (Manage)
قوانين الولايات الأمريكية	الولايات المتحدة	لا يوجد قانون اتحادي شامل للذكاء الاصطناعي، بل مجموعة متنامية من قوانين الولايات، مع جهود اتحادية لتغليب القانون الاتحادي عليها
الإطار النموذجي لحوكمة الذكاء الاصطناعي في سنغافورة	سنغافورة	إرشادات طوعية بشأن قابلية التفسير والمساءلة
مبادئ OECD للذكاء الاصطناعي	الدول الأعضاء في OECD	مبادئ دولية غير ملزمة

سقط مشروع قانون الذكاء الاصطناعي والبيانات المقترح في كندا (Artificial Intelligence and Data Act) حين عُلّقت أعمال البرلمان بقرار التأجيل في يناير 2025، ولذلك لم يعد مكانه في هذه القائمة.

مواعيد قانون الذكاء الاصطناعي الأوروبي بعد حزمة Digital Omnibus لعام 2026

عدّل الاتحاد الأوروبي قانون الذكاء الاصطناعي في يوليو 2026 عبر Digital Omnibus on AI، وهي اللائحة (EU) 2026/1744، التي أجّلت قواعد الأنظمة عالية المخاطر. وهذه هي المواعيد الحالية من الجدول الزمني لقانون الذكاء الاصطناعي لدى المفوضية الأوروبية:

التاريخ	ما يسري
1 أغسطس 2024	دخول قانون الذكاء الاصطناعي حيز النفاذ
2 فبراير 2025	الممارسات المحظورة وواجبات الإلمام بالذكاء الاصطناعي
2 أغسطس 2025	قواعد نماذج الذكاء الاصطناعي العامة الغرض، والسلطات الوطنية والعقوبات
2 أغسطس 2026	معظم القواعد المتبقية، ومنها واجبات الشفافية في المادة 50، وبدء الإنفاذ
2 ديسمبر 2026	محظورات جديدة على المحتوى الجنسي المزيف (deepfake) دون موافقة ومواد إساءة معاملة الأطفال
2 ديسمبر 2027	قواعد الأنظمة عالية المخاطر في الملحق III، مثل التوظيف والتصنيف الائتماني والخدمات الأساسية
2 أغسطس 2028	قواعد الأنظمة عالية المخاطر للذكاء الاصطناعي المدمج في منتجات يغطيها قانون سلامة المنتجات الأوروبي (الملحق I)

التأجيل يشتري وقتاً. لكنه لا يلغي العمل. فإن كنت تستخدم الذكاء الاصطناعي لفرز المرشحين أو تقييم الائتمان، فإن التوثيق والرقابة البشرية والمراقبة التي تحتاجها لديسمبر 2027 تستغرق وقتاً أطول في بنائها مما تتوقع معظم الفرق. وحين تشتري نظاماً كهذا، اسأل المورّد الآن كيف سيستوفي متطلبات الأنظمة عالية المخاطر.

1. النطاق والسياسة

قبل أي شيء، اكتشف أين تتخذ الأنظمة قرارات. تتخطى معظم الفرق هذه الخطوة أو تفترض أن تقنية المعلومات لديها قائمة. وفي الغالب ليست لديها.

امضِ إدارة بإدارة. انظر في الأدوات التي تصفّي المتقدمين أو تعتمد المعاملات أو تقيّم العملاء. فإذا كان النظام يؤتمت قراراً فهو ضمن النطاق، سواء سمّاه أحد ذكاءً اصطناعياً أم لا. وإن كنت تشغّل SAP، فأدرج ميزات الذكاء الاصطناعي التي فعّلتها، مثل Joule والسيناريوهات التنبؤية المضمّنة.

ثم اكتب السياسات بلغة بسيطة يلتزم بها الناس. عبارة «نعطي الأولوية للاستخدام الأخلاقي للذكاء الاصطناعي» ليست سياسة.

2. الملكية

مهما كان أداء النظام جيداً، لا بد أن يملك أحدٌ النتيجة. والمسؤولية المشتركة تعني أن لا أحد يتحرك.

امنح كل نظام مالكاً واحداً مسمّى يستخدمه عملياً، ويعتمد التغييرات الرئيسية، ويحتفظ بالتوثيق، ويُسأل حين تسوء الأمور. وقرّر مسبقاً من يستطيع إيقاف نظام مؤقتاً بعد شكوى.

في إحدى الشركات التي عملت معها، ظن ثلاثة أشخاص أن غيرهم هو المسؤول. فكانت النتيجة أشهراً من الصمت حول مشكلة حرجة لم يعالجها أحد.

3. تقييم المخاطر والضوابط

كل نظام ينطوي على مخاطر. والمهم هو هل المخاطر مرئية.

لا تقترض قوائم مخاطر عامة. اسأل هل يمكن لنظامك أن يرفض مرشحين ظلماً، أو يوصي بأسعار خاطئة، أو يصنّف العملاء تصنيفاً خاطئاً. ثم ابنِ الضوابط: اختباراً قبل النشر، ونقاط مراجعة يدوية أثناء الاستخدام، وتنبيهات حين تخرج النتائج عن النطاقات المتوقعة. وأدرج في كل سياسة مخاطر سيناريوهين أو ثلاثة سيناريوهات واقعية ليفهم الناس سبب وجودها.

4. المراقبة والتدقيق

الأنظمة تتغير. تتحول بيانات الإدخال وتغيّر التحديثات السلوك. أتذكر فريقاً مالياً وقع في خطأ صامت في أداة التوصيات لديه. واستغرق الأمر أسبوعين ليُلاحَظ. كان تدقيق دوري واحد سيكتشفه في اليوم الثاني.

حدّد دورة مراجعة ثابتة: شهرياً للأنظمة الحرجة وفصلياً لبقية الأنظمة. اكتشف فريق عملت معه خطأً كبيراً في التسعير لمجرد أنه كان يراجع عينات قليلة من المخرجات مرة في الشهر. تتبّع الإخفاقات والحالات الحدّية، وأعدها إلى الضوابط.

5. الشفافية

الأشخاص الذين يعملون مع النظام، وفي المجالات الخاضعة للتنظيم الأشخاص المتأثرون به، يحتاجون إلى فهم ما يفعله. اشرح المدخلات والقرارات بلغة بسيطة. ووثّق القيود إلى جانب نقاط القوة. فالمبالغة في الترويج لنظام تؤدي إلى إساءة استخدامه.

6. التدريب

يرتكب الناس أخطاء في الاستخدام اليومي حتى حين يكون كل شيء موثقاً. درّب مستخدمي الأعمال، لا الكوادر التقنية وحدها، ببياناتك وحالاتك أنت. أجرى فريق موارد بشرية عملت معه دورات تنشيطية مدة كل منها 30 دقيقة مرتين في السنة، مستخدماً ملاحظات حقيقية من عمليات فرز مرشحين سابقة. لا شيء معقد، لكنه ساعد المستخدمين على الشعور بالثقة والمسؤولية.

أنفع أول مخرَج هو سجل. بعض أكثر الأطر فاعلية التي رأيتها بدأ جداول بيانات ثم نما منها. سجّل لكل نظام:

1. النظام والغرض: ما الذي يقرره أو يوصي به، ولمن.
2. المالك: شخص واحد مسمّى، مع نائب.
3. فئة المخاطر: مثلاً عالية (تؤثر في وظائف الناس أو أموالهم أو وصولهم إلى الخدمات) أو متوسطة أو منخفضة، إضافة إلى فئة EU AI Act إن انطبقت.
4. البيانات المستخدمة: المصادر، والبيانات الشخصية المعنية، والموافقة، ومدة الاحتفاظ.
5. مورّد أم داخلي: وما التوثيق الذي يقدمه المورّد.
6. الضوابط: اختبارات ما قبل النشر، ونقاط المراجعة البشرية، والتنبيهات.
7. دورة المراجعة: شهرية أو فصلية أو سنوية، وتاريخ آخر مراجعة.
8. مسار الحوادث: من يُبلَّغ، ومن يستطيع إيقاف النظام، وكيف يُبلَّغ المستخدمون.

عبّئه للأنظمة عالية الأثر أولاً: التوظيف والتسعير والائتمان وتقييم العملاء. أما الأدوات الداخلية منخفضة المخاطر فتستطيع الانتظار.

ابدأ بحالات الاستخدام عالية الأثر. عملت مرة مع شركة كانت أداة آلية فيها تستبعد المتقدمين للوظائف لأسباب غامضة. ولم يدركوا ذلك إلا بعد عدة شكاوى. كانت جلسة مراجعة واحدة ستكتشفه مبكراً.

اجعل الرقابة متناسبة مع المخاطر. طبّق فريق عملت معه عمق المراجعة نفسه على روبوت محادثة داخلي وعلى منظومة تسعير. فاستنزف فريق الحوكمة وأبطأ التطوير دون فائدة تُذكر.

وثّق القرارات حين تُتخذ. التوثيق بأثر رجعي يفشل لأن الناس ينسون السياق. ومجلد مشترك من مذكرات قرارات مؤرخة من صفحة واحدة أفضل من نظام مفصّل لا يحدّثه أحد.

لا تنتظر الإطار المثالي. رأيت فرقاً تقضي شهوراً في صقل صياغة سياسات لم يستخدمها أحد في النهاية. ابدأ بقاعدة واحدة ومالك واحد ودورة مراجعة واحدة، ثم عدّل.

توقّع المقاومة وأجب عنها. تبدو الحوكمة بيروقراطية للفرق التي تستخدم الأدوات. اربطها بما يهمها: ثقة العملاء، والغرامات التي تُتجنب، والإخفاقات العلنية التي تُمنع.

القرارات الآلية دون رقابة قد تفشل بسرعة وبكلفة باهظة. ففي عام 2012 أرسل موجّه الأوامر الآلي في Knight Capital، وهو يشغّل شيفرة معيبة، أكثر من 4 ملايين أمر في 45 دقيقة، وخسرت الشركة أكثر من 460 مليون دولار (SEC). وتخلت Amazon عن أداة توظيف تجريبية بعد أن وجدت أنها تعاقب السير الذاتية التي تذكر منظمات نسائية. أما الإخفاقات الهادئة فهي أكثر شيوعاً: نظام ينحرف أشهراً إلى أن تكتشفه شكوى أو تدقيق.

ISO/IEC 42001 هو المعيار القابل للاعتماد لنظام إدارة الذكاء الاصطناعي، ونُشر في ديسمبر 2023. أما إطار NIST لإدارة مخاطر الذكاء الاصطناعي فهو المرجع الطوعي الذي تستخدمه معظم المؤسسات الأمريكية. وعلى مستوى الأفراد، فإن شهادة Artificial Intelligence Governance Professional (AIGP) من IAPP هي الاعتماد الأشهر.

توجد أدوات متخصصة، مثل IBM watsonx.governance وFiddler AI ولوحة Responsible AI في Azure Machine Learning. أما لمعظم المؤسسات فالبداية العملية أبسط: السجل الوارد أعلاه، والتسجيل (logging)، وضوابط الوصول، ودورات المراجعة. ولتقييم المخاطر بعمق أكبر، راجع دليلي عن إطار إدارة مخاطر الذكاء الاصطناعي. وإن كان الذكاء الاصطناعي لديك يعمل داخل SAP، فإن مقالي عن حوكمة الذكاء الاصطناعي في تنفيذات SAP يغطي الضوابط الخاصة بـ SAP، وتوضح صفحة إطار حوكمة الذكاء الاصطناعي لديّ كيف أساعد المؤسسات على إرسائه.

ما إطار حوكمة الذكاء الاصطناعي؟

مجموعة من المالكين والسياسات والضوابط ودورات المراجعة التي تحدد كيف تستخدم المؤسسة الذكاء الاصطناعي، وكيف تُختبر الأنظمة وتُراقَب، وماذا يحدث حين يسوء شيء ما. كما أنه يجعل القرارات قابلة للتفسير أمام الجهات التنظيمية والأشخاص المتأثرين.

متى تسري قواعد الأنظمة عالية المخاطر في قانون الذكاء الاصطناعي الأوروبي؟

بعد Digital Omnibus on AI (اللائحة (EU) 2026/1744)، تسري قواعد الأنظمة عالية المخاطر في الملحق III، مثل الذكاء الاصطناعي المستخدم في التوظيف والتصنيف الائتماني والخدمات الأساسية، اعتباراً من 2 ديسمبر 2027. وتسري قواعد الأنظمة عالية المخاطر للذكاء الاصطناعي المدمج في منتجات يغطيها قانون سلامة المنتجات الأوروبي اعتباراً من 2 أغسطس 2028. أما المحظورات فتسري منذ فبراير 2025، وواجبات الشفافية منذ أغسطس 2026.

لماذا تهم حوكمة الذكاء الاصطناعي في بيئات SAP؟

تتضمن أنظمة SAP الآن ذكاءً اصطناعياً يتخذ القرارات أو يشكّلها، مثل Joule والسيناريوهات التنبؤية في المالية وسلسلة الإمداد وفرز المرشحين في الموارد البشرية. وقد يمتد مخرج متحيز أو خاطئ عبر العمليات المتكاملة قبل أن يلاحظ أحد. وتُخضع الحوكمة هذه الميزات للمساءلة نفسها التي تخضع لها العمليات اليدوية التي حلّت محلها.

من المسؤول عن حوكمة الذكاء الاصطناعي؟

هي مسؤولية متعددة الوظائف: الامتثال، وتقنية المعلومات والأمن، وفرق البيانات، والشؤون القانونية والمخاطر، والمديرون التنفيذيون. وأهم قرار هيكلي هو مالك واحد مسمّى لكل نظام ذكاء اصطناعي. شخص لا لجنة.

ما الشهادات المتوفرة في حوكمة الذكاء الاصطناعي؟

على مستوى المؤسسات، يعد ISO/IEC 42001 المعيار القابل للاعتماد لنظام إدارة الذكاء الاصطناعي. أما NIST AI RMF فإطار طوعي وليس شهادة. وعلى مستوى الأفراد، فإن شهادة AIGP من IAPP هي أشهر اعتماد في حوكمة الذكاء الاصطناعي.

ماذا يحدث حين تُهمل حوكمة الذكاء الاصطناعي؟

من الإخفاقات الظاهرة تخلّي Amazon عن أداة توظيف كانت تعاقب النساء، وخسارة Knight Capital أكثر من 460 مليون دولار في 45 دقيقة بسبب نظام تداول آلي معيب. أما الإخفاق الأكثر شيوعاً فهو أهدأ: نظام ينحرف أشهراً ولا يلاحظ أحد ذلك إلى أن تأتي شكوى أو تدقيق.