Kunstmatige intelligentie heeft regels en kaders nodig: waarom bestuur verder moet gaan dan politiek.

لا تظل الطرق السريعة آمنة بمجرد التزام السائقين بقانون المرور. بل تعتمد على حدود السرعة، وعلامات المسارات، وحواجز الحماية التي تحافظ على انسيابية الحركة وتساعد في منع تحول الأخطاء إلى حوادث خطيرة.

تعمل حوكمة Kunstmatige intelligentie بالطريقة نفسها. تحدد السياسات القواعد، لكن الضوابط التشغيلية هي التي تبقي المؤسسات على المسار الصحيح عندما تتغير التكنولوجيا والمستخدمون والمخاطر.

مع تسارع المؤسسات في تبني الذكاء الاصطناعي، ركز الكثيرون على تطوير السياسات، وأطر الحوكمة، وإرشادات الاستخدام المقبول. هذه خطوات أولية ضرورية. لكن السياسات وحدها لا تستطيع منع أنظمة الذكاء الاصطناعي من الوصول إلى بيانات خاطئة، أو التفاعل مع تطبيقات غير مناسبة، أو خلق مخاطر تشغيلية غير مقصودة.

لقد جعل قانون الذكاء الاصطناعي الأوروبي (EU AI Act) حوكمة الذكاء الاصطناعي قضية على مستوى مجالس الإدارة، حيث يطلب من المؤسسات التي تستخدم أو تطور الذكاء الاصطناعي تحديد المخاطر وإدارتها وتوثيقها، خاصة بالنسبة للأنظمة عالية المخاطر.

وقد أدى ذلك إلى ظهور توقعات جديدة حول الرقابة والتوثيق وحوكمة البيانات والشفافية. ومع ذلك، فإن التنظيم وحده لن يحل التحدي العملي الأكبر: تبني الذكاء الاصطناعي يسير بخطى أسرع من الحوكمة.

يستخدم الموظفون أدوات الذكاء الاصطناعي العامة، ويعتمد المطورون على مساعدي البرمجة، وتعمل فرق الأعمال على نشر قدرات الذكاء الاصطناعي عبر المنصات الحالية. في كثير من الحالات، تُقدم هذه التقنيات قبل أن تتمكن فرق Beveiliging والامتثال والمخاطر من فهم كامل لما يمكنها الوصول إليه، أو الأنظمة التي تؤثر فيها، أو كيف تغير الملف العام للمخاطر في المؤسسة.

هذه هي الفجوة بين الطموح التنظيمي والواقع التشغيلي. قد تكون لدى المؤسسات حالات استخدام للذكاء الاصطناعي وأطر حوكمة معتمدة، لكنها غالبًا ما تحكم جزءًا فقط من الذكاء الاصطناعي الذي يعمل بالفعل عبر الأعمال.

يبدأ سد هذه الفجوة بالتعامل مع الذكاء الاصطناعي كتحدٍ تشغيلي وليس مجرد تمرين امتثال. عمليًا، يتطلب تجاوز السياسات فهم كيفية استخدام الذكاء الاصطناعي، وتطبيق الضوابط وفقًا لمخاطر الأعمال، وتكييف الحوكمة مع تطور قدرات الذكاء الاصطناعي.

الذكاء الاصطناعي الخفي يغير تحدي الحوكمة

تفترض الحوكمة التقليدية أن المؤسسات تعرف التقنيات التي تعمل عبر الأعمال. لقد غير الذكاء الاصطناعي هذا الواقع. لم يعد الذكاء الاصطناعي الخفي يقتصر على الموظفين الذين يجربون أدوات عامة.

بل يشمل أيضًا قدرات الذكاء الاصطناعي المضمنة التي تُقدم عبر تحديثات البرامج الروتينية، وسير العمل المدعوم بالذكاء الاصطناعي الذي ينشئه مستخدمو الأعمال، والوكلاء المستقلين الذين يعملون عبر أنظمة المؤسسة دون أن يُعاملوا كمشاريع ذكاء اصطناعي رسمية. غالبًا ما تُعتمد هذه القدرات بسرعة أكبر مما تستطيع عمليات الحوكمة تحديدها وتقييمها وإدارتها.

اليوم، لا يقتصر دور الذكاء الاصطناعي على دعم الموظفين فحسب، بل يتصرف نيابة عنهم. يمكن AI-agenten استرداد المعلومات، وتفعيل سير العمل، والتفاعل مع أنظمة المؤسسة، واتخاذ قرارات تشغيلية باستخدام الأذونات الموروثة من الأشخاص أو الأنظمة التي يمثلونها.

ولهذا السبب، تغيرت مساحة الهجوم في المؤسسات بشكل جذري. لم تعد فرق الأمن تحمي الأشخاص والأجهزة والتطبيقات فحسب، بل تؤمن أيضًا الأنظمة المستقلة القادرة على التنقل عبر البيئات، والوصول إلى المعلومات الحساسة، والتفاعل مع سير العمل الحرج، واتخاذ القرارات بشكل مستقل.

Staan voor كل وكيل ذكاء اصطناعي جديد مسارًا محتملاً آخر لسوء الاستخدام العرضي أو النشاط الضار إذا لم تتم حوكمته بشكل مناسب.

التنظيم يحدد القواعد. والسياق يبني المسارات.

يُركز قانون الذكاء الاصطناعي للاتحاد الأوروبي بشكل كبير على المساءلة والرقابة وإدارة المخاطر طوال دورة حياة الذكاء الاصطناعي. لكن تلبية هذه التوقعات يتطلب أكثر بكثير من مجرد وثائق.

تحدد اللوائح النتائج التي يجب على المنظمات تحقيقها؛ ويكمن التحدي في ترجمة تلك المتطلبات إلى حوكمة تشغيلية عبر البيئات التي يتطور فيها الذكاء الاصطناعي باستمرار.

يبدأ ذلك بفهم الذكاء الاصطناعي في سياقه. لا يمكن تقييم المخاطر بالنظر إلى نظام ذكاء اصطناعي بمعزل عن غيره. قد يبدو مساعد ذكاء اصطناعي يلخص المستندات الداخلية منخفض المخاطر نسبيًا حتى يحصل على إمكانية الوصول إلى معلومات حساسة تجاريًا.

وبالمثل، قد يعمل وكيل ذكاء اصطناعي يقوم بأتمتة المشتريات بأمان في الظروف العادية، لكن ملف مخاطره يتغير بشكل كبير إذا كان بإمكانه الموافقة على المعاملات المالية، أو وراثة هويات مميزة، أو بدء إجراءات عبر أنظمة الأعمال الحيوية.

لا تُعرّف المخاطر

سيكونون هم من يدمجون الحوكمة في العمليات اليومية، ويديرون هويات الذكاء الاصطناعي وصلاحياته بنفس الانضباط الذي يتبعونه مع أي أصل حاسم آخر، ويكيفون الضوابط باستمرار مع تطور التكنولوجيا.

لقد رفع قانون الذكاء الاصطناعي للاتحاد الأوروبي سقف التوقعات فيما يتعلق بالمساءلة، لكن المؤسسات التي تتجاوز مجرد السياسات والامتثال ستكون في أفضل وضع لإطلاق العنان للإمكانات الكاملة للذكاء الاصطناعي.

في عصر الذكاء الاصطناعي المستقل، لم تعد الحوكمة مجرد وضع للقواعد، بل هي بناء حواجز الحماية التي تمكن المؤسسات من الابتكار بثقة دون المساس بالأمن أو الثقة أو المرونة.

لقد استعرضنا أفضل منشئ مواقع ويب بالذكاء الاصطناعي.