خبراء العالم بمنتدى اليونسكو يقفون على النموذج السعودي في إدارة مخاطر الذكاء الاصطناعي وضمان التبني الآمن والمسؤول لها

شهد منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي بالرياض، عرضًا عن جهود المملكة في الانتقال من الأطر النظرية إلى الممارسات التنفيذية في إدارة المخاطر المرتبطة بالذكاء الاصطناعي، عبر 'الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي' الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي 'سدايا' خلال عام الذكاء الاصطناعي 2026، كخارطة طريق إرشادية تضمن التبني الآمن والمسؤول لتقنيات الذكاء الاصطناعي، وفي خطوة فسرها المراقبون بأنها نقلة نوعية تسهم في خلق التوازن بين تسارع الابتكار وجاهزية التنظيم.
وتختلف مخاطر الذكاء الاصطناعي عن مخاطر الأنظمة البرمجية التقليدية من حيث الطبيعة والنطاق، إذ تمتد إلى آثار تنظيمية ومجتمعية أوسع، وتظهر بطرق غير متوقعة أثناء التشغيل، بينما مخاطر الأنظمة البرمجية التقليدية غالباً ما تكون محددة ويمكن التنبؤ بها، وبالرغم من أن الأنظمة البرمجية التقليدية قد تنشأ عنها مخاطر تتجاوز حدود الجهة الواحدة وتمتد إلى جهات أخرى أو حتى المجتمع، إلا أن أنظمة الذكاء الاصطناعي تُدخل فئات إضافية من المخاطر التي لا تعالجها أطر إدارة المخاطر التقليدية بصورة شاملة.
وفي جلسة بعنوان 'من الإطار إلى التطبيق' عُقدت ضمن أعمال المنتدى، أنصت الحضور من الخبراء الدوليين والمختصين في الذكاء الاصطناعي من مختلف دول العالم إلى جهود سدايا التي أبرزت أهمية إدارة المخاطر بوصفها عنصرًا أساسيًا في حوكمة الذكاء الاصطناعي، ودورها في دعم الجهات عند تطوير الحلول الذكية وتبنيها، بما يواكب التحولات التقنية المتسارعة ويحافظ على موثوقية الأنظمة.
ويعد 'الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي'، وثيقة مرجعية إرشادية شاملة تترجم التوصيات الدولية والأخلاقية للذكاء الاصطناعي إلى أطر عملية وسياسات تطبيقية، مستهدفًا ترسيخ منهجية وطنية متكاملة وموحدة لتحديد وتقييم ومعالجة ومراقبة مخاطر تقنيات الذكاء الاصطناعي في القطاعين الحكومي والخاص؛ بما يضمن التبني الآمن والمسؤول لهذه التقنيات، ويدعم التحول الرقمي والتنافسية الاقتصادية للمملكة بما يتسق مع مستهدفات رؤية السعودية 2030.

وفي الوقت الذي يناقش فيه المنتدى الفجوة بين سرعة تطور الذكاء الاصطناعي وقدرة الحكومات والمؤسسات على حوكمته في قلب الحوار العالمي حول مستقبل تقنيات الذكاء الاصطناعي، شاهد الحضور كيف ركزت سدايا في إطارها على تحقيق مجموعة من الأهداف الإستراتيجية المنظمة للمجال التقني، في مقدمتها توفير منهجية وطنية موحدة للتعامل الاستباقي مع المخاطر، وتمكين تصنيف واعٍ لأنظمة الذكاء الاصطناعي بحسب مستوى خطورتها. ويغطي الإطار نطاقًا مؤسسيًا متكاملاً يشمل مختلف مراحل تحديد المخاطر وتقييمها ومتابعتها لدى الجهات الحكومية والخاصة، ويقدّم إرشادات عملية لإدارة هذه المخاطر ضمن السياقات التنظيمية والتقنية القائمة، ويتضمن ذلك تهيئة بيئة حوكمة مناسبة، وتوثيق سيناريوهات المخاطر، وتحديد مستوى المخاطر المقبول وضوابطه، ووضع آليات للرصد والاستجابة، بما حد من الأضرار المحتملة ويعزّز الاستفادة الآمنة من تقنيات الذكاء الاصطناعي.
ويستهدف الإطار جميع الجهات الحكومية والخاصة على اختلاف قطاعاتها ومراحل نضجها الرقمي، مع مراعاة تباين أنماط الاستخدام وحجم المخاطر، بما يمنح هذه الجهات مرونة في التطبيق دون الإخلال بمبادئ إدارة المخاطر المنهجية، ويركّز على الأنظمة والتطبيقات ذات الأثر العالي على الأفراد والأصول والعمليات، بما في ذلك النماذج التنبؤية، ومعالجة اللغات الطبيعية، وتحليل الصور ومقاطع الفيديو، والأتمتة الذكية، ونماذج الاستخدام العام. ويركّز الإطار بالدرجة الأولى على الجوانب التطبيقية لإدارة مخاطر الذكاء الاصطناعي داخل الجهات، بالقدر الذي يسهم في دعم اتخاذ قرارات تنفيذية في مجالات الحوكمة والتنظيم والتشغيل، ولا يضع معايير تقنية تفصيلية لأداء النماذج، بل يقدّم خطوطاً استرشادية ومنهجيات وأدوات تساعد الجهات على بناء سياساتها وإجراءاتها الداخلية لتحديد المخاطر وتقييمها ومعالجتها أو قبولها بما يتناسب مع واقعها المؤسسي، وبما يدعم استخدامًا آمنًا ومسؤولاً للذكاء الاصطناعي.

ويستهدف الإطار الوطني ثلاث فئات رئيسة ملبيًا احتياجات المنظومة المؤسسية، تشمل مطوري الأنظمة لدمج اعتبارات السلامة وحوكمة المخاطر في مراحل التصميم والتدريب والاختبار قبل النشر، ومشغلي الأنظمة لاعتماد سياسات تشغيل ومراقبة واضحة وتحديد مسؤوليات المتابعة والاستجابة للحوادث، وصناع السياسات لتقييم جاهزية الأطر التنظيمية والقانونية وتطوير تشريعات متدرجة تدعم الابتكار وتحمي المجتمع. ويتجسد الإطار في سبعة مبادئ أخلاقية أساسية تتوافق مع توصية اليونسكو الصادرة عام 2021، تتضمن النزاهة والإنصاف لمنع التحيز، الخصوصية والأمن لحماية البيانات، الإنسانية لتسخير التقنية لخدمة البشر دون إلحاق خداع، المنافع الاجتماعية والبيئية لتعظيم الاستدامة، الموثوقية والسلامة لضمان دقة الأداء ومنع الأعطال، الشفافية وقابلية التفسير لتمكين فهم آلية اتخاذ القرارات المؤتمتة، والمساءلة والمسؤولية بتحديد أدوار المصممين والمشغلين والإشراف البشري.