تدقيق أنظمة الذكاء الاصطناعي وإدارة المخاطر AI Auditing
الحصول على الكتيب
للحصول على كتيب بكامل محتويات الدورة برجاء ملء النموذج التالي ببياناتك الصحيحة
الإطار المهني للبرنامج
تدقيق أنظمة الذكاء الاصطناعي وإدارة المخاطر AI Auditing
نبذة عن البرنامج
مع انتشار نماذج الذكاء الاصطناعي في قرارات الائتمان والتوظيف وخدمة المتعاملين، أصبح المدققون مطالبين بتقديم تأكيد مستقل حول مخاطرها وضوابطها. ويتناول البرنامج أطر حوكمة الذكاء الاصطناعي مثل NIST AI RMF وISO/IEC 42001، وحصر الأنظمة وتصنيف مخاطرها، وتدقيق جودة البيانات والانحياز والعدالة، وقابلية التفسير، والتحقق من أداء النماذج وانحرافها، والخصوصية والأمن، ومخاطر النماذج التوليدية والموردين، مع الإشارة إلى مبادئ أخلاقيات الذكاء الاصطناعي الصادرة في دول الخليج.
مخرجات التعلم
- ✓إعداد سجل لأنظمة الذكاء الاصطناعي في الجهة وتصنيفها حسب الأثر ومستوى المخاطر.
- ✓تقييم ضوابط حوكمة الذكاء الاصطناعي مقابل إطار NIST AI RMF أو متطلبات ISO/IEC 42001.
- ✓تصميم اختبارات لجودة بيانات التدريب والانحياز في مخرجات نموذج محدد.
- ✓مراجعة توثيق النموذج والتحقق من أدائه ومراقبة انحرافه بعد التشغيل.
- ✓إعداد برنامج تدقيق لنظام ذكاء اصطناعي يتضمن الأهداف والمخاطر والاختبارات والأدلة.
- ✓صياغة ملاحظات وتوصيات تدقيق مفهومة لغير المتخصصين تقنيًا.
الفئة المستهدفة
- المدققون الداخليون ومدققو تقنية المعلومات
- مديرو المخاطر والامتثال
- مسؤولو حوكمة البيانات والذكاء الاصطناعي
- مسؤولو التحقق من النماذج في البنوك وشركات التأمين
المحاور العلمية التفصيلية
01الذكاء الاصطناعي ومخاطره المؤسسية
- أنواع الأنظمة: التعلم الآلي والنماذج التوليدية والأتمتة
- مخاطر الانحياز والخطأ والخصوصية والسمعة
- دور التدقيق الداخلي في تأكيد أنظمة الذكاء الاصطناعي
02أطر الحوكمة والمعايير
- إطار NIST AI RMF ووظائفه
- نظام إدارة الذكاء الاصطناعي وفق ISO/IEC 42001
- مبادئ أخلاقيات الذكاء الاصطناعي في دول الخليج والتوجهات التنظيمية الدولية
03حصر الأنظمة وتقييم المخاطر
- سجل أنظمة الذكاء الاصطناعي وملكيتها
- تصنيف الأنظمة حسب الأثر والمخاطر
- تحديد نطاق التدقيق وأولوياته
04تدقيق البيانات والنماذج
- جودة بيانات التدريب ومصدرها
- اختبارات الانحياز والعدالة
- قابلية التفسير وتوثيق النموذج
05التشغيل والمراقبة والأمن
- التحقق من الأداء ومراقبة الانحراف
- إدارة التغيير وإصدارات النماذج
- الأمن والخصوصية وتهديدات النماذج
06برنامج التدقيق والتقارير
- إعداد برنامج تدقيق لنظام ذكاء اصطناعي
- مخاطر الموردين والنماذج الجاهزة
- صياغة النتائج للإدارة ولجنة المراجعة
منهجية التدريب
المشروع والمخرج التطبيقي
المشروع التطبيقي
ينفّذ المشارك مهمة تدقيق مصغرة على نظام ذكاء اصطناعي في جهة خليجية أو حالة مقدَّمة: سجل الأنظمة وتصنيف مخاطرها، وبرنامج تدقيق، واختبار انحياز مبسطًا على عينة بيانات، وتقرير ملاحظات وتوصيات.
التقييم
تقييم تشخيصي قصير في البداية، ومهام تطبيقية مرتبطة بكل مخرج من مخرجات التعلم، وتقييم المشروع التطبيقي وفق معايير معلنة.