أمن الذكاء الاصطناعي وحماية البيانات
الحصول على الكتيب
للحصول على كتيب بكامل محتويات الدورة برجاء ملء النموذج التالي ببياناتك الصحيحة
الإطار المهني للبرنامج
أمن الذكاء الاصطناعي وحماية البيانات
نبذة عن البرنامج
تفتح أنظمة الذكاء الاصطناعي ونماذجه اللغوية مسارات تهديد جديدة لا تغطيها الضوابط الأمنية التقليدية وحدها، مثل حقن التعليمات وتسميم بيانات التدريب وتسرب البيانات عبر المخرجات. ويتناول البرنامج تصنيف هذه التهديدات وفق قائمة OWASP لأبرز مخاطر تطبيقات النماذج اللغوية وإطار MITRE ATLAS، وحماية البيانات في دورة حياة النموذج، وضوابط الوصول والمراقبة، واختبار أنظمة الذكاء الاصطناعي، وأطر الحوكمة مثل NIST AI RMF وISO/IEC 42001، ومتطلبات حماية البيانات الشخصية في دول الخليج.
مخرجات التعلم
- ✓تحليل نظام ذكاء اصطناعي قائم وتحديد مسارات التهديد الخاصة به وفق قائمة OWASP للنماذج اللغوية.
- ✓إعداد نموذج تهديدات لتطبيق يعتمد على نموذج لغوي وتحديد الضوابط لكل تهديد.
- ✓تصميم ضوابط لحماية بيانات التدريب والاستدلال تشمل التصنيف والإخفاء وتقليل البيانات.
- ✓وضع خطة اختبار أمني لنظام ذكاء اصطناعي تشمل حقن التعليمات وتسرب البيانات.
- ✓مواءمة ضوابط أمن الذكاء الاصطناعي مع وظائف إطار NIST AI RMF ومتطلبات ISO/IEC 42001.
- ✓تقييم امتثال استخدام الذكاء الاصطناعي لمتطلبات حماية البيانات الشخصية المحلية.
الفئة المستهدفة
- مختصو الأمن السيبراني وأمن التطبيقات
- مهندسو الذكاء الاصطناعي وعلماء البيانات
- مسؤولو حماية البيانات والخصوصية
- مسؤولو حوكمة البيانات والمخاطر التقنية
المحاور العلمية التفصيلية
01مشهد التهديدات في الذكاء الاصطناعي
- الفرق بين أمن الأنظمة التقليدية وأمن الذكاء الاصطناعي
- قائمة OWASP لأبرز مخاطر تطبيقات النماذج اللغوية
- إطار MITRE ATLAS لتكتيكات الخصوم
02التهديدات على البيانات والنماذج
- تسميم بيانات التدريب
- استنتاج العضوية واستخراج النماذج
- سرقة النماذج والتلاعب بها
03التهديدات على التطبيقات
- حقن التعليمات المباشر وغير المباشر
- تسرب البيانات عبر المخرجات
- مخاطر الوكلاء والإضافات والصلاحيات الزائدة
04حماية البيانات في دورة حياة النموذج
- تصنيف البيانات وتقليلها وإخفاؤها
- الضوابط على بيانات التدريب والاستدلال
- السجلات والمراقبة والاحتفاظ بالبيانات
05الاختبار والضوابط الأمنية
- نمذجة التهديدات لتطبيقات الذكاء الاصطناعي
- اختبارات الفريق الأحمر للنماذج اللغوية
- ضوابط الوصول والتحقق من المدخلات والمخرجات
06الحوكمة والامتثال
- إطار NIST AI RMF ومعيار ISO/IEC 42001
- أنظمة حماية البيانات الشخصية ومبادئ أخلاقيات الذكاء الاصطناعي الخليجية
- الاستجابة لحوادث الذكاء الاصطناعي
منهجية التدريب
المشروع والمخرج التطبيقي
المشروع التطبيقي
يعدّ المشارك تقييمًا أمنيًا لتطبيق ذكاء اصطناعي في جهته أو حالة مقدَّمة، مثل مساعد محادثة لخدمة المتعاملين، يتضمن نموذج تهديدات، ومصفوفة ضوابط، وخطة اختبار، وتقييم امتثال لمتطلبات حماية البيانات الشخصية.
التقييم
تقييم تشخيصي قصير في البداية، ومهام تطبيقية مرتبطة بكل مخرج من مخرجات التعلم، وتقييم المشروع التطبيقي وفق معايير معلنة.