تتضمن هذه الدورة استخدام الذكاء الاصطناعي.
يمثل إطار الذكاء الاصطناعي الآمن من Google (SAIF) المخطط العملي الذي يعتمده الممارسون لتأمين أنظمة الذكاء الاصطناعي ووكلائه على امتداد دورة حياتها. وتحول هذه الدورة إطار SAIF إلى منهج يمكنكم تطبيقه فعليا داخل برنامج للأمن أو للحوكمة والمخاطر والامتثال (GRC)، دون الحاجة إلى أي خبرة في هندسة تعلم الآلة.
نعمل طوال الدورة على مؤسسة نموذجية واقعية واحدة هي ميريديان، وهي شركة مصرفية رقمية خاضعة للتنظيم تطلق مساعدا للعملاء قائما على الذكاء الاصطناعي التوليدي، ثم سير عمل يعتمد على الوكلاء. وننتقل معها من المبادئ الأولى إلى برنامج لإدارة مخاطر الذكاء الاصطناعي جاهز للعرض على مجلس الإدارة.
ما تغطيه الدورة
- العناصر الستة الأساسية في إطار SAIF، ولماذا يهم ترتيبها
- خريطة مخاطر SAIF بمكوناتها الأربعة: البيانات، والبنية التحتية، والنموذج، والتطبيق
- جميع مخاطر SAIF الخمسة عشر، من تسميم البيانات وتسريب النموذج إلى حقن الموجهات والإفصاح عن البيانات الحساسة والإجراءات الخارجة عن السيطرة
- الضوابط وربطها بالمخاطر، وطريقة بناء مصفوفة الضوابط مقابل المخاطر
- SAIF 2.0 وتأمين وكلاء الذكاء الاصطناعي: الإشراف البشري، وتقييد الصلاحيات، وقابلية الرصد، وخريطة مخاطر الوكلاء
- تفعيل SAIF عمليا: التقييم الذاتي للمخاطر، وخرائط طريق المعالجة، والحوكمة، ومصفوفة RACI، وتحالف CoSAI
- مواءمة SAIF مع NIST AI RMF وISO/IEC 42001 وOWASP LLM Top 10 وMITRE ATLAS، إضافة إلى إعداد التقارير لمجلس الإدارة والجهات التنظيمية
يتضمن كل قسم اختبارا قصيرا، وتتضمن ستة أقسام تكليفات تطبيقية مع حلول نموذجية، وتختتم الدورة بمشروع ختامي متكامل يشمل تقييما كاملا وفق SAIF، وخطة للضوابط، وخارطة طريق، ومذكرة لمجلس إدارة ميريديان.
من يستفيد منها: مسؤولو أمن المعلومات، ومهندسو الأمن، ومالكو مخاطر الذكاء الاصطناعي، وقادة الامتثال والتدقيق الذين يحتاجون إلى تأمين الذكاء الاصطناعي دون انتظار مواصفة تملي عليهم الطريقة.
