Ce cours utilise l’intelligence artificielle.
Le Secure AI Framework (SAIF) de Google, le cadre d’IA sécurisée, est le plan directeur du praticien pour sécuriser les systèmes et les agents d’IA sur tout leur cycle de vie. Ce cours fait de SAIF un dispositif que vous pouvez réellement faire fonctionner au sein d’un programme de sécurité ou de GRC — sans aucune compétence en ingénierie de l’apprentissage automatique.
En suivant une seule organisation modèle réaliste, Meridian (une banque numérique réglementée qui déploie un assistant d’IA générative pour ses clients, puis un workflow agentique), vous passerez des principes fondamentaux à un programme de risque lié à l’IA prêt à être présenté au conseil d’administration.
Ce que couvre le cours
- Les six éléments fondamentaux de SAIF et la raison de leur ordre
- La cartographie des risques SAIF — les quatre composants : Données, Infrastructure, Modèle, Application
- Les 15 risques SAIF au complet — de l’empoisonnement des données et de l’exfiltration du modèle jusqu’à l’injection de prompt, la divulgation de données sensibles et les actions incontrôlées
- Les mesures reliées aux risques, et la construction d’une matrice mesures-risques
- SAIF 2.0 — sécuriser les agents d’IA : supervision humaine, pouvoirs limités, observabilité et cartographie des risques des agents
- Opérationnaliser SAIF : l’auto-évaluation des risques, les feuilles de route de remédiation, la gouvernance, la matrice RACI et la CoSAI
- Relier SAIF au NIST AI RMF, à l’ISO/IEC 42001, au Top 10 OWASP pour les LLM et à MITRE ATLAS, ainsi que le reporting au conseil et aux régulateurs
Chaque section comprend un quiz ; six sections comportent des devoirs avec corrigés ; et le cours se termine par un projet de synthèse complet — une évaluation SAIF, un plan de mesures, une feuille de route et une note au conseil pour Meridian.
Pour qui : les RSSI, ingénieurs sécurité, propriétaires de risques liés à l’IA, et responsables conformité et audit qui doivent sécuriser l’IA sans attendre qu’une norme leur dise comment faire.
