Bu kurs yapay zekâ kullanımını içermektedir.
Google’ın Güvenli Yapay Zekâ Çerçevesi (SAIF), yapay zekâ sistemlerini ve ajanlarını yaşam döngüleri boyunca güvence altına almak için uygulayıcıların başvurduğu bir plandır. Bu kurs SAIF’i bir güvenlik ya da GRC programı içinde gerçekten işletebileceğiniz bir şeye dönüştürür; makine öğrenimi mühendisliği bilgisi gerekmez.
Gerçekçi tek bir model kuruluş üzerinden, Meridian (müşteriye dönük bir üretken YZ asistanını ve ardından bir ajan iş akışını devreye alan, düzenlemeye tabi bir dijital bankacılık firması), temel ilkelerden yönetim kuruluna sunulmaya hazır bir YZ risk programına ilerleyeceksiniz.
Kursun kapsamı
- SAIF’in altı temel unsuru ve sıralamalarının neden önemli olduğu
- Kursun omurgası olan SAIF risk haritası: dört bileşen olan Veri, Altyapı, Model ve Uygulama
- Ayrıntılı olarak 15 SAIF riskinin tamamı: veri zehirleme ve model sızdırmadan prompt enjeksiyonuna, hassas veri ifşasına ve kontrolsüz eylemlere kadar
- Kontroller: risklere eşlenmeleri ve bir kontrol-risk matrisinin nasıl oluşturulacağı
- SAIF 2.0: YZ ajanlarını güvence altına almak; insan gözetimi, sınırlı yetkiler, gözlemlenebilirlik ve ajan risk haritası
- SAIF’i uygulamaya geçirmek: risk öz değerlendirmesi, iyileştirme yol haritaları, yönetişim, RACI ve CoSAI
- SAIF’i NIST AI RMF, ISO/IEC 42001, OWASP LLM Top 10 ve MITRE ATLAS çerçevelerine eşlemek; ayrıca yönetim kurulu ve düzenleyici raporlaması
Her bölümde bir sınav, altı bölümde çözümlü ödevler var; kurs, Meridian için eksiksiz bir SAIF değerlendirmesi, kontrol planı, yol haritası ve kurul notundan oluşan kapsamlı bir bitirme projesiyle sona eriyor.
Kimler yararlanır: YZ’yi güvence altına almak için bir standardın yol göstermesini beklemek istemeyen CISO’lar, güvenlik mühendisleri, YZ risk sahipleri ile uyum ve denetim liderleri.
