Advertisements

Üretken Yapay Zekâ Riskleri ve Siber Güvenlik: LLM Güvenliği

Advertisements
LLM'lere uygulamalı saldırın ve onları savunun: prompt enjeksiyonu, jailbreak, koruma bariyerleri, red team ve uyum
1
1/5
(58) Ratings
4 students
Created by Dr. Amar Massoud (Türkçe)
Advertisements

What you'll learn

  • Bir LLM’in güvenlik açısından nasıl çalıştığını açıklamak ve saldırı yüzeyini haritalamak
  • Yerel bir lab’da doğrudan ve dolaylı prompt enjeksiyonu ile jailbreak uygulamak
  • Her saldırıyı OWASP LLM Top 10 risklerine ve MITRE ATLAS tekniklerine bağlamak
  • Derinlemesine savunma tasarlamak: girdi doğrulama, koruma bariyerleri, çıktı filtreleme ve sandbox
  • Üretken yapay zekâ sistemlerini izlemek ve güvenlik olaylarını tespit etmek
  • Güvenliği yapay zekâ geliştirme yaşam döngüsüne entegre etmek ve bir red team tatbikatı yürütmek
  • AB Yapay Zekâ Yasası, NIST AI RMF ve ISO/IEC 42001’i bir üretken yapay zekâ sistemine uygulamak
  • Ajan tabanlı yapay zekânın ve kuantum sonrası kriptografinin getirdiği yeni riskleri değerlendirmek
This course includes:
5 total hours on-demand video
0 articles
17 downloadable resources
45 lessons
Full lifetime access
Access on mobile and TV
Certificate of completion
Advertisements

Course content

Requirements

  • Temel düzeyde bilgi teknolojileri veya siber güvenlik bilgisi; yapay zekâ güvenliği deneyimi gerekmez
  • Ollama’yı kurabileceğiniz ve yaklaşık 2 GB’lık bir model indirebileceğiniz Windows, macOS veya Linux bir bilgisayar
  • Lab arayüzü İngilizce kaldığı için temel düzeyde İngilizce okuma faydalıdır

Description

This course contains the use of artificial intelligence.

Bu kursta yapay zeka kullanılmıştır.

Sizi neler bekliyor: Yaklaşık 5 saat video. Lab araçlarını (Ollama ve yerel bir model) kurmak için 1 saat ayırın, ardından 14 lab’ı ve ödevlerini tamamlamak için yaklaşık 9-12 saat planlayın. 14 lab’ın tamamı kendi bilgisayarınızda tek bir lab dosyasında, Ollama üzerinden çalışan ücretsiz ve yerel bir Llama modeliyle çalışır; API anahtarına ya da ücretli bir hesaba ihtiyacınız yoktur. Lab arayüzü, yazılan saldırı promptları ve model yanıtları İngilizce kalır.

Üretken yapay zekâ, onu koruyacak güvenlik uygulamalarından daha hızlı üretime girdi. Prompt enjeksiyonu, jailbreak, veri zehirleme, istismar edilen halüsinasyonlar: büyük dil modellerine yönelik saldırılar, güvenlik ekiplerinin alışık olduğu saldırılara benzemez. Bu kursta bu saldırıları anlamayı, güvenli bir ortamda kendimiz uygulamayı ve onları durduran savunmaları kurmayı öğreneceğiz.

Kurs boyunca kurgusal bir şirket olan NovaStar AI’ı ve üç ürününü izliyoruz: müşteri destek sohbet botu NovaAssist, kodlama asistanı NovaCode ve mevzuat belgeleri aracı NovaComply. CISO Alex Rivera ve ekibiyle birlikte her olayı inceliyor, saldırıyı lab’da yeniden üretiyor ve onu önleyecek kontrolü hayata geçiriyoruz.

Dokuz bölüm boyunca şunları yapacağız:

  • Bir LLM uygulamasının saldırı yüzeyini OWASP LLM Top 10 ve MITRE ATLAS ile haritalamak
  • Yerel bir modele karşı doğrudan ve dolaylı prompt enjeksiyonu ile jailbreak saldırıları yürütmek
  • Veri zehirleme, yanlılık, SSRF, kaynak tüketme ve halüsinasyonları birer tehdit olarak ele almak
  • Derinlemesine savunma kurmak: girdi doğrulama, koruma bariyerleri, çıktı filtreleme, sandbox ve izleme
  • Güvenliği geliştirme yaşam döngüsüne entegre etmek ve red team tatbikatları yürütmek
  • AB Yapay Zekâ Yasası, NIST AI RMF, ISO/IEC 42001, denetimler ve fikrî mülkiyet konularına hâkim olmak
  • Ajan tabanlı yapay zekâ, yapay zekâya karşı yapay zekâ ve kuantum hesaplama tehditlerini öngörmek

Her bölüm bir testle biter ve kurs, öğrendiğiniz her şeyi bir araya getiren kapsamlı bir red team tatbikatıyla tamamlanır. Kurumunuzdaki üretken yapay zekâ sistemlerini değerlendirmek, onlara saldırmak ve onları güvence altına almak için somut bir yöntemle ayrılırsınız.

Who this course is for:

  • Üretken yapay zekâ uygulamalarını güvence altına alması gereken siber güvenlik profesyonelleri
  • LLM’leri ürünlerine entegre eden geliştiriciler ve mimarlar
  • Yapay zekâ kullanımını yöneten CISO’lar ile risk ve uyum sorumluları
  • Yapay zekâ sistemlerini test etmek isteyen sızma testi uzmanları ve red team üyeleri
  • Üretken yapay zekânın güvenlik risklerini uygulamalı olarak anlamak isteyen herkes
Advertisements
B45CABD443CCA5865F82
Advertisements
Advertisements
Free Online Courses with Certificates
Logo
Register New Account