ÖDEV... Aşağıdaki 2 soruyu dersten sonra defterinize cevaplayınız.
Soru 1. Yapay Zekâ güvenlik risklerini yazınız.
Soru 2. Yapay Zekâ güvenlik önlemlerini yazınız.
Sevgili Öğrenciler,
Yapay zekânın sunduğu büyük
fırsatların yanında, dikkat etmemiz gereken güvenlik riskleri de vardır. Görüntülerin,
seslerin, yazdıklarınızın, kişisel analizinizin yapılmasını sağlayacak
bilgilerinizin, Kimlik ve kişisel bilgilerinizin çalınması gibi… Bu 2 haftaki dersimizde,
YZ sistemlerini kullanırken ve onlara güvenirken nasıl güvende kalacağımızı
öğrenmeye çalışacaz. Amacımız, teknolojiyi en doğru şekilde korkmadan, bilinçli
ve güvenli bir şekilde yönetmektir.
YAPAY ZEKÂDA GÜVENLİK RİSKLERİNİ TANIMA
YZ sistemleri, veriye/bilgiye
dayalı kararlar aldığı için bazı özel riskler taşır.
|
Risk Türü |
Nedir? |
Somut Örnek |
|
Zararlı
Veri Enjeksiyonu/Girişi (Data Poisoning) |
YZ
modelini eğitmek için kullanılan verilere, kötü niyetle yanlış veya yanıltıcı
bilgiler eklenmesidir. Bu, modelin
hatalı öğrenmesine ve yanlış kararlar vermesine neden olur. |
Örnek:
Bir yüz tanıma sistemini eğitmek için, bir kişinin fotoğraflarına kasıtlı
olarak yanlış etiketler (başka birinin adı) eklenirse, sistem o kişiyi yanlış
tanır. |
|
Gizlilik İhlali (Privacy
Violation) |
YZ sistemlerinin topladığı ve
işlediği kişisel verilerin (yüz görüntüleri, sağlık bilgileri, alışkanlıklar)
izinsiz ele geçirilmesi veya kötüye kullanılmasıdır. |
Örnek: Bir sağlık uygulamasındaki YZ,
kullanıcıların hastalık verilerini güvenli olmayan bir şekilde saklar ve bu
veriler sızdırılırsa. |
|
Önyargı ve
Ayrımcılık (Bias & Discrimination) |
Eğitim
verilerindeki insan kaynaklı önyargıların (cinsiyet, ırk, sosyal sınıf), YZ
modeline yansıması ve modelin de adaletsiz kararlar vermesidir. |
Örnek:
İşe alımda kullanılan bir YZ, geçmişte daha çok erkek mühendis işe alınmış
bir şirketin verileriyle eğitilirse, yeni başvuran kadın mühendisleri haksız
yere eliyebilir. |
|
Tersine Mühendislik Saldırıları |
Saldırganın, bir YZ modeline
özel olarak hazırlanmış girdiler göndererek modelin nasıl çalıştığını
anlamaya veya yanlış sonuçlar üretmesini sağlamaya çalışmasıdır. |
Örnek: Bir spam filtresini atlatmak
için, spam e-postalara YZ'nin "güvenli" olarak sınıflandıracağı
belirli kelimeler eklemek. |
(!) Ders konusunun daha iyi anlaşılması için Ortak Örnek
Senaryomuz: >> Ev_AI
"Ev_AI isimli bir
uygulama, kullanıcılarına evlerindeki akıllı cihazları (ışık, kombi, güvenlik
kamerası) yönetmek için kişiselleştirilmiş öneriler sunan bir YZ asistanıdır.
Evinizin alışkanlıklarınızı öğrenerek enerji tasarrufu sağlamayı ve güvenliği
artırmayı vaat eder."
YAPAY ZEKÂDA GÜVENLİK ÖNLEMLERİ
YZ kullanırken oluşabilecek risklere,
karşı geliştirilmiş önlemler vardır.
|
Önlem Türü |
Ne İşe Yarar? |
“Ev_AI” İçin Nasıl Uygulanır? |
|
Güvenli
Veri İşleme ve Şifreleme |
Toplanan ve
saklanan tüm kişisel verilerin şifrelenmesi, yetkisiz erişime karşı
korunmasıdır. |
Kullanıcının
ev rutinleri, kamera görüntüleri gibi tüm hassas veriler uçtan uca şifreli
olarak iletilmeli ve saklanmalıdır. |
|
Düzenli Model Denetimi ve Testi |
YZ modelinin, önyargılı veya
hatalı kararlar verip vermediğinin sürekli kontrol edilmesidir. |
Geliştiriciler, “Ev_AI”'nın
farklı yaşam tarzlarına ve kültürlere sahip ailelerde adil çalışıp
çalışmadığını düzenli olarak test etmelidir. |
|
Kullanıcı
Onayı ve Şeffaflık |
Kullanıcıya,
hangi verilerin neden toplandığı ve nasıl kullanılacağı konusunda net bilgi
vermek ve açık onayını almaktır. |
Uygulama,
kamera verilerini "güvenlik için" mi yoksa "alışkanlık analizi
için" mi kullanacağını açıkça belirtmeli ve kullanıcıdan bu her
bir kullanım için ayrı onay almalıdır. |
|
Saldırı Tespit Sistemleri |
Sisteme yapılan anormal erişim
veya veri enjeksiyonu girişimlerini tespit eden sistemlerdir. |
“Ev_AI” sunucularına yapılan, normalin
çok üzerindeki veri yükleme girişimleri (Data Poisoning saldırısı
olabilir) anında tespit edilip engellenmelidir. |
