Bugünün teknolojilerinde ve geleceğe dair hayallerimizde büyük bir yer kaplayan yapay zeka bizleri çok şaşırtan yeni gelişmelerle gündeme geliyor olsa da gözden kaçırdığımız veya bazen unuttuğumuz bazı sorunlara da gebe. Kişisel gizlilik, kötü niyetli ellere geçmesi gibi evhamlandırıcı özellikleri bir yana, dışarıdan gelecek tehlikelere karşı savunmasız olduğu noktalar oldukça korkutucu. Bu noktalardan birisi de adversarial machine learning ismi verilen, makine öğrenimi algoritmalarını kandıran bir yöntem.
Makine öğrenimi algoritmaları ile eğitilmiş yapay zekaları hedef alan bu yöntem ile trafik levhalarına küçük bir sticker yapıştırarak veya bir pikseli değiştirerek bir tür optik illüzyon oluşturup otonom aracı manipüle etmek mümkün. Bu yöntem ile aracın hız sınırı: 50 levhasını asgari hız: 50 diye okuması sağlanabiliyor
EmTech Digital konferansında konuşan UC Berkeley’de yapay zeka ve makine öğrenimi üzerine uzmanlaşmış olan Dawn Song “Bu büyük bir problem. Düzeltmek için bir araya gelmemiz gerekiyor” derken otonom araç-levha örneğinin yanı sıra Gmail’ın kredi kartı bilgilerini afişe ettiği bir örnek daha göstermiş. Bu örnekte; doğru oluşturulan bir mesajla, Gmail’de otomatik mesajlar tamamlamak için eğitilmiş yapay zeka olan Smart Compose’u manipüle etmek ve kredi kartı gibi hassas bilgileri açığa çıkarmasını sağlamak mümkün.
Google’ın da dahil olduğu bu araştırma sonunda, Smart Compose için gereken önlemler alınmış.
Hayatımıza giren her güzel detayda olduğu gibi yapay zeka da kötü niyetli kullanıma oldukça müsait. Özellikle savunma sistemleri ve askeri alandaki kullanımı milyonlarca insanın ve birçok toplumun canını yakabilecek potansiyele sahip. Hem gerçek anlamıyla hem de mecazi anlamda Machine learning ve adversarial machine learning’in savaşını izleyeceğiz gibi duruyor.
Kaynak: Technology Review