Üretim oranı gün geçtikçe artan ve artık yollardaki hakimiyeti için gün saydığımız otonom araçların kaza yapma durumunda kimin hayatını tehlikeye atacağını seçmesine dair sorular hâlâ cevaplanamadı. Sanırım cevaplanamayacak da.
Direksiyonu kırıp genç bir insanın ölmesini mi yoksa seyrine devam edip yaşlı bir kadının ölmesini mi seçeceğini bilemediğimiz araçların hangisini seçmesini istediğimizi biliyor muyuz peki? Kaza anında milisaniyelik karar anında siz ne yapmayı seçerdiniz?
Massachusetts Instute of Technology’de bir araştırma ekibinin oluşturduğu ve online olarak herkesin fikirlerini aldığı anket ikilem durumlarında yapay zekanın ne yapacağına dair ‘komutların’ bizim, yani halkın genel etiğiyle örtüşmesini sağlamak [tooltip tip=”Aslında yapay zekanın aldığı ve alacağı tüm kararlar daha önce bizim yaşadığımız olaylardan çıkardığı ortalama veya sonuç ile oluşuyor. Yani teknik olarak MIT insanları kaynak almak istemiyor, almak zorunda diyebilirim”]istiyor[/tooltip]. Şu an için iki şıktan oluşan 13 sorunun bulunduğu ankette her bir soruda farklı senaryolarda hangi durumu tercih edeceğinizi işaretleyebileceğiniz 2 şık bulunuyor. Mesela bir soruda sosyal statü olarak ‘değerli’ bir insanı veya çok daha düşük seviyede görülen bir insanı seçmeniz isteniyor. Bir durumda yayalar için yeşil ışık yanarken diğer durumda kırmızı ışık yanıyor. Kendi senaryolarınızı oluşturarak insanlara sunma şansınızın da olduğu sistemde cevaplarınızın sebeplerini derinlemesine açıklamak isterseniz anketin sonunda size verilen kutucuğu da kullanabiliyorsunuz.
Moral Machine adı verilen sistem sayesinde insanların etik / ahlak anlayışının yapay zekalara da aktarılması isteniyor. Çünkü zaten her yapay zeka sisteminde olan makine öğrenimi algoritması tamamen aynı mantığı taşıyor. Yani, yapay zekaların zekasının olabilmesinin sebebi milyonlarca veriyi elde edip onu kullanarak kendisine bir standard oluşturabilmesidir. İnsanların bu tarz yaptığı durumların ‘big data’dan çekilemeyecek olması, bu tarz bir anketi zorunlu kılıyor.

Tüm bu sorular aklımıza daha önce sık sık duyduğumuz ve tren problemi ismi verilen soruyu getiriyor. “5 kişinin tehlikede olduğu bir rayda ilerleyen trenin yönünü değiştirerek sadece 1 kişinin ölümüyle sonuçlanmasını sağlama şansınız var, ne yapardınız?”