Otonom araçlarda gerçek hayat pratikleri

Yılların ahlaki ikilemidir: Frenleri bozuk ve son hız giden bir tramvayın sürücüsü olsan, tam önündeki beş kişiyi ezmek yerine tek bir kişinin bulunduğu raya geçmek için kolu çeker misin? Bu sıralar sık sık tramvaya biniyorum ve kulaklığımın şarjının bittiği bir yolculuk bana düşünmek için epey zaman verdi. Bağcılar’dan Kabataş’a giden bir tramvayın sürücüsü olsam, kriz anında etik kaygılarımı göz önünde bulundurabilir miydim? Yoksa her an öngörülemez gelişmelere açık gerçek hayat dinamiklerimiz bu sorunun üzerine düşünülebilirliğini azaltıyor mu?

Tramvay Problemi, yıllardır farklı varyasyonlarda karşımıza geliyor.

Metaverse, Web3 derken pabucu kısa bir süreliğine de olsa dama atılan otonom araçların karar verme mekanizmaları, üzerine düşünülmeyi hak ediyor. Modern felsefenin en zor sorularından biri olan Tramvay Problemi’nin otonom araçlarda kullanılan yapay zekânın eğitiminde kullanılması bize hâlâ pek kabullenilebilir gelmiyor. Doğaları gereği ahlaki vicdandan yoksun robotlar kriz anında en faydacı seçimi yapabilir fakat biz seçim yapmayı reddetmek için sorgulayabilecek güce sahibiz. Düşüncelerimizi bir adım öteye taşıyalım ve faydacı hareketin temelini oluşturan Tramvay Problemi’ne farklı bir açıdan yaklaşalım.

Eski nesil problemler ve yeni nesil otonom araçlar

Tramvay Problemi, trafikte yaşanabilecek olumsuz senaryolarda vereceği tepkiler sık sık tartışma konusu olan otonom araçlar için sağlıklı bir eğitim yöntemi olmayabilir. Nihayetinde hayat pratiğine sahip olmayan yapay zekânın bizim kadar çok yönlü düşünemeyeceği gerçeğini gözden kaçırıyoruz. Yapay ortamda geliştirilen Tramvay Problemi gibi ikilemlerin gerçek hayattan kopuk olması hepimize tercih yapmama özgürlüğü sağlıyor. Dürüst olalım, hangimiz bir kere durup neden camdan bağırarak insanları uyaramayacağımızı veya çizgi filmlerin dışında bir raya insan bağladığımızı düşündük ki?

The Good Place’in The Trolley Problem bölümünde Chidi’nin karar vermekte epey zorlandığını hatırlarsın.

2014 yılında, Social and Personality Psychology Compass için yayınlanan bir makalede araştırmacılar, Tramvay Problemi gibi fedakâr ikilemlerin gerçekçi olmadığını ve “insanların gerçek dünyada karşılaştıkları ahlaki durumları temsil etmediğini” yazdı. Makalenin içeriğine göre gerçeklikten kopuk bir dünyada yaratılan paradigmalar insanların gerçek dünyada vereceği kararları sağlıksız bir şekilde etkileyebilirdi. Hata yapmaya meyilli olduğu kadar pratik çözümler üretebilen insanların bile algısını bozabilecek suni ikilemler, tüm eylemlerini deneyimlerine dayandıran yapay zekâ gibi teknolojiler için oldukça tehlikeli olabilir.

Hatta karar veremediğini…

Üçlem, Dörtlem, Beşlem

Hayatın öngörülemezliği kimi durumlar için can sıkıcı olsa da, Tramvay Problemi gibi yapay paradigmalara karşı çıkmak için şahane bir sebep. Gerçekten Bağcılar-Kabataş tramvayının sürücüsü olduğumuzu hayal edelim. Eminönü durağına doğru huzur içinde ilerlerken frenlerin boşaldığını fark ettik. Önümüzde iki seçenek var, beş kişilik bir grubu ezmek veya sağdaki raylarda çalışan işçiye çarpmak. Bizim tramvayın içinde ecel terleri döktüğümüz anlarda gruptan herhangi biri varlığımızı fark edebilir, dışarıdan birileri işçiyi uyarabilir veya üçüncü bir seçenek yaratarak tramvayı rayların dışına çıkarabiliriz. Tramvay Problemi bir veya iki faktörü ayırmak için iyi bir yöntem olabilir fakat hayatın karmaşıklığı göz önüne alındığında asla yeterli olmayacaktır. Yani gerçek hayata uyarlandığında bu ikilem bir üçlem, dörtlem hatta beşlem haline bile gelebilir. 

Peki otonom araçları nasıl eğiteceğiz?

Peki hem araç içindekilerin hem de yayaların hayatını emanet edeceğimiz otonom araçları eğitirken nasıl bir yol izlememiz gerekiyor? Makaleyi yazan araştırmacılara göre, kendi kendini süren arabaların gelişimine rehberlik eden paradigmanın etik amaçlılık kavramına odaklanmak yerine ilk etapta zarardan nasıl kaçınılacağını öğretmeye odaklanması gerektiğini söylüyor. Yapay zekânın insan gibi düşündüğünü varsaydığımızda göz önünde bulundurması gereken pek çok farklı etken var. İnsan hayatı mı daha değerli, hayvan hayatı mı? Genç birinin hayatı mı değerli, yaşlı birinin hayatı mı? Araştırmanın sınırlarını genişletirsek dış görünüşten ırka kadar değişen pek çok farklı yanıt elde edebiliriz. Üstelik otonom araçlarımız henüz karmaşık analizlere anında reaksiyon verebilecek kadar eğitilmiş değil. Biz ahlaki ikilemlerimizi kabullenmesini beklerken, araç teknolojileri henüz bisikletli bir insanı park etmiş bir arabadan ayırabilmek için efor sarf ediyor.

Otonom araçlar için algılama sistemleri geliştiren DeepScale şirketinin CEO’su Forrest Iandola, “Otonom sürüşte insanların algıladıkları nesneleri sınıflandırma veya düzenleme şekli savunmasızlığa dayanır” diyor. Bir olay anında tespit edilmesi beklenen en önemli savunmasız nesnenin koruması olmayan insanlar olduğunu varsayabiliriz. Ancak park edilmiş bir araba veya bir trafik konisi de en az bizim kadar savunmasız olma eğiliminde olabilir. Böyle bir anda kendimizi trafik konisinin hayatını kurtaran bir kahraman olarak anıldığımız cenaze törenimizde bulmamız işten bile değil.

Tüm etik tartışmalarından ve senaryolardan uzakta, en az hasarı barındıran seçeneğe yönelmek yerine tüm olumsuzlukları yok edecek yegane tercihi yapmak otonom araçları en güvenli kılacak fikir olarak görülüyor. Yine de, en azından şimdilik sokakta yürürken veya tramvay yolundan geçerken etrafı iyi kolaçan etmemizde fayda var.

Share:

administrator

Yıldız Teknik Üniversitesi Kontrol ve Otomasyon Mühendisliği 4. sınıf öğrencisi olan Kardelen, yeni filmler ve müzikler keşfetmenin yanında teknolojik yenilikleri takip etmekten büyük keyif alıyor ve kendisine ilginç gelen şeyleri Gelecek Burada için yazıyor çiziyor, hatta bizzat Gelecek Burada'nın podcast yayınlarını yürütüyor.