Yapay zekanın gözetleme sistemlerinde yaratacağı etkiden sürekli bahsediyoruz. Kötü niyetli yönetimler veya kötü niyetli bir yapay zekanın halkı ne denli önemli bir ölçüde manipüle edebilme kabiliyetinin bulunduğu da aşikar. Çin’de 2014 yılında başlayan ve vatandaşların devlet tarafından puanlanmasını kapsayan “Sosyal kredi sistemi”, gelecek için yazılan distopik senaryoların bir örneğini karşımıza getiriyor.
Çin’deki mevcut sisteme göre vatandaşlar trafik kuralı ihlali, vergiden kaçınma ve yaşlı akrabalarının bakımını ihmal etme gibi kötü davranışlar için eksi puanlar alırken; kan bağışlama, gönüllü sosyal sorumluluk projelerine katılma ve şehre yatırım çekme gibi iyi davranışlar için artı puanlarla mükafatlandırılıyorlar. Yurt dışına çıkma yasağı, tren kullanmaya müsaade edilmemesi, çocukların bazı okullardan ret yemesi, hükümet kadrosunda ve büyük bankalarda işe alınmama gibi birçok sonuçla karşımıza çıkan bu sosyal sıralama sistemi, bugün hala bazı bölgelerde pilot olarak deneniyor olsa da 2020 yılından itibaren tüm Çin’de uygulanmaya başlanması söz konusu. Şu an yaklaşık 170 milyon kamera ile yürüyen sisteme 2020 itibariyle 400 milyon daha kameranın eklenmiş olması bekleniyor.
Here’s a dystopian vision of the future: A real announcement I recorded on the Beijing-Shanghai bullet train. (I’ve subtitled it so you can watch in silence.) pic.twitter.com/ZoRWtdcSMy
— James O’Malley (@Psythor) 29 Ekim 2018
Buradaki habere göre 2018 yılında Çin mahkemeleri, National Public Credit Information Center’ın (Ulusal Toplum Kredi Bilgi Merkezi) bilgileri ışığında vatandaşların 17,5 milyon kez uçak bileti, 5.5 milyon kez ise tren bileti almasını yasakladı.
Çin’in halkına hem dijital hem fiziksel dünyada ne denli ciddi bir baskı uyguladığını biliyoruz. Yapay zeka ile suçları önceden tespit etmeye yönelik bir gözetleme sistemi olan Cloudwalk, KFC gibi mekanlarda da sürekli yüz tanıma sistemlerinin kullanılması, ilkokullarda öğrencileri her saniye takip edecek bir sistemin kurulması, Google’ın Çin için özel hazırlamakta olduğu sansürlü arama motoru Dragonfly ve daha birçok örnek ile Çin’in bu alandaki ünü giderek artıyor. Ancak bugün yadırgadığımız ve yargıladığımız baskıcı Çin’in gelecekte sahip olacağımız yaşamların kısa bir tezahürü olduğunu söyleyebiliriz.
Devletin veya bir yapay zekanın insanları sürekli takip ederek puanlamasının psikolojik çıktıları bir yana, bu bilgilerin hacklenmesi, istenmeyen 3. Partilerle paylaşılması gibi birçok evham verici ihtimal daha bulunuyor. Bunun gibi korkularımızı blockchain teknolojisi ve iyi niyetli yapay zeka çalışmaları bir nebze de olsa azaltıyor. Neler olacağını hep beraber göreceğiz.
Bu da ilginizi çekebilir: [button color=”red” size=”normal” alignment=”center” rel=”follow” openin=”newwindow” url=”https://www.gelecekburada.net/samsungun-yapay-zekasi-tek-fotograf-ile-sahte-video-olusturabiliyor/”]Samsung’un Yapay Zekası Tek Fotoğraf ile Sahte Video Oluşturabiliyor[/button]
