Yüz tanıma sistemlerinin ve takip teknolojilerinin yaygınlaşması ile kamusal alanlardaki birçok hareketimizin izlendiğini biliyoruz. Sürekli izleniyor olma hissi ve her hareketimizin kayıt altına alındığını bilmek psikolojik olarak tedirgin olmamıza yol açıyor. Yüz tanıma sistemleri ve takip teknolojilerinin yarattığı bu tedirginlik duygusu bir yandan da suç oranlarının düşmesinde büyük bir rol oynuyor. Yakalanma riskinin yüksek olduğunu bilen bir suçlu o suçu işlemekten vazgeçebiliyor ve bu sayede suç daha gerçekleşmeden önlenebiliyor.
Algoritma suç işleyenleri analiz edebiliyor
Bu teknolojilerden alınan verilerin sistemde işlenmeye başlanması ile birlikte yüz tanıma yazılımları tüm dünyada yaygınlaşmaya başladı. Bu sistemler sessizce çalışarak tespit ettiği her yüz hakkındaki verileri toplayarak, kolayca erişilebilen bir veri tabanında depoluyor. Kullanıcı bir yüzü belirleme seçeneğine sahip olarak bu veri tabanına erişebiliyor. Bu özellik sayesinde bir kişi sistem tarafından algılandığında algoritma otomatik olarak bu kişinin geçmiş hareketlerini değerlendirebilecek ve o kişi hakkında alarm verebilecek. Bu sayede daha önce suç işlemiş olan kişiler sistem tarafından kolayca analiz edilebilecek.
Güvenlik kameralarının bu özelliğini bir üst noktaya taşımaya hazırlanan Rus teknoloji firması NTechlab, kameraya gelen verilerin bir algoritma tarafından otomatik olarak analiz edilmesini sağlayan bir yazılım geliştirdi. Aynı zamanda Rusya’nın gerçek zamanlı yüz tanıma sisteminin de yapımcısı olan NTechlab, geliştirdiği algoritma ile kameralar aracılığıyla birinin saldırgan bir tutumda olup olmadığını veya saldırganlık gösterme ihtimalini 1 saniyenin altında bir zamanda tespit edebiliyor. Sistem kişinin şiddet uyguladığını veya uygulamak üzere olduğunu düşündüğünde bu kişiyi ‘saldırgan’ ya da ‘şiddete eğilimli’ olarak işaretliyor.
NtechLab, günümüzde sadece Moskova şehrinde aktif olarak kullanılan bu sistemi 2021 yılına kadar dünya çapında yaygınlaştırmayı planlıyor. Forbes’un raporuna göre Rusya ve adı duyurulmayan bir Orta Doğu ülkesinden 15 milyon doları bulan yatırım alan şirket; Latin Amerika, Orta Doğu ve Asya ülkelerinde faaliyetlerini genişletmeyi hedefliyor.
NtechLab’ın kurucu ortağı Alexander Kabakov, “En büyük avantajımız, çözümümüzün her büyüklükteki şehir için gerçekten ölçeklenebilir olması.” diyor ve sistemlerinin bir metropolde yüz binlerce kamerayla eş zamanlı bir şekilde çalışabileceğini ekliyor.
Kameradan gerçek zamanlı olarak yüz tanıma teknolojisine sahip olan algoritma bir kişiyi değerlendirirken hata yapma payına sahip, saldırgan olmayan ancak anlık olarak saldırganlık gösteren birini de sistem, otomatik olarak “şiddete eğilimli” olarak işaretleyebiliyor. Bu durum keskin yüz hatlarına sahip sert mizaçlı bireylerin yanlış değerlendirilmesine neden olabilir.
AI Now araştırma enstitüsünün kurucu ortağı ve Google’ın Açık Araştırma Grubu’nun kurucusu Meredith Whittaker daha önce Forbes’a şunları söylemişti:
“Birinin iç özelliklerinin ve duygularının, fizikselliği veya eylemleriyle düzenli ve evrensel bir şekilde eşleştiği tezi henüz kanıtlanmadı.”
Ortak kurucu Artem Kukharenko, sistemin bireyleri işaretlerken “%100 emin” olması gerektiğine dikkat çekerken, bu tür endişeler yüzünden NtechLab’ın dünya çapında aktif kullanımı için acele etmediklerinin altını çizdi. Ayrıca şirketin kurucuları, NtechLab’ın Rusya menşei göz önüne alındığında, teknolojinin ABD veya İngiltere’de aktif olarak kullanılma olasılığının düşük olduğunu kabul ediyor.
Yapay zekâ ırkçılık konusunda sınıfta kalabilir
Algoritma ve yapay zekânın yazılımsal sorunlardan kaynaklı olarak ırkçılık yaptığına daha önce Twitter ve birkaç bağımsız araştırmada şahit olmuştuk. Irkçılıkla şuçlanan algoritmaların çoğu siyah ve beyaz bireylerin yüzlerini algılamada teknik sorunlarla karşılaşıyor. Bu konuda çalışma yapan Bilgi Sistemleri Araştırma Görevlisi Lauren Rhue, NBA oyuncularının 400 fotoğrafındaki duyguları ölçmeye çalıştı. Sonuç olarak siyah oyuncuların sürekli olarak beyaz oyunculardan daha “kızgın” olduğunu buldu.
“Yüz tanıma teknolojileri, siyah ve beyaz yüzleri benzer şekilde değerlendirene kadar, siyah insanların negatif değerlendirmelerden kaçabilmesi için olumlu yüz ifadelerini abartmaları gerekebilir -esasen daha çok gülümsemek- gerekebilir.” – Lauren Rhue
Twitter’ın kullandığı resim kırpma algoritmasının da siyahi bireylerin yüzlerini tanımada sıkıntı çektiği biliniyor. NtechLab de kullandığı algoritmada benzer bir sorunla karşılaştığını açıkladı. Kullanılan yüz tanıma sisteminin ırksal olarak daha koyu tenli kişilerde daha kötü performans göstermeye meyilli olduğunu ve bu sorunu çözmeye çalıştıklarını dile getiren firma yetkilileri, algoritmanın bu kişilerin duygularını okumakta zorlandığını belirtiyor. Sistemin böyle bir ön yargısının olması sistemden çıkan verilerin güvenirliliğini sorgulatıyor.
NtechLab ve benzeri firmaların yüz tanıma teknolojileri toplum güvenliğini sağlamak için kullanılabilir. Şu anda Moskova’da kamu güvenliğini sağlamak için aktif olarak kullanılan algoritmanın Ocak ayının ilk on gününde 34 “suçlu” nun yakalanmasına yardım ettiği açıklandı. Bu gibi örneklerin çoğalabilmesi için öncelikle algoritmanın belli azınlıklara karşı ön yargılı olmadığının kanıtlanması gerekiyor.
Twitter’ın resim kırpma algoritmasının yapmış olduğu ırkçılık, ırkçılığa maruz kalan bireyler üzerinde cezai bir yaptırıma sebep olmuyor ancak emniyet birimleri ile eş zamanlı olarak çalışması planlanan yüz tanıma sistemlerinin yapması muhtemel bir ırkçılığın çok daha ağır sonuçları olabilir.
ABD gibi ülkelerde polis şiddeti ve ırkçılığı tartışmaları tekrar alevlenmişken, sonuçlarında ön yargılı olan bir algoritmanın kullanılması sistemsel ırkçılığa hizmet edebilir. Saldırganlık tespit sistemleri kamuya açık alanların dışında özel şirketlerin güvenlik departmanları tarafından da kullanılabilir. Bankalar, havaalanları, hastaneler, eğlence merkezleri ve devlet kurumlarında güvenirliliği kanıtlanmış bir yüz tanıma sistemi ile azami güvenlik sağlanabilir.
Aslında suçun aksiyona dökülmeden önce tespit edilmesi fikri bu alanda çalışmaların başlamasından çok daha önce dile getirilmişti. Steven Spielberg’in yönettiği “Azınlık Raporu” (Minority Report) filmi 2054 yılında Washington’da suçu önlemeye yönelik bir sistemin kurulmasını konu ediniyor. Kâhin özelliği bulunan ve suç daha düşünce aşamasındayken görüntüleri kaydeden “Pre-Cog”lar Adalet Bakanlığı’na bağlı olarak çalışır. Pre-coglar, görüntüledikleri insanların bu suçu işleyip işlemeyeceklerine bakmaksızın onları yakalayıp cezalandıran suç önleyici bir polis organizasyonudur.
NtechLab’in geliştirdiği bu sistem ile Azınlık Raporu filmindekine benzer bir suçun daha işlenmeden önüne geçme imkanı günümüzde hayata geçirilebilir.
Suçlu kim?
“Innocent until proven guilty?“ yani suçluluğu ispatlanana kadar herkes suçsuzdur yaklaşımı, tartışmalara yol açacaktır. Bir şuç işlenmeden önce de şuç olarak kabul edilmeli midir? Bu sorunun cevabını ülke bazında hukukçular farklı yorumlayabileceği için olası bir NtechLab güvenlik sisteminin her ülkede farklı bir şekilde kullanılması beklenebilir.
Örneğin, ülkemizde sağlık çalışanlarına yönelik şiddet her geçen gün artıyor ve bu konuda güvenlik önlemleri yeterli olmuyor. NtechLab’ın geliştirdiği algoritma benzeri gerçek zamanlı yüz tanıma gözetim sistemleri ile bu tür olayların önüne geçebiliriz. Kameralardan “saldırgan” veya “şiddete meyilli” olarak işaretlenmiş bireylerin hastanelerden çıkarılması ve güvenlik güçleri tarafından alıkonulması sağlık çalışanlarına olan şiddet vakalarını azaltmada etkili olabilir.
Avustralya’dan bir kamu spotu! Eğer bir doktora hemşireye veya sağlık çalışanına saldırmanın normal olduğunu düşünüyorsan sana bunu tekrar düşünmen için 14 yıl veriyoruz pic.twitter.com/pQ4xpSjcgQ
— Engin Bas (@enginbas) September 28, 2020
Sistemin vücut sıcaklığı ya da kimlik doğrulaması gibi başka bir değerlendirme özelliğiyle entegre olmamasından dolayı yüz ve mimik hareketlerine dikkat eden saldırganlar bu güvenlik sistemini basit bir şekilde aşabilir. Denetleme teknolojileri ne kadar gelişse de bu saldırıları teknoloji ile önlememiz zor görünüyor. Şiddeti önlemek için öncelikle o şiddetin sebepleri üzerine sosyolojik ve psikolojik araştırmalar yapılması gerekiyor. Ardından toplumda saldırganlık ve şiddet üzerine eğitimler ve konferanslar verilmesi, bu konu hakkında toplum ve kamuoyunun bilinçlendirilmesi daha isabetli olabilir.
Kaynak: OneZero
