Yüz Tanımayı Alt Eden Yıkıcı Teknolojiler

Veri gizliliğine dair endişelerimizin her geçen gün yeni bir boyut kazandığı dijital dönüşüm günlerinde, tanıklık ettiğimiz her yeni teknolojik gelişme bizleri heyecanlandırdığı kadar sorgulamaya yönlendiriyor. Evimizden dışarıya adım attığımızda değil evimizin içerisindeyken bile izleniyor olabilme ihtimali her birimizi düşündürüyor. Tüm bu endişeler arasında sıklıkla gündeme gelen konulardan biri de yüz tanıma sistemleri ve beraberinde getirdikleri oluyor.

Her ne kadar güvenlik amaçlı geliştirilseler de güvenlik açıklarına mahal vermesinden korkulan yüz tanıma sistemleri beraberinde bu sistemleri alt etme mekanizmalarını getiriyor. Takım arkadaşlarımızın içeriklerinin yanı sıra yeni gelişmeleri paylaşacağımız içeriğimizle, geçmişten bugüne ve hatta geleceğe yapacağımız yolculuğa hazır olun!

Telefonlarımızdaki Yüz Tanıma Sistemlerini Aldatmak Mümkün mü?

Bugüne değinmeden önce bir nevi zaman yolculuğuna çıkarak sizleri 2018’e götürmek istiyorum. 3D yazıcılar ve yüz tanıma sistemlerine odaklandığımız içeriğimizde bir gazeteci olan hacker Thomas Brewster’ın akıllı telefonların yüz tanıma sisteminin ne kadar güvenilir olduğunu anlayabilmek için başlattığı çalışmasını paylaşmıştık. Bu çalışmada 3D yazıcılar başroldeydi.

Thomas Brewster’ın kafası bir 3B tarayıcıyla -50 kameranın bulunduğu bir stüdyoda- tarandı ve gereken düzeltmeler yapıldıktan sonra alçı tozunu kullanan 3 boyutlu baskı yöntemiyle üretildi. Sonrasında ise sıra bu kafanın ne kadar işe yarayacağını denemeye geldi. Önce android işletim sistemine sahip telefonları deneyen editör, hızlı mod ve daha güvenli mod gibi farklı değişkenlerin de dahil olduğu birkaç deneme yaparak tüm telefonları sahte yüz ile açmayı başardı ancak sıra iPhone X’e geldiğinde durum pek de öyle olmadı.

–Hasan Hüseyin Kesen’in “3B Yazıcı ile Yüz Tanıma Sistemlerini Kandırmak Mümkün” başlıklı yazısından bir kesit

Bu durum iPhone kullanıcılarının içine su serpmiş olsa da bunun değişebilir bir durum olabileceğini hatırlatmakta fayda var. Dijital dünya son hızla dönüşüme uğrarken yarının neler getirebileceğini öngörmek bir hayli zor oluyor. Nitekim korkulan oldu desek yeridir. Siber güvenlik firması Bkav’a göre, Apple’ın yeni yüz tanıma sisteminin maskelere veya fotoğraflara aldanmayacağına dair açıklaması doğru değil. Bkav hackerlarından ve araştırmacılarından oluşan bir ekip, Face ID yazılımını kandırmak için sadece 150 dolar maliyet ile 1 haftalık çaba sonucunda 3D baskı maske üretebildiklerini açıkladı.

Filmlerden Gerçeğe

“Görevimiz Tehlike” filminden hatırlayacağınız ajan Ethan Hunt’ın rakiplerini kandırmak için giydiği lateks yüzleri hatırlıyorsunuzdur. 3D baskı sayesinde filmlerdeki kadar hızlı üretilemese de bu yüz maskeleri gerçek oldu. Oregon merkezli ThatsMyFace gibi şirketler, yüzlerin gerçeğe yakın modellerini oluşturmak için 3D baskı kullanıyor.

Bu kapsamda bir siber güvenlik şirketi tarafından yapılan testte, maskelerin en son yüz tanıma kilit açma teknolojisiyle telefonları kandırabilmenin mümkün olduğunu gösterdi. Aslında bu gelişmenin alt mesajına bakacak olursak kimliğinizi çalmak, Facebook profilinizden birkaç fotoğraf almak kadar basit olabilir. Bu da yine fotoğrafları değiştirmek ve onları ThatsMyFace’e göndermek kadar basit. Şirket, 3D baskı maskeler üretmek için reçineli bir 3D yazıcı kullanarak biyometrik sistemlerin de kandırılabileceğini öngörüyor.

Peki tüm bunlar güvenlik sistemleri için ne anlama geliyor? Gerçek gibi görünen 3D baskı bir maske bazı güvenlik sistemlerini kandırmayı başarsa da sınırları aşmak veya binalara girmek söz konusu olduğunda her şey bu kadar kolay olmayabilir. “Canlılık kontrolleri” olarak tanımlayabileceğimiz iris tarayıcıları ve termal görüntüleme bu o kadar kolay kandırılamaz.

V for Vendetta’dan Algoritmalarla Mücadeleye

Her yerde bulunan yüz tanıma sistemleri öncelikle kişisel veri gizliliğimiz noktasında ciddi bir tehdit olarak nitelendiriliyor. Paylaştığımız fotoğrafların şirketler tarafından ticari olarak satılan algoritmaları eğitmek için toplandığı fikri oldukça endişe veriyor. Birileri bu araçları satın alarak fotoğrafımızı çekebilir ve saniyeler içerisinde kim olduğumuzu öğrenebilir. Tam da bu tehlikeden yola çıkan araştırmacılar akıllıca bir yol geliştirdi. Chicago Üniversitesi araştırmacıları tarafından geliştirilen Fawkes, yüz tanıma sistemlerini kandırmak için fotoğraflarınızı ustaca değiştirmek noktasında yapay zekâdan faydalanıyor.

Adını V for Vendetta çizgi romanında ve filminde devrimciler tarafından takılan Guy Fawkes maskelerinden alan Fawkes yazılımının çalışma şekli biraz karmaşık. Fotoğraflarınızı Fawkes uygulaması üzerinden değiştirmek sizi yüz tanıma sistemlerine karşı tam olarak görünmez yapmıyor. Bunun yerine, fotoğraflarınızda ince değişiklikler yaparak gelecekte bu görüntüleri tarayan herhangi bir algoritmanın sizi tamamen farklı bir kişi olarak görmesini sağlıyor. Bir başka ifadeyle, fotoğraflarınızda Fawkes kullanmak, selfielerinize görünmez bir maske eklemek gibi oluyor.

Örneğin yüz tanıma sistemleri sağlayan bir firma olan Clearview AI yabancıları tanıyabilmek amacıyla veritabanı oluşturabilmek için Facebook, YouTube ve Venmo gibi sitelerden yaklaşık üç milyar yüz resmi topladığını iddia ediyor. Eğer çevrim içi yayınladığınız fotoğrafları Fawkes üzerinden paylaştıysanız korkmanıza gerek yok; algoritmaların taradığı yüz sizin yüzünüz olmayacaktır. Araştırmacıların “gizleme” olarak adlandırdığı bu süreç sosyal medyadan toplanan yüz tanıma verilerinin elde edilmesine engel olmayı ve kaynakları bozmayı amaçlıyor.

-Nur Kardelen Ay’ın Fawkes, Yüz Tanıma Sistemlerine Yapay Zekâyla Engel Oluyor başlıklı yazısından bir kesit

Yüz Tanıma İstasyonlarının Başı Dertte

Yine yıllar önce sizlere yapay zekâ şirketi olan Kneron’un geliştirdiği yüz maskeleri ile Çin’de yüz tanıma istasyonlarını kandırmayı nasıl başardığını aktarmıştık. Yapılan deneyler sonucu AliPay ve WeChat istasyonlarında sahte yüz ile kolayca ödeme yapabilen ekip, bir başka deneydeyse tren istasyonunda kimlik kartını okuturken yine aynı maskeyle turnikeyi geçebildi. Bu sayede 3D baskı teknolojisinin yüz tanıma sistemleriyle olan mücadelesinin ilk örneklerini görmeye başlamıştık.

“Bir maske ile bu devasa teknolojinin güvenlik bariyerlerinin aşılabilmiş olması, yüz tanıma teknolojisinin henüz uzun bir gelişme sürecine sahip olduğunu gösteriyor. Ve bir de hâlâ çözüme kavuşmamış yasal düzenlemeler, gelişmelere yön verebilir.”

-Öykü Selen Uysal’ın “Maske ile Yüz Tanıma Sistemlerini Aldatmak Mümkün Mü?” başlıklı yazısından bir kesit

Güvenlik Açıkları ile Gündeme Gelen Deepfake Teknolojisi

Deepfake veya mevcut bir videodaki bir kişiyi alıp başka birinin benzerliği ile değiştiren yapay zekâ tarafından oluşturulan videolar, büyük bir hızla çoğalıyor. Deeptrace girişimine göre, web’deki deepfake sayısı Ekim 2019’dan Haziran 2020’ye kadar %330 artarak 50.000’in üzerine çıktı. Yaygınlaşan deepfake araçları kişileri bir suça bulaştırmak, aktörlerin pornografik görüntülerini oluşturmak ve dolandırıcılık gibi faaliyetler için kötüye kullanıldığından oldukça endişe verici bir hale geldi. Tüm bu olumsuz durumlar deepfake teknolojisinin ticari yüz tanıma hizmetlerini kolaylıkla kandırabileceği bir noktaya ulaştığını gösteriyor.

Arxiv.org’da yayınlanan bir makaleye göre Güney Kore, Suwon’daki Sungkyunkwan Üniversitesi araştırmacılar, Microsoft ve Amazon’dan gelen API’lerin yaygın olarak kullanılan deepfake yöntemleriyle kandırılabileceğini ortaya koydu. Araştırmacılar, yüz tanıma teknolojisinin API’sinin deepfake olan taklitçiyi gerçek kullanıcıdan ayırt edemediğini varsayarsak, bu durumun birçok mahremiyet, güvenlik açığı riskine ve ayrıca çok sayıda dolandırıcılık vakasına neden olabileceğini vurguluyor.

Deepfake teknolojisi nedeniyle videoların gerçekliğini tespit etmek zorlaşıyor

Katman Katman Üretilen Savunma Mekanizması

Auckland Üniversitesi Eklemeli Üretim Profesörü Olaf Diegel ve öğrencileri birçok deney ve proje üzerinde çalışıyor. Yakın zamanda başladıkları projelerden biri de 3D baskı teknolojisi olarak bildiğimiz eklemeli üretimle birlikte yüz tanıma sistemlerini sınamak oldu. Olaf Diegel, Mimaki 3DUJ-553 3D yazıcı ve 3D tarama kullanarak yüz tanıma sistemini kandırıp kandıramayacağını görmek için yüzünün bir kopyasını çıkardı. Mikron katman kalınlığı da dahil olmak üzere standart kalite modunu kullanarak akrilik yüzü ve diğer iki modeli 11 saatte üretti.

Bu işlemi takiben, çözünür balmumu destek malzemesinin çoğunu elle kazıyarak yaklaşık bir saat ultrasonik temizleme banyosunda bekletti. Ardından destek malzemesinin son parçalarını temizlemek için sert bir fırça ile fırçalarken soğuk suyla duruladı. Son olarak, yaklaşık 3 veya 4 kat çok mat vernik (%45 mat) kullanarak vernikleyerek gözleri biraz parlasın diye parlak vernikle elle boyadı. Tüm bu uğraşlar sonucundaysa ürettikleri bu 3D baskı yüz, bir bilgisayar yüz tanıma sistemini kandırmayı başardı.

Pandemi, Yüz Tanıma Teknolojisi için Tehdit Yaratıyor mu?

Covid-19’la birlikte hayatımıza giren maskelerin yüz tanıma sistemlerinin işlerliği konusunda yaratacağı problemleri test etmek amacıyla Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bir ön çalışma başlattı. Panasonic ve Samsung’un da dahil olduğu 89 yüz tanıma algoritması analiz edilerek algoritmaların 1 milyon kişinin görüntüleri üzerindeki performansları incelendi.

“Görüntülerde kişilerin burnu, ağzı ve yanakları dijital olarak maskelenerek algoritmalara sunuldu. Yüz tanıma sistemlerinin doğruluk oranına bakıldığında dijital maskelerin doğruluk oranını azalttığı görüldü. Test edilen 89 yüz tanıma algoritmasının en iyisinin bile bir kişinin dijital olarak uygulanan yüz maskeli ve maskesiz görüntüsünün eşleştirilmesinde %5 ile %50 arasında hata oranları saptandığı açıklandı. Doğruluk oranını etkileyen faktörlerden birisi de kullanılan maskenin şekli ve rengi. Algoritmaların yuvarlak maskelerin kullanıldığı görüntülerde daha iyi çalıştığı görülürken, koyu renkli maskelerin açık renkli maskelerden daha az doğru sonuçlara neden olduğu gözlemlendi.”

-“Maskeler Yüz Tanıma Teknolojisine Karşı Siper Olabilir mi?” başlıklı yazımdan bir kesit

Yıkıcı teknolojilerle ilgili bir savunma mekanizması olmasa da bu araştırmayı da sizlerle paylaşarak sıradan olarak nitelendirebileceğimiz bez maskelerin bile yüz tanıma sistemlerini nasıl uğraştırdığını paylaşmak istedik. Asıl endişeyse yüz tanıma sistemi yazılımlarını zor duruma sokan salgın günlerinin bu sistemleri her zamankinden daha güçlü hale getirebilecek olması. Tüm bunları tartışırken yeni normalle birlikte yüz tanıma sistemlerinin hayatımızda daha da yaygınlaşabileceğini de unutmamak gerekiyor. Madalyonun öteki yüzünde temastan kaçınmaya çalıştığımız bir dönemde yüz tanıma sistemlerinin desteğine sığınılması yatıyor.

Yüz Tanıma Sistemi “Yeni Normal”de Nasıl Bir Rol Oynayacak?

“BBC, NEC’in Tokyo merkezindeki bir mağazada otomatik ödemeler için yüz tanıma sistemini denediğini vurguluyor. Covid-19 ile birlikte insanların temastan kaçınmaya çalıştıkları günümüz dünyasında, yüz tanıma sistemleri gibi temas gerektirmeyen teknolojilerin diğer alanlarda daha çok yaygınlaşacağını ve daha önemli bir hâle geleceğini öngörebiliriz. Yeni normale uyum sağlamak için geliştirilen teknolojileri göz önünde bulundurduğumuzda, şu anda sadece telefonlarımızda bulunan yüz tanıma ile ödeme onaylama, sesle denetim gibi teknolojilerin alışveriş, bankacılık gibi alanlar ile birlikte yakın gelecekte hayatımız üzerindeki etkinliğini giderek artırabileceğini söyleyebiliriz.”

-Can Duru’nun “Yeni Normale Uyumlu Yüz Tanıma Teknolojisi” başlıklı yazısından bir kesit

Birçok alanda karşımıza çıkan yüz tanıma sistemleri endişeler yaratmaya devam edecek mi henüz bilemesek de dün ve bugün olduğu gibi gelecekte de bizlerle olmayı sürdüreceğe benziyor. Ön göremediğimiz güvenlik açıkları kısmını bir kenara koyacak olursak sistem geliştiricilerinin bu toplumsal boyuta ulaşan sorunları göz ardı etmemesi gerektiği aşikâr.