Hem günlük yaşam standartlarımızın artması ve teknolojinin hayatımıza keyif katması açısından hem de suçla savaş açısından geleceğimiz için önemli bir çözüm yolu sunacak olan [tooltip tip=”Facial Recognition”]yüz tanıma[/tooltip] sistemleri gün geçtikçe gelişiyor ancak şu an için oldukça ilkel bir sorunu var. Irkçılık.

MIT Media Lab ile Microsoft’ta çalışan bir [tooltip tip=”Timnit Gebru “]araştırmacı[/tooltip] tarafından yapılan araştırmaya göre; makine öğrenimi algoritmaları, yani yapay zeka, açık tenli erkekleri çok kolay tanıyabilirken koyu tenli kadınlarda zorlanıyor ve hata oranı yükseliyor.

Bir bilim konferansında sunulmak üzere oluşturulan ve Fitzpatrick Skalası hakkında bilgiler vermek için derlenen 1270 kadar insanın fotoğrafını kullanarak; IBM, Microsoft ve Face++’ın her birisinden cinsiyet tespiti yapması istenmiş ve yapay zeka algoritmaları koyu tenli kadınlar konusunda ciddi bir sıkıntı yaşamış. Her bir uygulamadan fotoğraflar arasındaki en açık tenli erkeği bulması istendiğinde Microsoft tamamen başarılı olurken IBM’de hata oranı 0,3 % olarak görülmüş. Ancak konu koyu renkli kadınlara gelince Mircosoft’un algoritmaları %21, IBM ve Face++’ın algoritmaları ise %35 hata oranı ile hayal kırıklığına uğratmış.

Sadece bu araştırmadan elde edilen verilerle yapay zekayı yargılamak pek doğru bir tutum olmayabilir ancak yaklaşık 3 yıl önce Google Fotoğraflar’ın iki siyahi insanı “Goril” olarak etiketlemiş olması, 2016’da Amerika’da başlatılan uygulama ile birlikte 16 eyalette yüz tanıma sistemi kullanan emniyet güçlerinde afro amerikanlarla ilgili absürt rakamların oluşması ve Google Çeviri’nin Türkçe-İngilizce çeviri yaparken doktor, şoför gibi anahtar kelimeleri “He” yani eril; hemşire, dadı gibi kelimeleri de “She” yani dişil olarak çeviriyor olması da yukarıdaki tezi destekler nitelikte.

Çünkü ‘biz’ ırkçıyız.

 

 

Makine öğreniminin; kendisine örnek olarak verilen binlerce ve belki milyonlarca veriyi örnek alarak öğrendiğini ve yeni elde ettiği verileri de önceki bilgiler sayesinde değerlendirebildiğini düşünürsek; yapay zekanın bu konuda herhangi bir suçu yok çıkarımını yapabiliriz. Google Çeviri’nin birkaç yıl önce Makine öğrenimi ve derin öğrenme ([tooltip tip=”Nöral ağlar”]neural network[/tooltip]) tabanlı bir altyapıya geçtiğini ve artık insanlar çeviri yaptıkça veya google ekosistemine dahil oldukça sistemin de gelişeceğini duyurduğunu biliyoruz. Yani eğer doktor dendiğinde “he” olarak çeviri elde ediyorsak bunun sebebi Türklerin Google’da ve belki diğer platformlarda doktor ve erkek anahtar kelimelerini daha fazla eşleştiriyor olmalarıdır. Eyalet polislerinin sistemindeki karışıklık ve yukarıdaki araştırmaya konu olan 3 uygulamadaki eksikliği ise datasette (yani uygulamaya daha önce öğretilen-gösterilen fotoğraflar) çok daha fazla açık tenli erkeğe yer verirken, siyahi kadınların fotoğraflarının daha az olması sebep olmuş olabilir.

IBM bu konuda; ay sonuna doğru yeni bir uygulama çıkaracağını söylemiş ve mevcut uygulamasını farklı bir datasetle tekrar deneyerek bu sefer “daha koyu tenli kadınları bulma” konusunda %3.5 hata oranı yakalamış. Ancak, sonuçları açık tenlilerle karşılaştırdığımızda tabii ki hâlâ tatmin edici değil.

Araştırmacı ekip, kullanılan datasetleri tüm geliştiricilerin kullanabilmesi için ücretsiz olarak paylaşacak.

Geçtiğimiz günlerde; mevcut yapay zeka algoritmalarının gelecek için pek de yeterli olmadığını iddia eden bir içerik sunmuştuk; bahsi geçen araştıma ise yapay zeka konusundaki bu öngörüyü destekler nitelikte. Makinelerin seviye atlayarak ‘insanlığı yönetecek’ güce ulaşabilmesi için algoritmalar konusunda ciddi bir inovasyona ihtiyaç var gibi duruyor. Çünkü, mevcut algoritmalar ile insanlığın en ilkel güdülerinden birisi olan ırkçılık sorunuyla bile başbaşa kalabiliyoruz.

Bin yıllardır süren ırk probleminin gelecekte “Makine-insan” gibi bir ayrıma dönüşecek olması ise ilginç bir ‘tecrübe’ olacak gibi duruyor.

Not: İçerik başlığında kullanılan görsel tamamen temsilidir, içeriğe ait değildir.

Kaynak: Wired

Share:

administrator

1997’de Nevşehir-Ortahisar’da doğdu. Marmara Üniversitesi’nde Basım Teknolojileri eğitimi görüyor. Gazeteciliğe ve doğru bilgi alma hakkına inanan Hasan, bir Onaran olarak sosyal inisiyatifin ve eğitimin gücüne inanıyor, geleceğin nerede olduğunu araştırıyor.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir