“Bir şirket dünyaya yeni bir teknoloji kazandırığında sonuçlarını düşünme sorumluluğuna sahiptir. Amazon, çalıştığım yer, şu sıralar ülkedeki polis merkezlerinin yüz tanıma servisi Rekognition’ı almasına izin veriyor veriyor ve benimle birlikte diğer çalışanlar bunun derhal durdurulmasını talep ediyoruz” diyor Bir Amazon Çalışanı.

Birkaç hafta önce 450’yi aşkın çalışan tarafından imzalanan bir dilekçeyi şirketin kurucusu Jeff Bezos ve diğer yetkililere ulaştırdıklarını söyleyen anonim yazar, Bezos’un tüm bu kötü kullanımların farkında olduğunu ancak böyle Amazon’un nasıl aksiyon alacağına dair bir açıklama yapmak yerine toplumun buna nasıl karşılık vereceğini/bağışıklık göstereceğini görmek için beklemeyi tavsiye ettiğini söylüyor.

“Amazon beklerse, zararı geri almanın zor olacağını düşünüyoruz.”

Endişelerinin gelecekte farklı bir şirket tarafından hazırlanan teknolojiler olmadığını belirten yazar Amazon’un şu an tasarladığı, pazarladığı ve sattığı sistemin kitle gözetleme konusunda yeterince tehlikeli olduğunu vurguluyor. Amazon’un sistemi aynı anda on milyonlarca insanın yüzünü tarayabilir ve depolayabilir. ,

Emniyet güçleri, hemen hemen hiç kamu gözetimi yapılmadan, herhangi bir karşı görüş alınmadan ve kısıtlama olmaksızın Amazon’dan aldığı yüz tanıma sistemini kullanmaya başladı. Orlando, Florida  şehir etrafında gözetleme kameralarından canlı video beslemeleri ile Rekognition’ı test ediyor. Oregon’daki bir şerif departmanı şu anda alandaki memurların fotoğraflarını bir mugshots veri tabanına göre karşılaştırmak için Rekognition’ı kullanıyor.

Bu farazi bir söylem değil diyor, Bir Amazon Çalışanı.

Yazının devamında tarihte de görüldüğü üzere gözetleme sistemlerine hizmet eden teknolojilerin hepsinin kötü niyetle kullanıldığını ve dahası, bugünkü gözetleme algoritmalarının siyahi insanlara ırkçılık yaptığını da hatırlatıyor. Daha önce de bahsettiğimiz gibi, kullanılan birçok yapay zeka siyahi insanlarda hata veriyor veya olağan şüpheli olarak görüyor.

“Amazon liderlik değerleri hakkında çok konuşuyor. Eğer lider olmak istiyorsak, insanlar ve kârlar arasında seçim yapmalıyız. Tehlikeli gözetleme sistemlerini polise satar ya da doğru olan için ayağa kalkarız. İkisini aynı anda yapamayız.”

Geçtiğimiz günlerde Google’ın, yapay zeka prensiplerine uymadığı gerekçesi ile Pentagon’un Joint Enterprise Defense Infrastructure (JEDI) yarışmasına katılmayacağını açıklaması ve Microsoft çalışanlarının da Employees of Microsoft (Microsoft Çalışanları) ismiyle yine Medium üzerinden JEDI yarışmasına katılmamasını istemesi bize gösteriyor ki şirket çalışanları şirket politikaları konusunda söz sahibi olma hakkını korumakla birlikte yeni sistemlerin ne kadar ciddi bir zarar verebileceğini görüp, bu konuda bir başkaldırı içine girebiliyorlar. Çin’in geçtiğimiz hafta yasalaştırdığı ve Uygur Türklerine baskı için kullanacağı gözetleme sistemleri de bu çabalara bir anlam kazandırıyor.

“Oluşturduğumuz teknolojilerin zarara veya insan acılarına yol açmayacağı beklentisiyle, insanlar ve toplum üzerinde olumlu bir etki yaratmak için Microsoft’a katıldık.”

Share:

administrator

1997’de Nevşehir-Ortahisar’da doğdu. Marmara Üniversitesi’nde Basım Teknolojileri eğitimi görüyor. Gazeteciliğe ve doğru bilgi alma hakkına inanan Hasan, bir Onaran olarak sosyal inisiyatifin ve eğitimin gücüne inanıyor, geleceğin nerede olduğunu araştırıyor.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir