Yapay zekânın en sık kullanılan algoritmalarından birisi olan makine öğrenimi için geliştiricilerin milyonlarca örnek görsele ihtiyaç duyduğundan daha önce bahsetmiştik. Yani Amerika’da insan yüzü tanıyan bir sistem geliştirmek isteyen bir şirketin farklı ten renklerinden ve yüz tiplerinden (çekik gözlü vs.) milyonlarca fotoğrafa ihtiyacı var.
Öte yandan yıllardır geliştirilen yapay zekâların siyahi insanlara karşı ön yargılı ve genelde cinsiyetçi olduğuna dair örneklerle de sık sık karşılaşmıştık. Yani, Amerika’nın kanayan yarası olan ırkçılık konusu yapay zekâ konusunda da geri kalmayarak konuyu sıcak tutmayı ‘başardı’.
Google, Pixel 4 için geliştirdiği yüz güvenlik sisteminin iyi çalışabilmesi için örnekler toplamak üzere Randstad isimli bir şirket ile anlaştı. Ancak farklı şehirlerde sokağa inen Randstad çalışanları evsiz siyahi insanların fotoğrafını (taramasını) 5 dolarlık hediye kartı karşılığında çekmekle kalmayıp üzerine bir de sorular karşısında yalan söyledi.
New York Daily News’in haberine göre; Randstad çalışanları evsiz insanların yönelttiği “video mu bu?” sorularını ise “pek de sayılmaz” gibi cevaplarla geçiştirirken taramanın amacını “mini-oyun”, “selfie oyunu” gibi yansıtmışlar. Evsiz insanların fotoğraflarının kullanılması için onaylaması gereken rıza sözleşmeleri ise okumaya fırsat verilmeden, acele ile imzalatılmış.
Özetle; Google yaşanan ‘ırkçı’ sorunları aşabilmek için anlaştığı bir şirketin yanlış metodları yüzünden tekrar ırkçı ve sınıfçı durumuna düşmüş.
Kaynak: Futurism