Dünyanın birçok yerinde azınlıklara karşı olan ayrımcılığın hâlâ devam ettiğini görüyoruz. Cinsiyetinden ve ırkından dolayı insanlar aynı avantajlardan eşit düzeyde faydalanamayabiliyor. Peki bu durum ile yapay zekâ konusunda da karşılaştığımızı biliyor muydunuz? Düşündüklerinizi resme dökmenizi sağlamasından iklim değişikliği ile mücadeleye kadar birçok farklı alanda fayda sağlayan yapay zekâ, maalesef herkes için eşit düzeyde yarar sağlamıyor. Gelecekteki potansiyel suçluları tahmin etmekte kullanılması planlanan ve siyahi insanlara karşı ön yargılı olan yazılım gibi algoritmik ön yargıları ve daha önceki bir yazıda bahsettiğimiz Microsoft ve IBM’in ırkçılık yapan yapay zekâ uygulamalarını bu duruma örnek olarak verebiliriz.
Birçok kuruluş, son zamanlarda artmaya başlayan algoritmik ön yargıların önüne geçmek amacıyla büyük çaba sarf ediyor. Bunun için bir algoritmayı kullanmadan önce sonuçlarının ne olacağı veri biliminden yararlanarak tahmin ediliyor. Fakat bir algoritmanın sonucu, sadece algoritma tahminlerine bağlı kalmayarak işletmeler ve müşteriler tarafından nasıl kullanılacağına göre de değişiklik gösteriyor. Aynı zamanda algoritmanın kullanım yerlerinin belirlenmesinde de piyasa koşullarının dikkate alınması gerekiyor. Bu kritik durum ise genellikle göz ardı ediliyor. Eğer şu ana kadar okuduklarınızdan kafanız karıştıysa endişelenmeyin çünkü bir aydınlatıcı bir örnek ile devam edeceğiz.
Airbnb ve Yapay Zekâ
Son zamanlarda popülerliği artan bir uygulama olan Airbnb, ev sahiplerinin evlerinin tamamını veya belirli bir bölümünü kiralamasını sağlayan, yani bir nevi ev sahiplerini ve kiracıları bir araya getiren uygulamadır. Bu kiralama işlemleri yapılırken ev sahiplerinin Aribnb’de listelenen diğer evlerden, mevsimin ev kiralama alışkanlıkları üzerindeki etkisinden veya otel fiyatlarından haberi olması beklenemez. Bu durumda ev sahibinin gelirinin en üst düzeye çıkarılması amacıyla siteye girilen evi gözden geçirerek fiyatını otomatik olarak belirleyen yapay zekâ (AI) tabanlı bir akıllı fiyatlandırma geliştirildi. Ev için en uygun fiyatın belirlenmesine yardımcı olan akıllı fiyatlandırma sistemi ev sahiplerinin günlük gelirinin ortalama %8.6 civarında artmasını sağladı. Testlerde algoritma tam olarak istenen performansı göstererek algoritmayı benimseyen herkesin gelirini artırarak ırk ayrımından oluşan gelir farkını azalttı.
Şu ana kadar her şey yolunda gözüküyor. Peki o zaman problem nerede?
Test aşamalarında siyahi ev sahiplerinin gelirini daha fazla artırarak eşitsizliği ortadan kaldıran algoritma, gerçek dünyada denendiğinde hiç beklenmedik sonuçlar ortaya çıkardı. Siyahi insanların algoritmayı benimseme oranının azlığından dolayı ırkçılık nedeniyle oluşan gelir eşitsizliği azalmak yerine artmaya başladı.
Airbnb’nin bu problemleri önceden fark etmesi için neleri sorgulaması gerekiyordu?
- Airbnb ev sahipleri algoritmaya nasıl tepki verecek?
- Siyahi ev sahiplerinin bu algoritmayı benimsemesi nasıl teşvik edilebilir?
Bu soruların sorulması ile AI algoritma uygulanmasının sonuçları belirlenebilir. Bu sonuçlara örnek olarak mülk talebini ve kullanıcılara olan faydaları örnek gösterebiliriz.
AI Uygulamasının Hedef Kullanıcı Tarafından Algılanması
Airbnb’nin akıllı fiyatlandırması ile kullanıcıların günlük gelirinde artış yaşandı. Bunun sonucu olarak ise Airbnb kullanan bireyler arasındaki ekonomik eşitsizlik %71.3 oranında azaldı. O zaman sistemde herhangi bir sorun olmadığını düşünmemiz beklenebilir bir davranış. Fakat bu algoritmayı benimsemek istemeyenlerin de var olabileceğini unutmamalıyız. Siyahi bireylerin algoritmayı benimseme oranı %41 oranında daha azdı ve algoritmayı benimsemeyenlerin de istenmeyen bir durum olsa da diğer kullanıcılarla arasındaki kazanç farkı artmış oldu.
Bu durumun önüne geçmek için ne yapılmalı?
Airbnb, siyahi bireylerin de algoritmayı benimsemsi için ayrıntılı bir açıklama ve algoritmayı kullanmanın faydalarını anlatma yoluna başvurabilir. Ancak öncelike neden Airbnb’nin AI destekli algoritmasını en başta kullanmadıklarını inceleyebiliriz. Teknoloji kullanımı maliyetli olduğundan gelir durumunun da bu algoritmayı kullanma üzerinde bir etkisi olabileceğini düşünebiliriz. Fakat tek engel elbette bu değil. Teknoloji ücretsiz olsa bile daha önemli bir sorun ile karşı karşıyayız: Güven.
Firmaların alması gereken önlemler
Öncelikle, algoritmanın hedef kullanıcı tarafından nasıl algılanacağının kurgulanması gerekiyor. Bu, algoritma gerçek dünyaya taşındığı zaman göstereceği sonuçların tahmin edilmesine yarcımcı olur. Eğer azınlık dediğimiz ve eşitsizliğe uğrayan grup, algoritmanın kendilerine karşı ön yargılı olduğunu düşünürse kullanma oranı da aynı hızla düşer.
Bunun yanı sıra alınması gereken bir diğer önlem güven ortamı oluşturmak oluyor. Kullanıcıların AI algoritmasının ne anlama geldiğini ve nasıl çalıştığını bilmeleri gerekiyor. Eğer algoritmayı benimseme Airbnb örneğinde olduğu gibi isteğe bağlı ise özellikle yeterince temsil edilemeyen grupların algoritmayı anlamalarına ve güven ortamının sağlanmasına öncelik verilmesi gerekiyor.
Gün geçtikçe şirketler operasyonlarında ve hizmetlerinde AI tabanlı algoritmaları daha çok kullanmaya başlıyor. Bu durumda da kullanım oranının artması aşikar. Ancak şirketlerin dezavantajlı gruplara karşı ön yargılı sonuçların üretilmesinin önüne geçmek için daha fazla önlem alması gerekiyor.
Öyleyse diyebiliriz ki yapay zekânın eşitlik üzerinde gelecekte iki farklı etkisi olabilir: Eğer doğru uygulanabilirse insan ön yargılarını hafifleterek bunlardan kaynaklanan eşitsizliğe bir çare olabilir. Ancak yanlış uygulanırsa AI algoritmalarına karşı güveni zedeleyebilir.
Kaynak: Harvard Business Review
