Yapay zekâ girişim firması olan Synthesized, piyasaya çıkardıkları yeni platform ile teknoloji şirketlerinin yapay zekâ projeleri için kullandıkları verilerdeki ön yargıyı tespit edip, azaltmayı amaçlıyor. Veri ön yargısı, genellikle çok büyük veri kümeleri kullanılarak eğitilen yapay zekâ modelleri söz konusu olduğunda büyük bir sorun haline geliyor. Bu ön yargı, bir veri kümesinin belirli öğelerinin diğerlerinden daha fazla önemsenmesi veya daha yaygın temsil edilmesi ile ortaya çıkıyor. Ön yargılı bir veri kümesi kullanan modeller, veriyi işlerken ve analiz ederken yanlış çıkarımlarda bulunabiliyor. Bu da çarpık sonuçlara, düşük doğruluk seviyelerine ve analitik hatalara neden olabiliyor.
Yapay Zekânın Kötü Eğitilmesi
Daha güvenilir sonuçlar elde edebilmek için doğal dil işlemeden sorumlu yapay zekâ modellerinde kullanılan eğitim verilerinin gerçek dünyayı daha iyi temsil etmesi gerekiyor. Bu veriler aslında makinelerin işlerini yapmayı nasıl öğrendiklerini gösterdiği için önem kazanıyor. Kötü veya ön yargılı bir eğitim verisi ile öğrenmeye başlayan bir algoritma veya yapay zekâ destekli bir uygulamanın, bu öğrenilmiş ön yargıyı sonradan kendi kendine gidermesi çok güç olabiliyor. Bu yüzden bu tür kötü eğitilmiş uygulamaların sisteme gelen yeni verileri analiz ederken ön yargılı olmasının önüne geçilemeyebiliyor.
Synthesized’in yeni “Ön Yargı Azaltma” aracı cinsiyet, yaş, ırk, din ve cinsel yönelim gibi özelliklerde verilerde yanlışlıklara yol açabilecek ön yargıya ilişkin çok çeşitli yasal ve düzenleyici tanımları anlamak için tasarlandı. Tasarlanan platform ayrıca yeniden dengeleme olarak adlandırdığı bir süreçle bulduğu ön yargıları otomatik olarak ortadan kaldırabiliyor. Bu yöntem sayesinde kötü eğitilmiş olan uygulamalar yeniden tasarlanmak yerine kolayca unbiased (ön yargısız) hale getirilebiliyor.
Synthesized’in platformu, ön yargıları bulup verilerden kaldırabilen özel bir algoritmaya dayanıyor. Ön yargılı veriler tanımlandıktan sonra, yapay zekâ modellerini daha doğru bir şekilde eğitmek için kullanılabilecek tamamen yeniden sentezlenmiş ancak ön yargısız bir veri kümesi oluşturmak için orijinal, ön yargılı veri kümesinde rastgele değişiklikler yapıyor. Bu rastegele değişiklikleri uygulama kendisi otomatik olarak yapabildiği gibi kullanıcı manuel olarak sürece dahil olabiliyor.
Tamamen Ücretsiz
Synthesized’in aracını kullanmak için kullanıcıların web sitesine kaydolmak ve analiz sürecini başlatmak için Excel elektronik tablosu gibi yapılandırılmış bir veri dosyası yüklemesi gerekiyor. Synthesized, Amazon Web Services, Microsoft Azure, Oracle veya Google Cloud gibi platformların kullandığı veri tabanlarını kontrol ve analiz etmek için kullanılabilir. Platform, analiz yapıldıktan sonra sentezlenmiş, veri kümesinin yüzde kaçının ön yargılı veriler içerdiğini gösteren ve sapmanın tespit edildiği veri alanlarını vurgulayan bir Sentezlenmiş Toplam Adillik Puanı sağlıyor.
“Tüm kuruluşların itibarı ön yargılı veriler nedeniyle tehdit altında ve ön yargılı uygulamaların artık hiçbir düzeyde tolere edilemeyeceğini gördük.” – Synthesized’in kurucusu ve İcra Kurulu Başkanı Dr. Nicolai Baldin
Synthesized firması “Ön Yargı Azaltma” aracının kredi derecelendirmelerini oluşturmak için kullanılan finansal veriler, talepleri değerlendirmek için kullanılan sigorta verileri ve işe alma süreci sırasında ön yargıyı belirlemek için insan kaynakları verileri dahil olmak üzere hemen hemen her tür veri setini analiz edebildiğini söyledi. Çin’de 2014 yılında başlayan ve vatandaşların devlet tarafından puanlanmasını kapsayan “Sosyal Kredi Sistemi’ ve benzeri uygulamaların güvenilirlilik puanlarını arttırmak için Synthesized platformu kullanılabilir. Bu sayede yaptırımı olabilecek geniş veri analizlerine kamuoyunun güveni artırılabilir.
Ücretsiz Ön Yargı Azaltma aracı, Synthesized’in daha geniş veri hazırlama platformunun bir parçası olarak karşımıza çıkıyor. Şirket, veri sağlama ve veri hazırlamayı otomatikleştirirken aynı zamanda düzenlemelere uyum sağlayan eksiksiz bir yapay zekâ tabanlı araç setleri sunuyor.
Ön Yargısız Sosyal Medya
Synthesized’in “Önyargı Azaltma” aracı, ücretsiz sunduğu hizmet sayesinde birçok uygulamanın kötü eğitimden veya farklı nedenlerden ötürü belirli azınlıklara karşı ön yargılı olmasının önüne geçebilir. İnternet sitelerinde birçok veri seti eş zamanlı olarak işlendiği için her verinin ön yargısızlığını test etmek bu sitelerin sahipleri için zor olabilir. “Ön Yargı Azaltma” aracı, algoritmanın bütün veri setini tarayıp ön yargıyı düzelttiği gibi algoritmanın kötü eğitimden kaynaklanan sorunlarını da çözebiliyor. Geçtiğimiz günlerde Twitter, kullandığı ırkçı algoritma yüzünden kamuoyundan büyük tepki görmüş ve bu sorunun farkında olmadıklarını, en kısa zamanda çözeceklerini duyurmuştu. Twitter gibi saniyede yüz binlerce tweet atılan bir platformda algoritmanın bu verileri %100 doğruluk ile algılaması şu an kullanılan teknolojiler ile zor görünürken, “Ön Yargı Azaltma” aracı tam olarak Twitter gibi büyük verilerle uğraşmak zorunda olan firmaların farkında bile olmadığı sorunları çözmeyi ve uygulamaların kullandığı algoritmaları eğitmeyi planlıyor. Aracın kullanımının yaygınlaşması ile birlikte ön yargıdan arınmış bir internetin yaratılması mümkün olabilir.
Kaynak: AINEWS
