Covid-19 Mart 2020’de Avrupa’yı vurduğunda; otonom sistemler, sokağa çıkma yasakları gibi önlemler ile salgının önüne geçilmesi amaçlanmış olsa da devletlerin sağlık sistemleri çökme noktasına gelmekten kurtulamadı. Türkiye için de bu durum geçerliydi; yer kalmayan hastaneler, koridorlarda uzun kuyruklar bekleyen insanlar bu krizin ciddiyetini bize gösteriyordu.

Hollanda’nın önde gelen araştırma üniversitesi Maastricht’de olaylar hakkında tahmine dayalı araçlar üzerine çalışan epidemiyolog Laure Wynants, salgının en hızlı yayıldığı ve sağlık sisteminin çökmeye başladığı dönemlerde doktorlar ile diğer sağlık çalışanlarının bu hastaları nasıl yöneteceklerine dair hiçbir fikrinin olmadığını belirtiyor.

Sağlık bakanlığına göre Hindistan, 15 Nisan günü rekor sayıda 200.739 Koronavirüs vakası bildirdi, 200.000'i aşan vaka sayıları üzerine Delhi hükümeti başkentte hafta sonu sokağa çıkma yasağı ilan etti ve hastaları tedavi eden hastaneler ciddi yatak ve oksijen kıtlığı bildirdi. Doktorların sonuçlarını öngöremediği bu mücadele fotoğrafta göründüğü üzere perişan durumda hastalar ve yüksek ölüm rakamları ile sonuçlandı.
Sağlık bakanlığına göre Hindistan, 15 Nisan günü rekor sayıda 200.739 Koronavirüs vakası bildirdi. 200.000’i aşan vaka sayıları üzerine Delhi hükûmeti başkentte hafta sonu sokağa çıkma yasağı ilan etti. Covid-19 merkezi olarak kullanılan hastaneler ciddi yatak ve oksijen kıtlığı bildirdi. Devletlerin, sağlık bakanlarının ve doktorların sonuçlarını öngöremediği bu mücadele fotoğrafta görüldüğü üzere perişan durumda hastalar ve yüksek ölüm rakamları ile sonuçlandı.

Covid-19’da Yapay Zekâ

2020 Ocak ayında ortaya çıkan virüs, resmî kurumlara göre bir süre boyunca Çin sınırları içinde kalmıştı. 11 Ocak’ta ilk virüs kaynaklı ölüm gerçekleşirken 13 Ocak’ta ilk defa Çin dışında bir ülkede, Tayland’da, küresel bir salgın olma boyutuna ulaştı. Virüs, yaklaşık 4 ay sonra tüm Avrupa’yı etkisi altına almayı başarmıştı. Devletler ile sağlık çalışanlarının bilinmeyen bir virüs yüzünden elleri kolları bağlıydı. ​​Ancak iyi bir yönünden bakmak gerekirse pandemiyi yenme yarışına dört ay önceden başlayan Çin’den gelen veriler doktorlara tedavi konusunda ışık tutuyordu. Teknoloji çağında olduğumuz için verilerin olduğu bir yerde yapay zekâ ve makine öğreniminin olmazsa olmaz ikili olduğunu biliyoruz.

Araştırmacıların incelemelerine göre doktorların enfekte kişilerde gördüklerini anlamalarına ve karar vermelerine yardımcı olmak için Çin’e ait veriler ile makine öğrenimi algoritmaları eğitilebilseydi, birçok kişinin hayatı kurtarılabilirdi. 

“Yapay zekânın yararlılığını tüm dünyaya kanıtlayabileceği bir zaman varsa, o zaman şimdidir diye düşündüm. İçimde birçok umut yeşermişti ve bu fırsat için heyecanlıydım.” – Laure Wynants

Maalesef bu fırsat düşünüldüğü gibi değerlendirilemedi. Bunun arkasındaki nedenleri içeriğimizin devamında konuşacağız ama şimdiden başarısızlığın nedeninin efor eksikliği olmadığını belirtmeliyiz. Yapay zekâ üzerine araştırmalar yapan topluluk, hastanelerin hastaları daha hızlı teşhis etmesine ve doktorların ihtiyaç duyduğu erken tanı desteğini sağlayabilecek bir yazılımı hızlıca geliştirmeyi amaçlamıştı. Ancak bu durum uygulamaya geçemeyerek sadece teoride kaldı.

Bu acelenin sonunda, aralarında neredeyse hiçbir fark bulunmayan onlarca hatta yüzlerce ‘Koronavirüs özel tanı aracı’ geliştirildi. Ancak önemli bir nokta vardı ki, bu sistemleri besleyen 4 aylık çok kısıtlı veri olmasından kaynaklanan potansiyel olarak zararlı yazılımlar bulunuyordu. Bir diğer deyişle; “Yapay Zekâyı Tanıyalım: Sağlık Hizmeti” gibi birçok içeriğimizde detaylı bir şekilde iyi taraflarından bahsettiğimiz yapay zekâ, yanlış teşhisten kaynaklı insanların hayatlarını kaybetmesine sebep olabilirdi.

Geliştirilen Sistemlerdeki Ortak Konular

İngiltere’nin ulusal veri bilimi ve yapay zekâ merkezi olan Turing Enstitüsü, haziran 2020’nin sonlarında düzenlediği birkaç araştırma sonucu çıkan tartışmaları ve sonuçları özetleyen bir rapor yayınladı. Raporda genel olarak geliştirilen yapay zekâ sistemlerinin Koronavirüs dönemine etkileri ve toplum için sağladığı kolaylıklardan bahsediliyordu. Ne yazık ki rapor araştırmacıların umduğunun aksine, yapay zekânın Covid-19’a yardımda başarılı olduğu sonucunu desteklemiyordu. Araştırmacılar, Koronavirüs ile mücadelede yapay zekâ araçlarının çok az etkisi olduğunu, hatta bazı sistemlerin hiçbir katkısı olmadığını belirtiyor.

Rapor genel olarak üç konudan bahsediyor:

  • İlk olarak; geliştiriciler zamanında, sağlam, ayrıntılı, standartlaştırılmış ve belgelenmiş verilere erişimde zorluk yaşadıklarını bildirdi. Ayrıca, araştırmacıların aynı verilere ulaşma konusunda eşit imkânı olmaması ve bazı araştırmacıların verilere daha kolay erişmesi ayrıcalıklı bir durum yaratıyordu.
  • İkincisi; pandemi, önceden var olan eşitsizlik ve dışlanma gibi toplumsal sorunları vurgulayarak veri biliminin ve yapay zekânın bunları hafifletmede veya şiddetlendirmede büyük rolü olduğunu gösterdi. Geliştiriciler, azınlık etnik ve sosyoekonomik gruplarla ilgili veri eksikliği ile bunlarla etkileşim, araştırma topluluğu ve karar alma kuruluşları içindeki çeşitlilik eksikliği konusundaki endişelerini dile getirdi. Sağlık sektöründe ön yargılı yapay zekâlar mı?
  • Üçüncüsü; Koronavirüs, araştırmacılara algoritmalardaki ön yargı konusunda halkla şeffaf bir şekilde iletişim kurmanın hem önemini hem de zorluğunu gösterdi. Geliştiriciler daha iyi iletişimin, veri ve araştırmanın yanlış kullanılma veya yanlış yorumlanma olasılığını azaltmada anahtar olduğu konusunda aynı fikri destekliyor.

Algoritmalar Klinik Kullanımına Uygun Değil

Wynants’in baş yazarlığını yaptığı ve British Medical Journal’da yayınlanarak yeni araçlar piyasaya sürüldükçe ve mevcut araçlar test edildikçe halen güncellenen araştırmalar, sistemlerin klinik kullanımına uygun olmadığını ve bundan dolayı kullanıcılarla buluşamayacağını belirtiyor. Wynants’in araştırma ekibi, incelemeler sırasında enfekte olan hastaları teşhis etmek veya hastalığı olanların durumunun ne kadar kötüye gidebileceğini tahmin etmeyi amaçlayan 232 algoritmaya detaylıca baktı ancak sistemlerden hiçbirinin klinik kullanıma uygun olmadığını buldu. İnceleme yapılanlardan sadece ikisi (yanlış duymadınız başarılı olanlar tüm sistemlerin %1’inden az), gelecekteki testler için yeterince umut verici olarak seçildi.

Araştırma sonunda birçok testin kırmızıda olduğunu yani risk oranının yüksek olduğunu görebiliyoruz. Bu veriler bizim henüz bu teknolojinin çok başında olduğumuzu ve bahsettiğimiz üzere verilerin yetersiz olduğunu doğruluyor. Kim risk oranı yüksek bir yapay zekâ tarafından tedavi edilmek ister ki?
Araştırma sonunda birçok testin kırmızıda olduğunu yani risk oranının yüksek olduğunu görebiliyoruz. Bu veriler bizim henüz bu teknolojinin çok başında olduğumuzu ve bahsettiğimiz üzere verilerin yetersiz olduğunu doğruluyor. Kim risk oranı yüksek bir yapay zekâ tarafından tedavi edilmek ister ki?

Sadece Wynants’in çalışması sistemlerin kullanılamaz olduğu sonucuna ulaşmadı. Aynı zamanda İngiltere’nin önde gelen üniversitelerinden Cambridge Üniversitesi‘nde makine öğrenimi araştırmacısı olan Derek Driggs ile ekibi tarafından yürütülen ve İngiltere merkezli araştırma dergisi Nature Machine Intelligence‘da yayınlanan bir başka önemli inceleme sonuçları büyük oranda destekliyor.

Bu araştırma ekibi, göğüs röntgeni ve göğüs bilgisayarlı tomografi (BT) taramaları gibi tıbbi görüntülerden Koronavirüs teşhisi başarı oranı ile hasta riskini tahmin etmek geliştirilen derin öğrenme modellerini karşılaştırdı. Geliştirilmiş 415 araca bakıldığında Wynants ve ekibi gibi hiçbirinin klinik kullanıma uygun olmadığı sonucuna varıldı. İki ekibin detaylı incelemesi sonucunda ulaşılan bu olumsuz sonuçlar, bizleri yapay zekâ hakkında düşünmeye sevk ediyor. Sağlık alanı gibi hayati sistemler için erken olabilir?

“Bu pandemi, AI ve tıp için büyük bir testti. Halkı bizim tarafımıza çekmek için uzun bir yol kat etmiş olurduk ama bu testi geçtiğimizi sanmıyorum.” – Pandemi sırasında doktorlara yardımcı olmak için bir makine öğrenimi aracı üzerinde çalışan Driggs

Hâlâ Umut Bulunuyor

Wynants ve Driggs her ne kadar Koronavirüs görevinde başarısız olsa da yapay zekânın yardım etme potansiyeline sahip olduğuna inanıyor. Bu inançlarının yanı sıra algoritmaların yanlış şekilde inşa edildiğinde tanıları atlayabileceği veya hassas hastalar için riski hafife alabileceğinden sonuçlarının insanlık için çok zararlı olabileceği konusunda endişe ediyorlar.

Aşıya alerjiniz bulunduğu hâlde yapay zekâ bunu tespit edemediği için bir yakınınızı aşıladı ve bunun sonucunda aşılanan kişi vefat etti. Bu duruma karşı ne yapardınız? Veya gelecekte bu olaylara karşılık sistemleri suçlama yetkimiz olacak mı? Belki de yapay zekâlar bağımsızlığını ilan ederek devletler tarafından dokunulmaz olur, kim bilir.
Aşıya alerjiniz bulunduğu hâlde yapay zekâ bunu tespit edemediği için bir yakınınızı aşıladı ve bunun sonucunda aşı olan kişi vefat etti. Bu duruma karşı ne yapardınız? Gelecekte bu olaylara karşılık sistemleri suçlama yetkimiz olacak mı? Belki de yapay zekâlar bağımsızlığını ilan ederek devletler tarafından dokunulmaz olur, kim bilir.

Hatalardan Kim Sorumlu

Geliştiriciler ve sistemlerden gerçekçi olmayan beklentiler, bu araçların henüz hazır olmadan kullanılmasını teşvik edebilir. Wynants ve Driggs, inceledikleri algoritmalardan birkaçının zaten hastanelerde kullanıldığını ve bazılarının özel geliştiriciler tarafından zararlı olup olmadığına bakılmaksızın pazarlandığını söylüyor. Wynants, bu sistemlerin hastalara zarar vermiş olabileceğini ve derhal sistemlerin kullanımdan kaldırılması gerektiğini belirtiyor.

Şu ana kadar bu sistemlerin hastalara zarar verebilmiş olabileceğini göz önünde bulundurursak bu hatalardan kim sorumlu olabilir? Sonuçta yapay zekâlar kendi kendine düşünerek aksiyon alıyor ve bu şekilde karar verebiliyor. Ancak başka bir açıdan baktığımızda ise sonuç olarak bu sistemleri bir insan geliştiriyor. Elon Musk’ın da belirttiği üzere yapay zekâyı suçlamak doğru olmayabilir. Şu an için bu sistemlere özel olarak yasalar geliştirilmeye çalışılıyor olsa da henüz net bir durum belirlenemedi. Bu durum algoritmaların sağlık gibi önemli alanlarda kullanılmasının etikliği hakkında tartışmaya sebep oluyor.

Koronavirüs döneminde yapay zekânın hastaları teşhis etmek için kullanılamamasının iyi bir tarafı varsa o da pandeminin birçok araştırmacıya yapay zekâ araçlarının oluşturulma şeklinin değişmesi gerektiğini açıkça gösteriyor olması diyebiliriz. Wynants, “Pandemi, algoritmalarda bir süredir sürdürdüğümüz sorunları ön plana çıkardı ve bizleri değişime sürekledi” diyor. Peki sistemleri geliştirirken neler yanlış gitti? Bu yanlışları nasıl düzeltebiliriz? Yazımızın ikinci bölümü “COVID-19 Başarısızlığına AI Çözümü” başlıklı içeriğimizde bu konuları ele alacak ve yapay zekâyla iç içe olduğumuz güzel bir geleceği hedefliyor olacağız.

Kaynak: Technology Review

Share:

administrator

Robert Kolej’de 9. sınıf öğrencisi olan Can, yapay zekanın ve kodlamanın içinde bulunduğu projelerde yer almayı seviyor. Kendini geliştirmek için programlar kodluyor ve uygulamalar hazırlıyor. Ayrıca, ekonomi alanına da ilgi duyuyor ve borsayı takip etmeyi seviyor. Yeni şeyler öğrenmeye ve araştırmaya karşı isteği, onun geleceği araştırmasını ve bu konular hakkında yazılar yazmasını sağlıyor.

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir