Yapay zekâ teknolojisinin adı gizlilik tartışmaları olmadan anılmaz hale geldi. Bu alandaki her yeni gelişme yeni bir güvenlik sorunuyla gündemi meşgul ediyor. Kafalardaki soru işaretleri hiçbir zaman tam olarak silinmiyor. Geçtiğimiz günlerde bu soru işaretlerinin yersiz olmadığını kanıtlarcasına, Telegram uygulaması çok konuşulacak bir skandalla gündeme geldi. Deepfake içerikleri izleme şirketi Sensity, Telegram’da aralarında reşit olmayanların da bulunduğu bazı kadınların çıplak görüntülerini oluşturarak kullanıcılara gönderen bir [tooltip tip=”En temel anlamıyla verilen görevi yerine getiren programlara verilen isimdir. İnternet sitesi içeriklerine ulaşmaktan, gündelik e-posta gönderen uygulamalara kadar geniş bir yelpazesi olan sanal asistanlardır”]bot sistemi[/tooltip] sistemi olduğunu keşfetti. Şirketin yayınladığı rapora göre, 680 binden fazla kadının fotoğrafını oluşturan yapay zekâ uygulaması, kullanıcıların istediği kadınların fotoğrafını para karşılığı oluşturuyor. Daha korkuncu ise bota erişimi olan bazı Telegram kanalları, Temmuz 2020’nin sonunda yaklaşık 101.000 üyeye ulaşmış.

Sistem çok basit bir prensiple çalışıyor; kullanıcılar çıplak versiyonlarını elde etmek istedikleri kadın fotoğraflarını, Telegram üzerinden bota gönderiyor. Bot, deepfake teknolojisini kullanarak kadınların gerçek olmayan görüntülerini hazırlıyor. Ayrıca, fotoğrafların ‘instagram pornosu‘ içerikleri üretmek için kullanıldığı da belirtiliyor.

Yapay Zekâ Sahte Görüntüleri Nasıl Oluşturuyor?

Kullanıcıların gönderdiği kadın fotoğrafları bota yollandıktan sonra yapay zekâ bu fotoğrafların kıyafetsiz bir versiyonunu üretiyor; burada kaynak yapay zekânın tahmin gücüne dayanıyor. Bot, geçen yıl Haziran ayında ortaya çıkan “DeepNude” adlı bir yazılımın açık kaynaklı bir sürümünü kullanıyor. Kullanıcılar, fotoğraflar karşılığında ödeme yapmadan önce bot, onlara fotoğrafın filigranlı bir versiyonunu gönderiyor.

Şirket raporda, kadınların fotoğraflarının genelde sosyal medya hesaplarından alınmış olduğunu söylüyor. Bir insanın sadece sosyal medya hesabınıza sağlayacağı erişimle, çıplak fotoğraflarınızı oluşturabilecek olması, dahası bunu instagram pornosu içeriklerinde kullanabileceği ihtimali tüyler ürpertici. Rapora göre, bota erişimi olan kanalların üyelerinin %70’i, Rusya ve eski [tooltip tip=”1992’ye kadar varlığını korumuş Sovyet Sosyalist Cumhuriyetler Birliği”]SSCB[/tooltip] ülkelerinden olduğu ayrıca ABD, Avrupa ve Latin Amerika dahil dünyanın her yerinden insanlar bulunduğu söyleniyor.

DeepNude Nedir?

Bu kavramla ne yazık ki ilk kez karşılaşmıyoruz. DeepNude herhangi bir kadının fotoğrafının tek tıkla çıplak hale getirilmesini sağlayan bir yazılım denilebilir. Sinir ağları kullanılarak oluşturulan uygulamayla, bir kadın fotoğrafının “gerçeğe en yakın” kıyafetsiz versiyonu oluşturuluyor. Daha çok deri parçasının göründüğü, daha açık kıyafetlerin olduğu fotoğraflardan daha iyi sonuçlar alınıyor ve uygulama sadece kadınlar üzerinde çalışıyor. Uygulamanın ücretsiz sürümünde filigranlı şekilde gösterilen cinsel kısımlar ücret karşılığında tam sürümüyle size ulaşıyor. Fotoğrafın sol üst köşesinde sahte olduğunun belirtildiği bir işaret bulunuyor.

Uygulama, geçtiğimiz yıl popülerleşmesinin ardından eleştirilerin odağı olmuştu. Programın adı duyulmaya başladıktan sonra yaşanan yoğunluktan dolayı site saatler içinde çökmüştü. Sonrasında uygulama kendi geliştiricileri tarafından kapatılmış, yapılan açıklamada sadece eğlenmek için açtıkları siteden, bu yolla para kazanmak istemediklerini belirtmişlerdi. DeepNude uygulamasının bazı kopyalarına erişimin devam edebileceğini, fakat onları satan tarafın kendileri olmayacağını söyleyerek eleştirileri bir nebze kırmaya çalışmışlardı.

DeepNude geliştiricilerinin uygulamayı kapatırken yayınladığı açıklama

Fakat görüyoruz ki, uygulamanın geliştiricilerinin dediği gibi farklı kopyaları mevcut ve yaygın olarak kullanılan sosyal haberleşme ağlarıyla bu botlara kolayca erişim sağlanabiliyor. Düşündürücü bir başka detay ise Stanford Üniversitesi Elektrik Mühendisliği ve Bilgisayar Bilimleri’nde profesörlük ve Yapay Zekâ Laboratuvarı’nda müdürlük yapan Andrew Ng’nin yapay zekânın en “iğrenç” uygulamalarından biri olarak nitelendirdiği ve yapay zekâ camiasının gücünü dünyayı ileri taşıyacak alanlara yönlendirmesi gerektiğini öğütlediği konuda DeepNude geliştiricilerine hukuki hiçbir yaptırım uygulanmamış olması.

Korkunç Olan Yapay Zekâ mı İnsan mı?

Yapay zekâ teknolojilerinin gelişimi, sahte fotoğraf ve video oluşturmak isteyenler için bir araç olmaya başladı. Bu tarz fotoğraf ve video uygulamalarında, genellikle DeepFake teknolojileri kullanılıyor. Söylemediğiniz şeyleri söylemiş, yapmadığınız eylemleri yapmış, giymediğiniz kıyafetleri giymiş ya da daha korkuncu giydiğiniz kıyafetleri giymemiş gibi görünebiliyorsunuz. Tüm bunları mümkün kılan yapay zekâ fakat tüm bunların sorumlusu insan zekâsı. DeepNude gibi bir uygulamayla gündeme gelen yazılımcılar kendilerini savunmak için amaçlarının sadece eğlence olduğunu belirtmişlerdi. En iyimser bakış açısıyla farklı bir eğlence anlayışları olduğuna ikna olsak bile, uygulamanın suistimal edileceğini ve birçok kadının mağdur olacağını öngörememiş olmalarına nasıl ikna olacağız?

Bu yazılımın kurbanı olmaktan kaçınmanın ne yazık ki bir formülü yok. Çünkü sizin onayınız ve bilginiz dışında çalışan bir oluşumdan söz ediyoruz. Düşünmesi tüyler ürpertici olsa da, şuan dünyanın bir ucunda sadece sosyal medya hesaplarınıza erişim sağlayabilen biri fotoğraflarınızın çıplak versiyonlarını kolayca elde edebilir ve siz tanımadığınız, bilmediğiniz bir düşmanla savaşamazsınız.

Baştaki sorumuza dönecek olursak, yapay zekâ sapkın gericiliklere alet olmuş bir araç mı, yoksa bir araç olmanın ötesinde korkulması gereken bir güç mü? Tüm dünyanın tartıştığı fakat halen net bir cevap bulamadığı meşhur soru… Fakat, belki de bu soruyu kısa bir süre için rafa kaldırmak gerekiyor. Belki, Andrew Ng’nin öğütlerine kulak kapartıp yapay zekâyla alakalı sorularımızın odağını değiştirir ve enerjimizi daha doğru alanlara yönlendirirsek, başka sapkın uygulamaların geliştirilip insanlara resmi olarak sunulamayacağı bir atmosfer yaratabiliriz. Kadına ve mahremiyet haklarına bu denli net bir saldırıya yapay zekâyı alet etmek ve bundan çekinmemek cesaretini hiçbir yazılımcı gösteremez. Yapay zekâ mesleklerimizi elimizden mi alacak, bizleri köleleştirecek mi, insanlığın sonunu mu getirecek senaryolarından önce kafa yormamız gereken ciddi kişisel mahremiyet sorunlarımız var gibi gözüküyor. DeepNude uygulaması ilk kez resmi olarak tanıtıldığında, gördüğü ilginin yanında önemli isimlerin eleştirilerini almasaydıı; şuan halen resmi uygulama kullanılabiliyor olabilirdi. Bu sebeple, şimdilik yapay zekânın sınırlarını ve gücünü sorgulamaya ara verip, kullanıldığı alanları dikkatle takip etmek, gerektiğinde onaylamak, gerektiğinde tepki vermek daha akıllıca olabilir. Yapay zekâsız bir gelecek hayal etmek güç gözüküyor, ama hayatlarımıza nasıl ve ne kadar etki edeceği konusunda bizler, bilinçli davranarak bir etki yaratabiliriz.

 

Kaynak: MIT Technology Review

Share:

administrator

Bilkent Üniversitesi İşletme Fakültesi 3. sınıf öğrencisi olan İpek, organizasyonların çalışma yapılarını inceleyen projeler içinde yer almayı seviyor. Ayrıca yeni tarifler denemekten ve bunları paylaşmaktan büyük keyif alıyor. Paylaşmak demişken, Gelecek Burada'da hem kendisi öğreniyor hem de öğrendiklerini ve düşündüklerini çoğaltmak için yazıyor

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir