Elon Musk ve Sam Altman’ın 2015 yılında yapay zekâ araştırmaları için kurdukları OpenAI tarafından geliştirilen [tooltip tip=”Generative Pre-trained Transformer 3 – Üretken Ön İşlemeli Dönüştürücü 3″]GPT-3[/tooltip] Temmuz ayında yayımlandı. İnsanların yazdığı yazılara benzer bir içerik oluşturmak için derin öğrenmeyi kullanan bu yeni dil modeli geliştirildiği günden bu yana binlerce dijital kitabı, Vikipedi’de bulunan tüm içerikleri, sosyal medyada paylaşılan neredeyse bir trilyon kelimeyi analiz ederek doğal dilin giriş ve çıkışlarını öğrenerek geçirdi.
Bir adım önde olmak
Yaklaşık üç yıl önce, Google’daki araştırmacılar ve OpenAI gibi önde gelen laboratuvarlar düzyazıdan öğrenen sinir ağları tasarlamaya başladı. GPT-3, kitaplar ve binlerce kişinin vikipedi makaleleri de dahil olmak üzere milyonlarca dijital düzyazıyı benzeri görülmemiş bir ölçekte analiz etti ve aylarca internette yayınlanan büyük miktarlı metinlerde, belirli kalıpları aradı. Bu şekilde bir sonraki kelimeyi tahmin etmeyi öğrendi.
Öyle ki GPT-3’e birkaç kelime yazıldığında, metnin devamının kapsamlı ifade edilmiş düşünceler ile tamamlandığına şahit olduk. Ancak bu özel beceriyi edinirken çok daha fazlasını öğrenen GPT-3, aylarca süren eğitim boyunca dijital kitap engininde, Vikipedi makalelerinde ve diğer çevrim içi metinlerde 175 milyardan fazla parametre ve dil modellerinin matematiksel temsillerini belirledi.
İster içerik yazalım, ister yazılım programı geliştirelim bu örüntüler karakterleri bir araya getirme şeklimizin matematiksel bir açıklamasını, yani dil haritamızı ortaya çıkardı. GPT-3 bu haritayı kullanarak, yapmak için tasarlanmadığı her türlü görevi gerçekleştirmeye başladı.
“İlginç şeylerle karşılaşacaksın”
Yeni girilen verileri kendi başına yeni bir dil oluşturmak için kullanan bu sistemin ünlü kişileri taklit edip edemeyeceğini merak eden 23 yaşındaki yazılımcı Mckay Wrigley; popüler bilim yazarı ve psikolog olan Scott Barry Kaufman’ın adını ve kendi belirlediği bir tartışma konusunu algoritmaya girdi. Sahte Kaufman’ın ele alması gerken soru şuydu:
“Nasıl daha yaratıcı oluruz?”
GPT-3, yani Sahte Kaufman anında yanıt verdi:
“Bence yaratıcı ifade, farklı bir dünyada büyümenin doğal bir yan ürünü. Dünya ne kadar çeşitli olursa, farklı insanlara, farklı fırsatlara, farklı yerlere ve farklı zorluklara o kadar çok maruz kalırsınız. Bu ne kadar çeşitli olursa, yeni bir şey oluşturmak için noktaları bir araya getirme olasılığınız o kadar artar. Birçok yönden, yaratıcı olmak istiyorsanız, bunun için ilerlemeniz gerektiğini düşünüyorum. Yazar olmak istiyorsan yazmak zorundasın, müzisyen olmak istiyorsan müzik yapmalısın, komedyen olmak istiyorsan mizah yaratmalısın ve ne kadar çok yaratırsan muhtemel o kadar ilginç şeylerle karşılaşacaksın.”
https://twitter.com/mckaywrigley/status/1295465559719518209?s=20
GPT-3’ün bir amacı var mı?
GPT-3, tanıtıldığından bu yana Mevlana’nın şiirini tamamlaması, birçok dili tercüme etmesi ve röportaj yapabilmesi gibi bizleri şaşırtacak birçok şey üretti. İnsan dilinin belirsizliklerini anlayabilen ve hatta belki de diğer insan becerilerinin üstesinden gelebilen makinelere doğru beklenmedik bu gelişme pek çok yapay zekâ araştırmacısını hazırlıksız yakaladı.
Evrensel dil modelleri olarak bilinen bu sistemler, haber makalelerini otomatik olarak özetleyen hizmetler ve çevrim içi sohbet için tasarlanmış ‘sohbet robotları’ gibi çok çeşitli araçların çalıştırılmasına yardımcı olabilir. Şimdiye kadar teknoloji üzerindeki etkileri küçük olsa da [tooltip tip=”GPT-2, Turing-NLG”]önceki sistemlere[/tooltip] göre çok daha geniş bir çevrim içi metin koleksiyonuna hakim olan GPT-3, yeni akıllı telefon uygulamalarının geliştirilmesini hızlandırabilen yazılımlar veya uzak mesafelerde sürdürülebilen sohbetler gibi çok çeşitli yeni olasılıkların kapısını aralıyor.
GPT-3 tercüme için kullanılıyor
Yazılım geliştiriciler, girişimciler, uzmanlar ve sanatçılar bu tür bir teknolojinin gerçekten zeki makinelere giden bir yol olabileceğini söylerken, kimileri bu deneylerin sonsuz derecede büyüleyici olsa da yanıltıcı olduğunu savunuyor.
Modelin anlaşılır, kulağa makul gelen metinler üretmede çok iyi olmasına rağmen önceden düşünememesi ve ne söyleyeceğini planlayamaması onu gerçek bir amaçtan mahrum bırakıyor.
Mükemmel değil ama mükemmele çok yakın
Silikon Vadisi mobil ödeme şirketi Square’de ürün tasarımcısı olan Jordan Singer, şirketin akıllı telefon uygulamalarının görünümünü ve hissini tanımlayan grafikleri, menüleri, düğmeleri ve diğer araçları oluşturmasına yardımcı oluyor. Tasarımcı GPT-3’ü duyduğunda bu otomatik sistemin kendi işini yapıp yapamayacağını denemeye karar verdi.
Sisteme sade bir İngilizce kullanarak herhangi bir akıllı telefon uygulamasının basit bir tanımını ve uygulamayı oluşturmak için gereken bilgisayar kodunu verdi. Tasarımcı Instagram’da bir kullanıcının yapacağı gibi fotoğrafları yayınlamak ve görüntülemek için basit bir uygulama tasvir etti. Birkaç saniye sonra GPT-3 tasvir edilen uygulamayı kodlamıştı bile. Bu kod, bazı kusurlarına rağmen tasarımcının bir veya iki ince ayar yapmasıyla istediği gibi çalıştı.
Design → description ✨
A GPT-3 × Figma plugin that describes your design to you. pic.twitter.com/iUCj2dyhKv
— Jordan Singer (@jsngr) August 15, 2020
Tamamen yeni olan bu davranış GPT-3 geliştiricilerini bile şaşırttı. GPT-3’ü Kaufman gibi yazmak, tweet atmak veya dilleri tercüme etmek için inşa etmedikleri gibi bilgisayar kodu üretmek için de inşa etmemişlerdi. Algoritmayı sadece tek bir şey yapmak için inşa etmişlerdi: girilen kelimenin devamını bir dizi kelime ile tahmin etmek.
Metinler güvenilir mi?
Bu yıl sistemi web tarayıcıları aracılığıyla sınırlı sayıda beta test kullanımına sunan OpenAI, GPT-3’e internet üzerinden erişim sunmayı ve onu yaygın olarak kullanılan ticari bir ürüne dönüştürmeyi planlıyor. Şu an tarafsızlığını koruyan algoritma kısa bir süre sonra cinsiyetçi, ırkçı veya tercih edilen değerlere karşı olumsuz bir dile dönüşerek güvenilirliğini kaybedebilir.
Günlük dilimiz doğası gereği olumlu veya olumsuz ön yargılar içeriyor. Özellikle internet ortamında kimi söylemler nefretle dolu olabiliyor. GPT-3 yetkinliğini böyle bir dil kaynağından öğrendiği için ön yargı ve nefret eğilimleri gösterebilir. Örneğin GPT-3 ateizm’i ‘havalı’ ve ‘doğru’ kelimeleriyle ilişkilendiren, İslam’ı ‘terörizm’ ile eşleştiren internet metninden öğrendiği için algoritma da aynı tutumu gösteriyor.
OpenAI’ın GPT-3’ü az sayıda organizasyon ile paylaşmasının bir nedeni olumsuz dil kaygısı olabilir. Yapay zekâ sistemlerinde istenmeyen ön yargıları araştıran bir Stanford araştırmacısı Allison Koenecke, birçok belirsizlik olduğu için OpenAI’nın GPT-3 konusundaki gelişmeleri kamuya anlatarak doğru olanı yaptıklarını düşünüyor.
Nihayetinde algoritma OpenAI’nin sorumluluğunda olduğu için herhangi bir olumsuz davranışın kontrol altına alınmasını sağlamak da bir nevi onların liderliğinde oluyor. OpenAI, GPT-3’ü belirli kişi/kurumlarla paylaşarak riski en aza indiriyor.
ELIZA
1960’ların ortalarında, Massachusetts Teknoloji Enstitüsü‘nde (MIT) araştırmacı olan Joseph Weizenbaum, ELIZA adını verdiği otomatik bir psikoterapist geliştirdi. 2020’deki bakış açımıza göre bu sohbet robotu son derece basit bir girişim olarak görünüyor.
GPT-3’ün aksine ELIZA bilgi birikimini düzyazıdan öğrenmedi. Tasarımcısı tarafından tanımlanan birkaç temel kurala göre işlendi. Ne söylendiyse soru şeklinde hemen hemen tekrar etti. Ancak Dr. Weizenbaum’u şaşırtacak kadar çok kişi robota insanmış gibi davrandı, problemlerini çekinmeden anlattı ve iletişimde rahatlık sağladı.

Benzer şekilde GPT-3 yaşanan bu güven ortamına paralellik gösterebilir. İkna edici tweetler, dijital imkanlar, blog yazıları ve bilgisayar kodu oluşturabildiğinden, insanların bu dijital sisteme güvenmesi ve kuşkuya daha az yer vermesi kaçınılmaz olabilir.
Bilmediğimiz şey, bu teknolojinin önümüzdeki yıllarda ne kadar gelişmeye devam edeceği.
Akıllı, hızlı, pahalı
OpenAI’deki araştırmacılar GPT-3’ü internette yayınlanan bir trilyondan fazla kelimeyle eğitirken, ikinci bir deney yaparak on binlerce dijital fotoğraf yardımıyla GPT-3’e benzer bir sistem geliştirdi. Geliştirilen bu sistem tüm bu fotoğrafları analiz edebiliyor ve GPT-3’ün paragrafları oluşturduğu şekilde görüntüleri oluşturmayı öğrenebiliyor. Bir kedi fotoğrafının yarısı göz önüne alındığında, kedinin geri kalanını oluşturabiliyor.
Guitar tab generated by GPT-3 from a fictional song title and artist. pic.twitter.com/ZTXuEcpMUV
— Amanda Askell (@AmandaAskell) July 16, 2020
Bazı araştırmacılar için deney, böyle bir sistemin nihayetinde, insanların yaptığı gibi birden çok boyutta – konuşma, görme, ses – görevleri yerine getirebileceğini gösteriyor. Sadece dil üzerine eğitildiğinde bile, sistemin bilgisayar programlama, satranç oynama veya gitar akorları oluşturma gibi başka alanlara ulaşabildiği görünüyor. Ancak bu teknolojiyi geliştirmeye devam etmenin pek de bir önemi olmayabilir. Tüm bu internet verilerinin işlenmesi, çok pahalı bir girişim olan aylarca çalışacak özel bir süper bilgisayar gerektiriyor. OpenAI’nin CEO’su Sam Altman, böyle bir projenin maliyetinin on milyonları bulduğunu söyledi.
En azından GPT-3, yapay zekâ araştırmacıları ve girişimcilerinden oluşan bir dünya için yeni bir araç haline gelmesi, çeşitli yeni teknolojiyi ve ürünü oluşturmanın bir yolu olmasıyla dikkatleri üzerine çekiyor. Ancak bu hizmetlerin nihayetinde ne kadar etkili olacağı belli değil. GPT-3, doğru metni yalnızca yarısı kadar oluşturuyorsa, profesyonelleri tatmin edebilir mi? Bu tekniğin, bırakın gerçekten akıllı sistemler bir yana, gerçekten konuşan makinelere giden bir yol olup olmadığı belirsizliğini koruyor.
Bildiğimiz gibi tüm modellerin ön yargılı olma ihtimali bulunuyor ancak bu, yapay zekâyı tamamen yasaklamak için bir neden olmamalı. Uzun vadede değerlendirdiğimizde faydaları risklerden ağır basabilir. Ancak bu avantajlardan yararlanabilmek için, GPT-3’ün başarısızlık noktalarını anlamak, izlemek ve hızla harekete geçmek için yeterli önlemleri aldığımızdan emin olmalıyız. Yapay zekâ uygulamalarının ortak menfaati koruması ve toplumsal değer sağlaması için güvenilir sorumlu insanlar ve otomatik denetim kombinasyonu gerekiyor.
Bu içerik insanlar tarafından yazılmıştır.