İki hafta önce Cointelegraph Türkiye sitesinde yayımlanan bir analiz yazımda OpenAI şirketinde 17 Kasım gününü takip eden hafta içinde yaşanan garip olayları irdelemiştim. (Kaynak:1)
O yazıdan sonraki günlerde Elon Musk bir konferansta The New York Times gazetesi yazarı Andrew Ross Sorkin ile uzunca bir söyleşi yaptı. Bu söyleşinin içinde dokuz dakikalık bir bölümde Sorkin Musk’a OpenAI’da ne yaşandı diye sordu. (Kaynak:2) Bazı tehlikeli gelişmeler olabileceğinden bahsedilen bu konuşmada Elon Musk’ın neler söylediğini sizlere bu yazımda aktaracağım ve tabii bunu yaparken her zaman yaptığım gibi kendi yorumlarımı da en sonda ekleyeceğim.
Videonun başında Musk, 2016 yılında OpenAI yeni kurulurken, Nvidia’nın kurucu başkanı Jensen Huang’ın kendi elleriyle ilk Yapay Zeka (YZ) makinesini ofislerine getirip, ilk çalışanlardan ve YZ konusunun büyük üstatlarından İlya Sütsever ile beraber kurduğunu anlatıyor. O zamanlarda tüm YZ mühendislerinin 2/3’ü Google DeepMind’a çalışıyordu ve onlara alternatif yoktu diyor Musk: “Sınırsız paraları, sınırsız hesaplama kabiliyetleri vardı, birilerinin bir şeyler yapması lazımdı.” Şimdi onun ağzından dinleyelim:
O sıralarda (Google kurucu ortağı) Larry Page ile yakındık ve geç saatlere kadar YZ’nin geleceğini tartışırdık. Hemen anlaşıldı ki, Larry, YZ güvenliği konusunda hiç endişeli değildi. Hatta bu konuda onu ele veren, bana ‘insancı’ demesi oldu. Bu söylemini çok tehlikeli bulduğumu söyledim kendisine. İnsanları tutuyorsun demesi bana çok acayip geldi, ırkçı der gibi insancı olmak ne demek. Sen makineleri mi tutuyorsun, sen hangi tarafı tutuyorsun dedim Larry’ye. Bunun yanısıra YZ güvenliği konusunda hiçbir endişesi olmadığını anladım. OpenAI şirketinin adını ben vermiştim, açık kaynaktan almıştık ‘açık-open’ kelimesini. Şimdiki adı, “OpenAI” yani “AçıkYZ” değil, “Aşırı-kapalı- süper-kâr-güden-YZ” olmalıydı bu şirketin. Bu yapı, açık kaynak bir vakıf olmaktan çıktı tamamen kapalı 90 milyar dolarlık bir canavar haline geldi. Buradan oraya nasıl gidiliyor? Tüm bunlar kanuni mi?
Evet, ben de kulaklarıma inanamıyorum, Google kurucusu Larry Page, makinelerin tarafını tutuyor, ya da böyle bir kavramın içinde kaybolmuş görünüyor. Elon Musk, konuşmasının bu noktasında bize çok uçuk gelen şeyler söylüyor. Silikon Vadisinde neler oluyor?
Elon Musk: İlya, ki ahlaki pusulası çok doğruyu gösteren bir kişidir, eğer Sam Altman’ı kovduysa bunun sağlam bir sebebi vardır. Ve bizim bu sebebi öğrenmemiz gerekir. Bu sebep, ister YZ konusunda ortaya çıkan önemli bir teknolojik gelişme olsun, isterse de Sam ile ilgili ahlaki bir mesele görmüş veya hissetmiş olsun, İlya’nın fikrine değer veririm ve dinlemek isterim. Zaten Larry ile aramızın bozulmasına benim İlya’yı onlardan alıp OpenAI’a yerleştirmem sebep oldu.
Sorkin: İlya’yı aradın mı?
İlya’yı aradım ama kimse ile konuşmak istemiyor şu anda. Onun dışında çok kişi ile konuştum ama kimse neler olduğunu bilmiyor. Sam Altman’a gelince: Güç insanları bozuyor. İlya’nın onu neden kovduğunu bilmek isterdim, gerçekten bilmek isterdim. Sanırım YZ konusunda çok önemli ve tehlikeli bir keşif yaptılar ve bunu gizliyorlar! Benim tahminim bu.
Gençliğimden beri YZ konusunda bir şeyler yapmak istedim, ama iki tarafı da keskin kılıç olan bu teknolojide iyi tarafın mı yoksa kötü tarafın mı daha keskin olacağını kestiremedim. Çok daha önceden, gençken ileri bir YZ şirketi kurabilirdim: Gerçi OpenAI zaten o şirketti, ben bu arada iki tarafı keskin teknolojiler yerine tek tarafı güçlü ve iyi yapılar kurmaya gayret ettim. Yapay Zeka konusu ise şişeden çıkan sihirli cin gibi tamamen, ondan bir şey isterken ne istediğini bilmek ve çok dikkatli olmak lazım. Bir kere cin şişeden çıktı mıydı artık ondan sonrası bilinmez oluyor. Şu anda cin şişeden kafasını uzatmış durumda.
Sorkin: Peki YZ önümüzdeki dönemde AGI’ye erişir mi, yani insana yakın veya denk zeka-akıl ortaya çıkar mı bilgisayarlardan?
Musk: Önümüzdeki üç sene içinde J.K. Rowling düzeyinde roman yazabilen, bilimsel keşifler yapan YZ’ler bekliyorum. Bunun olacağına hemen hemen eminim.
Sonuç: Elon Musk’ın OpenAI’da gerçekleşen olaylar konusunda doğruyu söyleyip söylemediğini bilemiyoruz. Belki çok ciddi bir şeyler var, daha önceki yazımda anlattığım gibi, daha doğrusu o yazıda alıntı yaptığım Pippa Malmgren’in yazdığı gibi, Sam Altman tarafından Çinlilere YZ’nin ileri seviye sırlarını vermek, Çinlilerden para almak gibi olaylar olabilir işin içinde. Oppenheimer atom bombasını yaptıkları sırada nasıl gizli sırları Ruslara vermek istediyse acaba şimdi de Sam Altman benzer atomik düzeyde YZ sırlarını Çin devleti ile paylaşmak istemiş olabilir mi? Ya da gerçekten OpenAI çalışanları AGI seviyesi birtakım buluşlar yaptılar ve bunu şu anda açıklamak istemiyorlar. Ben birinci seçeneği, yani Altman’ın birtakım karışık iş ilişkileri içine girdiği seçeneğine daha fazla ikna oluyorum nedense; Altman’ın geçmişini biliyorum zira.
Kaynaklar:
https://tr.cointelegraph.com/news/behind-the-scenes-of-openais-turmoil
Bu dokuz dakikalık YouTube videosunu başlığından bulabilirsiniz: “Elon Musk Explains Why Sam Altman Got Fired?”
