Teknoloji milyarderleri kıyamete mi hazırlanıyor?

Mark Zuckerberg’in Hawaii’nin Kauai adasındaki 1.400 dönüme yayılan çiftliğinde 2014 yılında bir çalışma başlattığı söyleniyor.

Wired dergisinin haberine göre çiftlikte, kendi enerji ve gıda kaynaklarına sahip bir sığınak inşa edilmesi hedefleniyor.

Habere göre, burada çalışan marangoz ve elektrikçilerin bu konuda konuşmaları gizlilik anlaşmalarıyla yasaklandı.

Altı metrelik bir duvar ise projenin yakındaki yoldan görünmesini engelliyor.

Geçen yıl kendisine bir kıyamet günü sığınağı inşa edip etmediği sorulan Facebook kurucusu kesin bir dille “hayır” yanıtını vermişti.

Yaklaşık 5 bin metrekarelik yeraltı alanının “küçük bir sığınak, bir bodrum katı gibi” olduğunu savunmuştu.

Fakat bu durum spekülasyonları durdurmadı.

Benzer şekilde California’daki Palo Alto’nun Crescent Park mahallesinde 11 mülk satın alma ve görünüşe göre altına 7 bin metrekarelik bir yeraltı alanı ekleme kararı hakkında da spekülasyonlar sürüyor.

New York Times’a göre inşaat izinlerinde bodrum katlarından bahsedilse de, bazı komşuları buraya sığınak diyor. Ya da bir “milyarderin yarasa mağarası.”

Zuckerberg’in dışında, bazıları milyonlarca dolarlık lüks sığınaklara dönüştürülmeye hazır, yeraltı arazilerini satın almakla meşgul görünen diğer teknoloji devleri hakkında da spekülasyonlar var.

LinkedIn’in kurucu ortağı Reid Hoffman bir “kıyamet sigortasından” bahsetti. Daha önce süper zenginlerin yaklaşık yarısının buna sahip olduğunu ve Yeni Zelanda’nın böylesi “kıyamet evleri” için popüler bir yer olduğunu iddia etmişti.

Peki süper zenginler gerçekten de savaşa, iklim değişikliğinin etkilerine ya da geri kalanımızın henüz bilmediği başka bir felakete hazırlanıyor olabilirler mi?

Son birkaç yılda yapay zekanın ilerlemesi, bu potansiyel varoluşsal sıkıntılar listesine sadece bir yenisini ekledi. Pek çok kişi bu ilerlemenin hızı karşısında derin endişe duyuyor.

Open AI kurucularından Ilya Sutskever de bunlardan biri.

San Francisco merkezli firma, 2023’ün ortalarında ChatGPT’yi (şu anda dünya çapında yüz milyonlarca kişi tarafından kullanılan sohbet robotu) piyasaya sürmüştü ve güncellemeler üzerinde hızla çalışıyorlardı.

Ancak gazeteci Karen Hao’nun bir kitabına göre o yaz Sutskever, bilgisayar bilimcilerinin yapay genel zekayı (makinelerin insan zekasıyla eşleştiği nokta) geliştirmenin eşiğinde olduğuna giderek daha fazla ikna oldu.

Hao’nun aktardığına göre, Sutskever bir toplantıda meslektaşlarına böylesine güçlü bir teknoloji dünyaya sunulmadan önce şirketin üst düzey bilim insanları için bir yeraltı sığınağı kazmalarını önerdi.

“Piyasaya sürmeden önce kesinlikle bir sığınak inşa edeceğiz” dediği yaygın olarak aktarılıyor, ancak “biz” derken kimi kastettiği belli değil.

Bu durum garip bir gerçeğe ışık tutuyor: Bazıları son derece akıllı bir yapay zeka formu geliştirmek için yoğun bir şekilde çalışan önde gelen bilgisayar bilimcileri ve teknoloji liderleri, aynı zamanda bir gün yapabileceklerinden de derinden korkuyor gibi görünüyor.

Peki yapay genel zeka tam olarak ne zaman gelecek? Ya da gerçekten gelebilecek mi?

Ve gerçekten de sıradan insanları korkutacak kadar büyük dönüşümler yaratabilir mi?

Teknoloji liderleri yapay genel zekanın yakın olduğunu iddia ettiler. OpenAI patronu Sam Altman Aralık 2024’te yaptığı açıklamada bunun “dünyadaki çoğu insanın düşündüğünden daha erken” geleceğini söyledi.

DeepMind’ın kurucu ortağı Sir Demis Hassabis önümüzdeki beş ila on yıl içinde, Anthropic’in kurucusu Dario Amodei ise geçen yıl tercih ettiği terim olan “güçlü yapay zekanın” 2026 gibi erken bir tarihte bizimle olabileceğini yazdı.

Diğerleri ise kuşkulu. Southampton Üniversitesi’nde bilgisayar bilimleri profesörü olan Dame Wendy Hall, “Kale direklerini her zaman değiştiriyorlar” diyor:

“Bu kiminle konuştuğunuza bağlı.”

Telefonda konuşuyoruz ama konuşurken gözlerini devirdiğini anlayabiliyorum.

“Bilim camiası yapay zeka teknolojisinin harika olduğunu söylüyor, ancak insan zekasının yanına bile yaklaşamıyor” diye ekliyor.

Teknoloji firması Cognizant’ın baş teknoloji sorumlusu Babak Hodjat, öncelikle bir dizi “temel atılım” yapılması gerektiği görüşünde.

Dahası bunun tek bir anda ortaya çıkması da pek olası değil.

Aksine, yapay zeka hızla ilerleyen bir teknoloji, bir yolculukta ve dünya çapında kendi versiyonlarını geliştirmek için yarışan birçok şirket var.

Ancak bu fikrin Silikon Vadisi’nde bazılarını heyecanlandırmasının bir nedeni de daha da gelişmiş bir şeyin habercisi olduğunun düşünülmesi: Yapay süper zeka – yani insan zekasını da aşan teknoloji.

“Tekillik” kavramı 1958 yılında, ölümünden sonra Macar asıllı matematikçi John von Neumann’a atfediliyor.

Bu kavram, bilgisayar zekasının insan anlayışının ötesine geçtiği anı ifade ediyor.

Daha yakın zamanda Eric Schmidt, Craig Mundy ve 2023’te ölen Henry Kissinger tarafından yazılan 2024 tarihli Genesis kitabı, karar verme ve liderlik konusunda son derece etkili hale gelen ve sonunda kontrolü tamamen ona devrettiğimiz süper güçlü bir teknoloji fikrini inceliyor.

Onlara göre bunun olacağı kesin, yalnızca bir zaman meselesi.

Yapay genel ve süper zekayı destekleyenler bunların faydalarını anlatmakla bitiremiyor.

Ölümcül hastalıklar için yeni tedaviler bulacağını, iklim değişikliğini çözeceğini ve tükenmez bir temiz enerji kaynağı icat edeceğini savunuyorlar.

Elon Musk, süper zeki yapay zekanın “evrensel yüksek gelir” çağını başlatabileceğini bile iddia etti.

Kısa bir süre önce yapay zekanın çok ucuz ve yaygın hale geleceğini söyledi ve Star Wars’taki robotlara atıfta bulunarak “neredeyse herkesin kendi kişisel R2-D2 ve C-3PO’sunu isteyeceğini” ekledi.

“Herkes en iyi tıbbi bakıma, gıdaya, ev taşımacılığına ve diğer her şeye sahip olacak. Sürdürülebilir bolluk!” diyerek heyecanını dile getirdi.

Elbette korkutucu bir tarafı da var.

Teknoloji teröristler tarafından ele geçirilip muazzam bir silah olarak kullanılabilir mi ya da kendi kendine dünyanın sorunlarının nedeninin insanlık olduğuna karar verip bizi yok edebilir mi?

Bu ayın başlarında BBC’ye konuşan World Wide Web’in (www ile başlayan sayfaların internet üzerinde görüntülenmesini sağlayan servis) yaratıcısı Tim Berners Lee, “Eğer bizden daha akıllıysa, o zaman onu kontrol altında tutmalıyız ve gerekirse kapatabilmeliyiz” uyarısında bulundu.

Hükümetler bazı koruyucu adımlar atıyor. Birçok önde gelen yapay zeka şirketinin bulunduğu ABD’de, Başkan Biden 2023 yılında bazı firmaların güvenlik testi sonuçlarını federal hükümetle paylaşmasını gerektiren bir kararname çıkardı – ancak Başkan Trump o zamandan beri bu kararnamenin bir kısmını inovasyonun önünde bir “engel” olarak nitelendirerek iptal etti.

Bu arada İngiltere’de, gelişmiş yapay zekanın yarattığı riskleri daha iyi anlamak için iki yıl önce hükümet tarafından finanse edilen bir araştırma kurumu olan Yapay Zeka Güvenlik Enstitüsü kuruldu.

Bir de kendi kıyamet sigortası planları olan süper zenginler var.

LinkedIn’in kurucularından Hoffman daha önce “Yeni Zelanda’da bir ev satın alıyorum’ demek bir tür göz kırpma anlamına geliyor ve daha fazlasını anlatıyor. Aynı şey muhtemelen sığınaklar için de geçerli” demişti.

Ama burada belirgin bir insani kusur da var.

Bir keresinde kendi “sığınağı” olan bir milyarderin eski bir korumasıyla tanışmıştım ve bana eğer gerçekten böyle bir şey olursa güvenlik ekibinin ilk önceliğinin, söz konusu patronu ortadan kaldırmak ve sığınağa kendilerinin girmek olacağını söylemişti. Şaka yapıyor gibi de görünmüyordu.

Cambridge Üniversitesi’nde makine öğrenimi profesörü olan Neil Lawrence’a göre tüm bu tartışma başlı başına bir saçmalık.

“Yapay genel zeka kavramı, ‘Yapay Genel Araç’ kavramı kadar saçmadır” diyor:

“Doğru araç bağlama göre değişir. Kenya’ya uçmak için bir Airbus A350 kullandım, her gün üniversiteye gitmek için bir araba kullanıyordum, kafeteryaya ise yürüyorum… Bunların hepsini yapabilecek bir araç yok.”

Ona göre, yapay genel zeka hakkında konuşmak dikkat dağıtmaktan başka bir işe yaramıyor:

“Geliştirdiğimiz teknoloji, ilk kez normal insanların bir makineyle doğrudan konuşabilmesine ve potansiyel olarak istediklerini yaptırabilmesine olanak tanıyor. Bu kesinlikle olağanüstü… Ve tamamen dönüştürücü.

“En büyük endişem, büyük teknoloji şirketlerinin yapay genel zeka hakkındaki anlatılarına kendimizi kaptırmamız nedeniyle, insanlar için işleri daha iyi hale getirme yollarını kaçırmamız.”

Mevcut yapay zeka araçları büyük verilerle eğitiliyor ve örüntüleri tespit etmede iyiler: Taramalardaki tümör işaretleri veya belirli bir dizide bir diğerinden sonra gelmesi en muhtemel kelime gibi şeyleri tespit edebiliyorlar. Ancak yanıtları ne kadar ikna edici görünürse görünsün “hissetmiyorlar”.

Teknoloji firması Cognizant’tan Hodjat, “Bir Büyük Dil Modeli’nin (yapay zekalı sohbet robotlarının temeli) hafızası varmış ve öğreniyormuş gibi davranmasını sağlamanın bazı ‘hileli’ yolları var, ancak bunlar tatmin edici değil ve insanlardan oldukça geride” diyor.

California merkezli IV.AI’nin CEO’su Vince Lynch de yapay genel hakkındaki abartılı beyanlara karşı temkinli.

“Bu harika bir pazarlama” diyor ve ekliyor:

“Eğer var olan en akıllı şeyi inşa eden bir şirketseniz, insanlar size para vermek isteyecektir.

“Ama bu iki yılda olacak bir şey değil. Çok fazla hesaplama, çok fazla insan yaratıcılığı, çok fazla deneme yanılma gerektiriyor.”

Yapay genel zekanın bir gün yaratılıp yaratılamayacağını sorduğumda ise uzun bir duraksama yaşıyor ve sonunda “Gerçekten bilmiyorum” diyor.

Yapay zeka bazı açılardan insan beynini çoktan geride bırakmış durumda. Üretken bir yapay zeka aracı bir dakika içinde ortaçağ tarihi uzmanı olabilir ve bir dakika sonra karmaşık matematiksel denklemleri çözebilir.

Bazı teknoloji şirketleri, ürünlerinin neden böyle tepki verdiğini her zaman bilmediklerini söylüyor.

Meta, yapay zeka sistemlerinin kendilerini geliştirdiğine dair bazı işaretler olduğunu söylüyor.

Ancak makineler ne kadar zeki olursa olsun, biyolojik olarak insan beyni yine de önde. Yaklaşık 86 milyar nöronu ve 600 trilyon sinapsı ile yapay eşdeğerlerinden çok daha fazlasına sahiptir.

Beyin etkileşimler arasında duraklamaya ihtiyaç duymaz ve sürekli olarak yeni bilgilere adapte olur.

“Bir insana uzayda yaşam bulunduğunu söylerseniz, bunu hemen öğrenecek ve ileriye dönük dünya görüşünü etkileyecektir. Bir LLM [Büyük Dil Modeli] ise bunu ancak ona sürekli tekrarladığınız sürece bilecektir” diyor Hodjat:

“LLM’ler ayrıca meta-bilişe sahip değildir, yani ne bildiklerini tam olarak bilmezler.

“İnsanların, bazen bilinç olarak da adlandırılan ve ne bildiklerini bilmelerini sağlayan bir iç gözlem kapasitesine sahip oldukları görülüyor.”

Bu, insan zekasının temel bir parçası ve henüz laboratuvarda kopyalanamadı.