Nöbetçi Eczaneler
Cuma günü Silikon Vadisi’nin her yerinde telefonlar aynı soruyla açıldı: Sam Altman’a ne oldu?
OpenAI’nin genel müdürü Bay Altman’ın şirketin yönetim kurulu tarafından ani, gizemli bir şekilde görevden alınması, teknoloji dünyasında şok dalgaları yarattı ve her şeyin tersine döndüğü bir zamanda, sektörün en büyük yıldızlarından birinin neyin çöktüğüne dair çılgın bir tahmin oyununu başlattı. yoluna gidiyormuş gibi görünüyordu.
Şunu söyleyerek başlayacağım: Bay Altman’ın neden ihraç edildiğine dair tüm detayları bilmiyorum. Görünen o ki, çoğu bu hamleyi halkla aynı anda öğrenen OpenAI’nin şaşkın çalışanları, yatırımcıları ve iş ortakları da aynı durumda değil. Cuma günü yayınlanan bir blog yazısında şirket, Bay Altman’ın yönetim kuruluyla “iletişiminde tutarlı bir şekilde samimi olmadığını” söyledi ancak başka ayrıntı vermedi.
Cuma öğleden sonra OpenAI çalışanları için yapılan genel toplantıda daha fazla bilgi ortaya çıkmadı. Şirketin baş bilim insanı ve yönetim kurulu üyesi Ilya Sutskever, kendisine bilgi verilen bir kişiye göre görevden alınmayı savundu. İlgili kişi, çalışanların Bay Altman’ı görevden almanın “düşmanca bir devralma” anlamına geldiği yönündeki önerilerini reddetti ve OpenAI’nin yapay zekayı insanlığa faydalı hale getirme misyonunu korumanın gerekli olduğunu iddia etti.
Bay Altman da gafil avlanmış gibi görünüyor. Kovulmasından iki gün önce, Çarşamba günü ortak sunuculuğunu yaptığım “Hard Fork” adlı podcast için bir röportaj kaydetti. Sohbetimiz sırasında herhangi bir şeyin yanlış olduğuna dair hiçbir ipucu vermedi ve ChatGPT’nin başarısı, OpenAI için planları ve yapay zekanın geleceği hakkındaki görüşleri hakkında uzun uzadıya konuştu.
Bay Altman Cuma günü gidişinin kesin koşulları konusunda sessiz kaldı. Ancak Cuma günü Bay Altman’la dayanışma amacıyla istifa eden OpenAI’nin kurucu ortağı ve başkanı Greg Brockman, her ikisinin de “yönetim kurulunun bugün yaptıkları karşısında şok olduğunu ve üzüldüğünü” belirten bir bildiri yayınladı. Bay Brockman, Bay Altman’dan Cuma günü öğlen yönetim kuruluyla görüntülü toplantıya katılmasının istendiğini ve hemen kovulduğunu söyledi.
Hikayenin tamamı ortaya çıktıkça önümüzdeki günlerde sarayda pek çok entrika yaşanacak. Ancak birkaç şey zaten açık.
Birincisi, görevden alınma yalnızca OpenAI’nin alışılmadık kurumsal yönetim yapısı nedeniyle mümkün oldu. OpenAI, 2015 yılında kar amacı gütmeyen bir kuruluş olarak başladı ve 2019’da, yatırımcıların getirilerinin ilk yatırımlarının belirli bir tutarının üzerinde sınırlı olduğu yeni bir düzenleme olan, kârı sınırlayan bir yan kuruluş oluşturdu. Ancak kâr amacı gütmeyen kuruluşun misyonunu korudu ve kâr amacı gütmeyen kuruluşun yönetim kuruluna, genel müdürün görevden alınması da dahil olmak üzere, kâr amacı güden kuruluşun faaliyetlerini yönetme yetkisi verdi. Şirketlerinin kontrolünü çift sınıflı stok yapılarıyla sürdüren diğer bazı teknoloji kurucularının aksine, Bay Altman’ın OpenAI’de doğrudan herhangi bir hissesi bulunmuyor.
OpenAI’nin yönetim kuruluyla ilgili birkaç tuhaflık daha var. Küçüktür (Cuma gününden önce altı üye ve Bay Altman ve Bay Brockman olmadan dört üye) ve şirkette hiçbir hissesi olmayan birkaç yapay zeka uzmanını içermektedir. Yöneticileri, çoğu şirket yönetim kurulunun yaptığı gibi, hissedarlar için değeri en üst düzeye çıkarma sorumluluğuna sahip değil; bunun yerine, “genel anlamda faydalı olan” “güvenli AGI” – yapay genel zeka – yaratma konusunda güvene dayalı bir göreve bağlılar.
Yönetim kurulu üyelerinden en az ikisi, Tasha McCauley ve Helen Toner, yapay zeka güvenlik araştırmaları için baskı yapan ve güçlü bir yapay zeka sisteminin bir gün insanlığın yok olmasına yol açabileceği konusunda alarm veren, faydacı bir grup olan Etkili Altruizm hareketiyle bağları var. Diğer bir yönetim kurulu üyesi olan Adam D’Angelo ise soru-cevap sitesi Quora’nın genel müdürüdür.
Bay Altman’ın bazı arkadaşları ve müttefikleri bu yönetim kurulu üyelerini Cuma günü bir “darbe” düzenlemekle suçladı. Ancak hangi yönetim kurulu üyelerinin Bay Altman’ı devirmeye oy verdiği ya da motivasyonlarının ne olduğu hâlâ belli değil.
Bay Altman’ın görevden alınmasıyla ilgili olarak da bildiğimiz şey, bunun tüm teknoloji sektörünü sarsma potansiyeline sahip olduğudur. Bay Altman, start-up hızlandırıcı Y Combinator’ı yöneterek geçirdiği yıllar sayesinde Silikon Vadisi’ndeki en iyi bağlantılara sahip yöneticilerden biriydi. Bağlantıları OpenAI’nin diğer teknoloji şirketleriyle güçlü bağlar kurmasına olanak sağladı.
Özellikle Microsoft, şirkete 10 milyar dolardan fazla yatırım yaparak ve ChatGPT gibi ürünlerin bağlı olduğu teknik altyapının çoğunu sağlayarak OpenAI’den payını aldı. Bu ayın başlarında Microsoft’un CEO’su Satya Nadella, Bay Altman’la birlikte bir geliştirici konferansında sahneye çıktı ve “sizinle ortak olmanın harika bir deneyim olduğunu” söyledi.
Tipik olarak, bu tür yakın bağlar size CEO’nun ani bir görevden alınması konusunda önceden bilgi verme hakkı verir. Ancak Axios’a göre Microsoft’un üst düzey yöneticileri, Bay Altman’ın kovulduğunu haber kamuoyuna duyurulmadan yalnızca bir dakika – evet, bir dakika – öğrendi. Cuma günü Bay Nadella, müşterilere şirketin OpenAI ile olan anlaşmasının bozulmadan kaldığı konusunda güvence verdi, ancak şirketin en önemli stratejik ortaklarından birinin neden üst düzey yöneticisini bu kadar aniden görevden aldığına dair cevaplar isteyeceği açık.
OpenAI’nin kaderi, dil modellerinin üzerine yapay zeka ürünleri geliştiren ve istikrarlı altyapıyı sürdürmesi için şirkete güvenen binlerce geliştirici için de önemli. Bu geliştiriciler bir gecede rakiplerine yönelmeyebilirler, ancak daha fazla OpenAI çalışanı ayrılırsa (The Information’a göre en az üç kıdemli OpenAI araştırmacısı Cuma günü ayrılacaklarını duyurdu) alışverişe başlama cazibesine kapılabilirler.
Son olarak, Bay Altman’ın fenestrasyonunun, yapay zeka endüstrisinde, yapay zekanın daha hızlı hareket etmesine izin verilmesi gerektiğini düşünenler ile potansiyel olarak yıkıcı zararları önlemek için yavaşlatılması gerektiğini düşünenler arasındaki kültür savaşını neredeyse kesin olarak alevlendireceği kesin.
Bazen “hızlandırma yanlıları” ile “felaket tellalları” arasında bir tartışma olarak anılan bu tartışma, son aylarda düzenleyicilerin yapay zeka endüstrisini çevrelemeye başlaması ve teknolojinin daha güçlü hale gelmesiyle daha da alevlendi. Önde gelen bazı hızlandırmacılar, büyük yapay zeka şirketlerinin, küçük start-up’ların kendileriyle rekabet etmesini zorlaştırabilecek kurallar için lobi faaliyeti yürüttüğünü savundu. Sektördeki güvenlik savunucularını, kendilerini sağlamlaştırmak için yapay zekanın risklerini abartmakla suçladılar.
Öte yandan güvenlik savunucuları, OpenAI ve diğer şirketlerin güçlü yapay zeka sistemleri oluşturmak için çok hızlı hareket ettiği ve uyarı seslerini görmezden geldiği yönünde alarmlar verdi. Ve bazı şüpheciler bu şirketleri modellerini eğitmek için sanatçıların, yazarların ve diğerlerinden telif hakkıyla korunan eserleri çalmakla suçladı.
Bay Altman, iyimserlik ile endişe arasındaki çizgiyi aşma konusunda her zaman dikkatli davrandı; yapay zekanın eninde sonunda insanlığa faydalı olacağına inandığını açıkça belirtti ve aynı zamanda onu güvende tutmak için korkuluklara ve düşünceli bir tasarıma ihtiyaç duyduğunu da kabul etti.
Bu argümanın bir versiyonu OpenAI personeli arasında yıllardır oynanıyor. 2020’de bir grup OpenAI çalışanı, şirketin fazla ticari hale geldiği ve kazançlı anlaşmalar uğruna güvenlik araştırmalarını bir kenara bıraktığı endişesi nedeniyle işten ayrıldı. (Rakip AI laboratuvarı Anthropic’i kurmaya devam ettiler.) Ayrıca mevcut ve eski OpenAI çalışanlarından bazıları bana, bazı personelin Bay Altman ve Bay Brockman’ın yeni ürünler başlatma konusunda çok agresif olabileceğine inandığını söyledi.
Bunların hiçbiri Bay Altman’ın neden ihraç edildiğiyle ilgili değil. Ancak bu kesinlikle gelmesi muhtemel bir savaşın ipucudur.
Çarşamba günkü röportajımızda Bay Altman, kendisini yapay zeka tartışmasında merkezci olarak gördüğünü söyledi.
“Bunun insanlığın şimdiye kadar icat ettiği en önemli ve faydalı teknoloji olacağına inanıyorum. Ayrıca eğer bu konuda dikkatli olmazsak bunun oldukça felaketle sonuçlanabileceğine inanıyorum ve bu yüzden bu konuda dikkatli hareket etmemiz gerekiyor.”
Şöyle ekledi: “Sanırım bu şirketin CEO’sunun ortada bir yerde olmasını istiyorsunuz ki ben de öyleyim.”