Nöbetçi Eczaneler
Canlı yayın sitesi Twitch’in eski genel müdürü Emmett Shear, Pazar gecesi OpenAI’nin geçici genel müdürü seçildiğinde ilginç bir seçim gibi görünebilirdi.
2005 yılında üniversiteden mezun olduktan sonra neredeyse tüm kariyerini, Justin.tv adlı yeni başlayan bir siteden günlük 30 milyondan fazla izleyiciye sahip bir dev haline gelen, görüntü oyuncuları arasında popüler olan Amazon’un sahip olduğu platform Twitch’te geçirdi. bu yıl.
Hırslı bir görüntü oyunu oyuncusu olan 40 yaşındaki Bay Shear, Twitch’i çeşitli geçişlerden yönlendiren yetkin bir lider olarak görülüyordu. Ancak 2020’de Twitch’in işyeri kültürünün kadınlara karşı düşmanca olduğu yönündeki iddiaları ele alması ve sitenin zararlı içeriğe yanıt vermedeki yavaşlığı da dahil olmak üzere eleştirilerle karşı karşıya kaldı. Bazı çalışanlar ve canlı yayıncılar, Twitch’i maliyetleri düşürerek kârlılığa doğru yönlendirmeye odaklanmasının platformun kalitesini bozduğundan da şikayetçi oldu.
Ayrıca Cuma günü yönetim kurulu tarafından OpenAI’den ayrılmak zorunda kalan Sam Altman’ı da tanıyor. İkisi, her iki ilk şirketlerine de yatırım yapan başlangıç fonu olan Y Combinator’da aynı gruptaydı.
Ancak röportajlarda ve sosyal medyada Bay Shear, yapay zekanın riskleri hakkında OpenAI’nin yönetim kurulu üyelerinin ilgisini çekebilecek bir görüş dile getirdi ve onlar da Bay Altman’ı en azından kısmen yeterince ödemeyeceğine dair korkuları nedeniyle görevden aldılar. Şirketin teknolojisinin oluşturduğu potansiyel tehdide dikkat.
Haziran ayındaki bir teknoloji podcast’inde Bay Shear, yapay zekanın yapay genel zekaya veya insan düzeyinde zeka için kullanılan bir terim olan AGI’ye ulaşması durumunda ne olabileceğine dair endişelerini dile getirdi. Böyle bir noktada yapay zeka sisteminin insan girdisine ihtiyaç duymadan kendini geliştirmeye devam edebilecek kadar güçlü hale gelebileceğinden ve insanlığı yok etme kapasitesine sahip olabileceğinden endişe ediyordu.
Pazartesi günü yorum yapması için Bay Shear’a hemen ulaşılamadı. Pazartesi günü erken saatlerde, eskiden Twitter olarak bilinen platform olan X’te, görev süresinin ilk ayını Bay Altman’ın nasıl görevden alındığını araştırmak ve şirketin yönetim ekibini yeniden düzenlemekle geçireceğini yazdı.
“Bunlardan öğreneceğimiz her şeyin sonuçlarına bağlı olarak, gerekirse önemli yönetişim değişiklikleri için güçlü bir şekilde baskı yapmak da dahil olmak üzere organizasyondaki değişiklikleri yönlendireceğim” dedi.
Podcast’te Bay Shear, yapay zeka çevrelerinde sıklıkla tartışılan ve ataçlara odaklanan bir konsepti tartıştı: Kısacası fikir, çok güçlü bir yapay zekaya mümkün olduğu kadar çok ataç yapmak gibi sıradan bir hedef vermek bile, Bu amaca ulaşmanın en etkili yolunun insanları yok etmek olduğuna karar vermesine yol açtı.
“1. Adım ‘Gezegeni ele geçirmek’ değil mi? O zaman her şeyin kontrolü bende olur. 2. Adım ise ‘Hedefimi çözüyorum’” dedi.
Bay Shear, eğer yapay zeka bu noktaya ulaşırsa, potansiyel felaketin “evreni yok eden bir bomba” gibi olacağını söyledi.
“Bu yalnızca insan düzeyindeki yok oluş değil; İnsanların neslinin tükenmesi yeterince kötü” dedi. “Bu, ışık konisindeki tüm değerlerin potansiyel olarak yok edilmesi gibi bir şey. Sadece bizim için değil, patlamanın ardından yakalanan tüm yabancı türler için.”
Bay Shear, bu tür dünyanın sonuyla ilgili olaylar konusunda bazı yapay zeka teorisyenleri kadar endişeli olmadığını söyledi; bunun nedeni kısmen mevcut yapay zeka teknolojisinin böyle bir atılımın yakınında olduğunu düşünmemesi, kısmen de bunu garanti altına almanın mümkün olabileceğini düşünmesiydi. Yapay zeka sistemlerinin hedeflerinin insanların hedefleriyle uyumlu olduğu. Ancak yine de endüstri önlemlerini benimsedi.
“Ben bir tür yangın alarmı yaratılmasından yanayım, ‘AI x’ten büyük değildir’ gibi bir şey olabilir” dedi. “Bir tür yapay zeka test yasağı anlaşmasıyla ilgili uluslararası işbirliği ve anlaşmalar için iyi seçenekler olduğunu düşünüyorum.”
Bay Shear, X hakkındaki gönderilerinde kendisinden “felaket tellalı” olarak söz ederek bu noktaları güçlendirdi ve şirketlerin teknolojik ilerlemelerinde frene basması gerektiğini önerdi.
Eylül ayında başka bir kullanıcıya “Yavaşlamadan yanayım” diye yanıt verdi. “Deney yapmadan güvenli bir yapay zekanın nasıl oluşturulacağını öğrenemeyiz ve ilerleme olmadan deney yapamayız, ancak muhtemelen maksimum hızda ilerlemememiz de gerekir.”