Nöbetçi Eczaneler
Bilim kurgudan çıkmış bir şeye benziyor: Hedefleri kendi başlarına avlayan ve herhangi bir insan izni olmadan öldürmek için uçabilen katil robot sürüleri.
Ancak ABD, Çin ve bir avuç diğer ülke, ölüm kalım kararlarını yapay zekayla donatılmış otonom dronlara devrederek savaşın doğasını yeniden şekillendirme potansiyeline sahip yeni teknolojilerin geliştirilmesi ve uygulanmasında hızlı ilerleme kaydettikçe bu durum gerçeğe yaklaşıyor. programlar.
Bu ihtimal diğer birçok hükümet için o kadar endişe verici ki, Birleşmiş Milletler’de orduların öldürücü otonom silahlar olarak adlandırdığı silahların kullanımına yasal olarak bağlayıcı kurallar getirme yönündeki önerilerle dikkatleri bu konuya odaklamaya çalışıyorlar.
Avusturya’nın konuyla ilgili baş müzakerecisi Alexander Kmentt bir röportajda “Bu gerçekten insanlık için en önemli dönüm noktalarından biri” dedi. “Güç kullanımında insanın rolü nedir? Bu kesinlikle temel bir güvenlik sorunu, yasal bir sorun ve etik bir sorundur.”
Ancak BM, hükümetlere endişelerini ifade edebilecekleri bir platform sağlarken, sürecin yasal olarak bağlayıcı yeni kısıtlamalar getirmesi pek mümkün görünmüyor. Silah kontrolü savunucuları, ABD, Rusya, Avustralya, İsrail ve diğerlerinin şimdilik yeni bir uluslararası yasaya gerek olmadığını savunurken, Çin’in herhangi bir kanuni sınırını pratik etkisi olmayacak kadar dar bir şekilde tanımlamak istediğini söylüyor.
Sonuç, tartışmanın yakın zamanda yasal olarak bağlayıcı bir yetki konusunda ilerleme şansının çok az olduğu bir usul düğümüne bağlanması oldu.
Rusya’nın Birleşmiş Milletler delegasyonunun başkan yardımcısı Konstantin Vorontsov, geçtiğimiz günlerde New York’taki BM genel merkezinin bodrum katındaki bir konferans odasında tıkış tıkış dolu olan diplomatlara, “Bunun gerçekten doğru zaman olduğunu görmüyoruz” dedi.
Yapay zekanın riskleri üzerine yapılan tartışma, son günlerde belki de dünyanın önde gelen yapay zeka şirketi olan OpenAI’nin kontrolü üzerindeki mücadeleyle birlikte yeni bir dikkat çekti; bu şirketin liderleri, firmanın teknolojinin tehlikelerini yeterince dikkate alıp almadığı konusunda bölünmüş görünüyordu. Geçen hafta Çin ve ABD’den yetkililer ilgili bir konuyu tartıştılar: nükleer silahların konuşlandırılmasına ilişkin kararlarda yapay zeka kullanımına ilişkin potansiyel sınırlamalar.
Bu çerçevede, öldürücü otonom silahların kullanımına ne tür sınırlamalar getirilmesi gerektiği sorusu yeni bir aciliyet kazandı ve şimdilik BM’nin bağlayıcı olmayan yönergeleri benimsemesinin yeterli olup olmadığı sorusuna geldi. Amerika Birleşik Devletleri.
Dışişleri Bakanlığı uluslararası anlaşmalar şefi Joshua Dorosin, Mayıs ayında önerilen kısıtlamaların dili üzerine yapılan bir tartışma sırasında diğer müzakerecilere, “‘Zorunluluk’ kelimesini heyetimiz için kabul etmek çok zor olacak” dedi.
Bay Dorosin ve aralarında Pentagon’dan bir temsilcinin de bulunduğu ABD delegasyonunun üyeleri, BM’nin yeni bir uluslararası yasa yerine, mevcut uluslararası insan hakları yasalarının, ulusların sivilleri hedef alan veya sivilleri hedef alan silah kullanmasını zaten yasakladığını açıklığa kavuşturması gerektiğini savundu. onlara orantısız miktarda zarar verir.
Ancak büyük güçlerin tutumu, ölümcül otonom silahların, kullanım kuralları üzerinde herhangi bir anlaşmaya varılmadan savaş alanında yaygınlaşabileceğinden endişe duyduklarını söyleyen küçük ülkeler arasındaki kaygıyı daha da artırdı.
Pakistan Büyükelçisi Khalil Hashmi BM genel merkezinde yaptığı toplantıda “Gevşeklik artık bir seçenek gibi görünmüyor” dedi. “Teknolojik bir atılım için hazırlanırken, harekete geçme fırsatı penceresi hızla daralıyor.”
Yapay zekadaki hızlı ilerlemeler ve insansız hava araçlarının Ukrayna ve Orta Doğu’daki çatışmalarda yoğun şekilde kullanılması, konuyu daha da acil hale getiriyor. Şimdiye kadar, dronlar ölümcül görevleri yerine getirmek için genellikle insan operatörlerine güveniyorlar, ancak yakında hedefleri kendi başlarına bulmalarına ve seçmelerine olanak tanıyacak yazılımlar geliştiriliyor.
Ukrayna’da radyo iletişiminin ve GPS’in yoğun şekilde sıkışması, değişimi yalnızca hızlandırdı; zira otonom dronlar genellikle iletişim kesildiğinde bile çalışmaya devam edebiliyor.
Antigua ve Barbuda’nın başbakanı Gaston Browne yakın tarihli bir BM toplantısında yetkililere, “Bu bir distopik romanın konusu değil, yaklaşmakta olan bir gerçek” dedi.
Pentagon yetkilileri, otonom silahları büyük ölçüde konuşlandırmaya hazırlandıklarını açıkça belirtti.
Savunma Bakan Yardımcısı Kathleen Hicks, bu yaz ABD ordusunun önümüzdeki iki yıl içinde “binlerce ölçekteki atfedilebilir, otonom sistemleri sahaya çıkaracağını” duyurdu ve Çin’in gelişmiş silahlara yaptığı kendi yatırımıyla rekabet etme çabasının ABD’nin bunu gerektirdiğini söyledi. “Küçük, akıllı, ucuz ve çok sayıda platformdan yararlanın.”
Otonom silah kavramı tamamen yeni değil. Otomatik olarak patlayan kara mayınları İç Savaş’tan bu yana kullanılıyor. Amerika Birleşik Devletleri, hedeflere otonom olarak kilitlenip onları vurmak için radar sensörlerine dayanan füze sistemlerine sahiptir.
Değişen şey, silah sistemlerine bilgiyi alıp işledikten sonra kendi başına karar verme yeteneği kazandırabilecek yapay zekanın kullanılmaya başlanmasıdır.
Amerika Birleşik Devletleri, bu yıl revize edilen “Silah Sistemlerinde Özerklik” adı verilen Pentagon politikası ve ilgili Dışişleri Bakanlığının “Yapay Zekanın Sorumlu Kullanımına İlişkin Siyasi Bildirgesi” de dahil olmak üzere, yapay zeka ve ölümcül otonom silahların nasıl kullanılacağına ilişkin sınırları belirleyen gönüllü politikaları zaten benimsedi. İstihbarat ve Özerklik”, diğer ulusları da benimsemeye teşvik etti.
Dışişleri Bakanlığı müsteşarı Bonnie Denise Jenkins, Amerikan politika açıklamalarının “ulusların askeri alanda yapay zeka sistemlerinin potansiyel faydalarından yararlanmasını sağlarken sorumsuz, istikrarsızlaştırıcı ve pervasız davranışlardan kaçınan adımları teşvik edeceğini” söyledi.
Pentagon politikası, üst düzey Savunma Bakanlığı yetkilileri tarafından onaylanmadığı sürece herhangi bir yeni otonom silahın kullanılmasını ve hatta geliştirilmesini yasaklıyor. Bu tür silahlar belirli bir coğrafi bölgede sınırlı sürelerle çalıştırılmalıdır. Ve eğer silahlar yapay zeka tarafından kontrol ediliyorsa, askeri personelin “istenmeyen davranışlar sergileyen konuşlandırılmış sistemleri devre dışı bırakma veya devre dışı bırakma yeteneğini” elinde tutması gerekiyor.
Hava Kuvvetleri generalleri röportajlarında, en azından başlangıçta ölümcül bir eyleme geçmeden önce insan onayına ihtiyaç duyulacağını söyledi.
Ancak Hava Kuvvetleri sekreteri Frank Kendall, ayrı bir röportajda, bu makinelerin eninde sonunda kendi başlarına öldürücü eylemlerde bulunma gücüne sahip olmaları gerektiğini ve aynı zamanda nasıl konuşlandırıldıkları konusunda insan gözetimi altında kalmaları gerektiğini söyledi.
“Bireysel kararlar ve bireysel kararlar vermemek, kazanmak ve kaybetmek arasındaki farktır – ve kaybetmeyeceksiniz , dedi. Şöyle ekledi: “Karşı karşıya geleceğimiz insanların bunu yapacağını sanmıyorum ve eğer bu sınırlamayı kendimize koyarsak bu onlara büyük bir avantaj sağlar. .”
Şu anda Pentagon Ulusal Savunma Üniversitesi’nde araştırma görevlisi olarak görev yapan emekli bir Deniz subayı olan Thomas X. Hammes, bir röportajda ve Atlantik Konseyi tarafından yakın zamanda yayınlanan bir makalede bunun “Amerika Birleşik Devletleri ve diğer demokratik uluslar için ahlaki bir zorunluluk” olduğunu söyledi. ” Otonom silahlar inşa edin ve kullanın.
Kendisi, “büyük bir konvansiyonel çatışmada bunu yapmamanın hem askeri hem de sivil birçok ölümle ve potansiyel olarak çatışmanın kaybıyla sonuçlanacağını” savundu.
Bazı silah kontrolü savunucuları ve diplomatlar, insanların bireysel saldırılara izin vermediği yapay zeka kontrollü ölümcül silahların, insanların can almaya ilişkin kararlarda oynadığı doğrudan ahlaki rolü ortadan kaldırarak savaşın doğasını değiştireceğini savunarak aynı fikirde değiller.
Eleştirmenler, bu yapay zeka silahlarının bazen öngörülemeyen şekillerde hareket edeceğini ve kaza yapan sürücüsüz arabalar gibi hedefleri belirlemede büyük olasılıkla hata yapabileceklerini söylüyor.
Muhalifler, yeni silahların savaş sırasında ölümcül güç kullanımını daha muhtemel hale getirebileceğini, çünkü bunları fırlatan ordunun kendi askerlerini doğrudan riske atmayacağı veya gerilimi daha hızlı artırabileceğini savundu.
Uluslararası Kızılhaç Komitesi ve Katil Robotları Durdurun gibi silah kontrol grupları ile Avusturya, Arjantin, Yeni Zelanda, İsviçre ve Kosta Rika gibi ulusal delegasyonlar çeşitli sınırlamalar önerdi.
Bazıları, açıkça insanları hedef alan ölümcül otonom silahları küresel olarak yasaklamaya çalışacak. Diğerleri ise bu silahların “anlamlı insan kontrolü” altında kalmasını ve sınırlı alanlarda belirli süreler boyunca kullanılmalarını talep edecektir.
Avusturyalı diplomat Bay Kmentt, bir röportajda BM’nin, savaşların nasıl yürütülebileceğine sınır getiren mevcut anlaşmaları uygulama konusunda sorun yaşadığını kabul etti. Ancak yasal olarak bağlayıcı yeni bir standardın oluşturulmasına hâlâ ihtiyaç duyulduğunu söyledi.
“Birinin her zaman cinayet işleyecek olması, bunu yasaklayacak mevzuata ihtiyacınız olmadığı anlamına gelmez” dedi. “Şu anda sahip olduğumuz şey, tüm bu alanın tamamen düzenlenmemiş olduğu.”
Ancak Bay Dorosin, silahların “anlamlı insan kontrolü” altında olması çağrısı gibi ABD’nin çok muğlak olduğunu düşündüğü veya kabul etmeye isteksiz olduğu önerilen gerekliliklere defalarca itiraz etti.
ABD delegasyonunun tercih ettiği dil “sorumlu bir insani emir-komuta zinciri içindedir.”
Müzakerecilerin “belirsiz, kapsayıcı terminolojiden kaçınmasının” ABD için önemli olduğunu söyledi.
Rus diplomat Sayın Vorontsov, tartışmaların birinde Sayın Dorosin’in ardından söz aldı ve ABD’nin tutumunu onayladı.
Bay Vorontsov, “Birçok delegasyon için önceliğin insan kontrolü olduğunu anlıyoruz” dedi. “Rusya Federasyonu için öncelikler biraz farklı.”
ABD, Çin ve Rusya da yapay zeka ve otonom silahların sivil kayıplarını ve gereksiz fiziksel hasarı azaltarak fayda sağlayabileceğini savundu.
ABD delegasyonu, “Gücü daha hassas ve verimli bir şekilde dağıtmak için bilgisayarları ve otonom işlevleri kullanan akıllı silahların, sivillere ve sivil nesnelere zarar verme riskini azalttığı gösterilmiştir” dedi.
Bay Kmentt, Kasım ayının başında, BM genel sekreterinin ölümcül otonom silahlara ilişkin bir rapor hazırlamasını talep eden revize edilmiş bir plan için geniş bir destek kazandı; ancak bu plan, büyük güçlerin saygısı doğrultusunda, konuyla ilgili ayrıntılı görüşmelerin belirli bir süre devam edeceğini açıkça ortaya koydu. Herhangi bir ülkenin ilerlemeyi etkili bir şekilde engelleyebileceği veya dili sulandırmaya zorlayabileceği Cenevre’deki BM komitesi.
Tartışmaya katılan bir diplomat, geçen hafta Cenevre merkezli komitenin, Rusya ve diğer büyük güçlerin konuyu incelemeye devam etmek için 2025 sonuna kadar süre vermeleri yönündeki çağrısını kabul ettiğini söyledi.
Bay Kmentt, “Çok uzun süre beklersek gerçekten pişman olacağız” dedi. “Çok yakında ucuz olacak, kolayca bulunabilecek ve her yerde olacak. Ve insanlar şunu soracaklar: Fırsatımız varken neden sınır koymaya çalışacak kadar hızlı hareket etmedik?”