Otonom silahlar: Katil robotlara karşı küresel uyarı
Otonom silahlar ve katil robotlar konusunda BM ile Kızılhaç uyarıyor: İnsan denetimi olmadan hedef seçen sistemler için küresel yasak çağrısı büyüyor.
Birleşmiş Milletler Genel Sekreteri António Guterres ile Uluslararası Kızılhaç ve Kızılay Komiteleri Federasyonu Başkanı Mirjana Spoljaric Egger, otonom silahlar konusunda ortak bir uyarı yayımladı. İki yetkili, makinelerin insanlar hakkında bağımsız biçimde hedefleme yapmasının insanlığın ahlaki bir sınırı aşmasına yol açabileceğini belirterek, öngörülemeyen otonom sistemler ile insanları hedef alan otonom silahların yasaklanmasını istedi.
BM Cenevre Ofisi’nde silahsızlanma çalışmalarından sorumlu Mélanie Régimbal de insan denetimi ve muhakemesi olmaksızın hedef belirleyen ya da saldırı gerçekleştiren sistemlerin siyasi açıdan kabul edilemez, ahlaki bakımdan savunulamaz olduğunu ve uluslararası hukuk çerçevesinde yasaklanması gerektiğini söyledi.
ICRC’nin Silahlar ve Çatışma Yöntemleri Birimi Başkanı Laurent Gisel ise modern savaşların yalnızca hassasiyet ve ayrım ilkeleri üzerinden değerlendirilemeyeceğini vurguladı. Gisel’e göre çatışmalar, giderek daha büyük bir hız ve ölçekte öldürülen sivillerin, yerinden edilen ailelerin ve yıkılan hastane, okul ve evlerin hikâyesine dönüşüyor. Savaş ortamında koşullar sürekli değişiyor: Bir savaşçı teslim olabilir veya yaralanarak saldırılara karşı korunur hale gelebilir; siviller bir sistemin faaliyet alanına girebilir ya da silah, önceden hesaplanamayan bir durumla karşılaşabilir. Gisel, öngörülemeyen bir sistemin nasıl etkili biçimde sınırlandırılabileceği sorusunu gündeme getirdi.
Bu uyarılar yeni değil. BM ile ICRC, 2023’te yaptıkları ortak çağrıda devletlerden 2026 yılına kadar hukuken bağlayıcı bir düzenleme üzerinde müzakere etmelerini istemişti. Sivil toplumun öncülük ettiği Stop Killer Robots koalisyonu da Ekim 2012’de kuruldu ve ertesi yıl kamuoyuna tanıtıldı.
Koalisyon, insanların doğuştan sahip olduğu onura saygı gösterilen, teknolojik tercihlerin sorumluluğunun üstlenildiği ve barış, adalet, insan hakları ile eşitliği güçlendiren bir dünya hedefliyor. Kampanyanın temel talebi ise savaşta, polislik faaliyetlerinde, sınır kontrolünde ve diğer alanlarda makinelerin bağımsız biçimde öldürme kararları vermesini reddeden toplumsal normların oluşturulması. İnsan denetimi, sorumluluk ve hesap verebilirlik bu yaklaşımın merkezinde yer alıyor.
Ancak kampanyanın son dönemde kayda değer bir ilerleme sağlayamadığı görülüyor. Askeri kurumların ölümcül teknolojilere duyduğu güven sürerken, insan kontrolü fikri büyük miktarda veriyi sorgulamadan işleyen sistemler karşısında zayıflıyor. Hedeflerin tespiti ve vurulması sırasında titiz değerlendirme yapan insan karar vericinin yerini giderek otomatik süreçler alıyor.
Gazze’de 7 Ekim 2023’te başlayan savaşın ilk haftalarında İsrail Savunma Kuvvetleri’nin, silahlı gruplarla bağlantılarına göre hedefleri sınıflandırdığı belirtilen Lavender adlı yapay zekâ destekli karar sistemini yoğun biçimde kullandığı ileri sürüldü. Habsora olarak da bilinen The Gospel hedef listeleri hazırlarken, Where’s Daddy? adlı platformun saldırı öncesinde kişilerin konumlarını izlemek için kullanıldığı aktarıldı. Bu uygulamalar, insan ile makinenin kusursuz uyumundan çok, otomatik öldürme sistemlerine duyulan aşırı güvenin ve denetim eksikliğinin eleştirildiği bir tablo ortaya çıkardı.
Anthropic ile ABD Savunma Bakanlığı arasında yaşanan anlaşmazlık da yapay zekânın savaş alanındaki sınırlarına ilişkin tartışmayı büyüttü. Pentagon’un şirketi tedarik zinciri riski olarak sınıflandırmaya yönelik girişimi, 27 Ağustos’ta Kaliforniya Kuzey Bölgesi ABD Bölge Mahkemesi tarafından Birinci Anayasa Değişikliği’ni ihlal eden hukuka aykırı bir misilleme ve Beşinci Anayasa Değişikliği kapsamındaki adil yargılanma hakkının ihlali olarak değerlendirildi.
Bununla birlikte, söz konusu gerilim otonom silahların sınırlandırılmasını savunanlar açısından kesin bir kazanım anlamına gelmiyor. Anthropic’in kurucu ortağı Dario Amodei, Şubat 2026’da yaptığı açıklamada askeri kararları özel şirketlerin değil Pentagon’un verdiğini söyledi. Şirketin belirli operasyonlara itiraz etmediğini veya teknolojisini olaylara göre kısıtlamaya çalışmadığını belirten Amodei, yine de insanların süreçten tamamen çıkarıldığı ve hedef seçimiyle saldırının otomatikleştirildiği tam otonom silahlar konusunda endişeli olduğunu ifade etti.
Amodei, yapay zekânın demokrasiyi zayıflatabileceğini savunurken, şirketinin geliştirdiği büyük dil modellerinin karar alma süreçlerinde insan rolünü azaltabileceği eleştirileriyle karşı karşıya kaldı. Onun öne çıkardığı kaygılar arasında kitlesel iç gözetim ve temel özgürlükler için oluşabilecek yeni riskler bulunuyor. Ancak tam otonom sistemlerin ulusal savunma açısından önemli olabileceğini kabul etmesi, itirazlarının kapsamını daraltıyor. Açıklamalar, daha çok sistemlerin güvenilirliği ve Amerikan askerleriyle sivillerin kasıtlı biçimde tehlikeye atılmaması üzerinde yoğunlaşıyor.
Amodei’nin açıklamasından iki gün sonra ABD ve İsrail’in İran’a yönelik ortak saldırısı başladı. Bu süreçte yapay zekâ destekli karar sistemlerinin hedef belirlemede kullanıldığı bildirildi. ABD ordusunun Palantir tarafından geliştirilen Maven Akıllı Sistemi’nden yararlandığı, sistemin gözetim verilerini analiz etmek, hedef listeleri hazırlamak ve önceliklendirmek için Anthropic’in Claude modelini entegre ettiği aktarıldı.
Uluslararası Stratejik Araştırmalar Enstitüsü’nden Noor Hammad, İran’da vurulan hedeflerin önemli bölümünün okul, sağlık tesisi ve konutlar gibi sivil noktalar olduğunu belirterek hızlı hedef tespitinin risklerine dikkat çekti. Bu örnek, yapay zekâ sistemlerinin karar süreçlerini hızlandırmasının, hedeflerin niteliğine ilişkin hataları ortadan kaldırmadığını gösteriyor.
Laurent Gisel, mevcut durumda savaş alanında otonom silahların insanları doğrudan hedef almak için kullanıldığına dair doğrulanmış bir kanıt bulunmadığını söyledi. Ancak askeri çevrelerin bu teknolojilere duyduğu güven, sistemlerin ürettiği sonuçların sorgulanmadan doğru kabul edilmesi tehlikesini beraberinde getiriyor. Ayrıca yalnızca itidal çağrıları ve hukuki denetim önerileriyle yetinilmesi, somut bir düzenleme yapılmadığı takdirde endişeleri azaltmak yerine büyütebilir.
Kasım ayında düzenlenmesi planlanan Belirli Konvansiyonel Silahlar Sözleşmesi’nin yedinci Gözden Geçirme Konferansı öncesinde devletler, insan denetiminin ortadan kalktığı sistemlere ilişkin bağlayıcı kurallar oluşturma baskısıyla karşı karşıya. Atom silahlarından iklim değişikliğine kadar pek çok konuda olduğu gibi, etkili çözüm geliştirilmeden önce en kötü senaryonun gerçekleşmesi riski sürüyor. Otonom silahlar konusunda atılacak adımların ise gecikmiş ve geçici bir rahatlamayla sınırlı kalmaması gerekiyor.
Binoy Kampmark, Cambridge’deki Selwyn Koleji’nde Commonwealth bursiyeri olarak görev yaptı. Halen Melbourne’daki RMIT Üniversitesi’nde ders vermektedir.
