28 Şubat 2026'da ABD güçleri güney İran'ın Minab kentindeki Şecere-i Tayyibe İlkokulunu bombaladığında, çoğu çocuk olmak üzere en az 160 kişi hayatını kaybetti. Bu saldırı uluslararası alanda infial yarattı ve modern savaşta sorumluluk meselesini odak noktasına taşıdı. Çünkü savaştaki yapay zeka yeni bir mazeret yaratıyor: Sorumlular, nihayetinde suçu yine kendilerinin yükleyeceği sistemlerin arkasına saklanabiliyorlar.
Sorumlular teknolojinin arkasına saklanıyor
Ancak sorumluluğu üstlenmek yerine, derhae şu tanıdık çekişme başladı: Yorum iktidarı. Donald Trump suçu ilk başta İran'ın kendisine attı. Bunu, olayla ilgili olarak mevcut video materyalinin muhtemelen daha yakından incelendiği bir soruşturma izledi. Ağır çekimde bir Patriot füzesinin isabet ettiğini açıkça gösteren görüntüler.
Artık hiçbir şeyi görelere bağlamak mümkün olmayıp kanıtlar ezici bir nitelik kazandığında, veri hataları, yapay zekâ ve şu gibi sistemler devreye girdi: Palantir Teknolojiler Maven sahneye çıkıyor. Bu kulağa modern, teknik, neredeyse tarafsız geliyordu. Ve sorun tam da burada yatıyor. Çünkü savaşta yapay zekadan bahsettiğimiz şu günlerde, sorumlular bu sistemlerin arkasında giderek daha fazla saklanıyor; listeler tutanlar, yapay zeka inşa edenler, saldırıları onaylayanlar.
Hata yapay zekada değil, sistemde
Minab hiçbir zaman kontrolden çıkan bir yapay zeka meselesi olmadı. Daha ziyade kararları hızlandıran, denetim adımlarını standartlaştıran ve sorumluluğu veri tabanlarına, arayüzlere ve süreç zincirlerine dağıtan askerî bir sistemle ilgili. Bu Palantir Maven Akıllı Sistemi, kısaca MSS, tam olarak bu tür bir savaş biçimi için inşa edilmiştir: uydu görüntülerinden, sensörlerden ve diğer istihbarat kaynaklarından gelen verileri birleştirerek hedef tespitini ve askeri kararları hızlandıran bir platform.
Değil bir Dil modeli Minab okulunun da hedef olarak belirlediği şey budur. Aksine, araştırmalar bunun bir olduğunu göstermektedir en eski kayıt askeri bir veri tabanında hiçbir zaman düzgün bir şekilde düzeltilmedi; bina yıllardır şu şekilde olmasına rağmen: Okul görülebiliyordu. Asıl felaket bu yüzden „hata yapan“ "akıllı" bir sistemde başlamadı. Hız için optimize edilmiş ve bir kesin olmayan veri durumu ölümcül olabilecek. Burada bir yapay zeka hatasından bahseden kişi, artık bu tür sistemleri inşa edenler ve bunlardan para kazananlar, onları verilerle besleyenler ve sonuçta saldırıya onay verenler hakkında konuşmuyor demektir.
Yapay zekanın bir hatası değil, göz göre göre gelen bir sistem hatası
Olaydaki asıl rahatsız edici şey bir sistemin çok fazla şey bilmesi değil, çok az şey bilmesi. düzeltildi oldu. Çünkü bina, bir veritabanında Savunma İstihbarat Teşkilatı, yani ABD'nin askeri istihbarat teşkilatı tarafından, diğerlerinin yanı sıra bu tür sistemler için hedef ve keşif verileri sağlayan bir askeri tesis olarak kaydedilmeye devam ediyor. En geç 2016'dan beri komşu Devrim Muhafızları kompleksinden ayrılmış ve okul olarak kullanılmış olmasına rağmen. İpuçları kamuya açıktı velı netti. Fotoğraflar, Dizin kayıtları, Haritalar ve görünür işaretler okul sınırları içinde açıkça gösteriyordu: Bu bina çoktan beri bir okuldu. Yani bilgi eksikliği yoktu. Sadece bunları ciddiye almak gerekiyordu.
İşte bu yüzden „Yapay zeka hatası“ söylemi bu kadar yanıltıcı. Yazılım işin içinde olmadığı için değil. Bilakis, bunu Belirleyici örtbas edildi. Hata görünüşe göre makinenin ani bir kontrol kaybından değil, hızlandırılmış bir askeri sistemde artık durdurulamayan eski, yanlış bir sınıflandırmadan kaynaklandı. Eksik bir veri durumundan ortaya çıkmadı Soru işareti, bilakis bir Hedef.
Daha fazla infografiği burada bulabilirsiniz Statista
Ve tam olarak burada işin içine siyaset giriyor. Çünkü ne kadar daha hızlı bu tür sistemler çalıştıkça, itiraz için zaman penceresi o kadar daralır. Maven, 1.000'den fazla hedef kararı saat başına işlemek. Bu, teknik bir performans göstergesinin ötesindedir. Daha ziyade cinayetin temposudur. Hızın ölçüt haline geldiği yerde kontrol daralır. Süreçlerin her zamankinden daha sorunsuz ilerlemesi istenen yerde şüpheler hızla birer engel gibi görünür. Minab'dakiler gibi olaylar, bu nedenle, yanlış bir veri durumunun uzun süre zararsız kalıp ardından aniden ölümcül hale geldiği bir sistemin mantıksal sonucudur.
Savaşta YZ, eski bir öldürme mantığını takip ediyor
Çünkü savaşları teknoloji yoluyla daha öngörülebilir kılma fikri çok daha yaşlı bugünkü yapay zeka tartışmalarından çok daha önce. Yazılım hedefleri işaretlemeden çok önce ordular bunu yapmaya çalışıyordu Öngörülemez savaşın prosedürlere, standartlara ve teknik süreçlere dönüştürülmesini. Bu mantığın ne kadar tehlikeli olduğu geçmişe bir bakışla görülmektedir. Vietnam Savaşı'nda ABD ordusu, verileri uçaklar aracılığıyla bir değerlendirme merkezine iletilen ve burada IBM-360 bilgisayarlarına Ho-Chi-Minh-Pfad üzerindeki hareketleri tespit etmek ve hava saldırılarını yönlendirmek için işlenmişti. Sistem sinyalleri kaydedebiliyor ancak aslında neyi tespitlediğini güvenilir bir şekilde sınıflandıramıyordu. Teknoloji böylece netlik yaratmıyor, aksine sıklıkla sadece netlik izlenimi yaratıyordu.
Kosova Savaşı'nda aynı mantık başka bir şekilde kendini gösterdi: Hatalı hedef belirleme, uygun olmayan harita altlıkları ve yanlış kabulleri zamanında durdurmayan bürokratik bir mekanizma, nihayetinde şu yerin bombalanmasına yol açtı: Belgrad'daki Çin Büyükelçiliği ABD Hava Kuvvetleri tarafından. Ancak o zamanlar olası hatalar için hâlâ özür dileniyordu.
Kırmızı çizgi Minab'a kadar uzanıyor. İnsanın yerini makine almıyor. Aksine kurumlar; yanlış verilerin, standartlaştırılmış süreçlerin ve zaman baskısının bulunduğu sistemler inşa ediyor karşılıklı olarak güçlendirmek. Kesinlik mitosu, gerçeklik çoktan çatlamış olmasına rağmen varlığını sürdürmektedir. Bu nedenle „Yapay Zeka hatası“ söylemi yetersiz kalmaktadır. Makineyi dramatize etmekte ve insanı sorumluluktan kurtarmaktadır.
Sorumluluk kaybolmaz, sadece görünmez olur
Bu nedenle belirleyici soru, bir makinenin ahlaki açıdan suçlu olup olamayacağı değildir. Soru şudur: Devletler ve ordular, hedefleri giderek daha hızlı seçen ve saldırıları giderek daha teknik gösteren sistemler kullandığında sorumluluğu kim taşır? Uluslararası insancıl hukukta bu soru, bazı tartışmaların şu anda ima ettiğinden daha net bir şekilde yanıtlanmıştır. Ayrım gözetme ilkesi, çatışma taraflarını yalnızca askeri hedefler saldırmak ve sivil nesneler korumak. Sorumluluk bu nedenle yapay zekâya değil, faaliyet gösteren aktörler, askeri komuta zincirlerinin ve bu tür saldırıları gerçekleştiren devletlerin.
Uluslararası tartışmalar da otonom silah sistemleri tam olarak bu noktaya odaklanmaktadır. Uluslararası Kızılhaç Komitesi, yeterli insan kontrolü olmaksızın hedefleri seçen ve şiddet uygulayan sistemlerin temel yasal, insani ve etik sorunlar doğurduğu konusunda yıllardır uyarıyor. Belirleyici olan, bir teknolojiye yapay zeka etiketinin yapıştırılıp yapıştırılmadığı değildir. Belirleyici olan, insanların, gerçek kontrol, Yargı yetkisi ve Hesap verme sorumluluğu mümkün kılmaktadır. Bu kontrolün azaldığı yerde, tekniğin tarafsızlığı değil, organize sorumsuzluk tehlikesi büyür.
Gazeteciliği destekleyin
Bağımsız gazetecilik güçlü destekçilere ihtiyaç duyar. Bu makaleyi beğendiyseniz, yazı işleri ekibimize doğrudan bir katkıda bulunmanızdan memnuniyet duyarız.
