Kada su 28. veljače 2026. američke snage bombardirale Osnovnu školu Shajareh-Tayyebeh u Minabu, na jugu Irana, ubijeno je najmanje 160 ljudi, većinom djece. Napad je izazvao međunarodno ogorčenje i oštro je istaknuo pitanje odgovornosti u suvremenom ratovanju. To je zato što umjetna inteligencija u ratovanju stvara novi izgovor: odgovorni se mogu sakriti iza sustava, koje na kraju sami okrivljuju.
Odgovorni se skrivaju iza tehnologije.
Ali umjesto da preuzmu odgovornost, poznata borba oko interpretativna ovlast. Donald Trump je u početku okrivio sam Iran. Nakon toga uslijedila je istraga o incidentu, tijekom koje su dostupni videozapisi očito pomnije pregledani. Snimka koja u usporenom snimanju jasno prikazuje udar projektila Patriot.
Kad nije ostalo ništa što bi se moglo staviti u perspektivu i dokazi su postali neodoljivi, pogreške u podacima, umjetna inteligencija i sustavi kao što su Palantir "Tehnološki stručnjaci" izlaze na pozornicu. To je zvučalo moderno, tehnički, gotovo neutralno. I upravo tu leži problem. Jer dok govorimo o umjetnoj inteligenciji u ratu, odgovorni se sve više skrivaju iza tih sustava – oni koji sastavljaju popise, oni koji razvijaju umjetnu inteligenciju i oni koji odobravaju napade.
Kvar nije u umjetnoj inteligenciji, nego u sustavu.
Minab nikada nije bio o umjetnoj inteligenciji koja iznenada izmakne kontroli. Više se radi o vojnome sustavu koji ubrzava donošenje odluka, standardizira postupke provjere i raspodjeljuje odgovornost na baze podataka, sučelja i lance procesa. Palantir Maven pametni sustav, ili skraćeno MSS, je osmišljen posebno za ovaj oblik ratovanja: platforma koja objedinjuje podatke iz satelitskih snimki, senzora i drugih obavještajnih izvora kako bi se ubrzala identifikacija ciljeva i donošenje vojnih odluka.
Ni jedan jezični model je, zapravo, cilj koji je postavila Minabova škola. Naprotiv, istraživanje sugerira da a dugogodišnji unos nikada nije bio ispravno ispravljen u vojnim bazama podataka, iako je zgrada godinama bila navedena kao Škola bilo je očito. Dakle, stvarna katastrofa nije započela u 'inteligentnom' sustavu koji je pogriješio. Započela je u sustavu optimiziranom za brzinu, u kojem je netočni podaci Može biti kobno. Svatko tko u ovom kontekstu govori o pogrešci umjetne inteligencije više ne govori o onima koji grade takve sustave i profitiraju od njih, o onima koji ih hrane podacima ili o onima koji naposljetku odobravaju napad.
Nije greška u AI-u, nego sustavna pogreška koja se morala dogoditi.
Ono što je u ovom slučaju doista uznemirujuće nije to što je sustav znao previše, nego to što je znao premalo. ispravljeno bila je. To je zato što je zgrada bila navedena u bazi podataka o Agencija za obranu obavještajne službe, odnosno američka vojno-obavještajna služba, koja, između ostalog, osigurava podatke za ciljanje i izviđanje za takve sustave, i dalje je navedena kao vojni objekt. To je unatoč činjenici da je, najkasnije od 2016. godine, odvojena od susjednog kompleksa Revolucionarne garde i koristi se kao škola. Dokazi su bili javno dostupni i nedvosmisleni. Fotografije, Unosi u imeniku, Karte i vidljive oznake Znakovi na školskom dvorištu jasno su pokazivali što je ta zgrada dugo bila: škola. Dakle, nije nedostajalo informacija. Samo ih je trebalo shvatiti ozbiljno.
Upravo zato je priča o 'AI zabludi' toliko obmanjujuća. Ne zato što softver nije bio uključen, nego zato što Odlučujuće skriveno. Čini se da pogreška nije nastala zbog iznenadnog gubitka kontrole nad zrakoplovom, nego zbog stare, netočne klasifikacije koja se više nije isticala u brzoj vojnatoj proceduri. Netočni podaci nisu doveli do nikakvih Upitnik, ali a Cilj.
Više infografika možete pronaći na Statista
I upravo ovdje to postaje političko. Jer što više brže Što je više takvih sustava u pogonu, to je kraći vremenski prozor za podnošenje prigovora. Maven je dizajniran da, do 1.000 ciljanih odluka obrađivati po satu. Ovo je više od pukog tehničkog statističkog podatka. To je, zapravo, ritam ubojstva. Gdje brzina postaje mjerilo, kontrola slabi. Gdje se od procesa očekuje da teku sve glađe, sumnje se brzo počinju smatrati preprekama. Incidenti poput onog u Minabu stoga su logična posljedica sustava u kojem netočne podatke dugo ne primjećuje nitko, sve dok odjednom ne postanu kobni.
Vještačka inteligencija u ratu slijedi prastaroj logici ubijanja.
Jer je ideja o tome da se ratovi tehnologijom učine predvidljivijima mnogo stariji nego bilo koja trenutna rasprava o umjetnoj inteligenciji. Davno prije nego što je softver počeo ciljati ciljeve, vojske su već pokušavale Nepredvidiv pretvoriti iskustvo rata u procedure, standarde i tehničke procese. Osvrt unatrag pokazuje koliko je opasna ova linija razmišljanja. Tijekom Vijetnamskog rata američka je vojska rasporedila tisuće akustičnih i seizmičkih senzora, čiji su se podaci prenosili zrakoplovima u analizni centar, gdje su obrađivani od strane IBM 360 računala Bili su obrađivani kako bi se pratili pokreti duž puta Ho Chi Minh i usmjeravali zračni udari. Sustav je mogao detektirati signale, ali nije mogao pouzdano utvrditi što zapravo prima. Tehnologija stoga nije pružila jasnoću, već je često pružala samo njezinu privid.
Tijekom rata na Kosovu ista se logika manifestirala na drugačiji način: pogrešna identifikacija ciljeva, neprimjereni podaci na kartama i birokratski aparat koji nije na vrijeme ispravio pogrešne pretpostavke na kraju su doveli do bombardiranja Kineska veleposlanica u Beogradu od strane američkog ratnog zrakoplovstva. U to su se vrijeme, međutim, i dalje ispričali za sve pogreške.
Ova se ponavljajuća tema nastavlja sve do Minaba. Nisu strojevi ti koji zamjenjuju ljude. Naprotiv, institucije su te koje stvaraju sustave u kojima netočne podatke, standardizirani postupci i vremenski pritisak ojačati jedni druge. Mit o preciznosti opstaje, iako je stvarnost odavno propala. Zato pojam 'neuspjeha umjetne inteligencije' ne zadovoljava. On dramatizira stroj i oslobađa ljude od odgovornosti.
Odgovornost ne nestaje; ona jednostavno postaje nevidljiva.
Ključno pitanje stoga nije može li stroj biti moralno kriv. Pitanje je: Tko snosi odgovornost kada države i vojska uvode sustave koji sve brže odabiru ciljeve i čine napade sve tehničkijima? Prema međunarodnom humanitarnom pravu, ovo se pitanje jasnije odgovara nego što neke trenutne rasprave sugeriraju. Načelo razlikovanja obvezuje strane u sukobu da samo vojni ciljevi napasti i civilni objekti zaštititi. Odgovornost stoga ne leži na AI, nego na ključni igrači, vojni lanci zapovijedanja i države koje provode takve napade.
Međunarodna rasprava o autonomni sustavi oružja Točnije, radi se upravo o ovoj točki. Međunarodni odbor Crvenog križa već godinama upozorava da sustavi koji odabiru ciljeve i koriste silu bez dovoljno ljudskog nadzora postavljaju temeljna pravna, humanitarna i etička pitanja. Nije važno je li tehnologija označena kao 'AI'. Važno je jesu li ljudi još uvijek uključeni na način da pravi nadzor, Presuda i Odgovornost omogućuje. Kada se ta kontrola smanjuje, ne povećava se neutralnost tehnologije, nego opasnost od organizirane neodgovornosti.
Podržite novinarstvo
Neovisno novinarstvo treba snažne podržavatelje. Ako vam se svidio ovaj članak, bili bismo zahvalni na izravnoj donaciji našem uredničkom timu.
