Ar teisingo karo teorija išgyvens dirbtinio intelekto amžių?

Rugpjūčio 31 –  rugsėjo 4 dienomis Ženevos „Palais des Nations“ pastate įvairių pasaulio vyriausybių deleguotų ekspertų grupė dėl mirtinių autonominių ginklų sistemų (LAWS) panaudojimo surengė paskutinį posėdį prieš lapkričio 16–20 d. numatytą septintąjį Konvencijos dėl ginklų priežiūros susitikimą, kuriame turės būti nuspręsta, ar pradėti derybas dėl privalomos sutarties, ar leisti procesui tyliai pasibaigti. Tai, kas prieš dešimtmetį buvo tik filosofijos seminarų tema, dabar tapo esminiu diplomatinės darbotvarkės punktu.

Mano keliamas klausimas yra toks: ar klasikinė teisingo karo teorija, kurią neseniai nagrinėjau per Augustino ir Akviniečio atgrasymo etikos prizmę, gali atlaikyti šį spaudimą? Ar ji tiesiog prisitaiko prie naujų aplinkybių, susidūrusi su dirbtiniu intelektu, ar jos pagrindinė prielaida, kad sprendimą priima sąmoningas ir atsakingas asmuo, pradeda byrėti?

Augustino suformuota ir Akviniečio susisteminta tradicija karą vertina dviem lygmenimis. „Ius ad bellum“ (liet. teisingumas prieš karą) klausia, ar karas apskritai yra pateisinamas, ar yra teisėta valdžia, teisinga priežastis, teisingi ketinimai, ar karas yra paskutinė priemonė, proporcinga siekiamam tikslui. „Ius in bello“ (liet. teisingumas karo metu) klausia, kaip teisingai kariauti reikalaujant, kad kovotojai būtų atskirti nuo civilių (atskyrimo principas) ir kad jėgos panaudojimas būtų proporcingas kariniam pranašumui. Nors šių dviejų lygmenų klausimai labai skiriasi, abu jie remiasi ta pačia antropologine prielaida: kad sprendimą priima asmuo, turintis praktinės išminties, kurią Akvinietis vadino prudentia– gebėjimu įvertinti aplinkybes, abejoti, parodyti gailestingumą ir susilaikyti nuo mirtino smūgio. Teisingo karo teorija yra, pirmiausia, riboto, atskaitingo žmogiškojo sprendimo teorija, o tik po to – iš jos išplaukiančių taisyklių rinkinys.

Verta prisiminti, kad ši tradicija jau anksčiau susidūrė su revoliucinėmis technologijomis ir kad tokiais momentais istorijoje ji parodė gebėjimą prisitaikyti, nors ir ne be pasipriešinimo. 1139 m. Antrojo Laterano susirinkimo 29-asis kanonas uždraudė naudoti arbaletą ir lanką prieš krikščionis, pavadindamas šį ginklą „Dievui nepriimtinu“ ne todėl, kad jis buvo ypač žiaurus technine prasme, bet todėl, kad leido žmogui nužudyti riterį, kuris net negalėjo pamatyti, kas jį nužudė: ginklas nutraukė ryšį tarp kovotojo drąsos, jo atsakomybės ir mirties priežasties. Panašios diskusijos vyko dėl parako, o XX a. viduryje – dėl branduolinių ginklų, kai tradicija turėjo iš naujo apibrėžti proporcingumo principą pasaulyje, kuriame vienas sprendimas galėjo sunaikinti ištisus miestus. Kiekvienu atveju teisingo karo tradicija ne tiek visiškai atmetė naują technologiją, kiek reikalavo naujų sąlygų, kuriomis jos naudojimas vis dar galėtų būti laikomas morališkai pateisinamu. Dirbtinis intelektas, šia prasme, nėra visiškai be precedento, tačiau jis kelia klausimą kitame lygmenyje nei arbaletas ar branduolinė bomba: ne apie tai, kiek žalos gali padaryti ginklas, o apie tai, kas priima sprendimą jį panaudoti.

Būtent tas sprendimo momentas šiandien nyksta prieš mūsų akis. 2024 m. žurnalo „+972 Magazine“ paskelbtas tyrimas atskleidė, kaip Izraelio kariuomenė Gazos karo pradžioje naudojo dirbtinio intelekto sistemą, vadinamą „Lavender“. Sistema analizavo masinio stebėjimo duomenis apie 2,3 mln. Gazos gyventojų ir kiekvienam asmeniui priskyrė balą nuo 1 iki 100, rodantį tikimybę, kad jis priklauso karinei organizacijai. Pirmuosius karo mėnesius sistema pažymėjo maždaug 37 000 žmonių kaip įtariamus kovotojus, nepaisant žinomo apie 10 procentų klaidų lygio. Šaltiniai, kalbėjęsi su žurnalistais, liudijo, kad prieš patvirtindami smūgį kariai skirdavo tik apie dvidešimt sekundžių vienam taikiniui, dažnai tik patikrindami, ar taikinys yra vyras, o ne moteris. Vieno šaltinio žodžiais tariant, žmogus tarnavo tik kaip „antspaudas“ mašinos sprendimui.

Kartu su „Lavender“ veikė dar viena sistema – „Habsora“, kuri generavo taikinius tarp pastatų ir infrastruktūros objektų. „The Guardian“ ir „+972 Magazine“ tyrimai rodo, kad ši sistema iš esmės pakeitė patį taikinių generavimo tempą: jei anksčiau žvalgybos analitikai rankiniu būdu per metus parengdavo keliasdešimt patikrintų taikinių, dabar algoritmas per trumpą laiką galėjo pasiūlyti šimtus. Būtent šis tempo pokytis, o ne vien tik tikslumas, yra viena iš priežasčių, kodėl žmogiškasis sprendimas neišvengiamai tampa formalumu: sistema, kuri generuoja taikinius greičiau, nei žmogus fiziškai gali juos įvertinti, perkelia sprendimo svorio centrą nuo kario prie algoritmo, net ir tais atvejais, kai galutinis sprendimas formaliai vis dar priklauso žmogui. Trečioji sistema, kurią kariai praminė „Kur tėtis?“, veikė kitaip: jos tikslas buvo ne generuoti naujus taikinius, o stebėti jau patvirtintus, kol jie grįš namo. Apibendrinant, šios sistemos apibūdina ne izoliuotą techninį eksperimentą, o visą sprendimų priėmimo ekosistemą, kurioje žmogaus vaidmuo susiaurėja iki formalaus patvirtinimo jau beveik užbaigto proceso pabaigoje.

Būtent čia glūdi klasikinės teorijos prieštaravimas. Atskyrimo principas reikalauja ne tik statistinio rūšiavimo, bet ir vertinimo – gebėjimo atsižvelgti į konkretų asmenį ir konkrečias aplinkybes, o abejonės atveju – gebėjimo susilaikyti. Kai tą vertinimą pakeičia tikimybės balas, o žmogaus vaidmuo susiaurėja iki dvidešimties sekundžių trukmės patvirtinimo, atskyrimas tampa statistine kategorija, o ne moraliniu veiksmu. Proporcingumo principas neatrodo geriau: jis reikalauja palyginti nesulyginamus dalykus – karinį pranašumą ir civilių gyvybes – o tai iš esmės yra praktinės išminties, o ne algoritminės optimizacijos užduotis. Trečias ir galbūt svarbiausias aspektas yra ketinimas. Teisingo karo teorijoje ketinimas priklauso asmeniui, o ne sistemai. Australijos filosofas Robertas Sparrowas, rašęs 2007 m., gerokai prieš atsirandant tokioms sistemoms kaip „Lavender“, šį reiškinį pavadino „atsakomybės spraga“: kai sprendimą iš esmės priima algoritmas, apmokytas remiantis istoriniais duomenimis, tampa neaišku, kas iš tikrųjų yra atsakingas, kai jis suklysta. Programuotojas, apmokęs modelį? Karininkas, per dvidešimt sekundžių patvirtinęs sąrašą? Institucija, kuri patvirtino doktriną? Arba, blogiausiu atveju, niekas?

Šis atotrūkis nėra vien filosofinė abstrakcija; jis apima ir tarptautinę baudžiamąją teisę. Tarptautinio baudžiamojo teismo Romos statutas, kaip ir visa karo nusikaltimų doktrina, grindžiamas prielaida, kad už nusikaltimą atsako identifikuojamas fizinis asmuo, kuris turėjo konkretų psichologinį ir moralinį ryšį su veiksmu. Kai sprendimą iš esmės lemia statistinis modelis, o žmogaus vaidmuo apsiriboja formaliu patvirtinimu, tampa neaišku, kokį statusą turėjo tas ryšys. Tarptautinė teisė, kaip ir teisingo karo etika, buvo sukurta turint mintyje asmenį, esantį įvykio vietoje. Kai veikėjas pasitraukia į duomenų centrą, o įvykio vietoje lieka tik jo dvidešimt dviejų sekundžių trukmės pritarimas, tiek teisė, tiek etika privalo iš naujo apibrėžti, ką iš viso reiškia „atsakyti“ už karo veiksmus.

Vis dėlto tokios sistemos kaip „Lavender“ tebėra sprendimų priėmimo pagalbinės priemonės; formaliai už jas tebėra atsakingas žmogus, kad ir koks simbolinis tas ryšys praktikoje taptų. Kur kas radikalesnis yra tikrųjų autonominių ginklų sistemų atvejis: ginklai, gebantys patys pasirinkti ir pulti taikinį be žmogaus sprendimo smūgio akimirką. Būtent juos Ženevos derybos siekia uždrausti arba apriboti. JAV Gynybos departamentas pagal Direktyvą 3000.09 reikalauja, kad būtų išlaikytas atitinkamas žmogaus sprendimo lygis. Ši formuluotė yra sąmoningai neaiški, o pats neaiškumas rodo, kaip sunku klasikinę prudentia sąvoką paversti patikrinama technine specifikacija. Kariuomenės technologų kalboje šis dviprasmiškumas dažnai išreiškiamas trimis kategorijomis: žmogus in the loop (įtrauktas į grandinę), kai kiekvieną smūgį turi patvirtinti žmogus; žmogus on the loop (prie grandinės), kai žmogus stebi ir gali įsikišti, bet sprendimą realiuoju laiku priima sistema; ir žmogus out of the loop (neįtrauktas į grandinę), kai sistema veikia visiškai savarankiškai. „Lavender“ atvejis rodo, kaip lengvai pirmoji kategorija praktikoje susilieja su antrąja ar net trečiąja, nors formaliai ir išlaiko pirmosios retoriką.

Savo pirmojoje enciklikoje Magnifica Humanitas, paskelbtoje 2026 m. gegužės 15 d., popiežius Leonas XIV atvirai pareiškė, kad „teisingo karo teorija, kuri pernelyg dažnai buvo naudojama bet kokiam karui pateisinti, dabar yra pasenusi“, tuo pačiu atsargiai išsaugodamas „teisę į savigyną siauriausia prasme“. Jis nenorėjo pasakyti, kad savigyna nustoja būti teisėta, bet kad klasikiniai kriterijai praktikoje tarnavo kaip leidimas beveik bet kokiam karui, kurį valstybė norėjo pradėti, ir kad „žmonija turi kur kas veiksmingesnių ir tinkamesnių priemonių žmogaus gyvybei apsaugoti ir konfliktams spręsti, pavyzdžiui, dialogą, diplomatiją ir atleidimą“. Kalbant konkrečiai apie dirbtinį intelektą, enciklika įspėja, kad „vis lengvesnis autonominių ginklų sistemų diegimas daro karą labiau įmanomą ir mažiau priklausomą nuo žmogaus kontrolės“, ir pabrėžia, kad „dirbtinio intelekto kūrimas ir naudojimas karinėse operacijose turi būti reglamentuojamas griežčiausiais etiniais apribojimais, siekiant užtikrinti pagarbą žmogaus orumui ir gyvybės šventumui“, nes, kaip teigiama pačiame dokumente, šis diegimo paprastumas „pažeidžia principą, kad ginkluota jėga turėtų būti naudojama tik kaip kraštutinė priemonė teisėtos savigynos atvejais“. Taigi popiežiaus pareiškimas ne tiek atmeta „teisingo karo“ argumentą, kiek reikalauja, kad jo kriterijai nustotų būti tik retorika ir pradėtų veikti kaip aiškūs ir patikrinami apribojimai.

„Esminė žmogaus priežiūra“ tampa patikrinama technine ir teisine kategorija tik tada, kai ji išreiškiama konkrečiais reikalavimais: minimalus laiko kiekis ir įrodymų rinkinys, kurį žmogiškasis vertintojas privalo iš tikrųjų peržiūrėti prieš patvirtindamas smūgį (o ne, kaip „Lavender“ atveju, dvidešimt sekundžių); registruojamas ir lengvai patikrinamas duomenų, kuriais rėmėsi sistema, žurnalas; ir nepriklausomas patikrinimas prieš diegimą, ar tam tikros sistemos elgsena yra pakankamai nuspėjama ir paaiškinama, kad ją būtų galima reguliuoti – būtent šią ribą Ženevos derybose bandoma nubrėžti tarp sistemų, kurias galima reguliuoti, ir tų, kurias tiesiog reikėtų uždrausti. Atsakomybė tampa institucine, o ne vien tik individualia, kai suprantama – kaip jau leidžia Romos statuto doktrina dėl vadų atsakomybės, – kad atsakomybė gali tekti ne tik pareigūnui, kuris paspaudžia mygtuką „patvirtinti“, bet ir institucijoms, kurios iš pradžių sukuria, sertifikuoja ir leidžia naudoti sistemą: taigi tai ir vadų atsakomybė, nusidriekusi nuo mūšio lauko iki viešųjų pirkimų skyriaus.

Lietuvai ir visam Baltijos regionui visa tai nėra kokia nors tolima diskusija seminarų salėje. Karas Ukrainoje, galima sakyti, tapo didžiausiu istorijoje dirbtinio intelekto pagalba vykdomų dronų karo bandymų poligonu – nuo automatinio taikinių atpažinimo iki to lemiamo etapo, kai nutrūksta ryšys su žmogiškuoju operatoriumi ir dronas turi „nuspręsti“ pats. Lietuva, kaip ir kitos NATO rytinio flango valstybės, jau užregistravo pakartotinius nežinomos kilmės dronų pasirodymus savo ir kaimyninių šalių oro erdvėje. Tai reiškia, kad klausimas, ar karo veiksmuose išlieka „tinkamas žmogaus sprendimo lygis“, mūsų regionui nėra abstraktus; atsakymas į jį nulems taisykles, reglamentuojančias ne tik tolimas Gazos ar Ukrainos fronto linijas, bet ir, galbūt, mūsų pačių atgrasymo sistemą, kurią nagrinėjau šio portalo ankstesniame straipsnyje.

Diplomatinė realybė tarp šių dviejų kraštutinių pozicijų – siekis išsaugoti „tinkamą“ žmogaus vaidmenį ir siekis visiškai uždrausti autonominių ginklų taikymą – tebėra trapi. Iki 2026 m. kovo mėn. daugiau nei septyniasdešimt valstybių pritarė derybų sistemai kaip privalomos sutarties pagrindui – tai daugiau nei dvigubai viršija 42 valstybių skaičių, kurios tai padarė prieš šešis mėnesius. Tačiau didžiosios karinės galios, tarp jų – Jungtinės Valstijos ir Rusija, toliau priešinasi bet kokiam privalomam susitarimui, o kadangi Konvencija veikia konsensuso pagrindu, tai reiškia, kad viena valstybė gali sustabdyti visą procesą.

Ar „teisingo karo“ teorija tai išgyvens? Manau, kad išgyvens, bet ne nepakitusi. Ji išlieka bent jau ta prasme, kad net autonominių sistemų šalininkai savo argumentus formuluoja šios teorijos kalba: tikslumas, mažiau civilių aukų ir proporcingumas. Niekas viešai neatsisako šių kriterijų; jie lieka standartu, kuriuo remiamasi net tada, kai jų jau nebegalima patikrinti taip, kaip iš pradžių numatė tradicija. Tai svarbu: tai reiškia, kad tradicijos žodynas lieka bendru matu, kuriuo remdamosis šalys vis dar gali tarpusavyje diskutuoti. Tačiau, kaip jau anksčiau rašiau apie atgrasymą, pastebėjau atotrūkį tarp veiksmo ir vidinės nuostatos, o čia matau kitokį atotrūkį tarp sprendimo ir jį priimančio asmens. Klasikinė teorija rėmėsi prielaida, kad sprendimas ir ketinimas priklausė konkrečiam žmogui, buvusiam toje akimirkoje, kai buvo panaudota jėga. Dirbtinio intelekto amžiuje ši prielaida savaime nebeegzistuoja.

Taigi ši teorija išliks tik tuomet, jei bus pasirengusi tobulėti. Jei sąvoka „prasminga žmogaus kontrolė“ taps ne retorine fraze, o patikrinama technine ir teisine kategorija. Jei atsakomybė bus suvokiama ne tik kaip individuali kaltė paskutinę akimirką prieš smūgį, bet ir kaip institucinė atsakomybė, tenkanti tiems, kurie kuria, tvirtina ir diegia šias sistemas. Ir jei tarptautinė teisė, panašiai kaip kadaise reikalavo Tomas Akvinietis, kad teisėta valdžia apribotų teisę kariauti, sugebės nustatyti aiškias, patikrinamas ribas mašinoms, sprendžiančioms gyvybės ir mirties klausimus. Rugpjūčio pabaigoje Ženevoje susirinkę ekspertai dirba būtent ties šiuo klausimu. Jiems reikia atsakyti į klausimą, ar teisingo karo tradicija išliks gyva praktine etika, ar taps tik retorine priemone, kuria prisidengiant algoritmai jau dabar priima sprendimus.