Autonóm halálosztók

Az Egyesült Államok és Izrael évtizedek óta önti a pénzt autonóm fegyverrendszerek kifejlesztésébe. Pár éve Kína, Oroszország, Lengyelország és Törökország is elkezdett felzárkózni a mesterségesintelligencia-alapú fegyverkezési versenyben. Ilyen törekvések már itthon is vannak, tavaly a Budapesti Műszaki és Gazdaságtudományi Egyetem Közlekedésmérnöki és Járműmérnöki Kara és a Honvédelmi Minisztérium közös munkáról írt alá keretmegállapodás többek között autonóm irányítású katonai drónok és off-road járművek fejlesztéséről.

Az orosz hadsereg 2014 óta önálló kutatóközpontot működtet, amely kifejezetten erre a területre fókuszál. Mivel Oroszország nagyszámú interkontinentális ballisztikus rakétát tart rendszerben, fontos számára, hogy hatékonyan őrizzék a nukleáris robbanófejjel felszerelt rakéták silóit az illetéktelen behatolóktól. Ezeknek a steril övezeteknek a védelmét látják majd el a fejlesztés alatt álló autonóm fegyverek, amelyeknek a hagyományos őrző-védő személyzettel szemben biztosan nem lankad el a figyelmük. A Kalasnyikov konszern nemrég jelentette be, hogy elkészült egy működőképes fegyverrendszerrel, amely képes a gépi tanulásra, önállóan azonosítja a célt, és meg is semmisíti. Egy Uran névre keresztelt távirányítású minitankot már ki is próbáltak Szíriában, éles helyzetben.

Kína is fejleszti saját távirányítású lánctalpasait. A Norinco legyártott egy géppuskával és rakétavetővel felszerelt harcjárművet, és bár folyamatosan hangoztatják, hogy emberi irányítással működik, a cég erőteljesen dolgozik mesterséges intelligencián is, amely átveheti a jármű irányítását.

Az amerikai haditengerészet 2016-ban mutatta be első autonóm hadihajóját. A Sea Hunter kifejlesztése százhúszmillió dollárba került, egy példány legyártása pedig húszmillióba, ami katonai berkekben kifejezetten olcsónak számít, ráadásul az üzemeltetése is olcsóbb, mivel nincs szüksége legénységre. A tervek szerint a közeljövőben a nagyobb hajókat több önjáró cirkáló fogja helyettesíteni, amelyek összehangolva hatékonyabbak lesznek emberi irányítású társaiknál. A légierő vadászpilótái már szimulációkon tesztelik a mesterséges intelligenciát, és a tapasztalatok azt mutatják, esélyük sincs a gép ellen, így hamarosan új értelmet nyerhet a robotpilóta kifejezés. Több ország is próbálkozik drónrajok felállításával. Az amerikai hadsereg már kísérletezett több száz drónból álló katonai rajokkal, de hamarosan a mesterséges intelligencia segítségével több ezer gép is bevethető lesz egyszerre, így olyan szinkronizált támadást lehet majd velük végrehajtani, amely pusztán emberi reflexekre támaszkodva kivédhetetlen. Az amerikai hadsereg már most is használja X–47B drónt, amely önállóan képes felszállni egy repülőgép-hordozóról, majd visszatérni, és több száz kilogramm bombát is elbír. Ma már világos, hogy a mesterséges intelligencia gyökeresen megváltoztatja a hadviselést, és aki ebben a fegyverkezési versenyben élre tör, az szinte behozhatatlan előnyre tehet szert.

Hamarosan jöhet az éles bevetés

A PAX nevű hollandiai székhelyű nemzetközi békeszervezet jelentése szerint jelenleg a drónok és irányított rakéták tulajdonságait ötvöző „várakozó muníciók” állnak a legközelebb a harctéri alkalmazáshoz. Ezeket nem egy-egy célpontra állítják rá, hanem adott terület fölé küldik, és akkor lépnek akcióba, ha azonosították az ellenséget. Ilyen a török állami tulajdonú STM fegyvergyártó Kargu nevű kamikaze drónrendszere, amely arcfelismeréssel azonosítani tudja a célpontokat, majd emberi beavatkozás nélkül megtalálni, követni és megölni. A jelentés szerint harminc drónt és a hozzájuk tartozó irányítórendszert készülnek a szír határra telepíteni, így a kategóriájában ez lehet az első élesben is bevetett fegyverrendszer.

És a fejlődés nem áll meg, Charles Glar robotikaszakértő úgy véli, 2035-re az Egyesült Államok birtokában már olyan harci robotok lesznek, amelyek képesek az emberéhez hasonló gondolkodásra. Másodpercek alatt át tudják vizsgálni a teljes harcmezőt, kiszűrik az ellenséges katonákat, civileket, robbanószereket, azaz jelentős hadműveleti előnyt adnak. A szakértő szerint ezek elsősorban járművek lesznek, de számos hadiipari cég foglalkozik humanoid gépek fejlesztésével is, nem utolsósorban félelemkeltő hatásuk miatt. Sir Nick Carter tábornok, a brit hadsereg vezérkari főnöke szerint már az évtized végére teret hódítanak a harci robotok. Ahogy korábban megírtuk, az utánpótláshiánnyal küzdő brit hadseregben néhány éven belül nyolcvanezer katona mellett harmincezer robot teljesíthet szolgálatot.

Már most jobbak, mint az ember

Általános félelem, hogy a mesterséges intelligencia idővel olyan fejlett lesz, hogy alkotói ellen fordul, és kiirtja az emberiséget. Noha ettől egyelőre nem kell tartanunk, az nagyon is valós aggályokat vet fel, hogy hamarosan gép kezébe kerülhet a döntés, leadjon-e halálos lövést. Ma még bőszen állítják a döntéshozók, hogy ilyen nem lesz, a gépeket emberek fogják irányítani, a Pentagonnak van is konkrétan arra vonatkozó direktívája, amely szerint autonóm fegyverek, illetve fegyverrendszerek csakis humán kontrollal működhetnek. Csakhogy van itt egy bökkenő. A mesterséges intelligencián alapuló harceszközök képességei már most sokkal meghaladják az emberét, például jelentősen rövidebb a döntéshozatali idejük, egyszerre több dologra tudnak koncentrálni, és nem is fáradnak el. Az emberi operátorok tehát nem tudják tartani velük a lépést, így beavatkozásaikkal lerontják a harci gépek teljesítményét. Elméletileg lenne rá lehetőség, hogy a mesterséges intelligenciát „lebutítva” szinkronba hozzák a kezelő reakcióidejével, ám erősen kétséges, hogy bármelyik ország vállalná, hogy visszafogja dollármilliárdokból kifejlesztett harceszközeit, pláne egy kiélezett fegyverkezési verseny kellős közepén. Így viszont marad a fejlesztés a szürkezónában: a felszínen mindenki bizonygatja majd, hogy nem magukat irányítják a robotok, a háttérben pedig gőzerővel készülnek a teljesen önálló fegyverrendszerek. Az amerikai hadvezetésen belül máris élénk vita tárgya, hogy milyen mértékű kontrollra van egyáltalán szüksége a mesterséges intelligenciának, hogy biztonságosan működjön, egyben hatékony is legyen.

Jogos aggályok

Bár megvannak a veszélyei, és számos szervezet tiltakozik is az autonóm fegyverek szabadjára engedése ellen, a helyzetbe bele van kódolva, hogy az ilyet birtokló országok zöld utat adnak a technológiának. Ez a gyakorlatban annyit jelent majd, hogy a gépek megkapják az utasítást, amit saját „belátásukra” bízva kell megoldaniuk. Ez számos kérdést felvet, hogy csak egyet említsünk: ki viseli majd a felelősséget az esetleges háborús bűntettekért? A robotot aligha fogják bíróság elé állítani, a gyártó pontosan annyira vonható felelősségre, mint egy hagyományos lőfegyver esetében. Az algoritmust megíró programozót sem citálhatják a vádlottak padjára, elvégre sok esetben még azt sem tudják, hogy egy fegyverrendszerhez járulnak hozzá munkájukkal. A parancsot kiadó katona felelőssége is megkérdőjelezhető, hiszen a robotot irányító mesterséges intelligencia képes a tanulásra és az önálló döntésre, így közel sem biztos, hogy pontosan az történik a harcmezőn, amit a hadműveleti központokban kitaláltak.

„A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen” – így szólt Asimov univerzumában a robotika első törvénye. Borítékolható, hogy számos incidens származik majd abból, hogy a valóságban éppen ezzel ellentétes céllal készülnek robotok.