Umjetna inteligencija (AI) brzo je rastuće tehnološko polje s potencijalno značajnim implikacijama za nacionalnu sigurnost i obranu, pogotovo kada se radi o svjetskim velesilama poput SAD-a, Kine i Rusije.

Ono što već znamo je da Ministarstvo obrane SAD-a (Department of Defense – DoD) već razvija primjenu umjetne inteligencije za niz vojnih funkcija.

Istraživanja primjene umjetne inteligencije u vojsci su u tijeku na područjima:
• prikupljanja i analiza podataka
• logistika
• cyber operacije
• informatičke operacije
• zapovjedništvo i kontrola
• poluautonomna i autonomna vozila

Umjetna inteligencija nailazi na jedinstven izazov za vojnu integraciju, posebice zato što se najveći dio razvoja događa u komercijalnom sektoru, dok je u prošlosti vojska bila ta koja je razvijala najnoviju tehnologiju. Iako umjetna inteligencija nije prva tehnologija koja prelazi iz komercijalnog u vojni sektor, prva je koja će zahtijevati posebne regulative za uvođenje i akviziciju.

Regulative za uvođenje potrebne su jer umjetna inteligencija mora proći značajne izmjene sa sigurnosne strane prije nego se implementira u vojni sektor.

Regulative za akviziciju potrebne su zbog etičkih načela komercijalnih kompanija koji razvijaju umjetnu inteligenciju, gdje neke imaju otpor prema upotrebi svoje tehnologije u vojne svrhe.

Iako umjetna inteligencija ima potencijal pružiti brojne prednosti u vojnoj primjeni, može također uvesti specifične izazove. Mogla bi olakšati autonomne operacije, dovesti do informiranijeg vojnog odlučivanja i povećati brzinu i obujam vojnih akcija. Međutim, može biti i nepredvidiva ili ranjiva na jedinstvene oblike manipulacije. Iako mali broj analitičara vjeruje da će tehnologija imati minimalan utjecaj, većina vjeruje da će umjetna inteligencija imati barem evolucijski, ako ne i revolucionarni, učinak.

Nekoliko pitanja koja se nameću pri razmišljanju o ozbiljnijoj vojnoj primjeni umjetne inteligencije:

• koji je pravi omjer komercijalnog i državnog ulaganja u razvoj?
• kako reformirati akviziciju tehnologija za potrebe obrane?
• kako regulirati i nadzirati razvoj umjetne inteligencije?
• koji su etički i moralni aspekti razvoja umjetne inteligencije?
• koje su zakonodavne ili regulatorne promjene potrebne za integraciju vojne umjetne inteligencije?
• koliki utjecaj ima globalni razvoj umjetne inteligencije i vlasništvo nad komercijalnim razvojem?

Svjetske velesile već su najavile svoje programe razvoja umjetne inteligencije.

| srpanj 2017. kineska vlada objavljuje detaljnu strategiju kojom želi postati globalni predvodnik u umjetnoj inteligenciji do 2030.

| rujan 2017. Vladimir Putin objavio je rusku namjeru razvijanja umjetne inteligencije izjavljujući: „Tko postane globalni predvodnik u ovom polju vladat će svijetom”

| siječanj 2018. američka nacionalna obrambena strategija identificirala je umjetnu inteligenciju kao jednu od ključnih tehnologija koja će “osigurati da će SAD moći boriti i pobjeđivati u ratovima budućnosti.”

Vojska SAD-a već integrira AI sustave u borbu kroz inicijativu zapovjedništva zvanu “Project Maven”, koja koristi umjetnu inteligenciju za identifikaciju pobunjeničkih ciljeva u Iraku i Siriji.

Američki kongres već razmatra teme poput:

• koje vrste vojnih primjena umjetne inteligencije su moguće?
• koje granice, ako ih ima, im treba nametnuti?
• koje jedinstvene prednosti i ranjivosti dolaze s korištenjem umjetne inteligencije za obranu?
• kako će umjetna inteligencija promijeniti ratovanje i kakav će utjecaj imati na globalnu stabilnost?

Kongres ima na raspolaganju niz nadzornih, proračunskih i zakonodavnih sredstava kojima se može koristiti za utjecanje na odgovore na ta pitanja i oblikovanje budućeg razvoja AI tehnologije.

Projekti u tijeku

Američki ured za obranu (DoD – Department of Defense) razmatra brojne primjene za umjetnu inteligenciju. Trenutačno su razvoj i istraživanja prepušteni organizacijama u pojedinačnim službama, kao i DARPA (Defense Advanced Research Projects Agency) i IARPA (Intelligence Advanced Research Projects Agency).

Projekt Maven pokrenut je u travnju 2017. i brzo je postao žarišna točka integracije umjetne inteligencije u vojne svrhe. Njegov prvi voditelj izjavio je: “Maven je osmišljen kao pilot projekt, pionir, ona iskra koja raspaljuje plamen umjetne inteligencije u odjelu.”

Umjetna inteligencija je uključena u brojne druge obavještajne, nadzorne i izviđačke primjene, kao što su logistika, kibernetski prostor, informacijske operacije, zapovjedništvo i kontrola, poluautonomna i autonomna vozila te smrtonosni autonomni sustavi naoružanja. Očekuje se da će se umjetna inteligencija najviše iskoristiti u obavještajnim agencijama, zbog velikih skupova podataka koji su dostupni za analizu.

Prva faza Projekta Maven uključuje automatizaciju obrade obavještajnih podataka u svrhu podrške kampanja protiv ISILA. Konkretno, tim koji radi na Projektu Maven implementira računalni vid i strojno učenje algoritama u obavještajne redove koje analiziraju snimke koje su zabilježile bespilotne letjelice i automatski identificiraju neprijateljske aktivnosti radi obavještavanja i ciljanja. U toj primjeni umjetna inteligencija bi trebala unaprijediti rad ljudskih analitičara koji trenutačno provode sate pregledavajući videozapise radi pronalaska djelotvornih informacija, potencijalno oslobađajući analitičare kako bi mogli donositi efikasnije i pravovremenije odluke na temelju prikupljenih podataka.

Obavještajna zajednica je također aktivna na području razvoja i primjene umjetne inteligencije. Samo Središnja obavještajna agencija ima oko 140 projekata u razvoju koji imaju utjecaj na AI u obavljanju zadataka poput prepoznavanja slika i prediktivne analitike. IARPA sponzorira nekoliko istraživačkih projekata AI namijenjenih proizvodnji drugih analitičkih alata u sljedećih četiri do pet godina.

Neki primjeri uključuju razvijanje algoritama za jezično prepoznavanje i prijevod govora u bučnom okruženju, geo-lociranje slika bez vezanih metapodataka, spajanje dvodimenzionalnih slika za stvaranje trodimenzionalnih modela i izradu alata za identifikaciju funkcije zgrade na temelju analize uzorka života.

Logistika

Umjetna inteligencija sigurno će se koristiti na području vojne logistike. Zrakoplovstvo SADa već počinje koristiti umjetnu inteligenciju za održavanje zrakoplova. Umjesto da izvršava popravak kada se zrakoplov pokvari ili u skladu sa standardiziranim rasporedom održavanja za cijelu flotu, testira se pristup koji omogućuje prilagođavanje rasporeda održavanja potrebama pojedinih zrakoplova. Ovaj pristup, koji trenutno koristi Autonomni logistički informacijski sustav F-35, izvlači podatke u stvarnom vremenu iz senzora koji su ugrađeni u motore i druge sustave zrakoplova, te podatke šalje u algoritam kako bi utvrdio kada tehničari trebaju pregledati zrakoplove ili zamijeniti dijelove.

Vojna Logistička Podrška (Army’s Logistics Support Activity – LOGSA) koristi IBM Watson kako bi razvili prilagođeni raspored održavanja za flotu Stryker na temelju podataka izvučenih iz 17 senzora instaliranih na svakom vozilu.

U rujnu 2017., LOGSA je započeo i projekt koji će koristiti Watson-a za analizu tokova distribucije rezervnih dijelova, pokušavajući odrediti najbrže i najisplativije načine isporuke zaliha. Ovaj zadatak trenutno obavljaju ljudski analitičari, koji su uštedjeli oko 100 milijuna dolara godišnje analizirajući samo 10% zahtjeva za otpremu; s Watsonom, vojska će imati mogućnost analize 100% zahtjeva za otpremu, što može generirati još veće uštede troškova u kraćem vremenskom razdoblju.

Kibernetske operacije - Cyberspace Operations

Umjetna inteligencija će biti ključna tehnologija u unapređivanju vojnih operacija. U svom govoru iz 2016. godine pred odborom za oružane službe, zapovjednik US Cyber-a, admiral Michael Rogers izjavio je da je oslanjanje samo na ljudsku inteligenciju u kibernetičkom prostoru “gubitnička strategija”.

To je kasnije pojasnio, navodeći: “Ako ne možete implementirati potrebnu razinu umjetne inteligencije ili strojnog učenja u volumenu aktivnosti koju pokušavate razumjeti kad branite mreže … uvijek ste ispod krivulje snage. “

Konvencionalni alati za kibernetičku sigurnost tragaju za povijesnim podudaranjima s poznatim zlonamjernim kodom, tako da hakeri moraju modificirati samo male dijelove tog koda da zaobiđu postojeću zaštitu.

S druge strane, alati s umjetnom inteligencijom mogu biti trenirani kako bi otkrili anomalije u mrežnim obrascima s većom učinkovitosti, predstavljajući tako sveobuhvatniju dinamičku bariju koji bi napadač trebao “probiti”.

DARPA-in “2016 Cyber ​​Grand Challenge” pokazao je potencijalnu snagu kibernetičkih alata koji koriste umjetnu inteligenciju.

Natjecanje je izazivalo sudionike da razviju algoritme umjetne inteligencije koji sami mogu “otkriti, procijeniti i zakrpati ranjivosti softvera prije nego što protivnički timovi imaju priliku iskoristiti ih” – sve u roku od nekoliko sekundi, umjesto uobičajenih mjeseci.

Izazov je pokazao ne samo potencijalnu brzinu kibernetičkih alata koji koriste umjetnu inteligenciju, ali i jedinstvenu sposobnost algoritma da istovremeno napada druge softvere i brani sebe. Te bi sposobnosti mogle pružiti izrazitu prednost u budućim operacijama.

Informatičke operacije i “Deep Fakes”

Umjetna inteligencija omogućava sve realnije foto, audio i video krivotvorenje ili “deep fakes” koje bi mogle biti iskorištene protiv neke države. O njima smo već pisali ovdje.

Deep fakes tehnologija mogla bi se upotrijebiti protiv vlada i saveznika vlada za generiranje lažnih vijesti, utjecaj na javno mišljenje, narušavanje povjerenja javnosti i pokušaj ucjenjivanja diplomata.

Iako su stručnjaci mogli detektirati većinu deep fakeova u prošlosti, sofisticiranost tehnologije napreduje do te mjere da bi uskoro mogla biti sposobna zavaravati alate za forenzičke analize. U cilju suzbijanja dubokih lažnih tehnologija, DARPA je pokrenula projekt Media Forensics (MediFor) koji nastoji “automatski otkriti manipulacije, pružiti detaljne informacije o tome kako su izvedene te manipulacije i potvrditi cjelokupni integritet vizualnih medija.”

MediFor je razvio neke početne alate za identifikaciju falsifikata proizvedenih od AI, ali kao što je napomenuo jedan analitičar, “ključni problem … je taj što se sustavi strojnog učenja mogu naučiti kako zaobići alate za forenziku.”

Iz tog razloga, DARPA planira nastaviti razvoj kako bi se osiguralo da forenzički alati budu u koraku s deep fake tehnologijama.

Umjetna inteligencija također se može koristiti za stvaranje cjelovitih “digitalnih obrazaca života”, u kojima se digitalni “otisak” pojedinca “spaja i uspoređuje s poviješću kupnje, kreditnim izvješćima, profesionalnim životopisima i pretplatama” da bi se stvorio sveobuhvatan profil ponašanja službenika obavještajnih službi, osumnjičenih, vladinih službenika ili privatnih građana.

Kao u slučaju dubokih krivotvorina, ove se informacije nažalost mogu upotrijebiti za operacije s ciljanim utjecajem ili ucjene.

Zapovjedništvo i kontrola

Vojska SAD-a nastoji iskoristiti analitički potencijal umjetne inteligencije u području zapovjedništva i kontrole. Ratno zrakoplovstvo razvija sustav za zapovjedništvo i kontrolu s više domena koji ima za cilj centralizirati planiranje i izvršavanje operacija na zračnim, svemirskim, kibernetskim prostorima, morima i kopnu.

AI će se možda u neposrednoj budućnosti upotrijebiti za spajanje podataka iz senzora svih tih domena za stvaranje jedinstvenog izvora informacija, također poznatog kao “zajednička operativna slika”, za donositelje odluka.

Trenutno, informacije su dostupne donosiocima odluka u različitim formatima s više platformi, često s greškama ili netočnim podacima. Zajednička operativna slika s omogućenom umjetnom inteligencijom teoretski bi kombinirala te podatke u jedan prikaz, pružajući sveobuhvatnu sliku prijateljskih i neprijateljskih snaga i automatski uklanjajući smetnje u ulaznim podacima.

Takav sustav bi na kraju mogao omogućiti da “bilo koji senzor može pružiti podatke bilo kojem vojniku iz bilo koje službe, saveznika ili partnera … za postizanje željenog učinka na bilo koju metu”.

Iako je takav sustav još uvijek u fazi razvoja, zrakoplovne snage rade s Lockheed Martin, Harris, i nekoliko startup-ova kako bi razvili takvu umjetnu inteligenciju.

Za tu svrhu su u 2018. održali ratne igre kako bi skupili podatke potrebne za razvoj.

Isto tako, DARPA-ov program Mozaično ratovanje nastoji da umjetna inteligencija koordinira autonomne sile i dinamički generira upravljačke centre na više razina.

Sustavi umjetne inteligencije također će se koristiti za identificiranje komunikacijskih veza koje su kompromitirane i pronalazak alternativnih načina distribucije informacija. Kako složenost sustava umjetne inteligencije raste, mogu biti sposobni pružiti zapovjednicima izbornik zapovjednih odluka koje se temelje na stvarnim podacima u stvarnom vremenu.

Dugoročno gledano, mnogi analitičari smatraju da bi ovo područje razvoja AI moglo biti posebno posljedično, s potencijalom za poboljšanje kvalitete i brzine donošenja odluka u ratnim vremenima.

Poluautonomna i autonomna vozila

Sve američke vojne službe rade na uključivanju umjetne inteligencije u poluautonomna i autonomna vozila, uključujući borbene zrakoplove, bespilotne letjelice, zemaljska vozila i brodove.

Primjena umjetne inteligencije u ovom polju slične je onima u komercijalnim poluautonomnim vozilima, koja koriste umjetnu inteligenciju kako bi opažala okruženje, prepoznala prepreke, interpretirala podatke, planirala navigaciju, pa čak i komunicirala s drugim vozilima.

Istraživački laboratorij završio je drugu fazu testiranja na programu “Loyal Wingman”, koji spaja starije generacije, bespilotne lovce F-16 s pilotiranim F-35 ili F-22. Tijekom ovog događaja, bespilotni F-16 autonomno je reagirao na događaje koji nisu unaprijed programirani, kao što su vremenske i nepredviđene prepreke.

Kako program napreduje, umjetna inteligencija može omogućiti „pratećem pilotu“ da izvrši zadatke za svoj vodeći avion, poput prigušivanja elektroničkih prijetnji ili nošenja dodatnog oružja.

Vojska i Mornarica testirali su prototipove sličnih vozila koja prate vojnike ili vozila na bojnom polju radi izvršavanja neovisnih zadataka.

Na primjer, višenamjenski taktički transport marinaca (MUTT) je vozilo koje može nositi stotine kilograma dodatne opreme i moguće ga je kontrolirati daljinskim. Iako sustav u svojoj trenutnoj konfiguraciji nije autonoman, Mornarica namjerava dati veću neovisnost budućim sustavima.

Isto tako, vojska planira postaviti nekoliko Robotskih Borbenih Vozila (Robotic Combat Vehicles – RCV) s različitim vrstama autonomne funkcionalnosti, uključujući navigaciju, nadzor i uklanjanje eksplozivnih naprava. Ovi će sustavi biti raspoređeni kao “pratitelji” za autonomno kopneno vozilo nove generacije, za koje je predviđeno uđe u primjenu u 2020.

DARPA je već završila testiranje bespilotnog plovila protiv podmornica nazvanog “morski lovac”. Ta primjena već je odobrena u 2018.

Ako morski lovac stupi u službu, mornarici bi pružio mogućnost autonomne plovidbe otvorenim morem, dostavu korisnih tereta između brodova i koordiniranje misija s drugim bespilotnim plovnim objektima – a sve to uz kontinuiranu mogućnost lova na podmornice.

Neki analitičari procjenjuju da bi takav sustav koštao oko $20.000 dnevno za razliku od oko $700.000 za tradicionalni uništavač (eng. Destroyer).

DoD isprobava i druge mogućnosti umjetne inteligencije kako bi omogućio kooperativno ponašanje ili rojenje vozila. Rojenje vozila je jedinstveni podskup autonomnog razvoja vozila, s konceptima u rasponu od velikih formacija jeftinih vozila dizajniranih da probiju obrambene sustave do malih eskadrila vozila koja surađuju za elektronički napad, potpore i lokaliziranih navigacijskih i komunikacijskih mreža za kopnene trupe.

“Trenutno se razvijaju brojne mogućnosti optimizacija ponašanja skupina (AI agenata). Primjerice, u studenom 2016. mornarica je završila test s pet bespilotnih brodica koji su kooperativno patrolirali dionicom zaljeva dužine i širine 6.5 kilometra i presreli brod “uljez”. Rezultati ovog eksperimenta mogu dovesti do primjene umjetne inteligencije u obrani luka, lova na podmornice ili izviđanje ispred flote.

Mornarica također planira testirati rojeve podvodnih bespilotnih dronova, a Ured za strateške sposobnosti uspješno je testirao roj od 103 mikro-dronova koji su ispušteni iz aviona.

Smrtonosni sustav autonomnog oružja (Lethal Autonomous Weapon Systems (LAWS))

Smrtonosni sustavi autonomnog oružja (LAWS) su posebna klasa sustava oružja koji koriste senzore i računalne algoritme za samostalno identificiranje cilja i korištenje borbenog sustava oružja za uključivanje i uništavanje cilja bez ručne kontrole sustava.

Iako ti sustavi općenito još ne postoje, vjeruje se da bi omogućili vojne operacije u okruženjima s degradiranim ili zapuštenim komunikacijama u kojima tradicionalni sustavi možda neće moći djelovati.

Američka vojska trenutno nema takav sustav u svom inventaru, ali izraditi takav ne bi bilo protuzakonito.

DOD Direktiva 3000.09, „Autonomija u sustavima oružja“, opisuje politiku za poluautonomne i autonomne sustave oružja.

Direktiva zahtijeva da svi sustavi bez obzira na klasifikaciju, budu dizajnirani tako da “omogućavaju zapovjednicima i operaterima da izvršavaju odgovarajuće razine ljudske prosudbe o uporabi sile” i da uspješno završe postupak pregleda oružja.

Sve promjene u radnom stanju sustava zahtijevaju da sustav prođe kroz postupak pregleda oružja, osigurati da je oprema zadržala sposobnost da djeluje kako je planirano. Autonomno oružje i određene vrste poluautonomnog oružja moraju se dodatno odobriti prije razvoja i postavljanja. Odobaravanje takvog oružja vrše vlada ili relevantne službe.

Autonomno oružje pod nadzorom čovjeka koje se koristi za obranu pješadijskih postrojenja ili platformi, ali koje ne ciljaju ljude, i autonomno oružje koje „primjenjuje ne-smrtonosnu, ne-kinetičku silu, poput nekih oblika elektroničkog napada, protiv materijalnih ciljeva“ izuzimaju se iz ovog pregleda visokog stupnja.

Unatoč toj politici, neki visoki vojni i obrambeni čelnici izrazili su zabrinutost zbog mogućnosti korištenja takvog oružja. Na primjer, u izjavi 2017. godine general Paul Selva izjavio je: „Ne mislim da je razumno za nas postavljanje robota odgovornih za to hoćemo li uzeti ili ne ljudski život. “

General Selva objasnio je da će vojska biti primorana da se pozabavi razvojem ove klase tehnologije kako bi pronašla njezine ranjivosti, s obzirom na činjenicu da potencijalni američki konkurenti razvijaju takvo naoružanje.

Kao što je primijetio ministar obrane Mark Esper, “Kineski proizvođači oružja prodaju dronove oglašene kao sposobne za potpunu autonomiju, uključujući mogućnost provođenja smrtonosnih ciljanih udara.”

Zaključak

Iako je napredak umjetne inteligencije u ovom pogledu ponekada zastrašujuć, o njemu se mora pričati i analizirati ga iz svih perspektiva kako ne bi postao problematičan. Kao što su svjetske vlade godinama pratile i regulirale razvoj nuklearnog oružja, isto tako moraju postupiti s razvojem vojne primjene umjetne inteligencije.