Du må akseptere informasjonskapselen for YouTube for å kunne se dette innholdet
Webinar om kunstig intelligens og framtidens militære operasjoner
Vi har lagt ut opptaket av webinaret 22. januar med Roys leseliste og Q&A fra chatten i webinaret.
Hvordan kan vi vinne den kognitive duellen i framtidens høyintensitetsoperasjoner – der tempo, kompleksitet og datamengder øker dramatisk?
I dette webinaret viser Roy Severeide Bendiksen hvordan kunstig intelligens (KI) kan endre beslutningsgrunnlaget, rollen til menneskelige operatører og måten militære systemer samordnes på.
Moderne militære operasjoner er en konkurranse mellom systemer som forsøker å forstå situasjonen raskest, ta de beste beslutningene og utnytte tilgjengelige ressurser mest effektivt. Her bruker Bendiksen det operasjonelle ildstøttesystemet som eksempel. Han diskuterer hvordan nye konsepter – som multi-domain operations, mosaic warfare og hyperwar – peker mot en framtid med tett integrerte systemer og svært høyt beslutningstempo.
Hvordan kan mennesker og KI samarbeide i slike miljøer?
Roy Bendiksen vil snakke om det som kalles en beslutningssentrisk modell. Hvilke roller er sentrale for å bevare menneskelig kontroll og mening i systemer der mye av analysen skjer automatisk? Bendiksen forsker på hvordan ulike roller fungerer i praksis gjennom å eksperimentere med en KI-prototyp.
Framtidens stridsfelt
Avslutningsvis inviteres du med til framtidens stridsfelt: Det består av fleksible og adaptive nettverk av sensorer, beslutningsnoder og virkemidler. Den slags kompleksitet øker behovet for kompetanse som gjør mennesket i stand til å forstå, styre og utfordre KI for å sikre operativ suksess i den kognitive duellen.
Roy Severeide Bendiksen er oberstløytnant og ph.d.-stipendiat ved FHS Krigsskolen. Han tar sin doktorgrad ved Försvarshögskolan.
Roys lesetips
Vil du lese deg opp litt etter å ha sett webinaret? Her er Roys lesetips som er tilgjengelige for alle:
Allen, J. R., Husain, A. (2017). On Hyperwar. Proceedings, 143(7). On Hyperwar | Proceedings - July 2017 Vol. 143/7/1,373
Clark, B., Patt, D. J., & Schramm, H. (2020). Mosaic warfare: Exploiting artificial intelligence and autonomy to implement decision-centric operations. Center for Strategic and Budgetary Assessments. https://csbaonline.org/uploads/documents/Mosaic_Warfare.pdf
Defense Advanced Research Projects Agency. (2017, August 4). Strategic Technology Office outlines vision for “Mosaic Warfare”. https://www.darpa.mil/news-events/2017-08-04
U.S. Army Training and Doctrine Command. (2018). The U.S. Army in multi-domain operations 2028 (TRADOC Pamphlet 525-3-1). U.S. Department of the Army. 20181206-tp525-3-1-the-us-army-in-mdo-2028-final.pdf
Spørsmål og svar fra webinar-chatten
Spørsmål
Utrolig spennende. I hvilken grad kartlegger dere og synliggjør dere usikkerhetene i modellene? I noen beslutningsprosesser vil det vel være høyere usikkerhet i prediksjonene enn andre, og hva gjør dere for å pinpointe faktorene som avgjør usikkerhetene?
Svaret fra Roy
Takk. I tillegg til det jeg nevnte er det dialog med brukere rundt UX/UI på mockup. Synliggjøring av usikkerhet er noe som er diskutert der og vil følges opp videre. Tenker også at usikkerhetshåndtering vil bli en sentral del av teamingen og arbeidet til essential operator.
---------------------
Spørsmål
1. Kan du fortelle litt mer om hvordan du og andre på Krigsskolen forsker på KI og Forsvaret? 2. Hva tenker du forsvaret må gjøre for å legge mer til rette for å bli en «datadrevet» organisasjon som skal benytte seg av disse potensielle treningsdataene?
Svaret fra Roy
1. FHS har som mål å forske på, og utvikle militærmakt på høyt internasjonalt nivå. Det er initiativ som ser på KI og forsvaret på alle skolene, men det er potensial for å samordne enda bedre. For Krigsskolens del er fokuset på å kunne tilby fremtidsrettede militære profesjonsutdanninger.
2. Jeg tenker vi er på riktig vei og at det er gjort organisatoriske grep som bidrar til dette. Vi har data, men trenger en mer moderne beslutningsarkitektur som gjør oss i stand til å bruke disse på en god måte. Får vi dette på plass vil utviklingen kunne gå fort.
---------------------
Spørsmål
I en for-the-loop-løsning, har du noen tanker om hvordan man kan samle inn data for å trene opp et action optimizer nevralt netverk med forsterkningslæring (RL)?
Svaret fra Roy
Jeg tror vi må begynne med de simulatorene vi har. Flere av disse kan kjøre kjente strukturer mot hverandre, i varianter tett på planverk, og generere nødvendige data i form av tracks/entiteter.
---------------------
Spørsmål
I hvilken grad tror dere forsvaret er moden for en slik type krigføring? Tenker da både på kultur og risikovillighet til å ta i bruk ny teknologi, samt teknologisk klar mtp riksrevisjonens rapport fra 2022.
Svaret fra Roy
Det er en del likheter med hvordan operasjoner gjøres i dag – også det å skifte ressurser mellom ulike avdelinger (killwebs) - men tempo er naturligvis noe helt annet enn det som beskrives i hyperwar. Jeg opplever at det er gjort flere grep i etterkant av riksrevisjonens kritikk og tenker vi nå er på et bedre sted. Så tror jeg også det er lettere å snakke om et mer konkret case, slik jeg gjør med operasjonell ildstøtte og fokuset på den høyintense duellen. Der opplever jeg diskusjonene som modne.
---------------------
Spørsmål
Hvor overførbare er disse konseptene til digital og hybrid krigføring, og ikke den klassiske slagmarken?
Svaret fra Roy
Targetingprosessen skal kunne gjøre dette overførbart, men det må utvikles. Kanskje spesielt beslutningstakers UX/UI.
---------------------
Spørsmål
Takk for interessant foredrag. Har dere tenkt noe angående forbedring av CDE inn i modellene, spesielt basert på informasjon fra oppdatert BDA gjennom operasjonene?
Svaret fra Roy
Takk. Ja, har tenkt på det som en mulighet, men ikke gått nærmere inn på det p.t.
---------------------
Spørsmål
Veldig spennede. Det jeg er nysgjerrig på er om hvor du plasserer dette studiet teoretisk. Du presenterer my gode modelle og innsikt i KI/Konsepter osv, men det du konkret ser på ser ut til å være humanities og pedagogikk?
Kan du si litt mer om hvor du ligger i forskningsfeltet ift teknikk vs humanities?
Svaret fra Roy
Takk. Prosjektet utforsker hvordan KI i militære operasjoner endrer offisersrollen og dermed kravene til militær profesjonsutdanning. Jeg tenker gjerne på det i tre deler, der den første delen handler om å ta frem et analytisk rammeverk. Deretter vil det gjennomføres et eksperiment delt kognisjon og rolleendring (failsafe, moral agent, essential operator). Siste del handler om å gjøre syntese og utlede implikasjoner. // Jeg er nå ett år inn i studiene og har fått på plass rammeverket, slik det er presentert i dag. Jeg jobber nå med klargjøring av eksperimentet og planlegger å gjennomføre dette til høsten. Arbeid foregår i parallell, men hoveddelen på utdanning/danning (humanities) starter for fullt først i 2027.
---------------------
Spørsmål
Kan du forklare "kognitive duellen"? mener du mennesker vs maskin kognisjon eller maskin vs maskin kognisjon, eller total blue kognisjon vs total red kognisjon?
Svaret fra Roy
Takk for denne, det burde kommet bedre frem. Jeg beskriver menneske/maskin som en delt kognisjon på blå side (total) – i duell mot rød side (total). Jeg bruker begrepet kognitiv overlegenhet for å snakke om hvordan vi skal skape beslutningsfordel og læreoverlegenhet. Data er en sentral del av dette, men også hvordan får inne det menneskelige i inntreningen av algoritmene.
---------------------
Spørsmål
For å kunne trene sånne modeller med simuleringer, så er det nødvendig å "vekte" eller "belønne" hvilke utfall som er fordelaktige. Det er veldig vanskelig i praksis å gjøre dette i et komplekst miljø, der muligens et mindre fordelaktig valg i starten ender opp med å avgjøre kampen senere i forløpet. Hvorvidt er vi klar for å gjøre sånt?
Svaret fra Roy
God påpekning. Jeg tenker bruken av simulatorer – i kombinasjon med targetingprosessen – gjør at det er mulig å sette dette opp. Utfordringen blir knytte den lokale situasjonen/duellen opp i den større operasjonen – sånn at en ikke bare vekter/belønner lokal, men for den overordnede operasjonen. Utvikling over tid, som du påpeker, vil også utfordrende. Det finnes metoder også for dette, men det vil nok kreve tett ekspertoppfølging og bruk av en del faste parametre i starten. Min vurdering er at det er modent nok til å starte, men at det nok vil bli mye prøving og feiling i starten.
