Hvordan påvirker autonome våbensystemer international humanitærret og militær etik?

Autonome våbensystemer (LAWS) repræsenterer en radikal transformation i moderne militærteknologi, hvor kunstig intelligens og maskinlæring integreres i beslutningsprocesser, som tidligere var forbeholdt mennesker. Disse systemer kan udføre missioner med minimal eller ingen menneskelig intervention, hvilket rejser komplekse juridiske og etiske spørgsmål under international humanitærret (IHL) og menneskerettighedslovgivning. Betydningen af "meningsfuld menneskelig kontrol" (MHC) bliver her central, da det er afgørende at sikre, at beslutninger om liv og død ikke overlades til maskiner uden tilstrækkelig menneskelig overvågning og vurdering.

Den internationale regulering af autonome våbensystemer er fortsat under udvikling, præget af intense diskussioner mellem stater og civile organisationer som Human Rights Watch. En kerneudfordring er at balancere teknologisk innovation mod eksisterende juridiske normer, herunder Martens-klausulen, som sikrer humanitære principper i tilfælde, hvor lovgivningen er uklar. Den hurtige udvikling af AI, robotter og droner inden for militæret, såsom de israelske HARPY-droner og indiske automatiserede systemer, understreger behovet for klare rammer, som både fremmer ansvarlig anvendelse og mindsker risikoen for utilsigtede civile tab.

Teknologiske elementer som netværkscentrerede krigsførelsesmetoder (NCW), maskinvision og informationsoperationer udvider konfliktlandskabet og skaber nye paradigmer for efterretning, overvågning og måludvælgelse. Dette indebærer, at operatører og beslutningstagere konfronteres med informationsmængder, der overstiger menneskelig kapacitet, og dermed må stole på avancerede algoritmer og automatiserede systemer. Samtidig forstærker den militære teknologiske revolution behovet for at forstå interaktionen mellem autonome systemer og menneskelig dømmekraft, især i asymmetriske konflikter som dem mellem Indien og Pakistan eller under lavintensitetskonflikter (LIC).

De militære doktriner og strategier, især i lande som Indien, der anvender kombattanter i COIN-operationer (counter-insurgency), illustrerer hvordan autonome systemer både kan øge effektiviteten og skabe nye dilemmaer ved måludvælgelse og proportionalitet i anvendelsen af magt. Samtidig skaber anvendelsen af selvstændige systemer og droner nye former for krigsførelse, hvor fjendtlige styrker kan operere næsten ubemærket med kamikaze-droner eller sværme af små ubemandede enheder.

Det er essentielt at erkende, at teknologi ikke er værdineutral; normative og etiske overvejelser bør integreres i udviklingen og deployment af autonome våbensystemer. Der er en konstant spænding mellem militær effektivitet og respekt for menneskeliv, som kræver dybdegående forståelse af både systemernes kapaciteter og begrænsninger samt en klar forankring i international humanitær lovgivning.

Yderligere indsigt kan opnås ved at inddrage perspektiver på maskiners fremtidige sentiens og bevidsthed, som diskuteret i nyere forskning om "emergent logic" og non-carbon entities, hvor autonomi ikke blot er programmeret reaktivitet, men potentielt en form for maskinel selvbevidsthed. Dette åbner for nye diskussioner om ansvar og kontrol, som vil få afgørende betydning for fremtidens væbnede konflikter.

Det er også vigtigt at forstå, hvordan informationsoverload påvirker militær beslutningstagning, og hvordan avancerede maskinlæringsalgoritmer kan skabe både muligheder og risici for overtilpasning (overfitting) i kritiske situationer. Integrationen af autonome systemer i eksisterende netværksbaserede operationer (netcentric warfare) kræver en omhyggelig balance mellem automatisering og menneskelig indsigt, hvor fejl kan have katastrofale konsekvenser.

Denne udvikling må ses i lyset af den bredere militærteknologiske revolution og den fjerde industrielle revolution, hvor sammenkoblingen mellem civile og militære teknologier bliver stadig tættere. Quantum computing, nanoteknologi og syntetisk biologi er eksempler på teknologier, som fremtidigt kan ændre krigsførelsens natur fundamentalt.

Det, der må fastholdes, er, at selvom autonome systemer kan effektivisere militære operationer, er det fundamentalt at bevare klare juridiske og etiske standarder, som sikrer, at menneskelig kontrol og ansvarlighed altid er til stede. Det er kun gennem en sådan tilgang, at både internationale normer kan opretholdes, og risikoen for uretmæssige tab og eskalation kan begrænses.

Hvordan påvirker AI og cybersikkerhed stabiliteten i moderne krigsførelse?

Krigen mellem Ukraine og Rusland har tydeligt demonstreret, hvor væsentlig cyberspace er som fundament for nutidens militære operationer og samtidig har bragt den reelle anvendelse af autonome våbensystemer frem i lyset. Cyberangreb såsom DDoS, malware-indsprøjtninger og lækager af følsomme oplysninger har skabt et konstant pres på modpartens kommunikations- og informationsinfrastruktur. Disse angreb er ikke nødvendigvis dødelige i traditionel forstand, men de fungerer som effektforstærkere, der kan destabilisere og forvirre i en allerede kaotisk krigssituation. Et markant eksempel er angrebet på det ukrainske kommunikationssatellitnetværk KA-SAT, som havde en bred indvirkning, der også ramte europæiske lande som Tyskland, hvor flere tusinde vindmøller blev koblet fra internettet.

Den hybride karakter af denne krig, hvor cyberoperationer understøtter konventionelle militære handlinger, peger på en ny æra, hvor destabilisering via cyberspace bliver en integreret del af krigføringen. Selvom konflikten endnu ikke har udspillet sig i fuldt cyberdimensionelt omfang, understreger den eksisterende praksis den skrøbelighed, som cybersikkerheden står overfor – en skrøbelighed der direkte kan påvirke det globale sikkerhedsmiljø og afskrækningsbalancen mellem nationer.

Samtidig med cyberangrebene benyttes semi-autonome og autonome systemer i stigende grad på slagmarken. Russiske kamikazedroner som Lancet og KUB-BLA illustrerer denne udvikling. KUB-BLA, der påstås at have autonome AI-kapaciteter til målordning og angreb, er dog stadig under menneskelig kontrol i måludvælgelsen. På den anden side anvender Ukraine blandt andet Bayraktar TB2 droner fra Tyrkiet og amerikanske Switchblade-droner, der har avancerede GPS-sporinger og objektgenkendelsessystemer, men også kræver operatørens beslutning til målbekræftelse. Disse teknologier er stadig ikke fuldt autonome i kamp, men repræsenterer et skridt mod en fremtid, hvor autonome våbensystemer kan blive dominerende.

Den øgede afhængighed af AI og netværksbaserede systemer skaber dog også nye sårbarheder. AI-cyber nexus’en indebærer, at automatiserede systemer både kan forbedre våbensystemers effektivitet, men samtidig være modtagelige for fejl, manipulation eller uforudsete handlinger, som kan eskalere konflikter eller underminere stabiliteten i det internationale sikkerhedssystem.

Et andet kritisk aspekt er anvendelsen af avanceret AI-teknologi som ansigtsgenkendelse i konfliktzoner. Ukraines brug af Clearview AI’s software til identifikation af soldater og personer på slagmarken illustrerer både muligheder og risici. Teknologien kan effektivisere genforening af savnede med familier og forbedre kontrol, men medfører også risiko for fejlagtige identificeringer og uberettigede anholdelser. Samtidig åbner dens militære anvendelse for en potentielt farlig udvikling, hvor AI kan integreres i automatiserede våbensystemer med dødelige konsekvenser.

Denne krig fungerer som en testplads for teknologier, der stadig er uprøvede i fuld skala og under realistiske kampforhold. Krigens kaotiske natur gør det umuligt fuldstændigt at forudsige teknologiers præstation eller fejl. Den viden, der opsamles gennem anvendelsen, vil forme fremtidens militære doktriner og beslutninger. Dermed bliver det altafgørende at forstå ikke alene de teknologiske muligheder, men også de iboende risici ved at integrere AI og cyberspace i moderne krigsførelse.

Det er vigtigt at erkende, at cybersikkerhed ikke blot er en teknisk nødvendighed, men en strategisk forudsætning for stabilitet i det globale sikkerhedsmiljø. Svagheder i cyberspace kan have direkte indflydelse på afskrækkelsesmekanismer og dermed på internationale relationer og konfliktpotentialer. Samtidig vil den øgede autonomi i våbensystemer udfordre traditionelle normer og kontrolmekanismer i krigsførelse. Den dobbelte karakter af AI som både en forstærker af militære kapaciteter og en kilde til uforudsigelighed understreger behovet for en dybere forståelse og regulering af teknologien, før den bliver udbredt som et centralt element i væbnede konflikter.

Hvordan kan man sikre tillid og kompetence ved anvendelse af AI i militære systemer?

Sikkerhedskravene, ikke programmeringsfejl, udgør den største trussel mod sikker brug af AI. Denne udfordring kan kun håndteres effektivt, hvis softwareudviklere samarbejder tæt med slutbrugerne gennem hele designprocessen. Tillid opstår, når brugerne føler sig trygge i deres operatørmiljø, og udviklerne har en dyb forståelse for de udfordringer, operatørerne møder i praksis. Det er afgørende at give mulighed for feedback og eksperimenter under systemudviklingen, så operatørerne kan optimere deres kontrol over systemet. I tidligere, mindre automatiserede systemer, havde operatørerne en naturlig mulighed for at eksperimentere og løbende opdatere deres mentale model af systemets tilstand. I modsætning hertil forstår nogle designere af højt automatiserede systemer ikke nødvendigheden af denne tilgang og udvikler systemer, der fjerner operatørerne fra beslutningsprocessen. Når operatører så begår fejl på grund af en forkert mental model, reageres der ofte med endnu mere automatisering, hvilket yderligere marginaliserer operatørerne og forværrer problemet.

Dette gælder også for autonome våbensystemer (AWS), der bliver deployeret af militære ledere, som skal bevare den menneskelige kontrol. Selvom systemerne kan operere autonomt efter deployment, ligger beslutningen om ibrugtagning og den overordnede kontrol hos menneskelige operatører, som skal kunne styre systemet i overensstemmelse med taktiske og strategiske mål. Udviklerne af sådanne systemer må derfor have en løbende og effektiv dialog med brugerne gennem hele udviklingsfasen, for at kunne forstå og implementere de relevante sikkerhedskrav fuldt ud.

Automatisering mindsker ikke nødvendigvis behovet for træning; den ændrer snarere karakteren af de krav, der stilles til operatørernes præstationer, og øger ofte træningsbehovet. Automatiserede systemer erstatter ikke mennesket, men ændrer menneskets rolle til at være mere kognitiv og målrettet. Soldater får således større ansvar, især efterhånden som nye anvendelser af autonome og semi-autonome systemer udvikles. Betegnelsen “ubemandet” er derfor ofte misvisende, da soldaten får flere, ikke færre, opgaver.

Korrekt træning i brugen af AI-baserede systemer er afgørende for at kunne identificere og håndtere både etiske og sikkerhedsmæssige udfordringer, herunder opdagelsen af fejl, bias og systemmæssige mangler. Træningen skal afdække, hvilke kompetencer brugerne har brug for til at håndtere AI, og hvilke kompetencer de mangler. Dette kræver anvendelse af systemerne i forskellige operationelle kontekster og hjælper med at klarlægge, hvilke personaleegenskaber og kvalifikationer der er nødvendige for sikker og kompetent drift og overvågning af systemerne. Samtidig skal AI-operatørerne have dyb viden om humanitær folkeret (IHL/LOAC) og være i stand til at identificere, hvornår anvendelsen af AI-systemer truer centrale principper i denne lovgivning.

Der er ofte et stort spring mellem de idealiserede modeller, som AI-udviklerne skaber, og den faktiske funktion under reelle forhold. Derfor er det nødvendigt at etablere feedbacksløjfer, så brugernes oplevede problemer kan kommunikeres tilbage til udviklerne og de ansvarlige myndigheder. Systemernes sikkerhedsgrænser må udfordres aktivt, da kun ved at fremprovokere fejl kan systemets sande karakteristika afdækkes. Operatørernes mentale modeller af systemet må løbende opdateres gennem eksperimenter, hvilket indebærer, at grænser for sikker drift lejlighedsvis skal overskrides for at lære, hvor disse grænser går.

Hovedproblemerne ved tidligere automatiserede systemer skyldtes ofte, at man overså tre vigtige forhold: For det første, at automatiserede systemer er fejlbarlige, og tillid derfor må opbygges gradvist og være specifik for hvert system. For det andet, at sådanne systemer kræver højt ekspertiseniveau hos brugerne, som skal udøve bevidst kontrol fremfor blot at følge rutiner. For det tredje, at det er nødvendigt at opretholde kontinuerlig kommunikation mellem udviklere, testere, trænere og brugere for at undgå en ensrettet informationsstrøm, som forhindrer iterative forbedringer.

Indførelsen af AI bringer desuden udfordringer i form af “de-skilling” og “up-skilling.” De-skilling betegner risikoen for, at menneskelige færdigheder forringes eller slet ikke udvikles, fordi AI overtager mange opgaver. Når AI fejler, kan operatørerne derfor mangle nødvendige færdigheder til at gribe ind. Up-skilling betyder behovet for at tilegne sig helt nye og anderledes kompetencer, som skal udvikles og perfektioneres. Et centralt aspekt ved denne problematik er, at menneskelig overvågning ikke hjælper, hvis operatøren ikke har tilstrækkelig erfaring til at vurdere, hvad der er korrekt resultat fra AI-systemet. Ironien ved automatisering er, at simplere opgaver, som tidligere gav operatøren erfaring, overdrages til maskinen, mens de svære og komplekse opgaver overlades til mennesker, som dermed har ringere træningsgrundlag. Resultatet kan blive, at mennesket fungerer som en slags “moralsk sammenstyrtningszone,” hvor det er mennesket, der står til ansvar for maskinens fejl uden at kunne forstå systemets komplekse beslutninger.

Det er derfor vigtigt, at militær træning tilpasses i takt med AI’s udvikling og deployment. Der må skabes klare rammer for, hvordan træningen skal ændres og videreudvikles, og der skal etableres effektive feedbacksløjfer, der forbinder brugerne, udviklerne og beslutningstagerne. Træningsprogrammer skal sikre, at operatørerne forstår systemernes begrænsninger og gennem erfaring lærer at bedømme, hvornår maskinen kan have tillid, og hvornår ekstra kontrol er påkrævet.

Det er væsentligt at forstå, at teknologiens udvikling aldrig kan løse problemerne med sikkerhed og etik alene. Menneskelig indsigt, erfaring og evne til kritisk vurdering er uundværlig. Samtidig må der være en kontinuerlig dialog mellem designere, brugere og ledere, som kan sikre, at AI-systemer anvendes på en måde, der fremmer både sikkerhed og overholdelse af gældende juridiske og moralske standarder. Uden dette helhedsorienterede perspektiv risikerer man at skabe teknologier, der ikke kun er ineffektive, men også potentielt farlige i militære operationer.