Hvordan anvendes kunstig intelligens i militære operationer, og hvilke udfordringer følger med?

Algoritmer arbejder ved at bruge data til at profilere menneskelig adfærd og finde matchende attributter hos andre brugere eller produkter. Smal AI-systemer kan udføre de opgaver, de er programmeret til, men deres beslutningsevne er begrænset og direkte afhængig af deres designparametre. Kunstig generel intelligens (AGI) omfatter derimod systemer med omfattende viden og kognitive evner med det formål at opnå en præstation, der ikke kan skilles fra et menneskes, selvom hastigheden og databehandlingen er langt overlegen. Sådanne systemer, også kaldet stærk AI, er i øjeblikket teoretiske, og eksperterne er uenige om, hvorvidt det overhovedet er muligt at skabe dem. Nogle mener, at en AI skal besidde menneskelige kvaliteter som bevidsthed, følelser og kritisk tænkning for at nå AGI-niveauet.

Fremskridtene inden for AI forventes at bringe ny kapacitet til forsvarsteknologi, hvor AI kan hjælpe både i militære operationer og med at forbedre ydeevnen for individuelle enheder og hele forsvarsstyrker. Dette sker blandt andet gennem dyb læring og kunstige neurale netværk, som kræver store datamængder af høj kvalitet. Et vigtigt element er samarbejdet mellem mennesker og maskiner, hvor AI-drevne systemer kan assistere i præcise og velovervejede kommando- og beslutningsprocesser. Men alt dette afhænger af den ekspertise og færdigheder, som forskere og ingeniører bringer til udviklingen af teknologierne.

Data er fundamentet for AI, og kvaliteten samt mængden af data er afgørende. Indsamlingen foregår via sensorer, satellitter, skibe og fly, men også gennem forsvarsrelaterede øvelser, krigsspil og digitale simuleringer. Dog er dataadgang i militæret ofte begrænset, og til trods for avancerede algoritmer kan mangel på data bremse udviklingen af løsninger.

Ud over USA har mange lande, herunder flere europæiske stater, Storbritannien, Rusland og Kina, investeret intensivt i militær AI-forskning. I dag findes mange militære anvendelser af AI, men det er vigtigt at forstå, at AI ikke direkte erstatter eksisterende systemer, men forbedrer dem og bidrager til udviklingen af nye. AI hjælper med opgaver, der normalt kræver menneskelig intelligens, som visuel opfattelse, talegenkendelse, beslutningstagning og sprogoversættelse. Disse teknologier er stadig på et relativt tidligt udviklingsstadie, og fremtidige fremskridt vil øge effektiviteten og nøjagtigheden.

En interessant tilgang til at forstå AI’s militære anvendelser er at spørge AI selv. I november 2022 blev ChatGPT, en AI-baseret dialogapplikation, lanceret. Den kan generere svar på en lang række spørgsmål, omend nøjagtigheden varierer. ChatGPT er en finjusteret udgave af OpenAI’s GPT-3.5 sprogmodel og illustrerer potentialet og samtidig begrænsningerne ved nutidens AI. Svaret på spørgsmål om militær brug af AI fremhæver blandt andet muligheder som forudsigende vedligeholdelse, målordning og sporing samt militær simulation og træning. Det understreger, at mange anvendelser stadig er i en spæd fase, og meget forskning og udvikling er nødvendig for at realisere AI’s fulde potentiale i forsvarssektoren.

Hvordan ville AI have påvirket Oscarsborg-slaget? Et etisk blik på menneskelig lydighed og maskinens rolle

Da oberst Birger Eriksen afgav ordre om at skyde mod det tyske krigsskib Blücher under invasionen af Norge i 1940, stod han overfor en situation, hvor hurtige og moralsk komplekse beslutninger skulle tages uden fuld sikkerhed om fjendens identitet. Hans berømte svar til underordnede, der spurgte om han havde fået ordre til at skyde, var: »Enten bliver jeg dekoreret eller retsforfulgt. Skyd!« Denne menneskelige modstandsdygtighed og villighed til at tage ansvar i en uvis situation illustrerer den særlige rolle, som menneskelig dømmekraft spiller i militære operationer.

Hvis en AI-styret autonom teknologi havde været til stede på Oscarsborg, ville kommunikationerne have været hurtigere, og systemet ville straks have kunnet identificere Blücher som en tysk krigsskib. Men denne automatiske genkendelse ville også have betydet en blind loyalitet til kommandoerne, uden den menneskelige evne til at vurdere konteksten og den moralske kompleksitet, som Eriksen stod overfor. En AI ville blot følge de givne ordrer — hvis kommandoen var »skyd ikke«, ville maskinen ikke have skudt, uanset konsekvenserne. Dette rejser vigtige spørgsmål om, hvordan AI skal programmeres til at håndtere situationer, hvor kommandoer kan være tvetydige eller endda præget af fjendtlig loyalitet inden for egne rækker.

Dog har mennesker også sine begrænsninger, især hvad angår hastighed, informationstilgængelighed og risikoen for egeninteresse eller fejlbedømmelse. Her kan AI potentielt udfylde en vigtig rolle, hvis den udvikles og anvendes under klare etiske rammer og menneskelig overvågning, så risikoen for manipulation eller fejlhandling minimeres.

Mådehold indebærer evnen til at holde tilbage og handle afbalanceret, især når man har stor magt. Mod handler om at konfrontere frygt og kaos med moralsk styrke, hvilket også inkluderer at kunne påpege etiske bekymringer i stærke institutioner. Omtanke er praktisk visdom – evnen til at bruge erfaring og viden til at træffe velovervejede beslutninger i komplekse situationer. Endelig betyder retfærdighed at tage hensyn til alle involverede parters værdighed og rettigheder, samt at sikre det fælles bedste, ikke blot særinteresser.

Disse dyder er ikke kun relevante for mennesker, men må også danne grundlaget for, hvordan vi udvikler, implementerer og kontrollerer AI i militære sammenhænge. Det indebærer, at AI-systemer skal understøtte menneskelig dømmekraft og ikke erstatte den. Maskiner kan aldrig efterligne den subtile balance og det moralske ansvar, som menneskelig lydighed indebærer, hvilket gør den menneskelige faktor uundværlig.

Det er væsentligt at erkende, at selvom AI kan forbedre beslutningshastighed og informationsbehandling, må vi aldrig opgive den moralske refleksion, som menneskelig lydighed er baseret på. Risikoen for blind maskinel efterlevelse af ordrer uden et etisk filter kan føre til katastrofale følger. At forstå dette er afgørende for at navigere i den nye æra, hvor menneskelig etik og avanceret teknologi skal sameksistere i militære operationer.

Hvordan opstår bias i AI, og hvorfor er mangfoldighed afgørende?

Bias i kunstig intelligens (AI) opstår gennem flere forskellige indgangspunkter, og en af de mest centrale faktorer er manglen på mangfoldighed blandt dem, der udvikler teknologierne. Statistikker viser, at AI-udviklere i høj grad er mænd, med kvinder og minoritetsgrupper stærkt underrepræsenterede. For eksempel udgør kvinder kun omkring 15 % af AI-forskerne hos Facebook og 10 % hos Google, mens sorte medarbejdere udgør endnu mindre procentdele. Denne skæve repræsentation kan påvirke, hvilke perspektiver og erfaringer der inddrages i udviklingen af AI-systemer, og dermed hvordan bias uundgåeligt bliver indlejret.

Bias kan komme direkte fra udviklerne, der ofte ubevidst konstruerer systemer med sig selv som norm, hvilket skaber produkter og løsninger designet til majoritetsgruppens behov. Eksempler spænder fra simple ting som designet af smartphones, der er optimeret til mandlige håndstørrelser, til mere alvorlige konsekvenser som sikkerhedssystemer uden funktioner, der kan håndtere vold i hjemmet. Endvidere reproducerer nogle populære stemmeassistenter som Alexa, Siri og Cortana, der alle har kvindelige stemmer og navne, kønsstereotyper, idet de signalerer en underdanig rolle for kvinder. Disse valg er som regel ikke bevidst sexistiske, men reflekterer ubevidste holdninger hos udviklerne og kan bidrage til at forstærke eksisterende sociale kønsroller.

Det er ikke blot dataens bias, men også udvælgelsen af, hvilke data der indsamles, der kan være skæv. Et eksempel er de mangelfulde data om dødelighed blandt gravide kvinder i USA, hvor kvinder af farve dør i langt højere grad end hvide kvinder, men hvor dette først for nyligt blev dokumenteret grundigt. Når AI baserer sine beslutninger på sådanne data, videreføres og forstærkes eksisterende samfundsproblemer.

AI har en unik evne til ikke blot at reproducere, men også at amplificere bias. Når algoritmer bygger på historiske data, kan det føre til selvforstærkende feedback loops. Et eksempel herpå er politiets brug af AI i Los Angeles, hvor algoritmer baseret på tidligere overvågning leder til øget overvågning af bestemte områder, som ofte er boligområder med minoritetsbefolkning, hvilket intensiverer racemæssig profilering. Ligeledes fremmer oversættelsesværktøjer som Google Translate brugen af maskuline pronominer, hvilket yderligere cementerer kønsstereotyper online.

Det er afgørende at forstå, at bias i AI ikke blot handler om fejl eller uheldige tilfældigheder, men om dybtliggende sociale strukturer, der spejles og forstærkes af teknologien. At adressere bias kræver derfor ikke kun tekniske løsninger, men også en bevidsthed om mangfoldighed og inklusion i alle led af AI-udviklingen. Desuden må vi kritisk reflektere over, hvilke data der samles, hvordan de anvendes, og hvordan algoritmer interagerer med komplekse sociale realiteter. Uden denne helhedsforståelse risikerer vi at fastholde og eskalere eksisterende uligheder i en tid, hvor AI vinder stadig større indflydelse på samfundet.