Hvordan sikre konkurranse i markedet for generativ kunstig intelligens?

Reguleringen av generativ kunstig intelligens (GenAI) har blitt et avgjørende tema i både Europeiske og globale diskusjoner. Dette skyldes at de teknologiske fremskrittene innen kunstig intelligens skaper en rekke utfordringer, ikke bare for de som utvikler teknologiene, men også for de som forvalter økonomien og konkurransen i digitale markeder. EU har tatt en aktiv tilnærming for å sikre rettferdig konkurranse i AI-markedet, ved å implementere en rekke lover og reguleringer, som AI Act, Digital Markets Act (DMA) og Data Act, som tar sikte på å hindre dominans og fremme innovasjon.

Et sentralt aspekt ved disse lovene er hvordan de tar for seg markedsadgang. For GenAI er tilgang til data, datakraft og fundamentale modeller essensielt for å utvikle nye applikasjoner. Uten tilgang til disse ressursene risikerer mindre aktører å bli utkonkurrert, noe som kan føre til monopolistiske strukturer. Reguleringsrammeverket som EU har utviklet, prøver å finne en balanse mellom å beskytte konkurransen og samtidig sikre at det ikke blir lagt unødvendige hindringer for innovasjon. Dette skjer gjennom å regulere tilgangen til disse nødvendige ressursene, samtidig som man fremmer et miljø hvor nye aktører kan vokse og konkurrere.

Reguleringen av GenAI står imidlertid overfor flere utfordringer. En av de største bekymringene er potensialet for at teknologiutviklingen kan føre til en markedsdominans blant et fåtall store aktører. Dette skjer fordi utviklingen av de mest avanserte AI-modellene krever enorme mengder data og beregningskraft, noe som kan føre til at de som allerede har tilgang til disse ressursene får et betydelig konkurransefortrinn. EU har forsøkt å adressere dette ved å innføre regler som motvirker ekskluderende praksiser og fremmer interoperabilitet mellom systemer, slik at det ikke blir låst fast noen aktører i systemet.

Et annet viktig aspekt er hvordan reguleringen av AI vil utvikle seg etter hvert som teknologien modnes. Det er i dag usikkert om de nåværende reguleringene vil være tilstrekkelige for å møte de langsiktige utfordringene som kommer når GenAI-teknologi blir mer integrert i forskjellige sektorer. For eksempel kan vi forvente at det vil oppstå nye monopolistiske trender ettersom GenAI blir stadig mer utbredt. Regler som tar for seg konkurranse i den digitale økonomien må derfor være dynamiske og tilpasningsdyktige. Det er viktig at reguleringen ikke stivner, men kan utvikle seg i takt med teknologiske endringer.

Et ytterligere moment som er viktig i diskusjonen om konkurranse i AI-markedet, er prinsippene utviklet av G7s konkurransemyndigheter. Disse prinsippene har som mål å sikre at konkurranse og innovasjon ikke bare beskyttes, men også fremmes gjennom rettferdige forretningspraksiser. Dette inkluderer å unngå ekskluderende taktikker, sikre interoperabilitet mellom systemer og skape valgmuligheter for både bedrifter og forbrukere. Når det gjelder AI, er dette spesielt relevant ettersom man må unngå at aktører bruker låsemekanismer som hindrer andre i å konkurrere eller velge alternative løsninger. Forbrukernes valgmuligheter er avgjørende for å opprettholde konkurranse i dette området.

I tillegg til lovgivning, er det også viktig å understreke behovet for en konkurransedyktig tilnærming til utvikling av grunnleggende AI-modeller. Hvis bare noen få aktører har tilgang til de mest avanserte modellene, kan dette føre til at hele AI-økosystemet domineres av et lite antall store selskaper. For å forhindre dette, må offentlig politikk sørge for at det er rom for nye aktører til å komme inn på markedet, og at eksisterende spillere ikke får uforholdsmessig mye makt over de teknologiske fundamentene som former AI-utviklingen.

En av de viktigste lærdommene vi kan trekke fra dagens tilnærming til AI-regulering, er at reguleringen ikke må bli for tungrodd eller kostnadskrevende for små og mellomstore aktører. Et altfor komplekst regelverk kan utelukke nye aktører og gjøre det vanskeligere for innovasjon å blomstre. Derfor er det essensielt at regulatorer finner en fin balanse mellom nødvendige reguleringer og å fremme et åpent og dynamisk marked. Ved å legge til rette for et konkurransedyktig miljø, kan man sikre at teknologiske fremskritt ikke kun gagner de største aktørene, men også nye, kreative aktører som kan bringe nye løsninger til bordet.

Hvordan Generativ Kunstig Intelligens Reguleres i Offentlig Forvaltning

Generativ kunstig intelligens (AI) har fått økt oppmerksomhet som et kraftfullt verktøy innen offentlig administrasjon, og mange nasjoner, inkludert USA og EU, har begynt å utvikle rammeverk og reguleringer for å håndtere bruken av disse teknologiene i forvaltningen. Teknologiens potensial for å forbedre effektiviteten og levere innovative løsninger er betydelig, men samtidig reiser den alvorlige spørsmål om etikk, sikkerhet og personvern.

I USA har AI blitt et sentralt tema i politiske diskusjoner helt siden slutten av 2010-tallet. Gjennom initiativer som National AI Advisory Committee og opprettelsen av et AI Center of Excellence, har myndighetene etablert et sett med rammeverk for AI-governance. Disse initiativene fokuserer primært på hvordan AI kan integreres i offentlig forvaltning, men har også som mål å styrke konkurranseevnen til USA på globalt nivå, ved å fremme innovasjon og entreprenørskap gjennom AI-relaterte programmer.

Etter vedtakelsen av AI in Government Act (2020) har USA introdusert flere tiltak for å utdanne og trene føderale ansatte om både muligheter og risikofaktorer ved AI. Blant de viktigste lovene er AI Training Act, som fokuserer på opplæring i AI’s evner og risikoer, samt Advancing American AI Act som oppmuntrer til utvikling av AI-relaterte programmer for å fremme USAs ledelse på området. Disse lovene legger grunnlaget for en mer ansvarlig og regulert bruk av generativ AI i offentlig sektor.

En viktig del av reguleringen omfatter testing og evaluering av AI-systemer, spesielt generative AI-verktøy som kan ha stor påvirkning på folks liv. Eksempler på slike systemer kan være AI som kontrollerer viktige infrastrukturer som elektriske nettverk, eller som brukes til beslutningsprosesser innen helsevesen, offentlig sikkerhet og jus. For eksempel, i 2024 utga Office of Management and Budget (OMB) et memorandum som pålegger føderale etater å gjennomføre grundige vurderinger av effekten av AI, inkludert testing for potensielle risikofaktorer som diskriminering, villedende innhold og uønskede juridiske konsekvenser.

Et viktig aspekt ved bruken av generativ AI i offentlig forvaltning er implementeringen av såkalte "red-teaming" tester. Dette er en strukturert metode for å identifisere sårbarheter i AI-systemer, og den skal bidra til å sikre at teknologien fungerer på en trygg og ansvarlig måte før den tas i bruk i kritiske sammenhenger. Slike tester er et kritisk element i utviklingen av AI-systemer som kan påvirke menneskelige rettigheter, som for eksempel ved beslutningstaking om barnevern, helsetjenester eller rettslige avgjørelser.

Samtidig er det også et kontinuerlig behov for at myndighetene implementerer et helhetlig AI-strategi som kan støtte deres organisatoriske kapasitet til å integrere generativ AI på en ansvarlig måte. Dette innebærer blant annet å sørge for at data som brukes til å trene AI-systemer er av høy kvalitet, og at risikoen ved AI-bruk er grundig vurdert. Myndighetene skal også sørge for at det er full åpenhet rundt hvordan data brukes, og de skal unngå at AI-teknologi fører til uforholdsmessige skadevirkninger, som f.eks. brudd på personvern eller utilsiktede juridiske konsekvenser.

I Europa har EU tatt et steg videre ved å vedta AI Act (AIA), som omfatter både private og offentlige aktører i hele AI-forsyningskjeden. Denne loven er et av de første prøvene på et omfattende rammeverk for AI-regulering på tvers av medlemslandene. AIA inneholder regler som gjelder generativ AI i offentlig administrasjon, og det fastslår at slike systemer skal brukes på en måte som er i tråd med europeiske rettigheter og verdier. EU har også utviklet retningslinjer for sine egne institusjoner, som kan fungere som et rammeverk for andre offentlige organer i medlemslandene.

Retningslinjene for bruk av generative AI-verktøy, som for eksempel ChatGPT, i EU-institusjoner er et tydelig eksempel på hvordan myndighetene ser på risikoen ved AI. Disse retningslinjene er ikke nødvendigvis juridisk bindende, men de er utviklet for å gi ansatte verktøy til å vurdere risikoene og begrensningene ved bruken av slike teknologier. De spesifiserer også at internt utviklede AI-verktøy skal vurderes på en annen måte, og at deres utvikling må skje innenfor rammer for IT-governance.

Bruken av generativ AI i offentlig forvaltning kan føre til mange praktiske og etiske utfordringer. For det første må det sørges for at dataene som brukes til å trene AI-modeller, er pålitelige og nøyaktige. Dette kan være en utfordring når det gjelder generativ AI utviklet av private aktører, ettersom myndighetene ofte ikke har tilgang til de nødvendige dataene for å vurdere kvaliteten på systemene. Derfor må det være et klart krav om at leverandører av AI-systemer gir fullstendig informasjon om dataene som brukes til å utvikle og trene teknologien.

Hva er de juridiske utfordringene med generativ AI i EU-lovgivningen?

Når det gjelder ansvar ved tap av tilkobling, kan produktansvarsreglene vurdere et produkt som defekt. Den reviderte versjonen av produktansvarsdirektivet (revPLD) gir imidlertid mindre klare indikasjoner på om generativ AI er inkludert i produktansvarssystemet. Formuleringen av den relevante bestemmelsen er kompleks, og fortolkningene i henvisningene peker generelt mot "AI-systemer". Den terminologiske splittelsen i AI-lovgivningen kompliserer debatten ytterligere, ettersom generelle AI-modeller ikke omfattes av den primære definisjonen av et "AI-system". En funksjonell tilnærming kan derfor være mer hensiktsmessig. Skulle AI-loven definere generelle AI-modeller som essensielle komponenter i nedstrøms AI-systemer, kan flere scenarioer oppstå. På den ene siden kan leverandøren av den generelle AI-modellen bli ansett som produsent av en komponent som viser seg å være defekt. På den annen side, ettersom generelle AI-modeller skal finjusteres og tilpasses spesifikke applikasjoner, kan begrepet "substanstielle modifikasjoner" være relevant. Denne prosessen kan tolkes som en form for "oppussing", og dermed blir leverandøren av AI-systemet som integrerer og tilpasser AI-modellen ansett som produsent for formålene til den reviderte PLD.

Den reviderte versjonen er positivt mottatt da den synes å forbedre klarheten og gi bedre veiledning for vurdering av defekter i forhold til AI-baserte produkter. Likevel virker denne tilnærmingen mindre egnet for generativ AI. De generelle egenskapene til disse modellene gjør det vanskelig å forutsi "rimelig bruk" av produktet. Begrepet "rimelige sikkerhetserventasjoner" som et mål for å vurdere defekter, mister effektivitet i konteksten av generelle AI-modeller, da slike forventninger er vanskelige å forutsi på grunn av deres brede og fleksible anvendelse. Derfor er det foreslått at vurderingen av defekter bør fokusere på overvåkning og tilsyn av tilfeldige eller uventede utdata, heller enn mer "statisk" etterlevelse.

Samtidig kan forsøk på å samle bevis, spore handlinger langs den kausale kjeden og innhente data, vise seg å være fruktesløse eller økonomisk uoverkommelige uten samarbeid fra aktørene i teknologisk økosystem og AI-leverandørkjeden. Med forslagene i AILD ønsker Kommisjonen å adressere en av de mest synlige utfordringene ved skader forårsaket av AI-systemer, nemlig bevisbyrden og dokumentasjonskravene. Dette gjelder også for produktansvarsdirektivet, som trenger tilpasning for å kunne håndtere de asymmetriske effektene av AI-systemer på offerets bevisbyrde.

Gjennomført endring i reglene for bevisbyrde og fremleggelse av bevis kan være en løsning for å lette den påkrevde bevisførselen for offeret. Dette inkluderer blant annet regler om bevisfremleggelse og presumsjoner som kan hjelpe offeret med å bevise sine krav. Dermed blir PLD mer tilpasset de spesifikke utfordringene knyttet til AI, selv om det fremdeles er et behov for ytterligere tilpasning for å balansere rettferdighet mellom aktører i teknologisektoren og de som er skadelidende.

Hvordan ansvar for AI-generert innhold kan endre lover og plattformer

Ansvar for innhold generert av kunstig intelligens (AI) har blitt en betydelig juridisk utfordring i lys av utviklingen av språkmodeller og generative AI-verktøy. Spørsmålet om hvilke rettslige implikasjoner disse verktøyene har på selskaper og plattformer som bruker dem, er komplekst og har ført til debatter om hvor langt ansvar kan strekke seg for både utviklere og plattformutbyggere. På den ene siden finnes det beskyttelser som gjør det vanskelig for selskaper å holdes ansvarlige for innhold de ikke direkte har produsert. På den andre siden er det en stadig økende bekymring for om plattformene bør stilles til ansvar for skadelige eller ulovlige AI-genererte innhold som deres systemer sprer.

Et sentralt punkt i diskusjonen er hvordan loven behandler innhold som er skapt eller anbefalt av AI. Et viktig juridisk prinsipp her er seksjon 230 i Communications Decency Act i USA, som gir plattformer en bred immunitet mot ansvar for innhold postet av tredjepartsbrukere. Denne immuniteten kan utvides til selskaper som utvikler og implementerer AI-modeller, men det er et betydelig unntak: Når en plattform spiller en aktiv rolle i utviklingen eller modifikasjonen av innholdet, kan den miste sin immunitet.

I saker der det hevdes at plattformer ikke bør beskyttes av seksjon 230, argumenteres det for at plattformene aktivt har bidratt til innholdets form eller har brukt AI til å manipulere eller anbefale skadelig innhold. Dette er ikke helt nytt – lignende argumenter har blitt fremsatt i forbindelse med tradisjonelle søkemotorer og systemer som anbefaler innhold. For eksempel har domstolene tidligere vurdert om en plattform som Google skal holdes ansvarlig for innhold som det har justert eller anbefalt, til tross for at innholdet ble skapt av tredjepartsbrukere.

I tillegg til de juridiske spørsmålene om ansvar, er det også en pågående debatt om ytringsfrihet og kunstig intelligens. Skal AI-generert innhold beskyttes av første grunnlovstillegg, som beskytter menneskelig ytringsfrihet? Flere eksperter mener at AI-innhold bør få samme beskyttelse, men det finnes også motstand mot dette synet. Noen argumenterer for at det er avgjørende om innholdet kommer fra en "konstitusjonelt beskyttet" menneskelig taler, og om AI, som ikke er en fysisk eller juridisk person, kan ha samme rettigheter som et menneske.

En annen viktig problemstilling er hvordan ulike former for automatiserte innholdsgenerering kan utfordre eksisterende regler. For eksempel kan tilfeller der AI-modeller bare gjør små endringer på eksisterende innhold, som å sette inn et ellipsesymbol eller endre rekkefølgen på setninger, føre til usikkerhet om hvorvidt det er tilstrekkelig til å endre innholdets opprinnelige betydning. Selv om slike endringer virker små, kan de ha stor innvirkning på hvordan innholdet oppfattes, og dette kan få konsekvenser for ansvarsfordelingen mellom plattformer og brukere.

For å kunne håndtere dette på en rettferdig måte, må domstolene vurdere flere faktorer: Hvordan er innholdet generert? Hvilke elementer er hentet fra tredjeparts kilder, og hvilke er nyutviklede av modellen? Hvordan har utviklerens valg i treningen av modellen påvirket det endelige innholdet? Dette er spørsmål som ennå ikke har fått et entydig svar i rettssystemet, og det er ventet at det vil oppstå flere rettssaker etter hvert som bruken av generative AI-modeller blir mer utbredt.

Et annet aspekt ved denne problematikken er hvordan innhold som genereres av AI kan bli sett på som en form for "redigering" eller "moderering" av eksisterende informasjon. I denne sammenhengen har spørsmålet om AI er en nøytral aktør som kun gjenskaper eller formidler innhold, eller om det er et redigeringsverktøy som aktivt påvirker og endrer det opprinnelige innholdet, fått stor betydning. Det vil også være viktig å undersøke hvordan AI kan brukes til å forsterke eller anbefale skadelig innhold, og hvilke ansvarsforhold som bør gjelde for utviklerne av slike systemer.

Med økt bruk av AI i både kommersiell og offentlig sektor, vil det være viktig for både lovgivere og plattformer å utvikle klare retningslinjer for ansvar og beskyttelse av ytringsfriheten. Det vil også være viktig å forstå hvordan modellene trenes, hvilke data de benytter, og hvordan disse dataene påvirker både innholdet som genereres og de potensielle juridiske konsekvensene av dette.

Hvordan sikrer Hiroshima AI-prosessen ansvarlig utvikling av avansert kunstig intelligens?

I møte med den raske utviklingen og den globale utbredelsen av avansert kunstig intelligens, tok G7-landene initiativ til Hiroshima AI-prosessen i mai 2023 under Japans formannskap. Dette internasjonale forumet har som mål å etablere et felles grunnlag for ansvarlig utvikling og bruk av AI, med fokus på trygg, sikker og pålitelig teknologi. Hiroshima-prosessen adresserer sentrale etiske spørsmål, fremmer samarbeid innen forskning og utvikling, og oppfordrer til internasjonale standarder for en fremtid der menneskeheten drar nytte av AI-fremskritt.

Selv om prosessen legger særlig vekt på styring av avanserte AI-systemer, defineres ikke teknologien rigid. Den omtales heller som «de mest avanserte AI-systemene, inkludert de mest avanserte grunnmodeller og generative AI-systemer», noe som gir fleksibilitet til å tilpasse seg framtidige fremskritt i ytelse og bruksområder. Dette understreker viktigheten av et rammeverk som kan utvikle seg i takt med teknologiske endringer.

De tolv prinsippene i de internasjonale retningslinjene kan deles inn i tre hovedområder. For det første risiko- og styringsrelaterte tiltak som omfatter identifisering og redusere risikoer, håndtering av sårbarheter etter implementering, og investeringer i sikkerhet. Det andre området omhandler involvering av interessenter, med vekt på åpenhet og ansvarlighet for alle berørte parter. Det tredje fokuserer på etiske og samfunnsmessige hensyn for å sikre at AI utvikles og anvendes i tråd med universelle verdier og normer.

Oppførselskoden (HCoC) oversetter disse prinsippene til konkrete handlinger. Den understreker nødvendigheten av kontinuerlig risikostyring gjennom hele AI-livssyklusen, med testing, overvåking og rapportering av mulige misbruk eller svakheter. Transparens er avgjørende, der organisasjoner må informere offentligheten om deres styringsmekanismer, risikohåndtering og sikkerhetstiltak. I tillegg fremheves behovet for mekanismer som kan autentisere AI-generert innhold, som for eksempel vannmerking, for å sikre at brukere kan skille mellom menneskelig og maskinprodusert informasjon.

Det er også vesentlig at dataenes kvalitet og integritet ivaretas, med særlig oppmerksomhet på personvern, rettferdighet og beskyttelse av intellektuell eiendom, samt overholdelse av gjeldende lover. Denne helhetlige tilnærmingen søker å balansere innovasjon og teknologisk fremgang med beskyttelse av samfunnets grunnleggende interesser.

Det er viktig å forstå at denne typen rammeverk ikke er statiske, men må forbli adaptive og dynamiske for å møte stadig nye utfordringer i AI-området. Ansvarlig AI-utvikling krever kontinuerlig oppdatering av retningslinjer og praksiser i takt med teknologiske fremskritt og samfunnsmessige endringer. Videre må implementeringen av disse prinsippene skje gjennom praktiske tiltak og reell forpliktelse fra alle aktører i AI-økosystemet.

Endelig er det avgjørende å erkjenne at teknologi i seg selv ikke er nøytral; den reflekterer verdier og prioriteringer i samfunnet. Derfor må styring av AI også innebære en kontinuerlig etisk vurdering og dialog for å sikre at teknologiutviklingen tjener det felles beste.