Representantforslag om demokratisk kunstig intelligens

Digitale plattformer og «tingenes internett» bygger i stor grad på kunstig intelligens og er nå både kjernetjenester i offentlig sektor og samfunnskritisk infrastruktur verden over. Man lever nå store deler av sitt liv ved hjelp av digitale systemer. Da er det fellesskapet som må legge premissene for den digitale utviklingen. Gjennom automatiserte prosesser med alt fra for eksempel robotstøvsugere på sykehjem til programvare for ansettelser i Nav og trafikkplanlegging i kommunen blir data og algoritmer sentrale i livene våre.

Med kunstig intelligens (KI) automatiseres stadig nye prosesser. Over tid har man sett kunstig intelligens bli brukt til for eksempel diagnostisering av flere sykdommer og til avansert trafikkplanlegging. I regjeringens Nasjonal strategi for kunstig intelligens (2020) defineres kunstig intelligens slik:

«Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene.»

Kunstig intelligens lages ved at data mates inn i en programvare og trenes på enten en enorm databank eller eget og andre mønstre – såkalt maskinlæring. Det vi får, er avanserte sammenligninger omgjort til matematiske beregninger, slik at datamaskinen kan gjenkjenne ord og sammenhenger. Samtidig selges kunnskapen en får fra maskinlæringen, til andre selskaper eller brukes av selskapet som laget den første programvaren, til å utvikle nye.

Digitaliseringen og utviklingen av KI har i lang tid skjedd uten tilstrekkelig regulering fra myndighetenes hold. Slik får enorme teknologiselskaper kunnskapsmonopol blant annet over infrastruktur og i offentlig sektor. Det flytter makten fra det offentlige til utenlandske selskaper og gjør det vanskelig for mindre næringsvirksomheter å konkurrere, da de ikke har de samme databankene og treningssettene som store selskaper som Google.

Utbredt bruk av YouTube i skolen mater en forretningsmodell basert på å holde individer på plattformen så lenge som mulig for å skape mest mulig data. Det som skaper mest engasjement, er ytringer som fører til sinne, da det gir flere visninger av reklamen som selskapet tjener penger på. Sosiale medier gir gjennom sin forretningsmodell en turboeffekt på en rekke samfunnsproblemer som polarisering og spiseforstyrrelser. Det offentlige, og i dette eksemplet skolen, blir dermed aktører som tilrettelegger for polarisering i samfunnet og at kunnskapen konsentreres hos noen få med økonomiske interesser. Skoleeksemplet kan dras videre: Personvernkommisjonen viste høsten 2022 til at lærere ofte tar i bruk gratisapper i undervisningen, uten at det er vurdert hva slags data som samles inn, og hvordan disse dataene brukes videre.

Den senere tid har det skjedd et taktskifte i utviklingen av KI, med for eksempel ChatGPT og deepfake. Det har utviklet seg et «våpenkappløp» mellom de store teknologigigantene, hvor ingen har interesse av å bremse utviklingen i frykt for å tape konkurransen. De som jobber i våpenkappløpet, er selv redde for konsekvensene. I en undersøkelse oppga over 50 prosent av de som selv forsker og utvikler kunstig intelligens, at det er over 10 prosent sjanse for at teknologien kan utrydde menneskeheten. Selv om noen teknologiaktører tar til orde for å midlertidig stanse treningen av noen typer KI, er det ofte for at de selv skal kunne utvikle den beste KI-en i vakuumet som oppstår. Videre foreslås det i flere av de internasjonale tiltakene for regulering av KI fra G7 og EU en risikobasert tilnærming når det kommer til kunstig intelligens, stikk i strid med den norske modellen, som tar utgangspunkt i føre-var-prinsippet.

Utviklingen av kunstig intelligens skjer i dag i aller høyeste grad av og for kommersielle aktører. ChatGPT kontrolleres i stor grad av Microsoft gjennom OpenAI. De har en enorm databank som de kan trene KI på, samt enorme budsjetter. Dermed brukes ChatGPT til å videreutvikle både den aktuelle og andre typer kunstig intelligens. Det gir de store selskapene enda mer markedsmakt som penetrerer skole og det offentlige. Kommersiell KI bør ikke reguleres i etterkant – det må være opp til aktørene å vise at deres KI er etisk, robust og pålitelig før den ender på markedet.

Trenden i KI er stadig større og mer komplekse modeller. Da må man sikre at de er rettferdige, og at reguleringen får bukt med de negative konsekvensene av KI og gir grobunn for de positive. Innen 2026 kan alt innhold på internett være 90 prosent syntetisk – altså skapt av KI – sier Europol. Det betyr at offentligheten fylles opp av kunstig intelligens.

Det trengs både internasjonal og nasjonal politikk for å regulere KI. De fleste selskapene er i USA, som gir landet et stort ansvar. Norge må bruke diplomatiske kanaler for å jobbe for at USA og resten av verden innfører reguleringer. Likevel er data den sentrale ressursen i KI, og Norge har lang tradisjon for demokratisk ressursforvaltning, som tar utgangspunkt i at fellesskapet skal ha kontroll over de felles ressursene.

Utviklingen av KI er og har vært dyr og energikrevende. KI bruker store mengder ferskvann, mye kraft og må ha svært kraftig maskinvare. Det å prioritere både kraft og areal er helt nødvendig for å sikre at man har strøm nok til alle, og at Norge når sine internasjonale forpliktelser, blant annet i FNs naturavtale.

For å sikre en demokratisk og positiv utvikling av KI er en nødt til å sikre et regelverk som svarer på blant annet: Hva skal kunstig intelligens brukes til? Hvem sin kunstige intelligens skal brukes hvor? Hva og hvordan skal man prioritere innenfor kunstig intelligens? Hvem skal få eie dataene en mater kunstig intelligens med? Hvordan ser rettferdighet ut i en kodet verden? Hvem har ansvaret for at algoritmene ikke er rasistiske og sexistiske? Dette er politiske spørsmål som krever politisk regulering.

I dokumentet fremmes følgende forslag:

• Stortinget ber regjeringen umiddelbart innføre et moratorium i offentlig sektor på å ta i bruk nye kommersielle verktøy som bygger på kunstig intelligens. Moratoriet må vare fram til et regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder er utviklet.

• Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.

• Stortinget ber regjeringen legge fram en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.»

Det vises til dokumentet for nærmere redegjørelse for forslagene.

Komiteen, medlemmene fra Arbeiderpartiet, Odd Harald Hovland, Hadia Tajik og Maria Aasen-Svensrud, fra Høyre, Ingunn Foss og Sveinung Stensland, fra Senterpartiet, Ivar B. Prestbakmo og Else Marie Rødby, fra Fremskrittspartiet, lederen Per-Willy Amundsen og Tor André Johnsen, fra Sosialistisk Venstreparti, Andreas Sjalg Unneland, og fra Venstre, Ingvild Wetrhus Thorsvik, viser til forslaget og til Kommunal- og distriktsdepartementets vurdering i brev av 6. oktober 2023. Brevet følger vedlagt denne innstillingen.

Komiteen viser til at digitale plattformer og «tingenes internett» i stor grad bygger på kunstig intelligens.

Komiteen understreker betydningen av at premissene for den digitale utviklingen ikke bare legges av kommersielle interesser, men av demokratisk valgte organer.

Komiteen påpeker at det er utviklet en rekke regelverk for KI innenfor ulike bruksområder i Norge, samtidig som det er positivt at det nå kommer en egen EU-forordning for KI, som vil kunne sette noen overordna standarder. Det vil være et nyttig supplement til den reguleringen landet allerede har og som vil være under utvikling fremover.

Komiteen viser til at regjeringen Støre har startet arbeidet med en ny, helhetlig digitaliseringsstrategi for Norge. Målet vil være en sterkere samordning og utvikling av en helhetlig politikk som går på tvers av offentlig og privat sektor. Som en del av dette arbeidet vil de også se på hvordan man skal regulere, utvikle og bruke kunstig intelligens. Strategien skal etter planen være klar i 2024.

Komiteens medlemmer fra Arbeiderpartiet og Senterpartiet viser til sine merknader i Innst. 151 S (2023–2024).

Komiteens medlemmer fra Høyre, Fremskrittspartiet og Venstre viser til at kunstig intelligens er et område som spenner bredt, både i teknologier og anvendelsesområder. Generativ kunstig intelligens, som ble allment tilgjengelig gjennom den store språkmodellen ChatGPT høsten 2022, er en type kunstig intelligens. Det finnes allerede en rekke produkter og programvare som bygger på kunstig intelligens og brukes i offentlig sektor. Digitaliseringsdirektoratets oversikt over bruk av kunstig intelligens i offentlig sektor inneholder 135 prosjekter.

Disse medlemmer viser videre til at kunstig intelligens i ulike former allerede bidrar til stor verdiskaping i offentlig sektor, i form av bedre og mer effektive tjenester. På for eksempel Drammen sykehus, brukes teknologien til bruddeteksjon og gir svar på minutter, slik at pasientene slipper å vente på sykehuset i mange timer. I Midt-Telemark brukes kunstig intelligens til planlegging i hjemmetjenesten, som gir kortere reisevei, bedre tid og oftere samme pleier som kommer på besøk hos hjemmebrukerne. Resultatet er mindre stress i arbeidshverdagen for pleierne og bedre tjenester for brukerne. Disse medlemmer mener et umiddelbart moratorium på å bruke kommersiell kunstig intelligens i offentlig sektor vil være uforsvarlig og påføre stor skade på det offentlige tjenestetilbudet.

Disse medlemmer mener personvern er og forblir viktig i samfunnet, også i møte med kunstig intelligens og andre digitale teknologier. Disse medlemmer viser videre til personvernforordningen, også kalt GDPR, som er implementert i norsk rett gjennom personopplysningsloven. Forordningen stiller blant annet krav til innhenting av samtykke til spesifikke formål ved behandling av personopplysninger, og gir et grundig vern for norske og europeiske borgeres persondata. Disse medlemmer mener beskyttelsen av personvernet er sterkt og ikke anses styrket med en egen konsesjonsordning.

Disse medlemmer mener utviklingen i kunstig intelligens bringer med seg et enormt verdiskapingspotensial, som kan gi bedre tjenester i offentlig sektor og et mer effektivt næringsliv. Teknologien byr også på utfordringer, som at man må bli mer kritiske til det man ser, hører og leser. Disse medlemmer mener utfordringene som oppstår må adresseres, men at det samtidig må presiseres hvor det haster mest med løsninger. Disse medlemmer mener en generell stortingsmelding ikke løser utfordringene en står overfor, og at hvis forslagsstillerne etterspør utredninger av konkrete problemstillinger, så bør problemstillingene tydeligere presiseres.

Komiteens medlemmer fra Fremskrittspartiet viser til at kunstig intelligens er et tema med økende aktualitet, og som reiser flere problemstillinger. Disse medlemmer mener på den bakgrunn det er ønskelig at regjeringen redegjør for Stortinget om regjeringens arbeid med problemstillinger knyttet til kunstig intelligens.

Disse medlemmer fremmer derfor følgende forslag:

«Stortinget ber regjeringen redegjøre for Stortinget om regjeringens arbeid med problemstillinger knyttet til kunstig intelligens.»

Komiteens medlem fra Sosialistisk Venstreparti understreker at digitaliseringen av samfunnet og utviklingen av kunstig intelligens går fort, hvor stadig nye prosesser automatiseres. Dette medlem peker på at det gir store muligheter for å effektivisere og bedre en rekke tilbud og tjenester i samfunnet. På den andre siden byr dette også på en rekke utfordringer som samfunnet må løse.

Dette medlem viser videre til at trenden i utviklingen av KI er stadig større og mer komplekse modeller. Da må man sikre at de er rettferdige, og at reguleringen får bukt med de negative konsekvensene av KI og gir grobunn for de positive. I følge Europol kan alt innhold på internett innen 2026 være 90 pst. syntetisk – altså skapt av KI. Det betyr at offentligheten fylles opp av kunstig intelligens, som dermed må spille på lag med behovene og ønskene for samfunnet og befolkningen.

Dette medlem ønsker å vise til det siste årets debatt om utviklingen av generativ kunstig intelligens, og spesielt såkalte språkmodeller, som ChatGPT. Dette er modeller som er trent på enorme mengder tekstdata gjennom algoritmer, og kan tolke og generere tekst, basert på statistiske mønstre i treningsdataene. Dette medlem deler bekymringen for hvordan slik generativ kunstig intelligens kan komme til å endre samfunnet betydelig i framtiden, dersom det forblir uregulert. Likevel vil dette medlem fraråde å løpe etter enkelte språkmodeller og forby dem, da nye kun vil oppstå et annet sted, noe man har sett skje det siste året. Dette medlem vil her understreke at hovedelementet i disse språkmodellene er data, og at å regulere hvilke data som modellene kan trenes på, og for hvilke formål, vil kunne sikre en demokratisk utvikling av generativ kunstig intelligens som vil hindre flere av de negative konsekvensene før modellene settes ut i markedet.

Dette medlem peker også på at utviklingen av KI er og har vært dyr og energikrevende. KI bruker store mengder ferskvann, mye kraft og må ha svært kraftig maskinvare. Det å prioritere både kraft og areal er helt nødvendig for å sikre at man har strøm nok til alle, og at Norge når sine internasjonale forpliktelser, blant annet i FNs naturavtale. I lys av det mener dette medlem at en må ta grep for å begrense energibruken og plassbruken til KI, uten at det går på bekostningen av en digitalisering som kommer hele samfunnet til gode. Da trengs et godt regelverk rundt hvordan dataene som den kunstige intelligensen henter inn og trener på, forvaltes på en bærekraftig måte. Dette medlem mener det i langt større grad må pålegges privat næringsliv å dele datasett med hverandre, heller enn at hvert selskap skal hente inn nærmest identiske data for forskjellige formål. Det resulterer i en unødvendig energibruk, som kun de store, private selskapene tjener på, da mindre selskap ikke har samme kapasitet til å hente inn slike store datasett. Dette medlem mener dagens manglende regelverk om deling av data gjør at mindre selskap blir skadelidende.

Dette medlem understreker at for å sikre en demokratisk og positiv utvikling av KI er man nødt til å sikre et regelverk som svarer på blant annet: Hva skal kunstig intelligens brukes til? Hvem sin kunstige intelligens skal brukes hvor? Hva og hvordan skal man prioritere innenfor kunstig intelligens? Hvem skal få eie dataene en mater kunstig intelligens med? Hvordan ser rettferdighet ut i en kodet verden? Hvem har ansvaret for at algoritmene ikke er rasistiske, sexistiske og undertrykkende for andre grupper i samfunnet? Dette er politiske spørsmål som krever politisk regulering. Dette medlem mener det er behov for en ny stortingsmelding for kunstig intelligens som går nærmere inn på disse spørsmålene, som vil være et godt arbeid opp mot en eventuell implementering av EUs AIAct, som er på vei. Det vil i et slikt arbeid også være særlig viktig å kartlegge om gjeldende regelverk knyttet til opphavsrett er tilstrekkelig. Dette medlem ser med bekymring på at kunstig intelligens trenes på åndsverk fra bl.a. forfattere uten at de blir kompensert eller at deres åndsverk blir respektert, og at globale selskap som både har eierinteresser i slike språkmodeller også har eierinteresser i videresalg av åndsverkene som kommer fra KI.

Dette medlem mener det er gode grunner for å opprette en konsesjonsordning for å sikre demokratisk innsyn og strengere kontroll over innsamling, bruk og lagring av data. Dette medlem ser det som hensiktsmessig at en slik konsesjonsordning utvikles med utgangspunktet i eksisterende regelverk som ivaretar enkeltindivider sin rett til personlige data, men også skaper et nytt regelverk for data som en fellesskapsressurs. Fellesskapsressurser som fiske og vannkraft følger regelverk som en kan hente inspirasjon fra i utviklingen av en slik ordning. Dette medlem ønsker også å vise til at et tydeligere regelverk som en konsesjonsordning av fellesskapets ressurser også vil kunne resultere i økte skatteinntekter til fellesskapet, dersom en for eksempel innfører en grunnrenteskatt på data i Norge. Dette medlem vil påpeke at de store, globale teknologiselskapene skatter svært lite til Norge, på grunn av dagens regelverk.

Dette medlem mener at på nåværende tidspunkt vil det være hensiktsmessig å opprette et offentlig KI-register for å dokumentere hvordan algoritmer benyttes til å levere tjenester til innbyggerne basert på kunnskap og erfaringer fra sammenliknbare land. Dette medlem viser til høringsnotatet fra Juristforbundet som foreslår et slikt system. Dette medlem viser til at byer som Amsterdam og Helsinki har opprettet offentlige KI-registre for å dokumentere hvordan de bruker algoritmer til å levere tjenester til innbyggere. Slike registre er viktig for å sikre tillit mellom det offentlige og borgerne, samt for å være med på å stille strengere krav til leverandørene av de digitale tjenestene, fordi de kan ettergås i offentlighet.

Dette medlem vil i likhet med høringssvaret til Likestillings- og diskrimineringsforbudet understreke at det er en reell risiko for at bruken av kunstig intelligens løper fra demokratiets og rettsstatens evne til å sikre folks rettigheter. Det finnes flere eksempler på at KI bidrar til å forsterke og reprodusere eksisterende ulikhet og diskriminering av allerede utsatte grupper i samfunnet. Dette medlem mener derfor det er viktig å understreke at offentlig sektor har en særskilt plikt i likestillings- og diskrimineringslovens § 24 til å fremme likestilling og hindre diskriminering i all sin virksomhet. Denne plikten gjelder også når forvaltningen bruker kunstig intelligens til å ta avgjørelser om enkeltmennesker, og når digitale verktøy brukes i helse, skole og utdanning.

Dette medlem vil poengtere viktigheten av at KI utvikles med utgangspunkt i den norske befolkningens behov og ressurser. Det betyr at det er viktig å sikre at dataen trenes slik at den blir best mulig tilpasset de folkene som skal bruke den, spesielt i offentlig sektor. Dette medlem mener derfor det er viktig at man ikke blindt kjøper programvarer utviklet på et annet publikum enn det norske, men at man bygger opp om et system som er tilpasset befolkningens behov. Dette medlem mener derfor det er riktig å sette ned et utvalg med oppdrag om å foreslå endringer i lovverket slik at norskutviklet KI bruker norske data under sikre og etiske forhold.

På denne bakgrunn fremmer dette medlem følgende forslag:

«Stortinget ber regjeringen etablere regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder før en storstilt utrulling av kommersielt utviklet kunstig intelligens i offentlig sektor finner sted.»

«Stortinget ber regjeringen legge frem en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.»

«Stortinget ber regjeringen opprette offentlige KI-registre for å dokumentere hvordan algoritmer benyttes til å levere tjenester til innbyggerne basert på kunnskap og erfaringer fra sammenliknbare land.»

«Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.»

Komiteens medlem fra Venstre viser til sine merknader i Innst. 151 S (2023–2024).