Representantforslag om et midlertidig forbud mot KI-briller og andre former for kroppsbåret teknologi som muliggjør skjult overvåkning av andre

I løpet av det siste halvåret har såkalte KI-briller for alvor inntatt det norske markedet. Det mest kjente eksempelet er Meta sine smartbriller. Dette er briller og solbriller med integrert kamera, høyttaler og mikrofon. Brillene kan kobles til internett via brukerens smarttelefon, og kan blant annet brukes til å gjøre videoopptak av det brukeren ser på. Metas smartbriller tilrettelegger også blant annet for at video som brukeren tar opp med brillene, enkelt kan lagres og deles på sosiale medier. Den innebygde mikrofonen kan blant annet brukes til å stemmestyre Metas KI-agent.

Flere andre selskaper er i ferd med, eller har allerede, lansert lignende teknologi på markedet. Apple har for eksempel lansert ørepropper som kan gjøre videopptak, så vel som smartklokker som kontinuerlig kan ta opp lyd, for å kunne generere KI-oppsummeringer av samtaler i nærheten.

I kjølvannet av denne teknologiens inntog i det norske markedet, har en rekke organisasjoner, fagmiljøer og enkeltaktører pekt på hvordan slik teknologi skaper store utfordringer, både for forbrukervern og grunnleggende rettigheter. Det gjelder særlig retten til personvern. Denne formen for teknologi, og utfordringene de skaper, er ikke i tilstrekkelig grad regulert gjennom eksisterende lovverk.

Forslagsstillerne mener det haster å få på plass ordentlige rammer for smartbriller og annen tilsvarende kroppsbåret teknologi som muliggjør skjult overvåkning, for å forhindre at teknologien normaliseres uten at den er tilstrekkelig regulert. Dette er viktig ut ifra et føre-var-prinsipp i påvente av regulering som ivaretar personvernet og andre grunnleggende rettigheter. Derfor foreslår forslagsstillerne et midlertidig forbud frem til mer helhetlig regulering er på plass.

Trussel mot personvernet og andre rettigheter

En av de største utfordringene med smartbriller og tilsvarende teknologi er potensialet for snikfilming. Denne formen for teknologi muliggjør at personer kan filmes og dokumenteres uten at de har samtykket til det, og uten at de i det hele tatt er klar over det eller har reell mulighet til å oppdage det, i både den offentlige og private sfære. Selv om Metas smartbriller har en lampefunksjon i hjørnet av rammen, som er ment å skulle varsle omgivelsene om at brukeren filmer, kan denne lett dekkes til, settes ut av funksjon, eller faktisk ikke bli lagt merke til. Det blir overlatt til den enkelte å oppdage og protestere mot å bli gjort opptak av.

En av hovedfunksjonene til Metas smartbriller er å laste opp video i sosiale medier. Det innebærer at bilde, lyd og video av andre raskt kan deles og få stor spredning, uten deres samtykke. Det finnes allerede en rekke eksempler på at smartbriller og tilsvarende teknologi brukes til snikfilming og filming uten samtykke, med påfølgende deling i sosiale medier. I det opptakene først er delt, er skaden og inngrepet i privatlivet til de som er filmet allerede gjort.

I tillegg kan potensielle fremtidige tilleggsfunksjoner, som ansiktsgjenkjenning, på sikt skape både store personvernutfordringer og ytringsfrihetsutfordringer. Det kan føre til at folk vegrer seg mot å ytre seg i det offentlige rom, for eksempel ved å delta på demonstrasjoner, eller at folk vegrer seg mot å utforske og uttrykke egen identitet, i frykt for å bli gjenkjent. Dette er potensielle utfordringer også uten at ansiktsgjenkjenningsfunksjoner legges til, all den tid risikoen for snikfilming og filming uten samtykke kan ha den samme effekten. Informasjon innhentet gjennom slik teknologi, vil også kunne brukes til målrettet markedsføring, og andre formål den enkelte ikke vil kunne ha kontroll over.

Det er med andre ord et bredt spenn av uoversiktlige og sammensatte utfordringer man står overfor. Forslagsstillerne mener utfordringsbildet i seg selv taler for et midlertidig forbud.

Risiko for uoversiktlig og fragmentert regulering, og behov for et midlertidig generelt forbud

I løpet av de siste månedene har flere og flere aktører selv tatt grep for å bøte på disse utfordringene. Blant annet har flere barnehager og skoler innført forbud. En rekke arbeidsgivere har også innført ulike former for restriksjoner eller forbud mot bruk av smartbriller og tilsvarende teknologi i sine lokaler. Også enkelte kommuner har tatt egne grep.

Forslagsstillerne mener dette viser et presserende behov for mer generell regulering. Jo lenger man venter med å regulere, jo mer krevende vil det være, etter hvert som teknologien får fotfeste i markedet og blir normalisert i samfunnet. Dersom det ikke kommer mer helhetlig regulering, blir flere enkeltsektorer, enkeltaktører og lokale myndigheter nødt til å selv ta grep i mellomtiden. Dette fører til fragmentert og uoversiktlig regulering, som kan ha store variasjoner. Innbyggere, inkludert de som bruker teknologien, vil vanskelig kunne ha oversikt over hvor og i hvilke situasjon det finnes regulering. Det er uheldig, og det vil være krevende å innføre mer helhetlig regulering i ettertid.

Forslagstillerne anerkjenner samtidig at dette er et krevende felt å regulere. Derfor mener forslagsstillerne at det er bra at regjeringen har gått inn for å sette ned en ekspertgruppe som skal utrede og fremme anbefalinger til reguleringer og tiltak, og at et generelt forbud er blant tiltakene som skal vurderes.

Samtidig er dette et arbeid som vil ta tid. Forslagstillerne mener derfor at et midlertidig forbud er nødvendig frem til et mer helhetlig regelverk, som ivaretar retten til personvern og andre rettigheter, er på plass. Et midlertidig forbud vil også være i forbrukernes interesse, for å hindre at forbrukere kjøper teknologi som innen forholdsvis kort tid kan bli mer restriktivt regulert enn i dag.

Et midlertidig forbud kan kombineres med unntak for bruk som nødvendig hjelpemiddel

Det finnes tilfeller der smartbriller og tilsvarende teknologi klart er nyttige verktøy. Det gjelder for eksempel for personer med ulike former for funksjonsnedsettelser. Smartbriller og tilsvarende teknologi kan for eksempel være særlig nyttig for blinde og svaksynte.

Forslagsstillerne mener at dette ikke trenger å står i et motsetningsforhold til et midlertidig forbud mot salg og bruk av slik teknologi. Det vil etter forslagsstillernes syn være mulig å utforme et midlertidig forbud som også inneholder unntak for personer som av ulike årsaker har behov for denne teknologien som hjelpemiddel.