Representantforslag om å bekjempe voldelige og ekstremistiske digitale nettverk rettet mot barn og unge

Bakgrunn De senere år har det vokst frem en rekke voldelige og ekstremistiske digitale nettverk som opererer på tvers av sosiale medier og digitale plattformer, herunder Discord, Telegram, Snapchat, grupperinger uten fast struktur, som stadig dannes, oppløses og Med voldelige og ekstremistiske digitale nettverk menes i dette forslaget miljøer som fremmer, normaliserer eller legger til rette for vold, grov selvskading eller alvorlige overgrep, særlig rettet mot barn og unge, og som benytter digitale plattformer til rekruttering, kontroll eller eskalering av skade. Et kjent eksempel internasjonalt er det såkalte 764-miljøet, som inngår i det som ofte omtales som «The Com». Dette miljøet illustrerer hvordan slike nettverk kan fungere i praksis, men representerer ikke et isolert fenomen. Tilsvarende metoder, dynamikker og skadevirkninger er dokumentert i en rekke andre voldelige og ekstremistiske digitale miljøer. Felles for disse nettverkene er at de systematisk retter seg mot barn og unge, særlig mindreårige i sårbare livssituasjoner. Rekruttering skjer ofte gjennom tilsynelatende uskyldig kontakt i åpne og etablerte digitale arenaer. Kontakten utvikler seg gradvis gjennom tillitsbygging, manipulasjon, trusler og utpressing. Når kontroll først er etablert, presses ofrene over tid til å utføre stadig mer ekstreme handlinger, blant annet selvskading og vold, som dokumenteres gjennom bilder og video. Slike opptak brukes videre som pressmiddel for å sikre lydighet og eskalere overgrepene. Internasjonalt foreligger det dokumenterte tilfeller der barn og unge, som følge av påvirkning fra voldelige digitale nettverk, har begått alvorlige voldshandlinger mot både mennesker og dyr. Nettverkenes interne hierarkier, belønningsmekanismer og normer bidrar til normalisering av vold, dehumanisering og radikalisering. Norske medier har gjennom omfattende gravejournalistikk dokumentert at også barn og unge i Norge har blitt rekruttert inn i slike miljøer. Sakene viser hvordan prosessen ofte starter i helt vanlige digitale rom, og hvordan mange ofre ikke tør å varsle om overgrep av frykt for represalier eller offentlig uthenging eller fordi overgripere sitter med kompromitterende eller seksualisert materiale. Kripos har advart kraftig mot denne utviklingen. Det er pekt på at dette er et voksende problem, og at politiet ikke kan bekjempe fenomenet alene. Det er samtidig fremhevet at teknologiselskapenes forretningsmodeller og anbefalingsalgoritmer bidrar til å forsterke og spre voldelig og ekstremistisk innhold, også rettet mot barn og unge. Forslagsstillerne mener utviklingen utgjør en alvorlig trussel mot barns sikkerhet og samfunnet som helhet, og at dagens virkemidler ikke er tilstrekkelige. Regjeringen har tidligere vist tilbakeholdenhet med å regulere teknologiselskaper. Samtidig har det de senere år vært økende politisk og samfunnsmessig erkjennelse av behovet for sterkere regulering, særlig for å beskytte barn mot digital vold, overgrep og ekstremistisk påvirkning. Avsløringer knyttet til blant annet seksuell utnyttelse, bruk av kunstig intelligens til krenkende formål og digital rekruttering til voldelige nettverk viser at dagens regulering ikke er tilstrekkelig. Forslagsstillerne viser til EUs forordning om digitale tjenester (Digital Services Act – DSA), som er tatt inn i EØS-avtalen, og mener Norge bør benytte det eksisterende handlingsrommet til å stille strengere krav der barns sikkerhet står på spill. Dette inkluderer tydelig ansvarliggjøring av plattformene, økte krav til åpenhet, forebygging og effektive sanksjonsmuligheter. Forslagsstillerne understreker at tiltakene må utformes på en rettssikker og forholdsmessig måte og være i samsvar med ytringsfriheten og grunnleggende rettsstatsprinsipper. Samtidig må barns rett til beskyttelse mot vold, overgrep og alvorlig skadelig påvirkning tillegges betydelig vekt. Teknologiselskapenes samfunnsansvar står i dag ikke i forhold til den faktiske makten de besitter over informasjonsflyt, oppmerksomhet og barns digitale liv. Plattformene må i langt større grad holdes ansvarlige for hvordan deres tjenester muliggjør, forsterker og i enkelte tilfeller tjener på spredning av skadelig innhold. Forslagsstillerne legger til grunn at flere av tiltakene kan gjennomføres innenfor eksisterende forvaltningsstrukturer. Administrative sanksjoner og bøter rettet mot teknologiselskaper som bryter kravene, kan generere inntekter til staten. Samtidig kan styrket forebygging redusere langsiktige kostnader knyttet til politi, helsevesen og oppfølging av ofre. Forslag På denne bakgrunn fremmes følgende forslag: Stortinget ber regjeringen fremme forslag om lovendringer som pålegger digitale plattformer et tydelig og rettslig ansvar for rask fjerning av innhold knyttet til voldelige og ekstremistiske digitale nettverk rettet mot barn og unge, herunder faste tidsfrister og betydelige økonomiske sanksjoner ved brudd. Stortinget ber regjeringen utrede og fremme forslag om krav til åpenhet om anbefalings- og spredningsalgoritmer hos større digitale plattformer, særlig med hensyn til hvordan ekstremt, voldelig eller selvskadende innhold forsterkes og spres. Stortinget ber regjeringen utrede innføring av straffeansvar for teknologiselskaper som gjentatte ganger unnlater å gripe inn mot organisert, voldsfremmende og ekstremistisk aktivitet på sine plattformer. Stortinget ber regjeringen innføre krav om at større teknologiselskaper regelmessig skal rapportere offentlig antall kontoer og nettverk fjernet som følge av voldelig eller ekstremistisk aktivitet tiltak rettet mot voldelige og ekstremistiske digitale nettverk dokumentert effekt av gjennomførte modererings- og risikoreduserende tiltak Stortinget ber regjeringen utrede og innføre krav om barnerettslige konsekvensvurderinger for store digitale plattformer, i tråd med FNs barnekonvensjon, herunder vurdering av risiko for grooming, selvskading, vold og rekruttering til skadelige og ekstremistiske miljøer. Stortinget ber regjeringen fremme forslag om strengere krav til beskyttelse av mindreårige på digitale plattformer, med særlig vekt på å hindre rekruttering til og eksponering for voldelige og ekstremistiske digitale nettverk. Stortinget ber regjeringen utrede forbud mot at teknologiselskaper kan generere inntekter fra innhold som fremmer vold, selvskading eller ekstremisme. Stortinget ber regjeringen opprette en spesialisert nasjonal enhet for analyse av voldelige og ekstremistiske digitale nettverk, i samarbeid med Kripos, øvrige deler av politiet, forskningsmiljøer og relevante aktører i sivilsamfunnet. Stortinget ber regjeringen styrke vernet for varslere og sikre at barn og unge som utsettes for press, trusler eller overgrep i voldelige digitale nettverk, raskt får tilgang til støtte, veiledning og helsehjelp, samt sikre lav terskel for å melde fra. Stortinget ber regjeringen pålegge større digitale plattformer å gjennomføre, offentliggjøre og jevnlig oppdatere risikovurderinger av hvordan deres tjenester kan misbrukes av voldelige og ekstremistiske nettverk, samt hvilke tiltak som iverksettes for å redusere slik risiko. Stortinget ber regjeringen rapportere årlig til Stortinget om utviklingen når det gjelder voldelige og ekstremistiske digitale nettverk rettet mot barn og unge, samt om effekten av iverksatte tiltak. Bakgrunn De senere år har det vokst frem en rekke voldelige og ekstremistiske digitale nettverk som opererer på tvers av sosiale medier og digitale plattformer, herunder Discord, Telegram, Snapchat, grupperinger uten fast struktur, som stadig dannes, oppløses og Med voldelige og ekstremistiske digitale nettverk menes i dette forslaget miljøer som fremmer, normaliserer eller legger til rette for vold, grov selvskading eller alvorlige overgrep, særlig rettet mot barn og unge, og som benytter digitale plattformer til rekruttering, kontroll eller eskalering av skade. Et kjent eksempel internasjonalt er det såkalte 764-miljøet, som inngår i det som ofte omtales som «The Com». Dette miljøet illustrerer hvordan slike nettverk kan fungere i praksis, men representerer ikke et isolert fenomen. Tilsvarende metoder, dynamikker og skadevirkninger er dokumentert i en rekke andre voldelige og ekstremistiske digitale miljøer. Felles for disse nettverkene er at de systematisk retter seg mot barn og unge, særlig mindreårige i sårbare livssituasjoner. Rekruttering skjer ofte gjennom tilsynelatende uskyldig kontakt i åpne og etablerte digitale arenaer. Kontakten utvikler seg gradvis gjennom tillitsbygging, manipulasjon, trusler og utpressing. Når kontroll først er etablert, presses ofrene over tid til å utføre stadig mer ekstreme handlinger, blant annet selvskading og vold, som dokumenteres gjennom bilder og video. Slike opptak brukes videre som pressmiddel for å sikre lydighet og eskalere overgrepene. Internasjonalt foreligger det dokumenterte tilfeller der barn og unge, som følge av påvirkning fra voldelige digitale nettverk, har begått alvorlige voldshandlinger mot både mennesker og dyr. Nettverkenes interne hierarkier, belønningsmekanismer og normer bidrar til normalisering av vold, dehumanisering og radikalisering. Norske medier har gjennom omfattende gravejournalistikk dokumentert at også barn og unge i Norge har blitt rekruttert inn i slike miljøer. Sakene viser hvordan prosessen ofte starter i helt vanlige digitale rom, og hvordan mange ofre ikke tør å varsle om overgrep av frykt for represalier eller offentlig uthenging eller fordi overgripere sitter med kompromitterende eller seksualisert materiale. Kripos har advart kraftig mot denne utviklingen. Det er pekt på at dette er et voksende problem, og at politiet ikke kan bekjempe fenomenet alene. Det er samtidig fremhevet at teknologiselskapenes forretningsmodeller og anbefalingsalgoritmer bidrar til å forsterke og spre voldelig og ekstremistisk innhold, også rettet mot barn og unge. Forslagsstillerne mener utviklingen utgjør en alvorlig trussel mot barns sikkerhet og samfunnet som helhet, og at dagens virkemidler ikke er tilstrekkelige. Regjeringen har tidligere vist tilbakeholdenhet med å regulere teknologiselskaper. Samtidig har det de senere år vært økende politisk og samfunnsmessig erkjennelse av behovet for sterkere regulering, særlig for å beskytte barn mot digital vold, overgrep og ekstremistisk påvirkning. Avsløringer knyttet til blant annet seksuell utnyttelse, bruk av kunstig intelligens til krenkende formål og digital rekruttering til voldelige nettverk viser at dagens regulering ikke er tilstrekkelig. Forslagsstillerne viser til EUs forordning om digitale tjenester (Digital Services Act – DSA), som er tatt inn i EØS-avtalen, og mener Norge bør benytte det eksisterende handlingsrommet til å stille strengere krav der barns sikkerhet står på spill. Dette inkluderer tydelig ansvarliggjøring av plattformene, økte krav til åpenhet, forebygging og effektive sanksjonsmuligheter. Forslagsstillerne understreker at tiltakene må utformes på en rettssikker og forholdsmessig måte og være i samsvar med ytringsfriheten og grunnleggende rettsstatsprinsipper. Samtidig må barns rett til beskyttelse mot vold, overgrep og alvorlig skadelig påvirkning tillegges betydelig vekt. Teknologiselskapenes samfunnsansvar står i dag ikke i forhold til den faktiske makten de besitter over informasjonsflyt, oppmerksomhet og barns digitale liv. Plattformene må i langt større grad holdes ansvarlige for hvordan deres tjenester muliggjør, forsterker og i enkelte tilfeller tjener på spredning av skadelig innhold. Forslagsstillerne legger til grunn at flere av tiltakene kan gjennomføres innenfor eksisterende forvaltningsstrukturer. Administrative sanksjoner og bøter rettet mot teknologiselskaper som bryter kravene, kan generere inntekter til staten. Samtidig kan styrket forebygging redusere langsiktige kostnader knyttet til politi, helsevesen og oppfølging av ofre. Forslag På denne bakgrunn fremmes følgende forslag: Stortinget ber regjeringen fremme forslag om lovendringer som pålegger digitale plattformer et tydelig og rettslig ansvar for rask fjerning av innhold knyttet til voldelige og ekstremistiske digitale nettverk rettet mot barn og unge, herunder faste tidsfrister og betydelige økonomiske sanksjoner ved brudd. Stortinget ber regjeringen utrede og fremme forslag om krav til åpenhet om anbefalings- og spredningsalgoritmer hos større digitale plattformer, særlig med hensyn til hvordan ekstremt, voldelig eller selvskadende innhold forsterkes og spres. Stortinget ber regjeringen utrede innføring av straffeansvar for teknologiselskaper som gjentatte ganger unnlater å gripe inn mot organisert, voldsfremmende og ekstremistisk aktivitet på sine plattformer. Stortinget ber regjeringen innføre krav om at større teknologiselskaper regelmessig skal rapportere offentlig antall kontoer og nettverk fjernet som følge av voldelig eller ekstremistisk aktivitet tiltak rettet mot voldelige og ekstremistiske digitale nettverk dokumentert effekt av gjennomførte modererings- og risikoreduserende tiltak Stortinget ber regjeringen utrede og innføre krav om barnerettslige konsekvensvurderinger for store digitale plattformer, i tråd med FNs barnekonvensjon, herunder vurdering av risiko for grooming, selvskading, vold og rekruttering til skadelige og ekstremistiske miljøer. Stortinget ber regjeringen fremme forslag om strengere krav til beskyttelse av mindreårige på digitale plattformer, med særlig vekt på å hindre rekruttering til og eksponering for voldelige og ekstremistiske digitale nettverk. Stortinget ber regjeringen utrede forbud mot at teknologiselskaper kan generere inntekter fra innhold som fremmer vold, selvskading eller ekstremisme. Stortinget ber regjeringen opprette en spesialisert nasjonal enhet for analyse av voldelige og ekstremistiske digitale nettverk, i samarbeid med Kripos, øvrige deler av politiet, forskningsmiljøer og relevante aktører i sivilsamfunnet. Stortinget ber regjeringen styrke vernet for varslere og sikre at barn og unge som utsettes for press, trusler eller overgrep i voldelige digitale nettverk, raskt får tilgang til støtte, veiledning og helsehjelp, samt sikre lav terskel for å melde fra. Stortinget ber regjeringen pålegge større digitale plattformer å gjennomføre, offentliggjøre og jevnlig oppdatere risikovurderinger av hvordan deres tjenester kan misbrukes av voldelige og ekstremistiske nettverk, samt hvilke tiltak som iverksettes for å redusere slik risiko. Stortinget ber regjeringen rapportere årlig til Stortinget om utviklingen når det gjelder voldelige og ekstremistiske digitale nettverk rettet mot barn og unge, samt om effekten av iverksatte tiltak.