Nytt regelverk om KI: Nå må universiteter og høyskoler forberede seg

KI er allerede en del av studiehverdagen. Mer enn sju av ti studenter bruker kunstig intelligens ofte eller av og til i studiearbeidet, ifølge Studiebarometret 2025. Tallene viser at KI blir stadig viktigere i forskning og høyere utdanning. 

– Selv om bruken av KI i sektoren er utbredt, har ikke alle nødvendigvis vurdert risiko og ansvar som følger med. Dette er ikke noe vi kan vente med til det nye KI-regelverket trer i kraft. Forberedelsene må starte nå, sier seniorrådgiver Tommy Tranvik i Direktoratet for høyere utdanning og kompetanse (HK-dir).

Han forklarer at direktoratet skal forberede sektoren på nye regelverk fra EU innen digitalisering. Den nye temarapporten «KI-forordningen kort fortalt» er en del av dette arbeidet. 

Forbereder sektoren 

Temarapporten tar for seg de delene av EUs KI-forordning som HK-dir mener er mest relevante for virksomheter i høyere utdanning og forskning. Den er særlig rettet mot ledere og ansatte som anskaffer, utvikler eller bruker KI. Den er også relevant for ledere og ansatte med ansvar for internkontroll og for å følge regelverket.

– Vi vet ikke helt når den norske KI-loven og KI-forordningen vil tre i kraft, men målet er å gjøre et komplekst regelverk mer forståelig allerede nå. Vi vet også at det vil komme ny veiledning både fra EU og norske myndigheter om det nye KI-regelverket. Vi vil oppdatere rapporten når viktige avklaringer blir publisert, sier Tranvik.

Dette bør ledere gjøre nå

Tranvik mener sektoren ikke bør vente på at loven formelt trer i kraft. Han peker særlig på fem tiltak som universitetene og høyskolene bør gjøre allerede nå:

1. Kartlegg all bruk av KI i undervisning, forskning og administrasjon
2. Bygg kompetanse om kravene i KI-forordningen
3. Avklar om dere er leverandør, idriftsetter eller begge deler
4. Vurder hvilken risikokategori KI-systemene tilhører
5. Etabler tydelige roller, rutiner og internkontroll

– De som starter forberedelsene nå, vil stå langt bedre rustet når regelverket trer i kraft. Dette handler ikke bare om teknologi, men om styring, ansvar og tillit, sier Tranvik.

Tydelig ansvar ved bruk av KI

Når KI-forordningen trer i kraft, vil mange norske utdanningsinstitusjoner være enten idriftsettere eller leverandører av KI-systemer. Leverandører utvikler KI-systemer eller får andre til å utvikle slike systemer for seg. Idriftsettere er virksomheter som tar KI-systemene i bruk i egen organisasjon. Hvilken rolle institusjonen har, avgjør hvilke plikter som gjelder.

– Tar en institusjon i bruk visse typer KI-systemer, for eksempel i vurdering eller opptak, utløser det flere plikter. Det kan blant annet innebære vurdering av konsekvenser for grunnleggende rettigheter, inkludert personvern, samt menneskelig tilsyn med systemet og kontroll med hvilke data systemet får tilgang til, sier Tranvik. 

Han påpeker at institusjonen også må kunne dokumentere at den har nødvendig og tilstrekkelig KI-kompetanse til å forstå og håndtere risikoen.

Starter forberedelsene tidlig

Ved Høgskolen i Østfold (HiØ) tar både utfordringene og mulighetene med KI på alvor. For to år siden startet rektoren en tverrfaglig gruppe. Sist sommer ble arbeidet utvidet med et treårig prosjekt og to nye ressurser for å jobbe med kompetanseheving, prosjektledelse og utvikling av nye KI-tjenester.

– Utvikling av kompetansehevende tiltak er et av områdene vi vil prioritere fremover, og som vi har identifisert som sentralt i KI-forordningen, sier Marianne Bjerkman, seksjonsleder for IT-utvikling ved HiØ.

Hun mener at bruken av KI forutsetter forståelse og refleksjon i alle profesjoner og praksiser, og at det er behov for tydelige rammer.

– KI-forordningen gir oss, sammen med eksisterende lovverk og etiske prinsipper, viktige verktøy i dette arbeidet, understreker Bjerkman.

Fra fri bruk til tydelige KI-prinsipper

– Når det gjelder studenters bruk av KI, ser vi tydelig at det er behov for veiledning og klare retningslinjer, sier seksjonslederen ved HIØ.

Hun sier at de aller fleste studentene hos dem bruker KI, men at bruken av KI varierer betydelig. Mens noen bruker KI på måter som ikke er hensiktsmessige for læring, vegrer andre seg for å utnytte teknologien i det hele tatt.

Denne våren, etter inspirasjon fra Universitetet i Tromsø (UiT), vil HIØ lansere prinsipper for bruk av KI i eksamenssammenheng. De håper at prinsippene kan bli et utgangspunkt for dialog om god og ansvarlig bruk av KI.

– Det er stor forskjell på å bruke generativ KI som et læringsverktøy og som et middel for ren forenkling av arbeidsoppgaver, og dette skillet er ikke alltid åpenbart.

Synliggjør dagens svakheter

HIØ har også etablert Østfold AIHub, en akademisk hub med et sterkt vitenskapelig miljø for forskning, utdanning, formidling og innovasjon innen KI. 

– Vi må omtale og forholde oss til KI-løsninger som verktøy og teknologi, og ikke som nye partnere eller eksperter. Når vi tillegger teknologien menneskelige egenskaper, svekker vi den kritiske vurderingen og øker risikoen for uforsvarlig bruk, sier førsteamanuensis ved HIØ og en av lederne for huben, Harald Holone.

Han mener KI-forordningen setter søkelys på grunnleggende spørsmål i sektoren.

– Generativ KI skaper ikke helt nye problemer, men gjør eksisterende svakheter i vår sektor mer synlige. Det gjelder alt fra mangelfull vurderingspraksis og publiseringspress til utfordringer med å fostre kritisk tenkning og demokratiforståelse. Det er disse utfordringene som er problemet, ikke teknologien i seg selv, sier han.