KI-forordningen kort fortalt

Ulike undersøkelser viser at bruken av kunstig intelligens i høyere utdanning og forskning er stor og økende. Særlig gjelder dette blant studentene. Samtidig sier regjeringens nasjonale digitaliseringsstrategi – Fremtidens digitale Norge – at Norge skal bli ledende på trygg og forsvarlig utvikling og bruk av kunstig intelligens. Dette er også hensyn som ligger til grunn for EUs nye forordning om kunstig intelligens.

Både omfanget av KI-bruken i sektoren og regjeringens ambisjoner på KI-området, innebærer at EUs nye forordning blir viktig for hvordan kunstig intelligens utvikles og benyttes av universiteter, høyskoler og andre forvaltningsorganer i høyere utdanning og forskning.

I denne temarapporten gir vi en introduksjon til de delene av EUs forordning om kunstig intelligens som er særlig relevant for virksomheter i høyere utdanning og forskning. Som rådgiver og pådriver for digital omstilling, har Direktoratet for høyere utdanning og kompetanse blant annet i oppgave å forberede sektoren nye regelverk som har særlig relevante for digitalisering, inkludert innen kunstig intelligens.

Rapporten retter seg primært mot ledere og medarbeidere i universiteter, høyskoler og andre forvaltningsorganer som jobber med anskaffelse, utvikling eller bruk av kunstig intelligens. Den kan også ha nytteverdi for ledere og medarbeidere i sektoren som har det overordnede eller operative ansvaret for internkontroll og etterlevelse.

I temarapporten gir vi en oversikt over følgende spørsmålsstillinger:

• Hva er formålene med EUs forordning om kunstig intelligens?
• Hva og hvem omfattes av reglene i forordningen?
• Hvilke typer KI-systemer er det forbudt å bruke i høyere utdanning og forskning?
• Hvilke krav stilles til KI-systemer som det er lov å utvikle og bruke i høyere utdanning og forskning?
• Hvilke plikter har virksomheter i høyere utdanning og forskning som utvikler egne KI-systemer og som benytter KI-systemer utviklet av andre?
• Hvilke nasjonale tiltak etableres for utvikling og testing av nye KI-systemer?
• Hvem har ansvaret for å håndheve reglene i forordningen?
• Hvilke sanksjoner kan brudd på reglene i forordningen medføre?
• Hvilke nye organer på EU-nivå opprettes med hjemmel i forordningen?

Det er fortsatt uavklart hvordan en del av reglene i KI-forordning skal tolkes og forstås. Det vil derfor komme veiledning og annen informasjon fra EU som tydeliggjør dette. Det kan også komme endringer av reglene i forordningen. Vi har som mål å oppdatere temarapporten når nye veiledninger og annen informasjonen blir tilgjengelig eller når viktige regelendringer er vedtatt.

Oppdatering av rapporten kan også være aktuelt når det kommer viktig informasjon fra norske myndigheter, spesielt Nasjonal kommunikasjonsmyndighet, Datatilsynet og Digitaliseringsdirektoratet.