KI-forordningen kort fortalt

I vår rolle som rådgiver og pådriver for digital omstilling i høyere utdanning og forskning, har Direktoratet for høyere utdanning og kompetanse blant annet i oppgave å forberede sektoren nye regelverk fra EU som er særlig relevante for arbeidet med digitalisering.^[5] Hovedformålet med temarapporten er derfor å gi en introduksjon til de delene av KI-forordningen og den norske KI-loven som er spesielt viktige i høyere utdanning og forskning.

Det betyr at vi ikke gir en oversikt over alle bestemmelsene i forordningen, men begrenser oss til de reglene som virksomheter i høyere utdanning og forskning mest sannsynlig vil måtte forholde seg til. Det gjelder særlig kravene som stilles til KI-systemer og hvilke forpliktelser de som utvikler, omsetter og bruker KI-systemer har. Vi viser hva disse bestemmelsene i hovedsak dreier seg om og hvorfor de er relevante i høyere utdanning og forskning.

I vedleggene til rapporten finnes forslag til enkelte informasjonsressurser for de som ønsker en mer kunnskap om bestemmelsene i forordningen.

Temarapporten retter seg primært mot ledere og medarbeidere i sektoren som har behov for å kjenne til regelverket i kraft av sin rolle i arbeidet med anskaffelse, utvikling eller bruk av kunstig intelligens. Den retter seg også mot ledere og medarbeidere som har ansvar for internkontroll og etterlevelse.

Vi har forsøkt å utforme rapporten slik at den skal være forståelig for personer uten særskilt juridisk kunnskap eller bakgrunn.

Vi tar sikte på å oppdatere denne rapporten når det kommer nye veiledninger og annen viktig regelverksinformasjon fra EU som tydeliggjør hvorfor KI-forordningen skal tolkes og praktiseres.

I forbindelse med EU-kommisjonens digitale omnibus-arbeid – et initiativ for samordning og forenkling av digitaliseringsrelevant EU-regelverk – er det allerede lagt frem forslag om endringer i KI-forordningen (Digital Omnibus on AI Regulation Proposal | Shaping Europe’s digital future).^[6] Vi vil vurdere behovet for oppdatering dersom endringsforslaget blir vedtatt.

I første kapittel følger en oversikt over formålene med KI-forordningen, hva og hvem som omfattes av regelverket (virkeområde), og hvordan regelverket er innrettet (risikobasert regulering). Vi sier dessuten litt om de krav som forordningen stiller til KI-kompetanse.

I de tre neste kapitlene drøfter vi hvilke områder for utvikling, omsetning og bruk av kunstig intelligens som reguleres i forordningen. Vi drøfter også hvilke krav som stilles til selve KI-systemene og pliktene som leverandører og idriftsettere av KI-systemer har.

I det siste kapitlet vil vi si litt om øvrige regler i forordningen og den norske KI-loven som det er verdt å være oppmerksom på. Innledningsvis oppsummerer vi krav til leverandører av avanserte og kraftige KI-løsninger – KI-modeller for allmenne formål – som virksomheter i høyere utdanning og forskning bør kjenne til. Deretter fokuserer vi på hvordan tilsynsarbeidet i Norge er tenkt organisert, hvilke sanksjoner som brudd på regelverket kan medføre og hvilke KI-organer som opprettes på EU-nivå.

I vedleggene følger en oversikt over milepæler i den trinnvise innføringen av KI-forordningen. Tidslinjen viser når de ulike delene av forordningen blir gjort gjeldende. Deretter følger enkelte forslag til informasjonsressurser om forordningen og kunstig intelligens som det kan være nyttig å kjenne til.