Kunstig intelligens i digitale læringsressurser og fagsystem i skolen; forsvarlig og forenlig?

Fredag 14. mars kl. 09.00 – 11.00 arrangeres lanseringswebinar om kunstig intelligens i digitale læringsressurser. Vi får besøk av professor Marte Blikstad-Balas fra Universitet i Oslo, og diskuterer blant annet hva inntoget av kunstig intelligens i skolesektoren kan innebære.

KS har i samarbeid med Bergen kommune, Oslo kommune, Kongsvinger kommune, Telemark fylkeskommune og Vestfold fylkeskommune, gjennomført en felles vurdering av personvernkonsekvenser (DPIA) for læringsressurser og fagsystem med kunstig intelligens (KI). Prosjektet har utarbeidet en overordnet veileder om hvilke generelle personvernkonsekvenser bruk av KI kan ha og hvilke anbefalte tiltak skoleeier kan gjennomføre. Det har også vært gjennomført en «case-DPIA» av Learnlab sin implementering av kunstig intelligens fra Microsoft og OpenAI. Caset skal vise hvordan kommuner kan gjennomføre en DPIA av læringsressurser med integrert KI-funksjonalitet.

Trykk her for å se ressursene i artikkelen Nasjonal DPIA for kunstig intelligens​ (KI)

Risiko knyttet til forsvarlig bruk

Stadig flere digitale læringsressurser og pedagogiske fagsystem integrerer funksjonalitet for læringsanalyse og vurderingsstøtte med behandlinger som utføres av kunstig intelligens. Denne type kunstig intelligens er en relativt ny teknologi og kan ha betydelige tilknyttede risikoer, når den brukes i opplæringen av elever.

Bruk av personopplysninger som utgjør høy risiko for elever og lærlinger, skal jf. GDPR artikkel 35 være gjenstand for en vurdering av risiko for elevenes rettigheter og friheter (personvernkonsekvensvurdering, DPIA). I tillegg vil ny forordning om kunstig intelligens stille særskilte krav til bruken av kunstig intelligens til enkelte opplærings- og utdanningsformål, klassifisert som høyrisiko.

Skolen må vurdere risikoen

Det må forventes et vesentlig arbeid med ansvarlig bruk av digitale læringsressurser med kunstig intelligens. Det taler ikke i seg selv for å velge bort disse ressursene. Skolens samfunnsoppdrag er å møte samfunnsutvikling og å utvikle nødvendige kompetanser hos elevene til videre utdanning og arbeid, og demokratisk medborgerskap. Samtidig må skoleeier vurdere risikoen før slike ressurser tas i bruk, og iverksette passende, risikoreduserende tiltak, både organisatoriske og tekniske.

Program

Du kan følge lanseringen her (ingen påmelding)

09.00 – 09.10: Christian Sørbye Larsen (Prosjektleder SkoleSec, KS)
Ønsker velkommen og forteller litt om hvorfor KS valgte å prioritere å gjøre en nasjonal DPIA om kunstig intelligens i digitale læringsressurser, og litt om hvorfor dette er særlig området er særlig relevant for tiden fremover.

09.10 – 09.50: Marte Blikstad-Balas (Professor, Universitetet i Oslo)
Marte er professor ved Institutt for lærerutdanning og skoleforskning ved Universitetet i Oslo, ledet Ekspertgruppen for digital læringsanalyse (NOU 2023:19) og leder i dag Utdanningsdirektoratets forskningsprogram for digitalisering i barnehage og skole. Hennes forskningsinteresser er blant annet lesing, skriving, digitale medier, klasseromsforskning og forskningsmetodologi.

09.50 – 10.00: Pause

10.00 – 10.20: Alexander Joyce (Rådgiver, KS og Vestfold fylkeskommune), Marie Skarstad (personvernombud, Kongsvinger kommune) og Ingrid Sætrevik (Rådgiver, Bergen kommune)
Alexander, Marie og Ingrid har deltatt i prosjektgruppen som har utarbeidet ressursene som kan benyttes når du skal vurdere personvernkonsekvenser for læringsressurser og fagsystem som benytter kunstig intelligens. De vil presentere problemstillingene og ressursene fra prosjektet, samt dele sine erfaringer fra arbeidet med en nasjonal DPIA.

10.20 – 10.30: Yngve Lindvig (CEO, Learnlab AS)
Yngve Lindvig er CEO i Learnlab AS. Prosjektet gjennomførte en DPIA av Learnlab sin KI-funksjonalitet som en case for hvordan kommuner kan gjennomføre en DPIA av tilsvarende læringsressurser med integrert KI-funksjonalitet. Yngve forteller om hva Learnlab som leverandør har lært fra å delta i prosessen.

10.30 – 10.55: Panelsamtale
Marte Blikstad Balas (UiO), Yngve Lindvig (Learnlab), Martin Minken (Utdanningsforbundet), Øyvind Lind Kvanmo (Utdanningsdirektoratet) og Marie Skarstad (Kongsvinger kommune) deltar i en panelsamtale om hva inntoget av kunstig intelligens i skolesektoren kan innebære. Harald Torbjørnsen fra KiNS moderer.

10.55 – 11.00: Christian Sørbye Larsen (Prosjektleder SkoleSec, KS)
Christian avslutter og runder av dagens webinar.