Hoe regel je transparantie van algoritmen in het onderwijs?

Is een algoritmeregister de beste manier om transparantie van algoritmen in het onderwijs te regelen? Of zijn er alternatieven? Daarover ging het tijdens de bijeenkomst Transparantie van algoritmen in het onderwijs.

Een algoritmeregister is een overzicht van de algoritmes die onderwijsinstellingen gebruiken binnen het onderwijs en binnen ondersteunende processen van het onderwijs. Het roept meteen vragen op als:

• Wat verstaan we onder een algoritme?
• Wat zijn de risico’s?
• Wat moet er in het algoritmeregister komen?
• Hoe zit het met de algoritmen van leveranciers?
• Is een algoritmeregister de beste manier om transparantie van algoritmen te regelen of zijn er betere alternatieven?

Ministerie van OCW

Het ministerie van OCW ziet twee relevante ontwikkelingen voor een algoritmeregister:

• De AI Act die grote bedrijven verplicht om algoritmen te registeren. Dat wordt ook voor leveranciers in het onderwijs verplicht.
• De Nederlandse wetgeving zorgt voor aandacht voor transparantie van algoritmen. De overheid begint met registratie van high risk algoritmen. Daarbij kijkt OCW ook naar eventuele mogelijkheden voor onderwijs.

SURF

Volgens een inventarisatie van SURF voorafgaand aan de bijeenkomst van 20 april heeft een algoritmeregister twee doelen:

• Transparant zijn over het gebruik van algoritmes.
• Kunnen uitleggen hoe besluiten tot stand zijn gekomen.

Transparantie

Transparantie helpt volgens de aanwezigen van de bijeenkomst op 20 april om verantwoorde en transparante inzet van algoritmes in het onderwijs te stimuleren en helpt om de manier waarop we met data omgaan in het onderwijs te verbeteren.

Daarnaast helpt transparantie om:

• Fouten te herkennen (algoritme/gebruikte data meet niet wat beoogd wordt).
• Niet wenselijke (niet-ethische) analyses te herkennen en te voorkomen.
• Wettelijk niet toegestane analyses/algoritmes te identificeren en te voorkomen (discriminerende bijvoorbeeld).
• Algoritmes te verbeteren en door te ontwikkelen.
• Onderwijsinstellingen van elkaar te laten leren.
• Individuen inzicht te geven.
• Het vertrouwen in analyses te stimuleren.

Doelgroepen algoritmeregister

Voor het algoritmeregister zijn verschillende doelgroepen in het onderwijs denkbaar:

• Individuen, studenten, (ouders/verzorgers van) leerlingen om te snappen welke data gebruikt worden en met welk doel.
• Medezeggenschapsraden, studentenraden.
• Onderwijsinstellingen, om te leren van elkaar (hoe komen we tot goede, ethische algoritmen, kunnen we elkaars algoritmen delen en verbeteren?).
• Onderzoekers/journalisten moeten het algoritmeregister kunnen raadplegen om ongeregeldheden te kunnen signaleren.
• Toezichthouders om algoritmes te controleren.

Veel aandachtspunten

Tijdens de bijeenkomst kwam ook een aantal nog niet opgeloste vraagstukken naar voren rondom een algoritmeregister voor het onderwijs:

• Transparant versus begrijpen.
• Welke algoritmes wel en welke niet?
• Wie is algoritmeverantwoordelijke binnen instelling?
• Administratieve last versus verwacht gebruik.
• Risico van publiceren.
• Voor of door de instelling gebruikte algoritmes.
• AI als black box.
• Verschillen tussen po, vo, wo, mbo, hbo, UMC’s ?

Samenwerking en kennis delen

Hoewel er verschillen tussen sectoren en instellingen worden gezien, wordt tijdens de bijeenkomst aangegeven dat samenwerking en kennis delen op dit gebied belangrijk is. Ook zijn ze het erover eens dat er niet direct een tool hoeft te komen.

Inmiddels zijn er twee vervolgsessies gepland:

• Sessie 1 – 28 september 2023: doelgroepen en specifieke doelen in kaart brengen. Inschrijven kan hier.
• Sessie 2 – eind oktober/begin november: een proces waarin een algoritme gebruikt wordt ontrafelen.

Bron: SURF