Home Thema's Inclusief onderwijs Digitale systemen kunnen leiden tot ongelijke behandeling in onderwijs
Inclusief onderwijs

Digitale systemen kunnen leiden tot ongelijke behandeling in onderwijs

Digitale systemen kunnen leiden tot ongelijke behandeling in onderwijs
Achtergrond

De overheid moet onderwijsinstellingen helpen om bij het inzetten van digitale systemen risico’s op ongelijke behandeling in onderwijs te voorkomen. Dat stelt het College voor de Rechten van de Mens naar aanleiding van het verkennend onderzoek ‘Algoritmes in het onderwijs’.

Ongelijke behandeling in onderwijs

Het College voor de Rechten van de Mens heeft verkennend onderzoek laten doen naar hoe algoritmes in het onderwijs in Nederland worden ingezet. En of er bij deze inzet risico’s op discriminatie en uitsluiting kunnen zijn, welke kansen er zijn, welk beleid bestaat, en wat er moet gebeuren om algoritmes op een verantwoorde manier in te zetten in het onderwijs.

Het onderzoek is uitgevoerd door KBA Nijmegen en ResearchNed. Het onderzoek bestond uit een schriftelijke uitvraag onder relevante organisaties, een literatuurstudie en gesprekken met experts en stakeholders, waaronder wetenschappers, sectororganisaties, ontwikkelaars van toepassingen, de Inspectie van het Onderwijs, het ministerie van Onderwijs, Cultuur, en Wetenschap, en vertegenwoordigers van ouders en leerlingen.

Inzet algoritmes in het onderwijs

Algoritmes worden in alle sectoren van het onderwijs in Nederland ingezet. Dit gebeurt onder meer op de volgende manieren:

  • Adaptieve (gepersonaliseerde) leersystemen en adaptieve toetsen.
  • Programma’s die teksten van leerlingen en hun interactie met literatuur en elkaar beoordelen.
  • Automatische analyse van data van leerlingen (learning analytics).
  • Toepassingen om fraude te voorkomen of op te sporen.
  • Een loting voor een studie is een voorbeeld van een simpel selectie-algoritme.

Daarbij zijn er twee algemene risico’s:

  • Systemen werken niet voor iedereen hetzelfde.
  • Snelle ontwikkeling technologie maakt omgang met nieuwe risico’s ongewis.

Daarnaast zijn er risico’s per toepassing.

Aanbevelingen

De opstellers van het rapport doen drie aanbevelingen aan het ministerie van Onderwijs, Cultuur en Wetenschap:

  • Voorkom discriminatie door digitale systemen in het onderwijs.
  • Test digitale systemen op kansenongelijkheid.
  • Geef voorlichting over de risico’s op discriminatie en uitsluiting bij digitale systemen.

Daarnaast doen ze vier aanbevelingen aan onderwijsinstellingen en samenwerkingsverbanden:

  • Stel als voorwaarde dat ingezette onderwijstechnologie recht doet aan kinderrechten, het discriminatieverbod, en de AI-verordening.
  • Maak steeds een zorgvuldige afweging of algo­ritmes in een bepaalde situatie moeten worden ingezet.
  • Betrek ouders en leerlingen in digitaal onderwijs.
  • Werk als scholen samen om deskundigheid op te bouwen en eisen te kunnen stellen aan technologie.
VO-raad en PO-Raad ook bezig met onderwerp

De VO-raad en PO-Raad werken aan meer bewustwording en professionalisering van schoolbesturen rondom digitalisering, waaronder digitale leermiddelen, in het onderwijs. Dit gebeurt onder meer op de volgende manieren:

  • De Themacommissie digitalisering van de VO-raad komt deze zomer met een advies over AI in het onderwijs. Hierin trekt de commissie samen op met Kennisnet.
  • VO-raad en PO-Raad ontwikkelen leertrajecten, masterclasses en (digitale) workshops rondom het thema digitalisering met specifieke aandacht voor AI, ethiek en digitale veiligheid.

Bronnen: VO-raad en College voor de Rechten van de Mens.

Delen:

Wil je op de hoogte blijven? Schrijf je nu in voor
de nieuwsbrief of registreer direct

Trending topics