Home Thema's Beveiliging en privacy Overheid inventariseert kansen en bedreigingen generatieve AI
Beveiliging en privacy

Overheid inventariseert kansen en bedreigingen generatieve AI

Overheid inventariseert kansen en bedreigingen generatieve AI
Achtergrond

Het Nederlandse kabinet heeft een visie op generatieve AI uitgebracht, de Overheidsbrede visie Generatieve AI, waarin kansen en bedreigingen op een rijtje worden gezet en waarin wordt aangegeven dat er op zes punten actie moet worden ondernomen om generatieve AI in goede banen te leiden.

Vijf trends rondom generatieve AI

In de Overheidsbrede visie Generatieve AI worden allereerst vijf trends rondom generatieve AI in beeld gebracht:

1 Modellen worden steeds vaardiger en toepasbaarder.

2. Modellen worden steeds vaker voorzien van ‘vangrails’.

3. Modellen worden multimodaal.

4. Modellen worden zelfstandig(er).

5. Modellen worden kosteneffectiever.

Kansen en mogelijkheden generatieve AI

De visie wijst erop dat generatieve AI vanuit verschillende rollen taken kan vervullen: als productietool, als leerinstrument, en als probleemoplosser.

Productietool

Bij productietool gaat het om aspecten als:

  • Efficiëntie en kwaliteit bedrijfsprocessen
  • Creatieve proces
  • ICT Sector
  • Materiële welvaart
  • Nieuwe werkgelegenheid
  • Kwaliteit van werk
  • Overheid
  • Juridisch

Leerinstrument

Bij leerinstrument gaat het om aspecten als:

  • Taal en vertaling
  • Onderwijs
  • Zoekmachines
  • Interactief hulpmiddel

Probleemoplosser

Bij probleemoplosser gaat het om aspecten als:

  • Wetenschap, medicijnen
  • Materialen o.a. batterijen
  • Gezondheidszorg
  • Maatschappelijke problemen o.a. duurzaamheid
  • Militaire domein
  • Cybersecurity
Uitdagingen en risico’s generatieve AI

De uitdagingen en risico’s worden aan de hand van vier thema’s benoemd: invloed op individuele burgers, afhankelijkheid en marktmacht, arbeid en arbeidsmarkt en invloed op de maatschappij.

Invloed op individuele burgers
  • Bias/discriminatie
  • Privacy, gegevensbescherming gebruikersautonomie
  • Cognitieve ontwikkeling en sociale ontwikkeling
  • Auteurs-, nabuur- en databankrecht en portretrecht
Afhankelijkheid en marktmacht
  • Groeiende afhankelijkheid van Amerikaanse techbedrijven en strategische afhankelijkheden
  • Machtsconcentratie en toetredingsdrempels
Arbeid en arbeidsmarkt
  • Werkgelegenheid, inkomensverdeling en werkloosheid/loondaling
  • Kwaliteit van werk
  • Verdeling inkomen/werkzekerheid en polarisatie arbeidsmarkt
Invloed op de maatschappij
  • Superstar firms en toenemende sociale en economische ongelijkheid
  • Groot energieverbruik en klimaatimpact
  • Aantasting informatie-ecosysteem en mis- en desinformatie
  • Onzekere betrouwbaarheid/automation bias
  • Militaire veiligheid en systemische veiligheidsrisico’s
  • Opzettelijk misbruik generatieve AI-modellen en hate speech
Vier uitgangspunten voor generatieve AI

In het document worden vier uitgangspunten voor generatieve AI benoemd:

  • Generatieve AI wordt op een veilige manier ontwikkeld en toegepast
  • Generatieve AI wordt op een rechtvaardige wijze ontwikkeld en toegepast
  • Generatieve AI die het menselijk welzijn dient en de menselijke autonomie borgt
  • Generatieve AI draagt bij aan duurzaamheid en onze welvaart
Zes actielijnen voor verantwoorde inbedding van generatieve AI in Nederlandse samenleving

Het document sluit af met zes actielijnen voor verantwoorde inbedding van generatieve AI in Nederlandse samenleving. Per actielijnen worden lopende en nieuwe acties genoemd. De zes actielijnen zijn:

  • Samenwerken
  • Nauwgezet volgen van alle ontwikkelingen
  • Vormgeven en toepassen wet- en regelgeving
  • Vergroten kennis en kunde
  • Innoveren met generatieve AI
  • Sterk en helder toezicht houden en handhaven
Barend Last over Overheidsbrede visie Generatieve AI

Barend Last is kinderboekenschrijver, keynotespreker, docent en adviseur. Hij denkt en deelt over onderwijs, technologie, leren, AI en blended learning. In een post op LinkedIn geeft hij aan dat het goed is dat er visie er is en dat die zich toespitst op generatieve AI als apart domein.

Hij brengt drie lopende en nieuwe acties extra onder de aandacht:

  • NOLAI doet onderzoek naar de pedagogische, maatschappelijke en sociale consequenties van generatieve AI.
  • Het kabinet zet zich in voor een vaste plek voor digitale geletterdheid in het landelijk curriculum voor primair en voortgezet onderwijs.
  • Het versterken van digitale vaardigheden en digitaal bewustzijn van mensen in Nederland zodat zij bewust, kritisch en actief kunnen omgaan met AI-toepassingen.

Last doet ook een oproep: kijk ook eens op een wat filosofischer niveau naar AI. Stel daarbij vragen als:

  • Hoe voorkomen we dat AI ons (enige) venster wordt naar de wereld?
  • Hoe voorkomen we dat we gaan denken zoals een computer, of dat er te veel afhankelijkheid ontstaat?

Last is ervan overtuigd dat gesprekken hierover nuttig zijn, zodat we vanuit een kritische beschouwing generatieve AI optimaal kunnen benutten.

Bron: Computable, LinkedIn-Barend Last.

Delen:

Wil je op de hoogte blijven? Schrijf je nu in voor
de nieuwsbrief of registreer direct

Trending topics
Schaduw-ict, de IBP-uitdaging van ChatGPT
Stappenplan voor smartphonebeleid op school
Hoe betrek je als school ouders bij mediawijsheid?