Denk bij technologieën zoals AI eerst aan het doel

Bij technologieën zoals AI moeten we eerst nadenken wat het doel is wat we voor ogen hebben. Dat stelt techniekfilosoof Miriam Rasch. Rasch voerde over dit onderwerp voor Mediawijs Magazine een gesprek met Katleen Gabriels, eveneens techniekfilosoof, en journalist Michiel Martin.

In hoeverre zijn systemen van Artificial Intelligence disruptief? Volgens Rasch moeten we dat in een breder kader bekijken, omdat de notie van ‘wat is echt?’ en ‘wat kunnen ik vertrouwen?’ een fundamentele impact heeft op ons mediagebruik. “Het AI-verhaal is daar een belangrijk onderdeel van, maar zeker niet het enige.” Gabriels vindt dat je niet zomaar kunt zeggen dat nieuwe mogelijkheden zoals AI goed of slecht zijn. Ze stelt daarbij goed – de avatar Sweetie die pedofielen in de val lokt – tegenover slecht – valse wraakporno.

Neutraliteit van AI-systemen

Van AI-systemen kun je eigenlijk geen neutraliteit verwachten, omdat een AI-systeem wordt gevoed met een dataset. Gabriels: “Simpel gezegd: als je AI traint met even getallen, zal het nooit een oneven getal kennen.” Rasch stelt daarop voor om ook het inzetten van technologie ter discussie te stellen: “Er wordt schijnbaar enkel gedacht dat technologie steeds beter en verfijnder moet, maar ik denk dat we eerst moeten nadenken wat het doel is dat we voor ogen hebben. En mogelijk komen we dan tot de conclusie dat we dat doel beter op een andere manier kunnen bereiken.” Gabriels vult aan: “De vraagstelling van ‘brengen we hiermee geen schade toe?’ is ontzettend belangrijk bij de ontwikkeling van elke technologie.”

Democratiseert AI creativiteit?

De twee techniekfilosofen buigen zich vervolgens over de vraag of AI creativiteit democratiseert. Rasch: “Ik vind AI geen democratisering van creativiteit, wel van de beschikbare technologie.” Rasch stelt dat we het beeld van zowel de menselijke intelligentie als van de artificiële intelligentie moeten relativeren: “Als mens weten wij niet alles wat er te weten valt, en AI ook niet.” Gabriels vult aan: “Vergeet niet dat er ook een menselijk aspect aan AI is. Er zitten heel veel van onze feilbaarheden in die technologie.”

Mediawijsheid

Op de vraag of AI-systemen ons mediawijs of mediadom maken, antwoordt Rasch: “We zijn wijzer dan we zelf beseffen. Maar het is zonde om die AI-bronnen niet aan te boren. We moeten gewoon zien dat we het niet zomaar over ons heen laten komen. Want daar worden we niet veel wijzer van.”

Gabriels: “Ik denk dat we vooral de tijd moeten nemen om te reflecteren hoe we ermee omgaan. Veel mensen worstelen met de voortdurende afleiding. We mogen echter niet vergeten dat, zeker tijdens de coronacrisis, AI en technologie in het algemeen echt wel een verrijking zijn voor onze samenleving. Er zijn zoveel manieren om in contact te blijven met onze geliefden. Tegelijkertijd moeten we kritisch blijven voor risico’s als phishing. Met heel die poel aan technologie blijft mediawijsheid echt een dagelijks streven.”

Bron: Mediawijs Magazine januari 2023, pagina 64-69