Wetenschap

Hoe mens en algoritme elkaar beïnvloeden

Foute vragen genereren foute antwoorden

Veel mensen vinden algoritmes nogal eng. Maar ze bieden fantastische mogelijkheden voor het oplossen van maatschappelijke vraagstukken, zeggen drie experts. ‘Het is het niet de schuld van een algoritme dat er dingen fout gaan. Dat ligt bij de mens.’
Door Lydwine Huizinga
3 mei om 15:40 uur.
Laatst gewijzigd op 24 mei 2021
om 18:46 uur.
mei 3 at 15:40 PM.
Last modified on mei 24, 2021
at 18:46 PM.

Collega’s ontmoeten we tegenwoordig online, oma brengen we een digitaal bezoekje via FaceTime en als we ons vervelen, raadt Netflix op basis van ons kijkgedrag een leuke film aan om de avond mee door te komen. We staan er niet zo bij stil, maar zonder algoritmes had ons leven in de lockdown er heel anders uitgezien. 

En wat te denken van datingapps die ons potentiële matches voorschotelen en bewegingsapps die ons vertellen wanneer we moeten bewegen om gezond te blijven? Algoritmes zijn overal. Maar veel mensen zijn er huiverig voor, bijvoorbeeld omdat het gebruik van voorspellende algoritmes in de toeslagenaffaire leidde tot discriminatie.

Toch zijn algoritmes helemaal niet zo mysterieus, zegt adjunct-hoogleraar kunstmatige intelligentie Davide Grossi. ‘Het is niets anders dan een recept, een serie instructies die je samenstelt om een probleem op te lossen. Als je twee getallen optelt gebruik je ook een algoritme, maar dan met pen en papier.’ 

Kanker opsporen

Met zo’n recept kun je van alles doen en dat zorgt voor grote stappen in wetenschappelijk onderzoek. Zo ontwikkelde hoogleraar informatica Michael Biehl samen met collega’s uit de medische wetenschappen een zelflerend algoritme, dat de diagnose van bijnierkanker veel beter vaststelt dan traditionele scans. 

Als je twee getallen optelt gebruik je ook een algoritme

‘Er zijn eigenlijk twee algoritmes die hier een belangrijke rol bij spelen’, legt hij uit. ‘Een trainingsalgoritme analyseert voorbeelddata, waardoor het algoritme dat uiteindelijk de diagnose stelt dit zo optimaal mogelijk kan doen. Ziektes worden daardoor veel efficiënter opgespoord, want een mens is een stuk langer bezig met het analyseren van data van duizenden patiënten.’ 

Algoritmes bieden ook kansen voor criminaliteitsbestrijding, vertelt Oskar Gstrein. Hij is docent bij Campus Fryslân, lid van het Data Research Centre en gespecialiseerd in bestuursrecht en nieuwe technologieën. Neem predictive policing: ‘Algoritmes onderzoeken dan big data om te voorspellen waar de grootste kans op zogenaamde herhalende criminaliteit is, zoals autodiefstallen en woninginbraken. Je doorziet sneller grote hoeveelheden informatie, waardoor er betere beslissingen genomen kunnen worden.’

Objectiever

Maar gaan algoritmes straks ook beslissen over medische situaties? Of zullen er mensen veroordeeld worden voor crimineel gedrag gebaseerd op zo’n formule? Na de toeslagenaffaire lijkt dit een gevoelige kwestie. 

‘Ik speel misschien advocaat van de duivel, maar als een rechter of een dokter een beslissing neemt weet je lang niet altijd hoe hij of zij tot een beslissing komt’, zegt Gstrein. ‘Sommigen beweren dat algoritmische besluitvorming objectiever is. Een computer doet wat ie doet en als dat gebaseerd is op een brede maatschappelijke discussie over legitieme doelen en verwachtingen, kan dat uiteindelijk een betere besluitvorming opleveren.’ 

Het gaat mis bij de criteria die zijn ingevoerd

Als het misgaat, komt dit volgens de drie experts meestal doordat de ontwerpers en gebruikers niet goed begrijpen hoe een algoritme werkt. ‘Mensen vergeten dat het een socio-technisch systeem is; het is echt een wisselwerking tussen mens en machine’, zegt Grossi. Hoe complexer het onderwerp, hoe complexer een algoritme wordt. ‘En dat geldt zeker voor onderwerpen waar de overheid bij betrokken is.’ 

Bij een situatie als de toeslagenaffaire verschuilen de verantwoordelijken zich volgens Biehl achter de techniek. ‘Als ik in het nieuws politici hoor zeggen dat het gebruik van algoritmes moet worden ingeperkt, toont dat aan dat ze er te weinig van begrijpen. Het is het niet de schuld van een algoritme dat er dingen fout gaan. Het gaat mis bij de data die verzameld worden en de criteria die in het systeem zijn ingevoerd. En dat ligt bij de mens.’

Geen wasmachine

‘Het probleem’, zegt Grossi, ‘is dat algoritmes vaak worden gezien als fantastisch efficiënte diensten die enorme besparingen met zich meebrengen.’ Maar hoewel automatisering op de lange termijn geld kan besparen, kost het op de korte termijn  – als het goed uitgevoerd wordt – vaak juist meer. En dat wordt nogal eens onderschat, merkt Gstrein. ‘Ik deel regelmatig mijn onderzoekservaring met overheden. Mensen willen vaak te snel van start, zonder dat ze eerst goed uitzoeken wat hun doelstellingen zijn en wie erdoor geraakt zullen worden.’ 

Automatiseren’, zegt Gstrein, ‘is niet zoiets simpels als een wasmachine aanzetten en daarna de schone was eruit halen. Maar dat is een boodschap die mensen niet altijd graag horen aan het begin van een proces.’ 

Mensen willen vaak te snel van start

Volgens Biehl is transparantie van cruciaal belang voor het vertrouwen in algoritmes. ‘Je wilt weten wat een algoritme precies berekent; wat de criteria zijn die worden gebruikt om een beslissing te nemen.’ Zeker in de medische wereld zijn de belangen enorm, zegt hij. ‘Algoritmes worden daar ingezet ter ondersteuning van de arts. Als een patiënt of een arts een algoritmisch advies niet begrijpt, heeft niemand er vertrouwen in.’ 

Klimaatverandering

Hoewel algoritmes niet perfect zijn, kunnen ze fantastische dingen doen, benadrukt Grossi. ‘Zolang er maar mensen bij betrokken zijn met kennis over de situatie.’ Mensen die de moed hebben om de voordelen en beperkingen van systemen te benoemen, die zich realiseren welke belangen er op het spel staan. Mensen die aannames en vooringenomenheid aan de kaak stellen en transparant zijn over hoe een besluit tot stand komt. ‘Dat is niet altijd gemakkelijk, maar dan bieden algoritmes geweldige mogelijkheden voor de maatschappij.’

De drie wetenschappers zijn het er dan ook unaniem over eens dat algoritmes een belangrijke rol gaan spelen bij grote vraagstukken, zoals klimaatverandering, mensenrechten en de bestrijding van ziektes. ‘De toekomst zit vol met algoritmes’, zegt Grossi. ‘Maar het is goed dat er vanuit de maatschappij kritisch wordt meegekeken.’ 

Daarbij is het wel belangrijk dat de digitale kennis van mensen toeneemt, zegt Gstrein, iets waar Grossi het mee eens is. ‘Dat bevordert de transparantie, veiligheid en uiteindelijk de mogelijkheden die algoritmes ons bieden.’

English