Wat moet de universiteit doen met de veelbesproken chatbot ChatGPT? Docenten en onderzoekers van computational linguistics van de RUG zijn zowel gefascineerd als kritisch.
De chatbot kan op commando in een handomdraai volledige essays, scripties, gedichten of creatieve verhalen produceren en wordt om die reden toegejuicht, maar ook gewantrouwd, zo werd duidelijk tijdens het RUG-evenement ‘An evening with ChatGPT’.
Dat was georganiseerd door de groep onderzoekers en docenten die ook bekend staan als GroNLP – Groningen Natural Language Processing.
Bevooroordeeld
ChapGPT is geen ‘neutraal’ programma, waarschuwde universitair docent Arianna Bisazza. Wanneer het model achter een programma zoals ChatGPT vooroordelen over ras, religie of seksuele geaardheid overneemt, produceert het ook bevooroordeelde informatie, zei ze.
‘De informatie die het genereert, geeft maar een perspectief weer terwijl vele andere perspectieven buiten beschouwing worden gelaten’, vertelt Bisazza. Bepaalde culturen en minderheden zijn oververtegenwoordigd en de voertaal van het programma is voornamelijk Engels.
Nicolas Cage for president
Ondanks dat de chatbot begint te leren om vooroordelen te herkennen en te verbeteren, blijft het een goedkope en snelle manier om misinformatie te produceren. Vraag ChatGPT om uitleg hoe acteur Nicolas Cage president van Amerika wordt en ChatGPT tovert in een mum van tijd een Wikipedia-achtige uitleg tevoorschijn inclusief bronvermelding van bronnen die niet bestaan.
Maar ChatGPT kan ook heel handig zijn. Iedere internetgebruiker kan gratis online binnen een paar muisklikken het programma gedichten laten verzinnen, raadsels laten oplossen en universitaire teksten laten produceren.
Zolang de geproduceerde tekst maar te verifiëren is, kan het een interessante uitkomst bieden, aldus GroNLP. ‘Er zit echt een groot verschil tussen Google dat al bestaande inhoud voorstelt versus ChatGPT dat zelf inhoud creëert’, stelt Bisazza.
Luiheid
Waar de chatbot zijn creativiteit gebruikt, blijft de kennis en creativiteit van de ChatGPT-gebruiker onbenut, zo klinkt het ook. Docenten voorzien dat het sommige studenten wel erg gemakkelijk wordt gemaakt als die de bot gebruiken.
Docenten voorzien luiheid, een groter risico op fraude en een afname van kritisch denken. ‘Maar het programma verbieden of reguleren heeft geen zin’, vertelt PhD-student Martijn Bartelds van de onderzoeksgroep, ‘Je zult zien dat er vast snel weer een soortgelijke variant van ChatGPT wordt aangeboden.’
‘We kunnen er niet omheen: het programma zal alleen nog maar beter, sneller en slimmer worden’, denkt postdoc Rik van Noord van de onderzoeksgroep. ‘ChatGPT is een blijvertje.’
Wil je ‘Een avond over ChatGPT’ terugkijken? Dat kan hier.