Een avondje over de nieuwe revolutie: ‘ChatGPT is een blijvertje’

Wat moet de universiteit doen met de veelbesproken chatbot ChatGPT? Docenten en onderzoekers van computational linguistics van de RUG zijn zowel gefascineerd als kritisch.

De chatbot kan op commando in een handomdraai volledige essays, scripties, gedichten of creatieve verhalen produceren en wordt om die reden toegejuicht, maar ook gewantrouwd, zo werd duidelijk tijdens het RUG-evenement ‘An evening with ChatGPT’.

Dat was georganiseerd door de groep onderzoekers en docenten die ook bekend staan als GroNLP – Groningen Natural Language Processing.

Bevooroordeeld

ChapGPT is geen ‘neutraal’ programma, waarschuwde universitair docent Arianna Bisazza. Wanneer het model achter een programma zoals ChatGPT vooroordelen over ras, religie of seksuele geaardheid overneemt, produceert het ook bevooroordeelde informatie, zei ze.

‘De informatie die het genereert, geeft maar een perspectief weer terwijl vele andere perspectieven buiten beschouwing worden gelaten’, vertelt Bisazza. Bepaalde culturen en minderheden zijn oververtegenwoordigd en de voertaal van het programma is voornamelijk Engels.

Nicolas Cage for president

Ondanks dat de chatbot begint te leren om vooroordelen te herkennen en te verbeteren, blijft het een goedkope en snelle manier om misinformatie te produceren. Vraag ChatGPT om uitleg hoe acteur Nicolas Cage president van Amerika wordt en ChatGPT tovert in een mum van tijd een Wikipedia-achtige uitleg tevoorschijn inclusief bronvermelding van bronnen die niet bestaan.

Maar ChatGPT kan ook heel handig zijn. Iedere internetgebruiker kan gratis online binnen een paar muisklikken het programma gedichten laten verzinnen, raadsels laten oplossen en universitaire teksten laten produceren.

Zolang de geproduceerde tekst maar te verifiëren is, kan het een interessante uitkomst bieden, aldus GroNLP. ‘Er zit echt een groot verschil tussen Google dat al bestaande inhoud voorstelt versus ChatGPT dat zelf inhoud creëert’, stelt Bisazza.

Luiheid

Waar de chatbot zijn creativiteit gebruikt, blijft de kennis en creativiteit van de ChatGPT-gebruiker onbenut, zo klinkt het ook. Docenten voorzien dat het sommige studenten wel erg gemakkelijk wordt gemaakt als die de bot gebruiken.

Docenten voorzien luiheid, een groter risico op fraude en een afname van kritisch denken. ‘Maar het programma verbieden of reguleren heeft geen zin’, vertelt PhD-student Martijn Bartelds van de onderzoeksgroep, ‘Je zult zien dat er vast snel weer een soortgelijke variant van ChatGPT wordt aangeboden.’

‘We kunnen er niet omheen: het programma zal alleen nog maar beter, sneller en slimmer worden’, denkt postdoc Rik van Noord van de onderzoeksgroep. ‘ChatGPT is een blijvertje.’

Wil je ‘Een avond over ChatGPT’ terugkijken? Dat kan hier.

Lees ook:

English

6 REACTIES

  1. Ik ben wel benieuwd hoeveel studenten daadwerkelijk gebruik zouden maken van dit programma. Zelf houd ik van stukken schrijven, dus ik zou dit nooit gebruiken. Ik kan me voorstellen dat – gezien de lage kwaliteit van de afgeleverde teksten (i.e. zelfbedachte bronvermelding, vast perspectief) het voor studenten aantrekkelijker wordt om zo’n programma te gebruiken naarmate ze zelf minder in staat zijn om een kwalitatief sterke tekst te produceren (of naarmate ze minder tijd hebben om nog iets te schrijven). Wat dat betreft is ChatGPT slechts een nieuw fenomeen in een lange lijst ghostwriters en andere plagiaattrucjes.

    UKrant heeft helaas recentelijk slechte ervaringen met online vragenlijsten opgedaan, maar ik ben toch erg benieuwd naar de statistieken – vooral als je de vragenlijst anoniem maakt en studenten niet achteraf in de ogen kunnen worden gekeken..!

  2. Volgens mij is het mogelijk, om studenten te toetsen in een tentamenzaal, zonder dat zij kunnen beschikken over iPhone of laptop. Ik herinner mij, dat ik vroeger als student zo heel wat tentamens heb afgelegd, en ook, dat ik zo mijn studenten tentamineerde. Ik herinner mij ook, dat ik studenten mondeling tentamineerde.
    En afstudeerwerk bij wiskunde, natuurkunde of econometrie, ik zie niet zo gauw, hoe ChatGPT daar zo snel gebruikt kan worden.
    En mij dunkt, dat een afstudeerwerkstuk bij bijvoorbeeld geschiedenis toch tot stand zal komen met behulp van veel echt gelezen referenties! Kortom, als studenten liever spelen met ChatGPT, dan de stellingen van Gödel echt te begrijpen, of Dialektik der Aufklärung te lezen, ach , geef ze dan bij aanvang van de studie het zo begeerde diploma, met de aantekening, dat de student het diploma heel snel heeft gekregen . Mundus vult decipi, ergo decipiatur.

  3. Docenten die een afname van kritisch denken voorzien, miskennen denk ik dat de student die iets inlevert op basis van wat AI in elkaar draait, toch zeker zal moeten reflecteren op die AI-gegenereerde tekst. Zo zal die student op zijn minst moeten kijken of de bronnen echt bestaan (ChatGPT heeft nogal een handje van het zelf bedenken van bronnen) en de beweringen in de tekst onderbouwen. Ook zal die student zich moeten verhouden tot de hierboven ook al gesignaleerde niet-neutraliteit van het algoritme. Docenten die daar niet om malen horen A) niet op de universiteit en zullen B) een afname van het kritisch denken stimuleren (waarom A voor hen geldt). De bovenstaande regel geldt ook voor de organisaties waarin die docenten werken. Zij zijn de knip voor de academische neus niet waard als zij die de docenten niet in staat stellen hierom te malen.

    Overigens vraag ik me wel af waarom we nu pas optreden tegen niet door de student geschreven stukken. Ghostwriting – ook van papers aan een universiteit – bestaat al langer en ik ken maar bar weinig faculteiten waar men aandacht had voor de vraag of de student die het paper inlevert ook de werkelijke auteur van een paper was.

  4. Wat mij betreft moeten we ChatGPT gewoon integreren in de toetsmomenten. Bijvorobeeld door eerst stuenten te vragen om ChatGPT te gebruiken om een antwoord te formuleren en dan studenten te vragen om verbeterpunten voor te stellen/bediscussieren. De cijfer wordt dan bepaald door de kwaliteit van de verbeteringen/discussie.

    Gewoon leren hiermee om te gaan!

  5. “ChatGPT is een blijvertje.”

    Aaahhh, bedankt, redactie! Het oorspronkelijke “hier om te blijven” deed gewoon pijn aan mijn ogen.

LAAT EEN REACTIE ACHTER

Reacties met een link worden beoordeeld en kunnen worden geweigerd. / Comments containing a link will be reviewed and may not be published.

Vul alstublieft uw commentaar in!
Vul hier uw naam in