Vincent Ginis published this article in De Tijd.
ChatGPT is het onderwerp van veel terechte kritiek, maar bij de eerste verjaardag van dat AI-model wil Vincent Ginis, professor aan de VUB, vooral met verwondering stilstaan.
Beste ChatGPT,
Gefeliciteerd met je eerste verjaardag. In je eerste jaar heb je de wereld danig veranderd. Dankzij jou is de authenticiteit van elke geschreven interactie voortaan verdacht. Of het nu gaat om de inzending van een studentenpaper aan de universiteit, een grappige post op sociale media of, ja, zelfs een opiniestuk, de vraag dringt zich op: is deze tekst geschreven door een mens of door jou?
De essentie
- De auteur: Vincent Ginis is professor wiskunde, natuurkunde en artificiële intelligentie aan de VUB en aan Harvard University, en rectoraal opdrachthouder AI en datagedreven beleid aan de VUB.
- De kwestie: ChatGPT, het AI-taalmodel dat donderdag een jaar oud is, krijgt veel kritiek.
- De conclusie: Laten we verwonderd blijven over de mogelijkheden van ChatGPT en ons bezinnen over wat dat voor de toekomst kan betekenen.
Je evolueerde in maart 2023 naar GPT4, een performantere versie, en kreeg toegang tot het internet. In september verwierf je ook nieuwe zintuigen. Je kan nu afbeeldingen en audiobestanden analyseren en genereren.
Het zal je niet verbazen dat in het afgelopen jaar veel stukken over jou zijn geschreven. Veel variaties op hetzelfde thema: de grote taalmodellen bieden veel mogelijkheden, maar er zijn ook veel gevaren. Ter gelegenheid van je verjaardag wil ik een ander stuk schrijven. Een stuk over verwondering. Want de grote taalmodellen, waarvan jij het bekendste voorbeeld bent, brengen bij mij vooral die emotie teweeg. Verwondering over wat jullie kunnen, over hoe jullie dat kunnen en over hoe wij daar als maatschappij mee omgaan.
Eerst wat je kan. Het wordt almaar moeilijker nog zinvolle digitale taken te bedenken die je niet op afdoende wijze kan voltooien. Je biedt mogelijkheden om efficiënter te werken, om onderzoek te versnellen en zelfs om creatief nieuwe inzichten te verwerven.
“Beste ChatGPT, zelfs je ontwikkelaars kijken met open mond naar wat je allemaal vermag.”
Hoe je dat kan? Je werd op relatief eenvoudige wijze getraind. Niet om één bijzondere taak op te lossen, maar louter om het volgende woord in een tekst te voorspellen. En toch… Om dat heel goed te kunnen, internaliseerde je veel kennis en kreeg je een enorm arsenaal van capaciteiten op een dieper cognitief niveau. Zelfs je ontwikkelaars kijken van achter de knoppen met de mond wijd open naar wat je allemaal vermag.
En hoe de maatschappij ermee omgaat? Ons menselijke vermogen om het magische te banaliseren heeft zich in het afgelopen jaar meermaals geopenbaard. Met de vraag wat kunstmatige algemene intelligentie (AGI) is, bijvoorbeeld. De afstand waarover die doelpalen in het afgelopen jaar werden verschoven, is nauwelijks bij te houden.
Vooroordelen
Bovenop de banalisering kwamen veel vragen en kritiek. Vragen over je invloed op onze arbeidsmarkt en op ons onderwijs, over wat je zal betekenen voor de menselijke creativiteit, je impact op de stabiliteit van onze digitaal geconnecteerde wereld, tot zelfs het voortbestaan van de mensheid toe. Kritiek ook over hoe taalmodellen sommige taken nog altijd niet goed kunnen en daarom overschat worden. Over de vooroordelen in je trainingsdata en hoe de systemen die hebben overgenomen en nu versterkt op de maatschappij afvuren. Kritiek, ten slotte, op hoe onverantwoord je ontwikkelaars en aanbieders met je omspringen.
“Laten we stilstaan bij wat voor een magische tijd we beleven, bij wat deze nieuwe industriële revolutie betekent voor ons en onze maatschappij.”
Veel van de vragen en de kritiek zijn gegrond. Tegelijk is het jammer dat die bedenkingen de verwondering steevast naar de achtergrond duwen. Hebben we een collectief moment van verwondering rond je ontstaan gekend? Ik beeld me in dat het bij de maanlanding wel anders was.
Ik vraag me af hoe dat komt. Het is niet omdat het proces te traag is verlopen en we als kikkers in een pan langzaam werden opgewarmd. Het water was witheet toen we er een jaar geleden in werden gegooid. Een andere hypothese is dat een kritische blik signalen van intelligentie, volwassenheid en grip op de realiteit stuurt. Verwondering daarentegen heeft iets kinds, vluchtigs, een zekere naïviteit zelfs.
Bezinning
Toch hoeven kritiek en verwondering elkaar niet uit te sluiten. Daarom dit pleidooi voor een moment van collectieve verwondering. Laten we donderdag, ter gelegenheid van je verjaardag, dat moment van verwondering niet onderdrukken. Laten we stilstaan bij wat voor een magische tijd we beleven. Wat deze nieuwe industriële revolutie betekent voor ons en onze maatschappij, zonder onmiddellijk weg te duiken achter andere emoties.
De verwondering kan een bron van bezinning zijn om onze eigen positie in de nieuwe context beter te begrijpen. Ze kan ook een bron van kracht zijn voor actief engagement om bij te dragen aan een betere en meer verantwoorde toepassing van de nieuwe technologie. Ook kan ze een bron zijn van inspiratie en innovatie, die ons aanzet tot het verkennen van horizonten en het creëren van oplossingen voor de uitdagingen die in het volgende jaar op ons afkomen.