UGent rector Petra De Sutter kwam in het oog van de storm nadat nieuwswebsite ‘Apache’ aan het licht bracht dat ze in haar openingsrede van dit academiejaar meerdere onbestaande citaten van bekende denkers gebruikte. De uitspraken waren ‘hallucinaties’ van een generatieve AI-tool. Verzonnen dus.
De rector citeerde Albert Einstein, die in 1929 aan de Sorbonne het volgende zou hebben gezegd: “Dogma is the enemy of progress”. — ‘Dogma is de vijand van vooruitgang’ — Inspirerend. Dat wel. Toepasselijk. Ook. Perfect voor het moment. Alleen, Einstein heeft dat nooit gezegd. Het citaat bestaat niet. Het is een verzinsel van AI. Het algoritme was even de weg kwijt, net als de rector.
Petra De Sutter legde ook de Joods Duits-Amerikaans filosoof Hans Jonas (1903–1993) woorden in de mond die nooit zijn uitgesproken en zeker niet in zijn rectorale rede aan de universiteit van München, want hij was er nooit rector. Ze citeerde ook uit een essay van de Gentse psycholoog Paul Verhaeghe, waarin hij zou hebben geschreven: “Kennis beschrijft en beheerst de werkelijkheid, wijsheid zoekt naar antwoorden op existentiële vragen en is verbonden met culttuur en ethiek.“. Ook dat heeft de AI bedacht.
Drie citaten. Drie gerenommeerde denkers. Drie complete verzinsels. En niemand – niet de speechschrijver, niet de communicatiedienst, niet de rector zelf – heeft het gecontroleerd. De citaten waren geloofwaardig, klonken goed, pasten in de speech van de rector. Plausibele uitspraken, maar verzonnen door AI. Het citaat van John Masefield werd wel correct weergegeven. 1 op 4. Gebuisd.
Dit verhaal is des te ironischer omdat dit uit de openingsspeech van de nieuwe Gentse universiteitsrector komt, omdat de rector de speech gaf voor een aula vol academici, studenten, professoren. Mensen die hun leven wijden aan waarheid, aan nauwkeurigheid, aan het verifiëren van bronnen. Omdat de rector in die dezelfde speech stelt dat: “De universiteit moet hen (i.e. de studenten) de intellectuele instrumenten aanreiken om fictie van werkelijkheid te onderscheiden…”. En het klonk eerder ook al dat: “…de universiteit uit haar ivoren toren treedt, de publieke ruimte betreedt, luistert, uitlegt en het debat niet schuwt met nuance, met betrokkenheid…”
Was de speech met AI hallucinaties een bewijs van betrokkenheid? Waren de verzonnen citaten in de openingsspeech een test om te studenten te leren hoe ze fictie van werkelijkheid moeten onderscheiden. Had de speech als doel het debat te openen? Bewust of onbewust, daar is de Ugent in geslaagd. Het debat is geopend.
Dit zijn geen simpele vergissingen, geen typfouten, geen cijfertje verkeerd in een jaartal op een tijdslijn. Dit is fundamenteler. Hoe kon het zo fout gaan? Was het tijdsdruk? Was het een te grote werkdruk? Was het blind vertrouwen in de technologie? Luiheid? Of durfde niemand te zeggen dat de keizer geen kleren aan heeft? Of was het simpelweg slordigheid?
Ik weet het niet. Maar wat ik wel weet, is dat dit nefast is voor de geloofwaardigheid van de Ugent en van de rector. De universiteit tikt haar studenten op de vingers voor slecht bronnenonderzoek, maar gebruikt zelf verzonnen citaten. Moet de lat voor de rector niet even hoog liggen?
De content curator was er niet.
Laten we ook even hallucineren en proberen om het proces te reconstrueren. Er moest een speech komen voor de opening van het academiejaar aan de universiteit. Inspirerend, intellectueel, passend bij het niveau van een universiteit. En iemand dacht: laten we aan AI vragen om inspirerende citaten van bekende denkers.
En de AI leverde snel enkele prachtige citaten. Precies wat ze nodig hadden. Wijs klinkende woorden van Einstein, Jonas, Verhaeghe. Het paste perfect. Het klonk plausibel. Het voelde goed. En dus werd het klakkeloos overgenomen. We weten niet exact hoe het in zijn werk is gegaan, — en dat doet er eigenlijk ook niet toe — maar het moet zoiets geweest zijn.
Ergens in het proces was er iemand afwezig. Iemand die zegt: wacht even, laat ik dit eens checken. Iemand die weet dat je citaten die AI vol vertrouwen poneert, altijd moet verifieren. Altijd. Zonder uitzondering. Iemand die begrijpt dat AI patronen genereert en niet noodzakelijk de waarheid orakelt. Dat is wat een content curator kan ondervangen. En aan de UGent was die blijkbaar nog niet aan het academiejaar begonnen.
Het is wel het perfecte voorbeeld om te wijzen op de verleiding van generatieve AI.
Iets klinkt aannemelijk en wekt de illusie dat je geen controle meer nodig hebt. Dat de output klopt. Maar zo ga je de mist in.
Dit gaat niet alleen over de UGent. Dit gaat over elke organisatie die vandaag met generatieve AI content maakt. Elke communicatiedienst die ChatGPT gebruikt om teksten te schrijven. Elke marketingafdeling die Midjourney inzet voor visuals. Elke HR-dienst die AI gebruikt om jobaanbiedingen op te stellen.
De technologie werkt. Niemand die dat betwist. Maar de technologie is ook gevaarlijk als je haar blind vertrouwt. En dat is precies waar een content curator zijn rol kan spelen. Dat is iemand die tussen de AI en het publiek staat. Iemand die vraagt: klopt dit? Is dit accuraat? Past dit bij wie we zijn als organisatie? Is deze toon gepast? Zijn deze feiten geverifieerd? Kan dit ons schaden?
De content curator is de poortwachter. De eindredacteur die met een kritische blik de communicatie evalueert vóór die de deur uitgaat. Ook al moet het snel gaan, ook al is er een strakke deadline en is er druk van alle kanten.
Wat de Ugent case zo pijnlijk duidelijk maakt, is wat er gebeurt als die curator er niet is. Dan krijg je reputatieschade. Een universiteit die pretendeert het academisch voorbeeld te zijn als over het aanwenden van de nieuwe technologie gaat, verliest haar geloofwaardigheid door zelf de verificatie over te slaan.
Het is geen kwestie van spelling controleren en klaar. Het speelt op verschillende niveau’s.
De eerste laag is de meest voor de hand liggende: feitelijke verificatie. Als je AI gebruikt om content te genereren dan controleer je wat die AI produceert. Citaten? Je zoekt ze op. Namen? Je checkt ze. Data? Je verifieert ze. Gebeurtenissen? Je zoekt of ze echt hebben plaatsgevonden.
De tweede laag is subtieler: toon en authenticiteit. AI kan vele genres produceren. Formeel, informeel, professioneel, casual, humoristisch, serieus. Maar of die ‘tone of voice’ past bij jouw organisatie, bij jouw merk, dat voelt de content curator aan. Klinkt het oprecht of is het te glad. Is het te generiek of te veel “AI-speak”.
En dan is er de derde laag, de meest strategische: de inschatting van impact en risico. Als je iets publiceert, wat zijn dan de mogelijke gevolgen? Hoe zou het publiek hierop kunnen reageren? Zijn er risico’s? Juridisch, ethisch? Is er een gevaar voor reputatieschade? Is dit het verhaal dat je wilt vertellen? Past het in je bredere communicatiestrategie? Deze laag vraagt om iemand die verder kijkt dan de individuele tekst of het individuele bericht. Iemand die het grotere plaatje ziet, die weet wat er op het spel staat.
Ook hier faalde de UGent. Ze probeerden de fouten in alle stilte toe te dekken, pasten eerst stilletjes de online transcriptie van de speech aan. De meest flagrante fouten verdwenen. Later kwam er een disclaimer bij de opname van de speech op You Tube? Een stille bekentenis dat ze de AI output blind hadden vertrouwd. Het is de klassieke reflex van organisaties die betrapt worden op een fout. Schade beperken. De boel bijsturen. Erkennen dat er iets misging, maar bij voorkeur zonder al te veel lawaai. Hopen dat het overwaait. Maar toen de nieuwssite Apache drie maanden later de fouten naar buiten bracht, kwam de rector en de universiteit in het oog van de storm. Wat volgde alsnog reputatieschade.
Want de echte les van dit verhaal is dat het niet gaat om de technologie. De AI werkte precies zoals die bedoeld is. Het genereerde teksten die overtuigend klonken. het deed wat gevraagd werd. Het probleem zat niet in de tool, maar in hoe die tool gebruikt werd. Of beter: in het gebrek aan menselijke controle aan de output. Het gebrek aan een content curtor.
En dat gebrek aan controle, dat is een keuze. Een organisatorische keuze. De keuze om geen content curator te hebben, of die functie onvoldoende te faciliteren, of die stem niet genoeg autoriteit te geven.
Die technologie is er, ze wordt alleen maar beter, en organisaties gebruiken het. De vraag is hoe. Je moet herkennen wat AI kan, maar ook erkennen wat het niet kan. AI is een krachtige tool, maar is niet onfeilbaar. Generatieve AI is geen zoekmachine. En daarom heb je, meer dan ooit, mensen nodig die de output van die AI kritisch beoordelen. Dat vereist een omslag in veel organisaties.
De UGent werkt nu aan “aangescherpte richtlijnen” voor generatieve AI. Dat is goed. Maar richtlijnen alleen zijn niet genoeg. Je hebt ook mensen nodig die die theoretische richtlijnen toepassen en controleren.
De UGent zal hiervan herstellen. Dit lijkt me geen existentiële crisis, al zullen sommige krachten binnen de universiteit proberen om garen te spinnen uit dit verhaal. Laat dit voor organisaties – bedrijven, overheden, NGO’s, media – een wake-up call zijn? Een signaal dat je niet zomaar AI kunt inzetten zonder na te denken over wie de eindverantwoordelijkheid draagt.
Ik hoop dat iedreen zich afvraagt: hebben wij onze content curator? Hebben wij die mensen die de AI output controleren, die verifiëren, die kritisch zijn?