Petra De Sutter maakt AI-blunder in openingsspeech

[StevenFM]

Daar verschillen we dan van mening. Kennis van AI is geen vereiste om de kerntaken van een rector te kunnen uitvoeren, er zijn veel belangrijker vaardigheden voor zo een positie. Hoe veel kent Bart De Wever van AI denk je? Terwijl het toch ook een grote impact heeft op de bevolking (gisteren nog die deepnudes weer). Dat delegeer je naar experten in je team. Voor mij is het geven van speeches een ondergeschikte taak van een rector. Dus wie daar een fout begaat, leer eruit en carry on.

Akkoord dat De Sutter niet de nuts & bolts van AI moet kennen en dat naar experten kan delegeren maar zij is wel het uithangbord van een instelling waarvoor omgaan met AI de belangrijkste uitdaging voor de komende jaren zal vormen (afgezien van de besparingen).

Dan vind ik niet dat je zo'n uitschuivers mag maken eigenlijk. AI gebruiken om je teksten te schrijven vind ik al bedenkelijk maar die informatie niet verifiëren gaat in tegen alle richtlijnen van de eigen universiteit. En het kan dat haar medewerkers dat hebben gedaan maar het is aan haar om dat beleid te communiceren naar hen en zij blijft uiteraard verantwoordelijk. Dat is voor mij van hetzelfde niveau als die voorzitster van Ecolo die dacht dat het mediane loon 6.500 euro bruto bedraagt.

 

[Jenthe]

Als je de speech herbekijkt is het eigenlijk nog erger. Bij al die citaten wordt nog eens stellig onderschreven waar de desbetreffende persoon die geuit zou hebben. Enkele stukjes uit de speech:

“Dogma is the enemy of progress”. U kent het misschien. Het was Einstein die dit zei tijdens zijn toespraak aan de Sorbonne in 1929.

En ik verwijs naar de woorden van Paul Verhaeghe in zijn laatste essay genaamd 'Wijsheid’: “Kennis beschrijft en beheerst de werkelijkheid”.

Geen kennis van AI vind ik absoluut geen excuus. Er is al meermaals op alle mogelijke kanalen meegedeeld dat een LMM hallucineert en je de output niet zomaar voor waar mag aannemen, daarvoor hoef je echt niets van de interne werking van dergelijke modellen te weten.

 

[Falafel]

Zoals ook al aangehaald hier: het is een rector. Bij de directeur van de plaatselijke basisschool zou het naadloos passeren (terwijl het ook niet oké is), maar bij een rector... Als die het al niet kan inschatten, wie dan wel?

 

[Exorikos]

Dit is toch klassiek De Sutter? Gewichtig willen doen met woorden en nu blijkt dat ze al die gewichtige citaten niet zelf gelezen heeft maar AI of een communicatiemedewerker nodig heeft. Ik denk dat geen enkele academicus die met De Sutter gewerkt heeft daar van achterover valt. Zoals Isolde Van den Eynde terecht opmerkte: AI is niet het probleem. De intellectuele luiheid is het probleem.

De positie van een rector is daarenboven een belangrijk verschil en iets waar sommigen hier wel heel licht over stappen. Het is niet zomaar een uitschuiver. In tijden waarin academische integriteit steeds meer onder druk komt te staan heeft een rector zeker voorbeeldfunctie naar elke geleding binnen de universiteit.

Wat gaat ze doen als blijkt dat een professor in papers stelselmatig AI gebruikt en daarbij te weinig controle toepast zoals zij deed? Is dat dat een menselijke fout waar geen gevolgen aan worden gegeven? Ik hoop dat we het allemaal eens zijn dat dergelijk gedrag zwaar gesanctioneerd moet worden.

Ontslag is iets dat weldegelijk op tafel moet liggen. Een mea culpa en "het aanzwengelen van het debat" is er zich wel heel makkelijk vanaf willen maken.

 

[RozeVlinder]

- Was diensthoofd in het UZGent
- Was vicepremier van België
- Is rector van de UGent

En toch 3 quotering die ze gebruikt in een openingsspeech niet kunnen nazien terwijl deze volledig verzonnen zijn door AI. LOL

In tussentijd zijn er studenten die voor de fraudecommissie moeten komen omdat ze op een laboverslag, schrijftopdracht,... in de eerste bachelor AI hebben gebruikt.

Het goede voorbeeld geven?

 

[KnightOfCydonia]

Om hier toch ook even op in te pikken, De Sutter is een arts/politica, als 5% van die groep weet wat in de context van LLMs het woord token betekent laat staan een basisbegrip heeft van hoe LLMs werken, zal het veel zijn. Dat zijn veelal hooggespecialiseerde vakidioten. Bv. al meermaals een specialist gehad die toen ik polste naar een mogelijk verband met een andere klacht, gewoon zei "dat kan, dat is mijn winkel niet, ik doe enkel NKO". Dat integratief denken zit er niet altijd goed in...

Korte reactie, zonder al te veel (tijd voor) nuance. Je moet als rector wel de basic filosofie kennen achter belangrijke actuele onderwerpen in zowel de samenleving als het (hoger) onderwijs. Eén daarvan is AI, en belangrijk déél van die discussie is weten wat LLM taalmodellen zijn en belangrijker waar ze wél of niet toe in staat zijn... ik heb nu toevallig via mijn werk één goede lezing gekregen van een universiteitsprof over de werking van LLM's, tesamen met een resem YouTube-video's (want science nerd), en vond dat enorm interessant hoe de technologie en statistiek erachter werkt (zelfs dan maar op een heel basic niveau), maar als het je geen hol interesseert moet je helemaal niet weten wat 'tokens' zijn, maar moet je wel weten wat 'hallucinaties' zijn als je dergelijke AI/LMM tools wilt gebruiken.
Dus gegeven het belang, gegeven de fout, til ik hier toch wel wat zwaarder aan. Om uw voorbeeld te herbruiken: uw NKO zal ook wel bepaalde medische noodgevallen kunnen verhelpen en weten wat die niet mag doen, zonder daarom een hartspecialist te zijn.

Ik weet van meerdere zaken die ik in het dagelijkse leven gebruik ook de fijne werking niet, bv. wél de basics achter hoe de benzinemotor van m'n wagen werkt, o.a. de basischemie achter de verbranding, waarom er géén diesel in mag (maar dat benzine in een diesel nog erger is), en ook dat als ik die (te veel) gebruik dat dat slecht is voor het milieu, maar als mijn auto stuk gaat kan ik die ook niet herstellen (buiten een band vervangen indien echt nodig) ...

De professor/expert in (de podcast van) De Afspraak van gisterenavond legde het ook zéér goed uit, waarom je feitelijk een LLM nooit 100% zal kunnen vertrouwen als je het achter de hoofdstad van Frankrijk vraagt, zelfs al geeft die je het juiste antwoord, de manier waarop het tot stand gekomen is, is fundamenteel geen goede manier om de waarheid in dit geval te zoeken (maar ik zou zeggen het is desondanks wel een goed startpunt vaak). Het woord token heb ik (mogelijks ook door maar met een half oor te luisteren) niet gehoord in die discussie.

 

[Flappy]

Twee dingen die ik hier wel nog aan wil toevoegen.

• De Sutter is een (gewezen) Groen politicus en ik denk dat dat bij sommigen (zonder specifiek iemand te viseren) een rol speelt in het lawaai dat erover gemaakt wordt
• Er wordt veel gesproken over het belang (zoals hierboven), maar dat vind ik net minder groots. Ik zou net zeggen: het was maar een speech. Normaal is ongeveer niemand daarin geïnteresseerd. En waar men dan nog over gestruikeld is, was een quote ter opleuking van een speech. Anderzijds is er nu ook wel vermoeden dat de rest van de speech ook AI-gegenereerd was uiteraard. Ik vind het veel desastreuzer als er pleidooien in rechtzaken, examens of pakweg officiële rapporten gemaakt worden met AI, en dat gebeurt dus ook.

Soit, nogmaals: laat het vooral een goede les zijn voor iedereen. Iedereen moet inderdaad heel snel leren snappen dat die chatbots grotendeels onbetrouwbaar zijn. En daarom zijn dit soort cases heel leerrijk voor het grote publiek.

 

[Straddle]

Zoals ook al aangehaald hier: het is een rector. Bij de directeur van de plaatselijke basisschool zou het naadloos passeren (terwijl het ook niet oké is), maar bij een rector... Als die het al niet kan inschatten, wie dan wel?

²
Ze zouden haar beter die titel asap afpakken, als de rector al niet meer de moeite doet om zelf haar speeches te schrijven of te verifiëren maar het gewoon aan Chat GPT uitbesteed, welk voorbeeld geef je dan?

 

[Tjiftjaf]

Het is een kapitale fout, maar AI gebruiken bij een speech is nog wel een gradatie minder erg dan AI gebruiken in een wetenschappelijk onderzoek. Dat laatste zou zonder pardon tot ontslag moeten leiden, het eerste misschien maar niet persee.

 

[Exorikos]

Twee dingen die ik hier wel nog aan wil toevoegen.

• De Sutter is een (gewezen) Groen politicus en ik denk dat dat bij sommigen (zonder specifiek iemand te viseren) een rol speelt in het lawaai dat erover gemaakt wordt
• Er wordt veel gesproken over het belang (zoals hierboven), maar dat vind ik net minder groots. Ik zou net zeggen: het was maar een speech. Normaal is ongeveer niemand daarin geïnteresseerd. En waar men dan nog over gestruikeld is, was een quote ter opleuking van een speech. Anderzijds is er nu ook wel vermoeden dat de rest van de speech ook AI-gegenereerd was uiteraard. Ik vind het veel desastreuzer als er pleidooien in rechtzaken, examens of pakweg officiële rapporten gemaakt worden met AI, en dat gebeurt dus ook.

Soit, nogmaals: laat het vooral een goede les zijn voor iedereen. Iedereen moet inderdaad heel snel leren snappen dat die chatbots grotendeels onbetrouwbaar zijn. En daarom zijn dit soort cases heel leerrijk voor het grote publiek.

Ik denk eigenlijk omgekeerd. De Sutter heeft politieke gewoontes meegenomen naar de universiteit. Dat maakt haar nog minder geschikt voor de rol die een rector hoort op te nemen. De speech voor de opening van het academiejaar is een moment waarop een rector de toon zet voor het beleid zat gevoerd zal worden. Het was bovendien haar éérste speech. Het is zeker niet "zomaar een speech."

Het verschil met de zaken die je opnoemt is dat die streng bestraft worden. Onlangs nog een advocaat die een veeg uit de pan kreeg van het Hof van Beroep in Antwerpen omdat AI geciteerde rechtspraak had verzonnen met boete als gevolg. Studenten zien hele examenperiodes door de stempel van fraude vervallen tot zelfs verlies van inschrijving. De universiteit treedt streng op tegen dergelijk frauduleus gebruik van AI.

 

[Archaos]

Liet Trump zijn speeches maar door AI schrijven, het zou zo'n bagger niet zijn als nu het geval is...


Nee serieus, dit is toch wel een heel pijnlijke uitschuiver voor een Rector. De ambt die ze hier bekleedt, weegt toch wel héél zwaar door in dit geval. Ik denk dat een ontslag toch wel degelijk boven haar hoofd hangt. Serieuze imago-schade, zowel voor haarzelf als voor de universiteit. Dit is nu eenmaal ook nieuws dat heel eenvoudig opgepikt wordt (mogelijk ook tot in het buitenland).

Waarschijnlijk is het schrijven van de speech uitbesteed aan één van haar medewerkers (zoals bij presidenten, premiers, ... evenzeer vaak het geval is), maar je hebt natuurlijk wel de eindverantwoordelijkheid. Het is ook je eigen reputatie die op het spel staat.

 

[Loser]

Ik denk eigenlijk omgekeerd. De Sutter heeft politieke gewoontes meegenomen naar de universiteit. Dat maakt haar nog minder geschikt voor de rol die een rector hoort op te nemen. De speech voor de opening van het academiejaar is een moment waarop een rector de toon zet voor het beleid zat gevoerd zal worden. Het was bovendien haar éérste speech. Het is zeker niet "zomaar een speech."

Het verschil met de zaken die je opnoemt is dat die streng bestraft worden. Onlangs nog een advocaat die een veeg uit de pan kreeg van het Hof van Beroep in Antwerpen omdat AI geciteerde rechtspraak had verzonnen met boete als gevolg. Studenten zien hele examenperiodes door de stempel van fraude vervallen tot zelfs verlies van inschrijving. De universiteit treedt streng op tegen dergelijk frauduleus gebruik van AI.

Ik vind er wel een paar overtrokken reacties tussen zitten, hoor. Je gaat me niet wijsmaken dat dat niets met haar politieke achtergrond te maken heeft...

Zoals hier, wat is "politieke gewoontes meegenomen naar de universiteit [als rector]" precies? Welke gewoontes die wel in de politiek thuishoren en niet in haar functie als rector?

Frauduleus gebruik van AI moet inderdaad streng bestraft worden. Maar als ze de info op Wikipedia had gevonden, en daar stond het citaat verkeerd, had je dan hetzelfde gereageerd? Is dat dan "frauduleus gebruik van Wikipedia"? Of Google? Een d/t-fout in haar nieuwsbrief reden voor ontslag? Je weet toch dat je niet zomaar de spelchecker mag vertrouwen, en dat je het zelf ook nog eens moet nalezen zeker!

 

[Archaos]

Frauduleus gebruik van AI moet inderdaad streng bestraft worden. Maar als ze de info op Wikipedia had gevonden, en daar stond het citaat verkeerd, had je dan hetzelfde gereageerd? Is dat dan "frauduleus gebruik van Wikipedia"? Of Google? Een d/t-fout in haar nieuwsbrief reden voor ontslag? Je weet toch dat je niet zomaar de spelchecker mag vertrouwen, en dat je het zelf ook nog eens moet nalezen zeker!

Het gaat er toch vooral over om voldoende je bronnen te checken en over het verkondigen van (on)waarheden. Of deze nu komen van AI, Wikipedia, een of ander forum, de kuisman, ... . Dat maakt geen verschil. Een d/t-fout is ook pijnlijk, maar verandert de boodschap niet (een tekst vol met d/t-fouten is dan weer een ander verhaal).

Dat het gebruik van AI in dit geval ook nog extra de indruk van gemakzucht met zich meebrengt, is voor mij minder belangrijk. De hele discussie omtrent het gebruik van AI is wel niet onbelangrijk uiteraard.

Het gaat ook niet om één fout in de tekst, maar om meerdere. Ook zeker niet onbelangrijk.

Het zorgt toch vooral voor reputatieschade en het zorgt ervoor dat je minder serieus genomen zal worden. Als ze bij haar volgende publieke optredens bepaalde feiten gaat verkondigen, bv. over haar universiteit, dan zal dit meer argusogen bekeken worden.

 

[Exorikos]

Ik vind er wel een paar overtrokken reacties tussen zitten, hoor. Je gaat me niet wijsmaken dat dat niets met haar politieke achtergrond te maken heeft...

Zoals hier, wat is "politieke gewoontes meegenomen naar de universiteit [als rector]" precies? Welke gewoontes die wel in de politiek thuishoren en niet in haar functie als rector?

Frauduleus gebruik van AI moet inderdaad streng bestraft worden. Maar als ze de info op Wikipedia had gevonden, en daar stond het citaat verkeerd, had je dan hetzelfde gereageerd? Is dat dan "frauduleus gebruik van Wikipedia"? Of Google? Een d/t-fout in haar nieuwsbrief reden voor ontslag? Je weet toch dat je niet zomaar de spelchecker mag vertrouwen, en dat je het zelf ook nog eens moet nalezen zeker!

Het is niet dat ze in de politiek wel thuishoren, maar wel dat ze daar (helaas) courant zijn en ondertussen blijkbaar acceptabel. Het losjes omspringen met waarheden. Weinig verantwoordelijkheidszin door te wijzen naar een medewerker. Zulke zaken.

Ik vind het wat gek dat je het op flessen probeert te trekken maar de essentie mist. Het AI-beleid van de UGent (en andere universiteiten trouwens) is duidelijk en zal jouw voorbeelden bij studenten niet afstraffen. Een student zal bij oneigenlijk gebruik dat door hallucinaties door de mand valt weldegelijk voor de fraudecommissie moeten verschijnen met het risico op uitsluiting door de universiteit. Dat is waar de universiteit de lat legt. Je mag nog zoveel hypothetische scenario's verzinnen als je wilt, maar het beleid staat op papier en daar heeft zij in haar werk tegen gezondigd.

 

[Hans Moleman]

Laat ons vooral hopen dat deze hele hetze, die ik persoonlijk wel nogal overdreven vind, een hoop mensen kan doen inzien dat Chat gpt GEEN zoekmachine is.

Hoeveel keer je niet moet horen dezer dagen, ik heb het opgezocht op Chat gpt. Zot word ik er van.

AI doet geweldige zaken op grafisch vlak. Maar ik schrik er echt van hoe weinig mensen snappen van een large languange model. Daarom moeten we, ondanks het uiteraard een gigantische blunder is, van het hele De Sutter geval geen wereldramp maken. Dit is een probleem van heel onze maatschappij.

En uiteraard zijn er politieke strekkingen die hier van genieten. De Sutter was 1 van de weinigen aan de linker zijde die globaal serieus werd genomen. Voor velen is dit een godsgeschenk.

 

[benjicroc]

probleem is dat Google wat de meeste mensen toch gebruiken 1 grote AI slop is geworden.
Ik denk echt dat zij nu 1 van de slechtste zoekmachines zijn geworden

 

[Exorikos]

Laat ons vooral hopen dat deze hele hetze, die ik persoonlijk wel nogal overdreven vind, een hoop mensen kan doen inzien dat Chat gpt GEEN zoekmachine is.

Hoeveel keer je niet moet horen dezer dagen, ik heb het opgezocht op Chat gpt. Zot word ik er van.

AI doet geweldige zaken op grafisch vlak. Maar ik schrik er echt van hoe weinig mensen snappen van een large languange model. Daarom moeten we, ondanks het uiteraard een gigantische blunder is, van het hele De Sutter geval geen wereldramp maken. Dit is een probleem van heel onze maatschappij.

En uiteraard zijn er politieke strekkingen die hier van genieten. De Sutter was 1 van de weinigen aan de linker zijde die globaal serieus werd genomen. Voor velen is dit een godsgeschenk.

Jonge mensen verliezen door dezelfde "blunder" aan dezelfde instelling hun kans op onderwijs. Ga eens aan hen uitleggen dat het zo erg niet is en een probleem van heel onze maatschappij. Tenenkrommend, dit.

 

[phate_13]

Jonge mensen verliezen door dezelfde "blunder" aan dezelfde instelling hun kans op onderwijs. Ga eens aan hen uitleggen dat het zo erg niet is en een probleem van heel onze maatschappij. Tenenkrommend, dit.

Dit mag je ook wat onderbouwen. Zijn er dan naargelang gebruik al zoveel studenten buiten gegooid? Ik heb hierboven nog voorbeelden van duidelijk gebruik zien passeren als anekdote, hebben deze allen hun studies moeten stopzetten?

Tenenkrommend dit extremisme. Het lijkt me niet dat als een student dergelijke fouten zou maken dat hij "zijn kans op onderwijs verliest".

 

[Exorikos]

Dit mag je ook wat onderbouwen. Zijn er dan naargelang gebruik al zoveel studenten buiten gegooid? Ik heb hierboven nog voorbeelden van duidelijk gebruik zien passeren als anekdote, hebben deze allen hun studies moeten stopzetten?

Tenenkrommend dit extremisme. Het lijkt me niet dat als een student dergelijke fouten zou maken dat hij "zijn kans op onderwijs verliest".

Er zijn voor gelijkaardige inbreuken al studenten gepland die voor de commissie zullen moeten verschijnen aan het einde van deze examenperiode. Daar publiceren de universiteiten uiteraard geen informatie over. Je las bovendien iets dat ik niet schreef. Ik schreef dat ze aan dezelfde instelling hun kans op onderwijs verliezen. De student in kwestie wordt in dat geval door de universiteit geweigerd, maar kan in de meeste gevallen zich wel inschrijven aan een andere instelling. Het staat buiten kijf dat het desalniettemin een grote impact heeft op de studenten in kwestie.

"Extremisme en schijnachtig en leugenachtig parcours."

 

[Wallfish]

Het is een kapitale fout, maar AI gebruiken bij een speech is nog wel een gradatie minder erg dan AI gebruiken in een wetenschappelijk onderzoek. Dat laatste zou zonder pardon tot ontslag moeten leiden, het eerste misschien maar niet persee.

Natuurlijk is het 'maar' een speech, maar elk ding waarbij AI gebruikt wordt maakt de stap kleiner om het bij het volgende te gebruiken.
Zeker op een universiteit moet men er goed op hameren dat AI wel een plek heeft in de maatschappij, maar dat die plek zeer strak afgelijnd moet worden.
Zij doet hier het tegenovergestelde: ze geeft het signaal dat AI best OK is en je geen fact checking moet doen. De excuses achteraf zijn er enkel omdat de reacties vanuit maatschappij dit tegenspreekt.

Moest de inhoud volledig kloppen zou het nog steeds schandalig zijn. Een speech is misschien relatief onbelangrijk maar er komen wel mensen hun vrije tijd besteden om naar haar te luisteren. Hen wat AI slop voorschotelen is het meest onrespectloze dat je kan doen. Dan kan iedereen even goed thuis blijven en het zelf genereren.
Laat staan dat het dan nog vol inhoudelijke fouten zit. Ze werkt hier letterlijk de functie van een universiteit tegen: in plaats van kennis te verspreiden, verspreid ze misinformatie. Of het nu door onkunde of luiheid komt maakt niet.

Net zoals Steam eist dat je een AI label op je game plakt als je AI gebruikt tijdens de ontwikkeling, net zoals dit op Spotify en Netflix en consoorten ook zou moeten, net zoals AI content niet zomaar getolereerd wordt op dit forum, moet zij dit maar op voorhand meedelen als ze toch AI wil gebruiken voor haar speech.