Petra De Sutter maakt AI-blunder in openingsspeech

[Valkuil]

Er zijn voor gelijkaardige inbreuken al studenten gepland die voor de commissie zullen moeten verschijnen aan het einde van deze examenperiode. Daar publiceren de universiteiten uiteraard geen informatie over. Je las bovendien iets dat ik niet schreef. Ik schreef dat ze aan dezelfde instelling hun kans op onderwijs verliezen. De student in kwestie wordt in dat geval door de universiteit geweigerd, maar kan in de meeste gevallen zich wel inschrijven aan een andere instelling. Het staat buiten kijf dat het desalniettemin een grote impact heeft op de studenten in kwestie.

"Extremisme en schijnachtig en leugenachtig parcours."

Zoals al aangehaald, is er ook nog dag en nacht verschil tussen een speech van een professional en een examen/werkstuk van een student. Ik moet de eerste speech met bronvermelding bv. nog tegenkomen. (Al zou het in deze tijden van fake news wel een meerwaarde zijn.)

 

[phate_13]

Er zijn voor gelijkaardige inbreuken al studenten gepland die voor de commissie zullen moeten verschijnen aan het einde van deze examenperiode. Daar publiceren de universiteiten uiteraard geen informatie over. Je las bovendien iets dat ik niet schreef. Ik schreef dat ze aan dezelfde instelling hun kans op onderwijs verliezen. De student in kwestie wordt in dat geval door de universiteit geweigerd, maar kan in de meeste gevallen zich wel inschrijven aan een andere instelling. Het staat buiten kijf dat het desalniettemin een grote impact heeft op de studenten in kwestie.

"Extremisme en schijnachtig en leugenachtig parcours."

Dus we moeten je gewoon op je woord geloven? Lekker gemakkelijk discussiëren zo.
Grove AI fouten in een thesis vind ik alvast een heel andere grootteorde van fout dan een quote fout toewijzen door slecht AI gebruik.

Ik schat de kans als iemand deze quotes foutief in een andere context plaatst in een schrijfproef, maar voor de rest de kwaliteit in orde is, dat deze zijn studies stopgezet zullen worden eerder in op "nihil".

 

[phate_13]

Natuurlijk is het 'maar' een speech, maar elk ding waarbij AI gebruikt wordt maakt de stap kleiner om het bij het volgende te gebruiken.
Zeker op een universiteit moet men er goed op hameren dat AI wel een plek heeft in de maatschappij, maar dat die plek zeer strak afgelijnd moet worden.
Zij doet hier het tegenovergestelde: ze geeft het signaal dat AI best OK is en je geen fact checking moet doen. De excuses achteraf zijn er enkel omdat de reacties vanuit maatschappij dit tegenspreekt.

Moest de inhoud volledig kloppen zou het nog steeds schandalig zijn. Een speech is misschien relatief onbelangrijk maar er komen wel mensen hun vrije tijd besteden om naar haar te luisteren. Hen wat AI slop voorschotelen is het meest onrespectloze dat je kan doen. Dan kan iedereen even goed thuis blijven en het zelf genereren.
Laat staan dat het dan nog vol inhoudelijke fouten zit. Ze werkt hier letterlijk de functie van een universiteit tegen: in plaats van kennis te verspreiden, verspreid ze misinformatie. Of het nu door onkunde of luiheid komt maakt niet.

Net zoals Steam eist dat je een AI label op je game plakt als je AI gebruikt tijdens de ontwikkeling, net zoals dit op Spotify en Netflix en consoorten ook zou moeten, net zoals AI content niet zomaar getolereerd wordt op dit forum, moet zij dit maar op voorhand meedelen als ze toch AI wil gebruiken voor haar speech.

Zonder zelf de speech beluisterd/gelezen te hebben : Is het "AI slop"?

Ik vind dat je hier vrij zwart-wit tegen AI lijkt in te gaan, terwijl AI, zolang je een kritische blik hanteert, best een waardevolle toevoeging kan betekenen. Het is een manier om een tekst eens te laten nalezen door "iemand anders" die er een andere kijk op kan geven. Als je dit dan blindelings overneemt, dan ben je inderdaad in de fout. Maar algemeen "AI-gebruik" algemeen is toch niet per definitie verkeerd?

Het lijkt me best naïef om deze disclaimer overal te gaan verwachten, ik denk dat AI gebruik alleen maar frequenter zal zijn tot het punt dat het quasi overal op één of andere manier wel gebruikt wordt. Het zou me niet verbazen als de spellingscheckers die in browers/textverwerkers/... zitten al (gedeeltelijk) AI based zijn.

 

[Exorikos]

Zoals al aangehaald, is er ook nog dag en nacht verschil tussen een speech van een professional en een examen/werkstuk van een student. Ik moet de eerste speech met bronvermelding bv. nog tegenkomen. (Al zou het in deze tijden van fake news wel een meerwaarde zijn.)

Dus we moeten je gewoon op je woord geloven? Lekker gemakkelijk discussiëren zo.
Grove AI fouten in een thesis vind ik alvast een heel andere grootteorde van fout dan een quote fout toewijzen door slecht AI gebruik.

Ik schat de kans als iemand deze quotes foutief in een andere context plaatst in een schrijfproef, maar voor de rest de kwaliteit in orde is, dat deze zijn studies stopgezet zullen worden eerder in op "nihil".

Een speech voor de opening van het academiejaar is een belangrijk beleidsmoment. Een rector heeft een voorbeeldfunctie naar de hele universiteit. Als we het daar niet over eens zijn, kunnen we niet verder discussiëren, maar dat mag natuurlijk.

 

[phate_13]

Een speech voor de opening van het academiejaar is een belangrijk beleidsmoment. Een rector heeft een voorbeeldfunctie naar de hele universiteit. Als we het daar niet over eens zijn, kunnen we niet verder discussiëren, maar dat mag natuurlijk.

Dat ontken ik niet.
Graag je standpunt onderbouwen en/of inhoudelijk reageren in plaats van persoonlijk in de aanval gaan.

 

[Exorikos]

Dat ontken ik niet.
Graag je standpunt onderbouwen in plaats van persoonlijk in de aanval gaan.

Ik heb mijn standpunt onderbouwd. Ik kan alleen geen cijfers communiceren die de universiteit niet publiek maakt, noch namen noemen uit tuchtprocedures, want deze zijn ook vertrouwelijk. Het staat je vrij me niet te geloven, maar dit is hoe de procedures werken en om gegronde redenen.

Over ad hominems heb ik geen lessen te trekken van iemand wiens eerste reactie was: "Extremisme en schijnachtig en leugenachtig parcours."

 

[Valkuil]

Een speech voor de opening van het academiejaar is een belangrijk beleidsmoment.

Goh het is toch vooral veel tralala, een foute AI quote verandert niets aan de waarde van dat beleid.

Een rector heeft een voorbeeldfunctie naar de hele universiteit.

Akkoord hoor, maar ik vind dat er appels met peren vergeleken worden en de ernst overschat wordt.

Als we het daar niet over eens zijn, kunnen we niet verder discussiëren, maar dat mag natuurlijk.

 

[Exorikos]

Goh het is toch vooral veel tralala, een foute AI quote verandert niets aan de waarde van dat beleid.

Akkoord hoor, maar ik vind dat er appels met peren vergeleken worden en de ernst overschat wordt.

Hoeveel momenten zijn er dat een rector naar de hele universiteit communiceert welke kernpunten het beleid zal hebben? Dat zijn er echt weinig hoor.

Ik vind dat de ernst hier toch wat onderschat wordt. Ik vind ook dat Boudry (de enige die publiek haar ontslag eist) beter zijn mond zou houden als het gaat over academische integriteit. Ontslag zou overwogen moeten worden, maar het is aan de universiteit om te beslissen of zij dat ook vinden. Daar gaat deze thread ook niet over.

 

[phate_13]

Ik heb mijn standpunt onderbouwd. Ik kan alleen geen cijfers communiceren die de universiteit niet publiek maakt, noch namen noemen uit tuchtprocedures, want deze zijn ook vertrouwelijk. Het staat je vrij me niet te geloven, maar dit is hoe de procedures werken en om gegronde redenen.

Over ad hominems heb ik geen lessen te trekken van iemand wiens eerste reactie was: "Extremisme en schijnachtig en leugenachtig parcours."

Dus ter herhaling, jouw bewering is dat een student die quotes foutief toewijst aan een ander persoon maar voor de rest een correct inhoudelijk document oplevert zijn studies stopgezet worden?

Laat me dit, naar mijn mening absurd, gegeven gewoon even helder hebben.

 

[Exorikos]

Dus ter herhaling, jouw bewering is dat een student die quotes foutief toewijst aan een ander persoon maar voor de rest een correct inhoudelijk document oplevert zijn studies stopgezet worden?

Laat me dit, naar mijn mening absurd, gegeven gewoon even helder hebben.

De Sutter gebruikte gehallucineerde quotes die toegewezen werden aan personen. Studenten gebruikten gehallucineerde quotes die toegewezen worden aan papers/personen. De facto dezelfde daad.

 

[phate_13]

De Sutter gebruikte gehallucineerde quotes die toegewezen werden aan personen. Studenten gebruikten gehallucineerde quotes die toegewezen worden aan papers/personen. De facto dezelfde daad.

Dat is geen antwoord op mijn vraag.

 

[Exorikos]

Dat is geen antwoord op mijn vraag.

Jawel, want als je het wilt hebben over inhoudelijk correct dan was De Sutter dat evenmin. Ik begrijp zelfs niet waarom je denkt dat dat er niet toe doet. Mijn antwoord blijft dus hetzelfde.

 

[phate_13]

Jawel, want als je het wilt hebben over inhoudelijk correct dan was De Sutter dat evenmin. Ik begrijp zelfs niet waarom je denkt dat dat er niet toe doet. Mijn antwoord blijft dus hetzelfde.

Maar ik zeg toch niet dat het er niet toe doet?
Ik stel de vraag : Als een student (al dan niet verzonnen) quotes foutief toewijst aan een ander persoon maar voor de rest een correct inhoudelijk document oplevert, dan worden volgens u zijn studies stopgezet worden?

Voor mij is het vooral een vraag van proportionaliteit. Jij maakt daar vrij exterme uitspraken over. Dat wil ik gewoon helder hebben of ik dat correct interpreteer?

 

[Wallfish]

Goh het is toch vooral veel tralala, een foute AI quote verandert niets aan de waarde van dat beleid.

Mag ze dan ook alle zwarten uitmaken voor apen? Zo'n uitspraak verandert ook niets aan het beleid volgens jouw logica, die ik niet ondersteun.

Want het heeft wel effect op het beleid: het imago van de universiteit lijd hieronder.
Je kan terecht de vraag stellen of de problemen rond AI überhaupt bekend zijn bij de universiteit als de rector ervan zulke flater begaat. Je kan bijgevolg de waarde van hun diploma's in vraag stellen.
Je kan in vraag stellen of hard werk, fact checking, eigen inbreng,... Wel naar waarde geschat wordt, of dat men overal steeds de eenvoudigste uitweg zoekt ongeacht of dit meerwaarde brengt of zelfs maar correct is.

Je kan dit overdreven vinden, maar wat ze hier deed is wel een perfect voorbeeld van de problemen die AI zullen veroorzaken. Vandaag in een relatief onbelangrijke speech, morgen in een medisch onderzoek waar beleid op gebaseerd wordt. En zij als rector toont aan niet op de hoogte te zijn van die uitdagingen.

Ze heeft een voorbeeldfunctie en faalt volledig die functie te vervullen.

 

[BigBear]

Akkoord dat De Sutter niet de nuts & bolts van AI moet kennen en dat naar experten kan delegeren maar zij is wel het uithangbord van een instelling waarvoor omgaan met AI de belangrijkste uitdaging voor de komende jaren zal vormen (afgezien van de besparingen).

Dan vind ik niet dat je zo'n uitschuivers mag maken eigenlijk. AI gebruiken om je teksten te schrijven vind ik al bedenkelijk maar die informatie niet verifiëren gaat in tegen alle richtlijnen van de eigen universiteit. En het kan dat haar medewerkers dat hebben gedaan maar het is aan haar om dat beleid te communiceren naar hen en zij blijft uiteraard verantwoordelijk. Dat is voor mij van hetzelfde niveau als die voorzitster van Ecolo die dacht dat het mediane loon 6.500 euro bruto bedraagt.

Akkoord met bovenstaande.
Wat mij persoonlijk ook tegen steekt is haar reactie op het gebeuren "Ik betreur dat ik in deze val ben gelopen". Ze kruipt in een slachtofferrol, alsof iemand een val voor haar heeft opgezet en zij er onschuldig is ingelopen terwijl het uiteraard haar eigen verantwoordelijkheid is dat kritisch denken (een van de belangrijkste thema's van een universiteit) toegepast wordt op haar speech. Als rector, en dus belangrijkste vertegenwoordiger van de universiteit, is dit een grote fout omdat je de universiteit zo in z'n blootje zet.

Dat gezegd zijnde acht ik dit zeker niet voldoende reden voor ontslag. Een grote fout, dat wel, maar daarvoor ontslagen worden gaat toch een brug te ver.

Moest de inhoud volledig kloppen zou het nog steeds schandalig zijn.

Hier ben ik het niet mee eens, dit is ook een brug te ver: niet alles wat AI genereert is slop... AI kan best een handige tool zijn, maar je moet natuurlijk wel de beperkingen kennen en daar mee om kunnen gaan.

 

[Exorikos]

Maar ik zeg toch niet dat het er niet toe doet?
Ik stel de vraag : Als een student (al dan niet verzonnen) quotes foutief toewijst aan een ander persoon maar voor de rest een correct inhoudelijk document oplevert, dan worden volgens u zijn studies stopgezet worden?

Voor mij is het vooral een vraag van proportionaliteit. Jij maakt daar vrij exterme uitspraken over. Dat wil ik gewoon helder hebben of ik dat correct interpreteer?

Nee, maar die vraag is voor mij niet relevant aangezien de speech van De Sutter ook geen correct inhoudelijke speech opleverde.

Ik spreek mij uit tegen de vlotheid waarmee de feiten hier door sommigen onder de mat worden geveegd als louter onhandig. Ik spreek mij nergens uit over de finale beslissing. Of ze rector kan blijven is aan de universiteit om te beslissen en ik heb geen reden om daar formeel over te klagen. Ik vind dat het net zoals bij studenten één van de mogelijke opties zou moeten zijn dat ze ontslagen wordt. Anders vind ik het onmogelijk om uit te leggen aan studenten waarom zij aan een hogere standaard gehouden worden voor hun werk dan de rector voor het hare.

 

[Flappy]

Ik denk eigenlijk omgekeerd. De Sutter heeft politieke gewoontes meegenomen naar de universiteit. Dat maakt haar nog minder geschikt voor de rol die een rector hoort op te nemen. De speech voor de opening van het academiejaar is een moment waarop een rector de toon zet voor het beleid zat gevoerd zal worden. Het was bovendien haar éérste speech. Het is zeker niet "zomaar een speech."

Het verschil met de zaken die je opnoemt is dat die streng bestraft worden. Onlangs nog een advocaat die een veeg uit de pan kreeg van het Hof van Beroep in Antwerpen omdat AI geciteerde rechtspraak had verzonnen met boete als gevolg. Studenten zien hele examenperiodes door de stempel van fraude vervallen tot zelfs verlies van inschrijving. De universiteit treedt streng op tegen dergelijk frauduleus gebruik van AI.

Ik vind het logisch dat ‘fraude’ strenger bestraft wordt omdat ik het ook zwaarder vind doorwegen (dit is imo geen fraude maar bullshit in een speech).
En ik herhaal het voor de derde keer: er zijn ook al thesissen gepasseerd met overduidelijk chatgpt-gebraak. Zeker niet zo dat studenten er altijd voor aangepakt worden.

Mijn idee is gewoon: ja het is loemp. Maar gezien wat ik overal tegenkom, in industrie en academisch, ook hier op het forum, was het mij duidelijk dat dit een accident waiting to happen was. Goed dat dit soort, relatief onschuldige dingen gebeuren, zodat men kan inzien wat de gevaren zijn. Hopelijk handelt men ernaar maar ontslag vind ik dan weer te brandstapel-ig.

 

[phate_13]

Nee, maar die vraag is voor mij niet relevant aangezien de speech van De Sutter ook geen correct inhoudelijke speech opleverde.

Dan ga ik wederom naar onderbouwing vragen.

Stijn Baert, professor arbeidseconomie aan de UGent, [...] "Ik wil benadrukken dat niet heel haar speech door AI is geschreven en dat het een erg krachtige boodschap had. Er zijn opleukingen gebruikt die niet goed gecontroleerd zijn."

Hoe konden fouten in de toespraak van Petra De Sutter sluipen? Wat kunnen we eruit leren? En wat zijn de gevolgen? | VRT NWS Nieuws

"Een heel pijnlijke blunder." Zo wordt gereageerd op het feit dat er door het foute gebruik van artificiële intelligentie totaal verzonnen citaten zijn geslopen in de openingstoespraak van rector Petra De Sutter bij het begin van het academiejaar. Maar hoe is dit nu kunnen gebeuren en wat zijn...

www.vrt.be

 

[Wallfish]

Hier ben ik het niet mee eens, dit is ook een brug te ver: niet alles wat AI genereert is slop... AI kan best een handige tool zijn, maar je moet natuurlijk wel de beperkingen kennen en daar mee om kunnen gaan.

Klopt maar we hebben het hier over de speech van een rector van een universiteit.
Daarin mag je toch verwachten dat de rector de inhoud bepaald en geen AI? Wat is anders de meerwaarde van de rector? En voordat je afkomt met rectoren die hun speech laten schrijven door anderen: dat vind ik ook niet kunnen. Als je een ticket koopt om naar Taylor Swift te gaan kijken wil je toch ook Taylor Swift zien en geen groet met pruik op die staat te playback.

Als hier en daar een zinnetje door AI anders geformuleerd wordt, OK. Maar dan zou dit ook nooit opgemerkt worden. Als meer dan pakweg 10% AI gegenereerd is of als er fouten insluipen door AI, dan kan men duidelijk niet omgaan met AI en toont dit aan dat er een gebrek aan aandacht is naar de speech toe, en bijgevolg een gebrek aan respect naar de luisteraars.
Ze gaf een speech omdat ze moest, niet omdat ze wou of iets interessants te zeggen had. En waarom zou dat onze aandacht verdienen?

 

[Exorikos]

Dan ga ik wederom naar onderbouwing vragen.

Hoe konden fouten in de toespraak van Petra De Sutter sluipen? Wat kunnen we eruit leren? En wat zijn de gevolgen? | VRT NWS Nieuws

"Een heel pijnlijke blunder." Zo wordt gereageerd op het feit dat er door het foute gebruik van artificiële intelligentie totaal verzonnen citaten zijn geslopen in de openingstoespraak van rector Petra De Sutter bij het begin van het academiejaar. Maar hoe is dit nu kunnen gebeuren en wat zijn...

www.vrt.be

Onderbouwing? Als je citaten gebruikt om de eigen mening kracht bij te zetten, ben ik van mening dat je inhoudelijke nonsens vertelt. Ik ben het niet eens met Stijn Baert, dat is weinig nieuws.

Je moet echt stoppen met elk meningsverschil te proberen uitspelen als een gotcha-moment. We mogen het ook gewoon oneens zijn.