Forummoderatie door AI
- Onderwerp starter Gassy
- Startdatum
Dat lijkt me met een kanon op een mug schieten.
Hoezo? Geen posts meer die niet voldoen aan de forumregels, geen overgefrustreerde forumleden meer omdat in principe alle posts voldoen, en minder moderatie nodig. Iedereen gelukkig.
Omdat een tool uitwerken voor iets dat een kind kan, een post maken in lijn met de forumregels, me nogal een verspilling van tijd en energie lijkt.
DiffieHM
Well-known member
Of een tool die de denigrerende toon van sommige posts wat kan afvlakken?
Feit blijft dat geschreven taal geen wiskunde is, het is niet 1 of 0. Het is ergens tussenin. Een deel van de regels zijn zowiezo voor interpretatie vatbaar en dan zal het van de mod/situatie afhangen of deze al dan niet toegepast worden. Dus vind het zeker niet direct "onzin".
Feit blijft dat geschreven taal geen wiskunde is, het is niet 1 of 0. Het is ergens tussenin. Een deel van de regels zijn zowiezo voor interpretatie vatbaar en dan zal het van de mod/situatie afhangen of deze al dan niet toegepast worden. Dus vind het zeker niet direct "onzin".
Elk van je argumenten is er net eentje tegen het gebruik van AI voor wat er hier wordt voorgesteld, maar je conclusie is het tegenovergestelde
Taal is geen wiskunde, veel regels zijn voor interpretatie vatbaar en hangt van de context af. Klopt.Dus ook als antwoord op @Gassy : op dit moment is het absoluut onmogelijk om dit te laten uitvoeren door AI. Los van de druk op de infrastructuur, de (economische en ecologische) kost die wij niet wensen, is het technisch dus ook nog onmogelijk. En zou het ingaan tegen alles wat er in die regels staat: namelijk dat het hier in essentie gaat om menselijke interacties. En daar kan een (vermeend) denigrerende toon bijhoren, of een post die tegen de regels in gaat.
Gelukkig hebben we daarom onze moderatoren waar we op kunnen rekenen!
DiffieHM
Well-known member
Bwa dit kan perfect, maar goed dan gaan jullie zonder werk zitten natuurlijk
Zelfs copilot vindt de toon van @Sylverscythe neerbuigend. Dezelfde boodschap kan perfect op een andere manier gebracht worden zonder dat daarbij anderen geschoffeerd moeten worden
Niet flauw doen, ik zie er je prompt zo doorBwa dit kan perfect, maar goed dan gaan jullie zonder werk zitten natuurlijk
Zelfs copilot vindt de toon van @Sylverscythe neerbuigend. Dezelfde boodschap kan perfect op een andere manier gebracht worden zonder dat daarbij anderen geschoffeerd moeten worden
Wat dus exact aangeeft waarom we hier nog niet eens over gaan nadenken, sorry. Het is technisch niet mogelijk, economisch niet en ecologisch totaal onwenselijk en druist in tegen de waarden die net in de regels staan uitgelegd.Het lijkt me nogal redelijk tegenstrijdig om een forum waar met de regelmaat van de klok wordt gesuggereerd dat de regels wel eens te streng zijn of dat er te hard gemodereerd wordt te gaan duwen in een AI-moderatie. Dat zou net alle menselijkheid weghalen en dus leiden tot nog strengere moderatie. Dat gaat niemand ten goede komen.
DiffieHM
Well-known member
Wat bedoel je hiermee?Niet flauw doen, ik zie er je prompt zo door
Over prompts gesproken, kunnen we - zeker op P&A - verplichten om bij het delen van door AI gegenereerde informatie niet alleen de info in citaat te zetten, maar ook om altijd het gebruikte prompt bij te voegen?
De vraagstelling stuurt een AI, zoals in het voorbeeld hierboven, vaak al in een bepaalde richting. Om informatie verkregen door AI naar waarde en waarachtigheid in te kunnen schatten heb je ook de gebruikte prompt nodig.
De vraagstelling stuurt een AI, zoals in het voorbeeld hierboven, vaak al in een bepaalde richting. Om informatie verkregen door AI naar waarde en waarachtigheid in te kunnen schatten heb je ook de gebruikte prompt nodig.
Smodge
Well-known member
100% dit. De hoeveelheid gekke cijfers / statistieken die bevraagd worden via ChatGPT en binnen P&A gepost worden zijn echt enorm misleidend.
Dit vind ik ook een goeie, en voegen we meteen toe.
Maar daarbij wil ik graag nog één dingetje aanstippen, omdat we het wel degelijk nog strenger toepassen dan wat hier lijkt: "om informatie verkregen door AI naar waarde en waarachtigheid te kunnen inschatten" -> de info die verkregen is door een LLM heeft geen waarde op inhoudelijke fora. De info die verkregen is uit een LLM en daarna afgetoetst is tegen de gegeven bronnen wel, maar enkel op basis van die bronnen. Met andere woorden: een post met enkel info uit een LLM die neergezet wordt als waar, is gebrekkig beargumenteerd volgens de regels.
"Zelfs Copilot vindt de toon neerbuigend". Dat is niet waar, jij hebt hem gezegd dat het neerbuigend was of gevraagd hoe je die minder neerbuigend kon schrijven.
DiffieHM
Well-known member
Dat is niet waar hè, heb enkel gevraagd om de zin te herschrijven volgens de regels van het forum. Het was copilot die vond dat de toon neerbuigend was.
Dus zonder dat jij het woord neerbuigend hebt gebruikt, heeft Copilot dat spontaan zelf geantwoord?
DiffieHM
Well-known member
Eeuh ja, kijk naar mijn screenshot op de vorige pagina?
Philharmoniker
Active member
Als taal- check zinsbouw van ganse tekst vind Ik Ai nog wel kunnen. Al de rest nope.
Ik heb het zelf in andere taalmodellen gegooid en krijg ook telkens dat het een minachtende en denigrerende toon heeft. De interpretatie kan zijn dat wanneer iemand strafpunten krijgt men dommer is als een kind.
Dat hoeft niet de boodschap te zijn die de poster wou brengen, maar het hangt dus af van de prompt/trainingsdata.
Maar wat andere hier bedoelde om naar de prompt te kijken is dat taalmodellen vaak pleasers zijn. Afhankelijk hoe je prompt is opgesteld ga je andere antwoorden krijgen - vandaar mijn persoonlijke lichte argwaan naar AI gebruik op een forum in eender welke vorm dan ook.
Een geluk dat we AI nog hebben om te bepalen of een post bijvoorbeeld neerbuigend is.
Een post is geen alleenstaand iets, die is in een bepaalde context getypt. Zowat alle gratis taalmodellen zijn bij mijn weten getraind met data van minstens maanden oud, en meestal gaat een gratis taalmodel niet zomaar nieuwe informatie opzoeken. Dus buiten het feit dat het hoogst discutabel is dat een AI iets zinnigs kan zeggen over de toon van een bericht, heeft dat model in bijna alle gevallen niet eens de nodig informatie beschikbaar om dat oordeel te vellen.
Kunnen we dus misschien stoppen met een AI te laten bepalen hoe we ons als mensen moeten voelen bij bepaalde zinnen?
Een post is geen alleenstaand iets, die is in een bepaalde context getypt. Zowat alle gratis taalmodellen zijn bij mijn weten getraind met data van minstens maanden oud, en meestal gaat een gratis taalmodel niet zomaar nieuwe informatie opzoeken. Dus buiten het feit dat het hoogst discutabel is dat een AI iets zinnigs kan zeggen over de toon van een bericht, heeft dat model in bijna alle gevallen niet eens de nodig informatie beschikbaar om dat oordeel te vellen.
Kunnen we dus misschien stoppen met een AI te laten bepalen hoe we ons als mensen moeten voelen bij bepaalde zinnen?
DiffieHM
Well-known member
Quote uit P&A topic:
Aangezien @utolor. er een opmerking over maakte, toch ook eens aan een neutrale derde partij gevraagd. Is dat 1 van de redenen dat je zo gekant bent tegen externe analyse? Ik heb dit keer copilot geopened in een incognito venster zonder voorafgaande discussies en mijn prompt zo neutraal mogelijk opgesteld. Hopelijk zorgt dit deze keer dus niet voor discussies
Aangezien @utolor. er een opmerking over maakte, toch ook eens aan een neutrale derde partij gevraagd. Is dat 1 van de redenen dat je zo gekant bent tegen externe analyse? Ik heb dit keer copilot geopened in een incognito venster zonder voorafgaande discussies en mijn prompt zo neutraal mogelijk opgesteld. Hopelijk zorgt dit deze keer dus niet voor discussies
