ChatGPT en andere Large Language Models

Ipv een plugin in een IDE begint het meer en meer naar CLI tools te gaan de laatste maanden. IDE's verliezen aan belang bij de echt zware AI gebruikers.

Plugins en CLI tools hebben toegang tot uw volledig project. Je kan context meegeven of de agent kan vrij beginnen zoeken met allerlei tools. De agent kan dan ook controleren of de code compileert, welke fouten er zijn, of de bestaande testen nog werken, etc. En ja, dat verbruikt natuurlijk veel tokens.

Dat dezelfde prompt twee keer andere output heeft lijkt mij geen probleem, geef twee developers dezelfde taal en je gaat twee verschillende uitvoeringen krijgen.
Twee keer identiek dezelfde prompt zou m.i. best hetzelfde resultaat opleveren. Maar dat zouden ze vrij eenvoudig kunnen oplossen. Elke input en output bewaren (dwz alle betrokken token-id's). Als je dan een identieke input plaatst, even snel de vorige output ophalen en als er toch wijzigingen zouden zijn, ook een nieuwe output+1 genereren. En uitleggen wat de delta is, wat de oorzaak van wijzigingen is.

Dan zou het meer gaan lijken op menselijke logica. Dwz als iemand mij 2 keer dezelfde vraag stelt op kortere termijn, dan ga ik persoonlijk iets gelijkaardigs antwoorden, en idealiter hetzelfde antwoord geven, tenzij ik er een nieuwe versie van maak owv meer nadenktijd intussen. Enfin.
 
Work Smarter in Gent gisteren:
- hele dag overal AI workshops
- niets nieuws onder de zon, alhoewel het publiek de meeste zaken toch voor het eerst zag (verrassend)
- publieke sprekers die bijna allemaal AI presentaties gaven, dat was echt triestig om zien (em dash, icoontjes, emoji’s, …) zeker omdat hun boodschap was om geen AI eenheidsworst te worden
- veel meer drukte dan vorig jaar in ‘t Kuipke, Ghelamco biedt gewoon minder plaats in de gangen
- geluid slecht verstaanbaar, hier moeten ze echt iets aan doen
- heel veel AI bedrijven die weinig meerwaarde bieden, een AI site bv voor €37/maand die gewoon even slecht is als Wix, gebruik dan Wix als starter, veel goedkoper
- niemand die AI koppelt met grafisch design
- macaly.com als de ultieme vibe coding app
- Amazon die richting 1.000.000 robots gaat
- blijkbaar bestaan er al 150 modellen van robots en kan je er eentje kopen voor 15k
- de ultieme droom is meer robots dan mensen, triestig vooruitzicht als je het mij vraagt
- volgend jaar sowieso terug aanwezig, prijs kwaliteit zit dit event goed
 
Laatst bewerkt:
Twee keer identiek dezelfde prompt zou m.i. best hetzelfde resultaat opleveren. Maar dat zouden ze vrij eenvoudig kunnen oplossen. Elke input en output bewaren (dwz alle betrokken token-id's). Als je dan een identieke input plaatst, even snel de vorige output ophalen en als er toch wijzigingen zouden zijn, ook een nieuwe output+1 genereren. En uitleggen wat de delta is, wat de oorzaak van wijzigingen is.

Dan zou het meer gaan lijken op menselijke logica. Dwz als iemand mij 2 keer dezelfde vraag stelt op kortere termijn, dan ga ik persoonlijk iets gelijkaardigs antwoorden, en idealiter hetzelfde antwoord geven, tenzij ik er een nieuwe versie van maak owv meer nadenktijd intussen. Enfin.
Dat is misschien iets gewenster. Maar dat is de facto niet hoe een LLM werkt en dan zit je met iets helemaal anders te werken.
Als ik het enkel toespits op vertalingen, zit je dan weer met vertaalgeheugens en vaste sets waarop teruggevallen moet worden qua feitelijkheid, en is alleen de manier waarop de output verwoord wordt, nog LLM-specifiek. Dat kan, en dat is waar inderdaad meer mensen naartoe evolueren. Maar in feite is dat een evolutie achteruit, en niet vooruit. Dat is toegeven dat je vanuit een LLM nooit aan logica zult komen.

Een LLM heeft net géén statische databank van logica waar het op terugvalt, dat is net eigen eraan. Het idee van de meest optimistische vooruitgangsgelovers was dat ons taalvermogen ons redenervermogen voorafgaat, en dat dat dus bij LLM's ook zo zou zijn. Voor een stukje is dat, zo kan wiskunde bijvoorbeeld heel talig zijn. Ik weet dat 4x7=28, zonder dat ik me 4 hoopjes van 7 knikkers voorstel, en de 28 ga tellen. Of zonder dat ik de logica erachter weet. Maar ik ga het niet snappen.
 
Work Smarter in Gent gisteren:
- hele dag overal AI workshops
- niets nieuws onder de zon, alhoewel het publiek de meeste zaken toch voor het eerst zag (verrassend)
- publieke sprekers die bijna allemaal AI presentaties gaven, dat was echt triestig om zien (em dash, icoontjes, emoji’s, …) zeker omdat hun boodschap was om geen AI eenheidsworst te worden
- veel meer drukte dan vorig jaar in ‘t Kuipke, Ghelamco biedt gewoon minder plaats in de gangen
- geluid slecht verstaanbaar, hier moeten ze echt iets aan doen
- heel veel AI bedrijven die weinig meerwaarde bieden, een AI site bv voor €37/maand die gewoon even slecht is als Wix, gebruik dan Wix als starter, veel goedkoper
- niemand die AI koppelt met grafisch design
- macaly.com als de ultieme vibe coding app
- Amazon die richting 1.000.000 robots gaat
- blijkbaar bestaan er al 150 modellen van robots en kan je er eentje kopen voor 15k
- de ultieme droom is meer robots dan mensen, triestig vooruitzicht als je het mij vraagt
- volgend jaar sowieso terug aanwezig, prijs kwaliteit zit dit event goed
Vind je het dan niet ergens triestig dat die mensen er dan eigenlijk niet in slagen om een meer wervende presentatie te brengen dan wat uw gemiddelde marketeer dan met dienzelfde AI ook in elkaar had kunnen boksen? Dien work smarter lijkt mij toch zo'n 'feel good' event om wat te gaan netwerken en dromen over toekomstige verbeteringen?

- macaly.com -> jah de flavor of the month vibe-tool zeker. Heeft wix tegenwoordig ook al geen ingebouwde AI-tools? /shrug
- Geen ai met grafisch design lijkt me een vreemde. Zit zelf natuurlijk niet in die sector, maar was misschien gewoon dat doelpubliek niet aanwezig op dat event?
- Mja 15k voor een robot. Zijn dat de robots die ge echt wilt inzetten voor kritisch werk, of hadden dat beter gewoon intelligente transpalletten op wielen geweest :D
 
Ik ga zowat akkoord met uw premise. Maar enkel als het de veronderstelling is dat AI echt wel veel beter en goedkoper wordt dan het nu is. AI heeft echt dat kantelpunt nog niet bereikt. De echte winsten zijn nog niet bewezen (als dat ooit gebeurd) en nu het VC-geld begint op te drogen (enfin, ze hebben allemaal weeral toch een rondje x miljard ophaling kunnen doen), gaan de echte kosten meer en meer naar boven komen.

Allee, ik zie heel veel leuke advances voor zo de persoonlijke projecten en bepaalde individuele taken op het werk. Ik geloof wel de schone use cases waarmee mensen hier afkomen en sommigen die ik zie passeren online. Maar zo de echt dagdagelijkse improvement van core-taken, die blijven toch echt wel uit.

edit:
twas de voorbije dagen 'microsoft build'
En ik zie wel graag wat toch wel 2 (wat mij betreft) titanen in de industry er zelf ook over zeggen:

Deze is trouwens heel grappig:
( 4 use cases van vibe coding projecten, gewoon verder clicken als ze tussendoor de sponsor shit doen). Heel die VibeOS vond ik gewoon zo goed gevonden :D
Goeie Microsoft Build sessies. Ik bleef wel wat in het ongewisse over de echte kracht van AI-coding. In dat opzicht had ik liever een echte aiOS zien bouwen en zien draaien. Mark Russinovich is daar trouwens de ideale lead voor. Hij kent OS oa WinNT van binnen en van buiten. Hij kan een AI maw heel gerichte buildinstructies geven.

Ik vermoed dat aiOS V1 het niet slecht zou doen. Maar de sessiepresentators staken toch nog al veel de draak met AI. Ik vermoed dat ze zelf ook de druk van AI voelen. En iedereen verdedigt zijn eigen winkel.

De sessie over VibeOS was er m.i. een beetje over. Je genereert schermafbeeldingen en text zonder code er achter. Dat zijn de trucs van demo's, bvb van chip design. Je toont de layout van zgn supersnelle routing maar het is een screen capture. Etc etc.

De sessie over SQL was er ook een beetje over. Een zgn SQL-query-toepassing faken met CSS. Idem als VibeOS. Geeft aan dat je enorm veel kan faken. Maar geeft helemaal niet aan wat je wél kan doen met behulp van AI. En faken kan je trouwens ook heel goed zonder AI.

Dus mijn inziens toch een te hoog we-hebben-het-allemaal-wel-al-gezien-gehalte van deze 2 seniors. Een gemiste kans.
 
Laatst bewerkt:
Goeie Microsoft Build sessies. Ik bleef wel wat in het ongewisse over de echte kracht van AI-coding. In dat opzicht had ik liever een echte aiOS zien bouwen en zien draaien. Mark Russinovich is daar trouwens de ideale lead voor.

Ik vermoed dat aiOS V1 het niet slecht zou doen. Maar de sessiepresentators staken toch nog al veel de draak met AI. Ik vermoed dat ze zelf ook de druk van AI voelen. En iedereen verdedigt zijn eigen winkel.

De sessie over VibeOS was er m.i. een beetje over. Je genereert schermafbeeldingen en text zonder code er achter. Dat zijn de trucs van demo's, bvb van chip design. Je toont de layout van zgn supersnelle routing maar het is een screen capture. Etc etc.

De sessie over SQL was er ook een beetje over. Een zgn SQL-query-toepassing faken met CSS. Idem als VibeOS. Geeft aan dat je enorm veel kan faken. Maar geeft helemaal niet aan wat je wél kan doen met behulp van AI. En faken kan je ook zonder AI.

Dus mijn inziens toch een te hoog we-hebben-het-allemaal-wel-al-gezien-gehalte van deze 2 seniors. Een gemiste kans.
Ah maar die mannen steken er effectief de draak mee he, ook in hun podcast: https://www.youtube.com/@shanselman .
Die mannen hebben binnen Microsoft genoeg aanzien dat ze niet constant de Copilot-trompet moeten blazen, dus dat maakt het wel verfrissend om naar te luisteren :)

Die vibecode demo's waren ook gewoon om eens door te pushen of dat iemand iets interessants kon bouwen en ook nog weet wat erachter steekt. In dat opzicht vond ik die planner-website wel het meeste succes hebben, hoewel ik iets zeeeer gelijkaardigs heb gezien op Cybernova een tijd terug, dus of dat echt een origineel idee is dat je anders evengoed van iemand zijn github kunt plukken, laat ik in het midden
 
Ik vind dat oprecht spijtig dat die zogenaamde leiders (want dat zijn ze die dag) de basis-AI niet aanpassen zodat het om te beginnen niet lijkt op AI en dat het vooral in hun huisstijl is.

Laat mij toe om te zeggen dat je voor veel zaken moet starten met AI, maar doe aub moeite om er nadien jouw eigen persoonlijkheid in te plaatsen.

Er zijn ook al vele Claude skills die de typische AI toevoegingen weglaten. Installeer dan die skill, als je u dan toch komt voordoen als AI specialist.

Er waren ook top sprekers voor alle duidelijkheid 😇
 
@chesini Hangt ervan af wat je wil. Velen gebruiken AI als klankbord om juist ideeen aan te dragen waar je dan verder op kan bouwen. Voor concept art bijvoorbeeld wil je al zeker niet dat deze elke keer dezelfde output genereerd maar juist serieuze variatie zodat je er inspiratie uit kan halen. Voor STEM zoals wiskundigen of devs telt hetzelfde en is die variate ook eerder een plus omdat de ene manier van oplossen misschien beter is dan de andere of degene die je eerst in gedachten had en je zo op een ander pad kan zetten. Die fluiditeit wordt over het algemeen eerder als voordeel gezien.

Kijk bijvoorbeeld ook naar robots en hoe deze nu veel beter in staat zijn om in de echte wereld in veranderende omstandigheden te opereren juist omdat we die harde codering deels kunnen loslaten en ze on the fly meer zelf kunnen bijsturen als iets afwijkt van verwachtingen. In bepaalde omgevingen of op een band waar elke handeling keer op keer op de millimeter hetzelfde is wil je misschien eerder zo'n perfect voorspelbare programmatie maar als er dan is iets misgaat valt de lijn wel stil en misschien wil je dat ook als ze met kritische materialen of iets dergelijk omgaan. Die nieuwe generatie LLM gestuurde bots worden wel beter en beter maar ze doen niet altijd exact hetzelfde, maken al is een fout en laten bijvoorbeeld is iets vallen maar ze kunnen het dan wel zelf terug oprapen en nog is proberen. Dat is bijvoorbeeld ideaal voor het vouwen van een T-shirt of nog veel chaotischere complexe handelingen die niet al te kritisch zijn waar trial en error geen kwaad kan en die hardcoded praktisch niet haalbaar zijn omdat je met te veel zaken rekening moet houden.
 
Maar wat is er juist anders door AI dan?
Ja, skill professionals gaan er beter op vooruitgaan. Niet echt een nieuw gegeven.

Ik vraag me ook af wat er op korte termijn (komende 2 jaar) zal veranderen vanwege AI, aan banen bijv. AI is met name geschikt om grote datasets toegankelijk te maken voor de mens, daarin patronen te ontdekken en conclusies te trekken. Dan denk ik in eerste instantie aan onderzoek op gezondheidsvlak. Zo is er sprake van een mogelijk grote doorbraak op gebeid van MS, Reuma etc op korte termijn, dankzij AI. En daarin zal als eerste een nieuw soort baan worden gecreeerd: iemand die dat overziet, die de prompt kan maken, uitbreiden, toeziet of dit alles op de juiste manier geschiedt. Maar ik zie nog geen schoonmakers, vuilophalers, verplegers of ouderenverzorgers op korte termijn verdwijnen door AI.

Ook wetenschapen als wiskunde, natuurkunde en geschiedenis (prehistorie) zie ik daar profijt van kunnen hebben. Zodra er sprake is van grote datasets of versnipperd onderzoek.
 
Twee keer identiek dezelfde prompt zou m.i. best hetzelfde resultaat opleveren. Maar dat zouden ze vrij eenvoudig kunnen oplossen. Elke input en output bewaren (dwz alle betrokken token-id's). Als je dan een identieke input plaatst, even snel de vorige output ophalen en als er toch wijzigingen zouden zijn, ook een nieuwe output+1 genereren. En uitleggen wat de delta is, wat de oorzaak van wijzigingen is.

Dan zou het meer gaan lijken op menselijke logica. Dwz als iemand mij 2 keer dezelfde vraag stelt op kortere termijn, dan ga ik persoonlijk iets gelijkaardigs antwoorden, en idealiter hetzelfde antwoord geven, tenzij ik er een nieuwe versie van maak owv meer nadenktijd intussen. Enfin.

Dat zou ook niet handig zijn als je bedenkt dat je dan dus een antwoord krijgt gebaseerd op (ver)oude(rde) informatie. Dat wil je ook niet.
 
Maar ik zie nog geen schoonmakers, vuilophalers, verplegers of ouderenverzorgers op korte termijn verdwijnen door AI.
Voor die laatste willen ze helaas robots inzetten om het ontbijt, de soep, de lunch, de boterhammen, … te komen brengen. Het is al zielig dat die 90 jarigen weinig bezoek krijgen en dan gaan ze die hun menselijk contact nog afpakken ook.

Aangezien de rusthuizen onbetaalbaar worden en aangezien er ook daar een enorm tekort is aan personeel, is dit een zeer realistisch toekomstbeeld.

Robots = AI 👍
 
Ik ga zowat akkoord met uw premise. Maar enkel als het de veronderstelling is dat AI echt wel veel beter en goedkoper wordt dan het nu is. AI heeft echt dat kantelpunt nog niet bereikt. De echte winsten zijn nog niet bewezen (als dat ooit gebeurd) en nu het VC-geld begint op te drogen (enfin, ze hebben allemaal weeral toch een rondje x miljard ophaling kunnen doen), gaan de echte kosten meer en meer naar boven komen.

Allee, ik zie heel veel leuke advances voor zo de persoonlijke projecten en bepaalde individuele taken op het werk. Ik geloof wel de schone use cases waarmee mensen hier afkomen en sommigen die ik zie passeren online. Maar zo de echt dagdagelijkse improvement van core-taken, die blijven toch echt wel uit.

edit:
twas de voorbije dagen 'microsoft build'
En ik zie wel graag wat toch wel 2 (wat mij betreft) titanen in de industry er zelf ook over zeggen:

Deze is trouwens heel grappig:
( 4 use cases van vibe coding projecten, gewoon verder clicken als ze tussendoor de sponsor shit doen). Heel die VibeOS vond ik gewoon zo goed gevonden :D


Misschien toch ook breder kijken naar business en robots. Via ai wordt er wel echt medisch vooruitgang gemaakt. Die vaccin evolutie is bangelijk (in de link).
Dat moet geen dagdagelijkse verbetering zijn. Hoe meer we data we via ai gaat laten analyseren, hoe meer we vooruitgang zoals dit gaan hebben.
De ai discussie terugbrengen of een Agent nog niet deftig werkt, is niet goed om te bepalen of ai al goed werkt of niet. Het werkt in de wetenschap. En qua business zou ik daar ook zeker kijken ai company zijnde.
 
Voor die laatste willen ze helaas robots inzetten om het ontbijt, de soep, de lunch, de boterhammen, … te komen brengen. Het is al zielig dat die 90 jarigen weinig bezoek krijgen en dan gaan ze die hun menselijk contact nog afpakken ook.

Aangezien de rusthuizen onbetaalbaar worden en aangezien er ook daar een enorm tekort is aan personeel, is dit een zeer realistisch toekomstbeeld.

Robots = AI 👍

Een robot ligt in het verlengde van AI maar AI is nog geen robot. Als je kijkt naar de ontwikkeling van robotstofzuigers en wat die (niet nog meer) kunnen en het gedoe dat je daarvan hebt bij een deel van de exemplaren.. Volgens mij gaat dat allemaal zo snel nog niet.
 
Terug
Bovenaan