De ontwikkeling van Artificiële Intelligentie moet gepauzeerd worden

[rubenvb]

Ikzelf zit nu in een ingenieursjob in de bouw en ik zie toch ook wel wat mogelijke toepassingen van AI. Gegeven een gebouw is quasi nooit identiek maar de fysica erachter wel. Het is vaak dezelfde input geven met ietwat verschillende parameters en ik zie dit voor 80% toch geautomatiseerd worden door AI. Dit is nu enkel van toepassing op mijn vakgebied maar ik veronderstel dat er in andere vakgebieden ook wel mogelijkheden bestaan waardoor een werkgever beter een AI inschakelt dan een morrende werknemer

Laat dit nu net een van de dingen zijn waar AI echt wel gevaarlijk kan zijn; exacte berekeningen.
Wat de huidige modellen en netwerken eigenlijk doen is een gigantische set van parameters van een hoop wiskundige operaties fitten aan een, in vergelijking, enorm kleine dataset.

Je krijgt dus een hele hoop randgevallen waarbij de input niet in de trainingsdata zit en je dus bogus antwoorden krijgt. Bouwfysica is net een van de dingen waar AI zijn doel zou voorbijschieten, want je hebt alle wiskunde en fysica die je ooit zou kunnen nodig hebben gewoon klaarliggen om uit te rekenen. Waarom zou je dan in godsnaam een of andere black box daar wat laten in poteren? Dat slaat gewoon op niets.

Wat die wel zou kunnen doen is ontwerpsuggesties genereren, die dan exact worden nagerekend.
Zo zijn er wel meer dingen te vinden, zoals ze eigenlijk de Folding@Home dingen formeel hebben vervangen door een AI die gewoon duizenden mogelijke proteïnestructuren genereert.
Maar zoiets exacte dingen laten bepalen of berekenen is gewoon een recipe for disaster...

 

[dee]

Ik denk eigenlijk dat er geen pauze nodig is maar eerder internationale verdragen en wetgevingen omtrent AI, zo snel mogelijk. En dat men ook die zaken moet verankeren in de ontwikkeling van AI. Het grote gevaar ligt mijn inziens niet in AI zelf maar diegenen die AI gebruiken/misbruiken voor bepaalde dingen.

Kleine reality check maar de rest van de wereld interesseert zich geen zak in wat een aantal geprivilegieerde mensen wakker houdt 's nachts.
Buiten Europa zou ook niemand zichzelf in de voet schieten en zichzelf benadelen.
AI is geen nucleaire installatie die je vanuit de ruitme kan zien. En zelf dan doet China nog wat ze willen.

 

[nestorius]

En dan? Moeten we daarom maar mee doen of wat?

 

[zwarten]

Laat dit nu net een van de dingen zijn waar AI echt wel gevaarlijk kan zijn; exacte berekeningen.
Wat de huidige modellen en netwerken eigenlijk doen is een gigantische set van parameters van een hoop wiskundige operaties fitten aan een, in vergelijking, enorm kleine dataset.

Je krijgt dus een hele hoop randgevallen waarbij de input niet in de trainingsdata zit en je dus bogus antwoorden krijgt. Bouwfysica is net een van de dingen waar AI zijn doel zou voorbijschieten, want je hebt alle wiskunde en fysica die je ooit zou kunnen nodig hebben gewoon klaarliggen om uit te rekenen. Waarom zou je dan in godsnaam een of andere black box daar wat laten in poteren? Dat slaat gewoon op niets.

Wat die wel zou kunnen doen is ontwerpsuggesties genereren, die dan exact worden nagerekend.
Zo zijn er wel meer dingen te vinden, zoals ze eigenlijk de Folding@Home dingen formeel hebben vervangen door een AI die gewoon duizenden mogelijke proteïnestructuren genereert.
Maar zoiets exacte dingen laten bepalen of berekenen is gewoon een recipe for disaster...

Gebouwfysica is nu echt zo moeilijk niet. Eens concepten uitgewerkt zijn, simulaties gedaan en er een optimaal systeem uitgedokterd is komt er gewoon heel wat repetitief werk aan te pas.

Eg warmteverlies.
Setpunt buitentemperatuur, setpunt binnentemperatuur, Warmteweerstand wanden ingeven, zonnetoetredingsfactoren, interne lasten, personen. infiltratieparameter en uiteraard de coordinaten van de ruimte x/y/z
Meer heb je feitelijk niet nodig om een goede warmteverlies en koellast te maken. Nu hebben we daar iemand voor die al die data ingeeft en controleert. Zo iets kan je perfect laten automatiseren. Je kan in een oogopslag zien of iets realistisch is of niet. Gewoon het vermogen per m² ligt quasi altijd binnen een bepaalde waarde. Outliers haal je er zo snel van tussen.
Dit uiteraard voor 100'en ruimtes in een project soms.

Qua ventilatie is het identiek. Geef verlaagd plafond in, geef roostertype, geef maximale drukval en geluidsdruk, geef maximale snelheid in kanalennetwerk,... Teken optimaal traject uit.

Qua verwarming/koeling is het zowaar nog gemakkelijk. Haal data uit paragraaf 1, geef delta T en dimensioneer de piping.

Eindelementen, aerolisch en hydraulisch inregelen is mss nog wat complex maar er zijn reeds programmas dat ook redelijk vlot kunnen. Hier zie ik ook wel een link met AI mogelijk.

Akkoord je gaat altijd iemand moeten hebben die controleert en dubbel checked. Dat is nu ook zo, maar die junior die alle data in allerhande programma's dient in te geven (lees het bandwerk) die mag wss een andere job zoeken
Een AI gaat dit veel sneller kunnen doen dan een normale mens. Waar we een paar dagen rekenen per persoon per gebouw gaat dit nu wss in minuten gebeuren.

Ik zeg ook niet dat er 1 AI is die alles gaat kunnen maar ik denk wel dat er 'niche AI's' kunnen ontwikkeld worden die heel specifieke zaken eenvoudig gaat kunnen uitwerken aan een fractie van de kost. Zeker hoe de markt nu evolueert naar building information models. Hoe meer informatie-input je kan geven hoe eenvoudiger (en correcter) er een AI met aan de slag kan gaan.

 

[Pieterjan94]

Ik denk eigenlijk dat er geen pauze nodig is maar eerder internationale verdragen en wetgevingen omtrent AI, zo snel mogelijk. En dat men ook die zaken moet verankeren in de ontwikkeling van AI. Het grote gevaar ligt mijn inziens niet in AI zelf maar diegenen die AI gebruiken/misbruiken voor bepaalde dingen.

Tegen EOY komt Europa normaal gezien al met haar AI act Ze zitten niet stil.

 

[Horse]

AI mag inderdaad gestopt worden omdat we daar als mens uiteraard slecht mee zullen omgaan. Die deep fake mag ook stopgezet worden of we gaan miljoenen fake video’s zien waardoor we niet meer weten wat echt is. Daar kan je echt gevaarlijke zaken mee doen.

Als ik iets fake wil zien, ga ik wel naar de cinema.

 

[Horse]

Ik denk dat mensen toch teveel Terminator gedachten hebben bij het Ai self awareness verhaal.

AI kan inderdaad niet destructief zijn zoals de mens. Maar de mens kan AI wel gebruiken / misbruiken om echt destructieve zaken te doen

Er is ook een probleem van copywrite. Alles wat chatGPT zegt, heeft hij ergens zomaar gekopieerd vanop een website. Dat mag niet. Terecht.

Alles wat grafisch ontwikkeld wordt door AI gebruikt data van bestaande schilderijen. Zonder hun toestemming. Dat mag niet. Terecht.

 

[Loser]

Dit is bv. wat je al met relatief eenvoudige machine learning kan doen, laat staan met wat er met o.a. GPT-5 gaat mogelijk zijn:

AI suggested 40,000 new possible chemical weapons in just six hours

It’s apparently not that hard to design poisons using AI.

www.theverge.com

Maar dat is niks anders dan wat je nu al kunt doen, alleen kost het je meer tijd. Of je maakt geen nieuwe chemische wapens, maar gewoon de bestaande. Manieren genoeg om anderen dood te maken, dat is niet het gevaar van AI. Of je het chemische wapen nu via AI hebt ontwikkeld of met pen en papier bedacht, heel veel verschil zit daar toch niet op?

Ik ben helemaal geen voorstander van die brief die rondgaat. Ik vind het proberen afstoppen van zo'n vooruitgang altijd een groter probleem dan de vooruitgang zelf. Duidelijke, strenge en snel aanpasbare regularisatie, en dan liefst met zo veel mogelijk landen tegelijk, dàt is voor mij de way to go.

Maar de doemscenario's die over ChatGPT hier staan, komen toch meer voort uit niet helemaal juist benoemen wat het is. @JanusDR zei al dat hij een tabelletje niet goed verwerkt krijgt. Dat is ook zijn functie niet. ChatGPT is een autocomplete van je zin. Eentje die zo goed is als we nog nooit hebben gezien. De computer snapt taal zoals nog nooit tevoren, het is eigenlijk een perfecte vertaalmachine van computertaal naar mensentaal en andersom. Maar dat is het ook. Geen inhoud.

Daarom is regelgeving wel belangrijk. Maar dit stopzetten, is onmogelijk en ook totaal onwenselijk. Mensen die nu roepen dat het het einde is van het onderwijs, zijn ook niet helemaa mee met wat ChatGPT is. De rekenmachine is ook niet het einde van wiskunde-onderwijs?

De "singularity" waarvoor sommigen hier waarschuwen, zou dan betekenen dat een ànder systeem ChatGPT kan opleren en we vanaf dan niet meer weten wat ermee gebeurt. Dat is het voorlopige scenario, zonder te futuristisch te denken. Op zich totaal geen probleem, zolang je inderdaad goed in het oog houdt wat de sociale effecten daarvan worden. Die "ethische filters" zoals ze genoemd worden.

Een mogelijk scenario wat ik wel veel eerder zie gebeuren, is in de beurs. Op dit moment "spelen" wij het spelletje van de beurs met aandelen verkopen en kopen, en die koers ook wat manipuleren door in bulk aan te kopen, etc. Big Data wordt superbelangrijk, en voor AI op een totaal andere manier doorzichtig dan voor ons. Wie weet wat voor patronen AI daarin ontdekt? Stel dat we het systeem leren om zo veel mogelijk geld te verdienen, en dan: Leer dat nu maar eens met àlle data die er te vinden is ivm de beurs. Dan komt er misschien een strategie naar boven die wij helemaal niet willen, eentje waarbij alle banken crashen en we niks meer hebben, behalve die ene persoon achter die ene computer. Die AI heeft dan het spelletje "gewonnen".

 

[Horse]

Hoe zien jullie het onderwijs dan? Een industrieel ingenieur kan de 3e integraal vergelijking oplossen omdat hij daar vanaf zijn 12e serieus voor geoefend heeft. Je traint je hersenen en wordt sterker en sterker met de jaren. Nu kan dat in 1 seconde. Waarom nog geschiedenis leren? Waarom nog een taal leren? Waarom nog chemie studeren?

Los van het feit dat er heel veel jobs zullen verdwijnen. Maar de slimme ingenieurs en copywriters en artiesten mogen wel nog steeds meehelpen met de vuilkar hoor! Er zijn nog duizenden vacatures aan een band!!

Niet zagen he, er is werk genoeg.

 

[Horse]

Heel veel jobs en dus studies zullen nog weinig zin hebben en verdwijnen. Wat verdomd spijtig is. Als AI het kan moet je er niet voor studeren, zo simpel is het.

Het voordeel is wel dat mensen die hout bewerken eindelijk eens een dik loon zullen hebben want dat kan AI niet.

 

[Loser]

Hoe zien jullie het onderwijs dan? Een industrieel ingenieur kan de 3e integraal vergelijking oplossen omdat hij daar vanaf zijn 12e serieus voor geoefend heeft. Je traint je hersenen en wordt sterker en sterker met de jaren. Nu kan dat in 1 seconde. Waarom nog geschiedenis leren? Waarom nog een taal leren? Waarom nog chemie studeren?

Los van het feit dat er heel veel jobs zullen verdwijnen. Maar de slimme ingenieurs en copywriters en artiesten mogen wel nog steeds meehelpen met de vuilkar hoor! Er zijn nog duizenden vacatures aan een band!!

Niet zagen he, er is werk genoeg.

Ik snap niks van die "derde integraal vergelijking", dus daarmee kan ik je niet helpen.
Maar je kunt dat nu in één seconde omdat een computer dat kan. Niet omdat AI dat kan, toch?

Veel simpeler: Alle kindjes moeten leren rekenen. Tafels, omdat dat vaak handig is. Maar een staartdeling à la 3815/12? Je kunt het principe geven, zodat leerlingen het inzicht krijgen. De basis begrijpen. En je kunt ook zeggen dat je voor je oefeningen ivm de staartdeling geen computer of rekenmachine mag gebruiken. Maar het belang van die oefening wordt helemaal anders en krijgt een heel specifieke context. Want voor dagelijks gebruik gaat nooit iemand een staartdeling gebruiken om 3815/12 te doen, dus buiten "het concept snappen" is meer niet nodig.

Wat wel òòk nodig is, is je leerlingen leren werken met een rekenmachine of met de computer. Want dat gaan ze in de praktijk heel veel vaker nodig hebben dan die staartdeling.

Precies hetzelfde gebeurt met ChatGPT. Je moet een formele brief opstellen. Dan moet je het concept leren, van wat waar hoort en de indeling van "aanspreking, begin, midden, conclusie, groet". En voor dat stuk mogen ze dan eventjes geen ChatGPT gebruiken. Maar als ze dat dan kennen, waarom mogen ze de brief dan niet laten invullen door ChatGPT? Is het superbelangrijk dat die kinderen een brief verzinnen? Natuurlijk, niet tijdens de opdracht "creatief schrijven", dan mag het weer niet, net zoals je voor de opdracht "staartdeling" geen rekenmachine mag gebruiken.

Sterker nog, het gebeurt nu al. Tijdens het dictee op school, mag iedereen pen en papier gebruiken, maar iedereen schrijft zijn opstel wel op de laptop, waar rode lijntjes mooi aangeven welk woord fout is. Je leert het concept, waarom het zo is, maar in de praktijk wordt veel overgenomen door computers. En in het onderwijs bepaal je wanneer het je mag helpen en wanneer niet.

En heel belangrijk: Leer je ook leerlingen om in een geëvolueerde samenleving te werken. Het is nutteloos om je leerlingen staartdelingen op te leggen op papier voor elke bewerking, als ze uiteindelijk in hun bedrijf aankomen en niet weten hoe een rekenmachine werkt, of hoe Excel berekeningen kan maken. Je kunt toekomstige werknemers nu al leren werken met AI, leren wat AI kan (en ook wat niet) en leren prompten. Want dàt wordt een heel belangrijke schakel binnenkort, en is het nu al: De vertaler tussen mens en computer. Mens wil uitkomst X, welke prompt moet hij aan de computer voorstellen om zo dicht mogelijk bij die uitkomst uit te komen?

Maar "waarom geschiedenis leren" is totaal niet waar we nu al staan, of nog maar van in de buurt komen, hè. Je kunt ChatGPT een vraag stellen over een Romeinse kiezer, maar de kans dat hij antwoordt met iets uit de film Gladiator is even groot als dat hij iets corrects antwoordt. "Waarom chemie leren" hetzelfde. Alleen heb je daar wel nog dat er AI-systemen zijn die bepaalde chemische processen veel beter kunnen berekenen dan wij ooit zullen kunnen. Maar daarvoor moet je eerst wel de concepten snappen, en kunnen werken met die AI-systemen.

Maar belangrijker is wat @phate_13 hiervoor al zei: dan moeten we misschien dringend eens kijken naar hoe we welvaart verdelen. Want als bepaalde copywriters hun werk verliezen omdat het werk nu door AI gebeurt, is de winst die het bedrijf maakt, nog altijd even groot terwijl ze de copywriter in dienst houden/betalen zonder dat die werkt. De winst kan nòg groter worden door de copywriter te ontslaan, maar dan kies je voor een welvaartverdeling naar enkelen ipv naar velen.

 

[JorisBlack]

Maar dat is niks anders dan wat je nu al kunt doen, alleen kost het je meer tijd. Of je maakt geen nieuwe chemische wapens, maar gewoon de bestaande. Manieren genoeg om anderen dood te maken, dat is niet het gevaar van AI. Of je het chemische wapen nu via AI hebt ontwikkeld of met pen en papier bedacht, heel veel verschil zit daar toch niet op?

Ik ben helemaal geen voorstander van die brief die rondgaat. Ik vind het proberen afstoppen van zo'n vooruitgang altijd een groter probleem dan de vooruitgang zelf. Duidelijke, strenge en snel aanpasbare regularisatie, en dan liefst met zo veel mogelijk landen tegelijk, dàt is voor mij de way to go.

Maar de doemscenario's die over ChatGPT hier staan, komen toch meer voort uit niet helemaal juist benoemen wat het is. @JanusDR zei al dat hij een tabelletje niet goed verwerkt krijgt. Dat is ook zijn functie niet. ChatGPT is een autocomplete van je zin. Eentje die zo goed is als we nog nooit hebben gezien. De computer snapt taal zoals nog nooit tevoren, het is eigenlijk een perfecte vertaalmachine van computertaal naar mensentaal en andersom. Maar dat is het ook. Geen inhoud.

Daarom is regelgeving wel belangrijk. Maar dit stopzetten, is onmogelijk en ook totaal onwenselijk. Mensen die nu roepen dat het het einde is van het onderwijs, zijn ook niet helemaa mee met wat ChatGPT is. De rekenmachine is ook niet het einde van wiskunde-onderwijs?

De "singularity" waarvoor sommigen hier waarschuwen, zou dan betekenen dat een ànder systeem ChatGPT kan opleren en we vanaf dan niet meer weten wat ermee gebeurt. Dat is het voorlopige scenario, zonder te futuristisch te denken. Op zich totaal geen probleem, zolang je inderdaad goed in het oog houdt wat de sociale effecten daarvan worden. Die "ethische filters" zoals ze genoemd worden.

Een mogelijk scenario wat ik wel veel eerder zie gebeuren, is in de beurs. Op dit moment "spelen" wij het spelletje van de beurs met aandelen verkopen en kopen, en die koers ook wat manipuleren door in bulk aan te kopen, etc. Big Data wordt superbelangrijk, en voor AI op een totaal andere manier doorzichtig dan voor ons. Wie weet wat voor patronen AI daarin ontdekt? Stel dat we het systeem leren om zo veel mogelijk geld te verdienen, en dan: Leer dat nu maar eens met àlle data die er te vinden is ivm de beurs. Dan komt er misschien een strategie naar boven die wij helemaal niet willen, eentje waarbij alle banken crashen en we niks meer hebben, behalve die ene persoon achter die ene computer. Die AI heeft dan het spelletje "gewonnen".

Dat je van mening bent dat we het beter niet proberen af te stoppen, ok. (al pleit niemand daarvoor - men wil het onderzoek enkel een half jaar pauzeren om tijd te winnen zodat we kunnen nadenken over regularisatie, want het gaat te snel nu).

Al de rest vind ik, sorry dat ik het zeg, vrij naïef.
Om met pen en papier een chemisch wapen te verzinnen moet je hoger opgeleid zijn, jaren onderzoekservaring enz.
Met openlijk toegankelijke AI kan elke huis-, tuin- en keukenterrorist gifreceptjes genereren.

En ook jij lijkt, net als velen hier, te denken dat het enkel gaat over ChatGPT / GPT4.0. Er wordt verwacht dat GPT5 artificial general intelligence zou bereiken. En dat zijn dan gewoon AI tools voor dialoog (taalgebaseerd). Het is een kwestie van tijd vooraleer we andere zaken door AI laten doen. Er wapens mee controleren of mee ontwerpen (chemische wapens is daar 1 voorbeeld van) bijvoorbeeld. Economisch wapen kan ook, zoals je zelf aanhaalt met je beursvoorbeeld.

 

[dee]

Welvaartverdeling is een utopie.
Je weet even goed dat als morgen de Flair volledig door een AI geschreven kan worden de Flair niet in België gemaakt zal worden maar in China.
Dat is het grootste gevaar van de ontwikkeling van AI. Dat de rest van de wereld ons nog een bewijst hoe hard ze ons economisch aan het breken zijn.

Ik word al irritant als ik denk aan de achterlijke nieuwsberichten dat we te verwerken gaan krijgen.
Fixeren op AI oorlogstuig is zoals wat de media nu doet met productie in bv. China.
Artikels over hoe goedkoop iets als babyfoons wel niet is van aliexpress maar dan geen enkel woord over het feit dat China heel onze chemie onder onze neus aan het wegkapen is. De economische motor van oa België en Duitsland in de vernieling. En babyfoons zijn ons grootste probleem.

Als morgen uitkomt dat die brief gestart is door een andere mogendheid dan zou ik echt niet verrast zijn.

 

[Loser]

Dat je van mening bent dat we het beter niet proberen af te stoppen, ok. (al pleit niemand daarvoor - men wil het onderzoek enkel een half jaar pauzeren om tijd te winnen zodat we kunnen nadenken over regularisatie, want het gaat te snel nu).

Al de rest vind ik, sorry dat ik het zeg, vrij naïef.
Om met pen en papier een chemisch wapen te verzinnen moet je hoger opgeleid zijn, jaren onderzoekservaring enz.
Met openlijk toegankelijke AI kan elke huis-, tuin- en keukenterrorist gifreceptjes genereren.

Dat kan nu nog niet, en zal over zes maanden ook nog niet kunnen.
Je had het over "nieuwe chemische wapens bedenken". Op dit moment kan elke huis-, tuin- en keukenterrorist op enkele seconden bestaande gifreceptjes googelen. Daarin verandert AI niks, dat is mijn punt.

Welvaartverdeling is een utopie.
Je weet even goed dat als morgen de Flair volledig door een AI geschreven kan worden de Flair niet in België gemaakt zal worden maar in China.
Dat is het grootste gevaar van de ontwikkeling van AI. Dat de rest van de wereld ons nog een bewijst hoe hard ze ons economisch aan het breken zijn.

Ik word al irritant als ik denk aan de achterlijke nieuwsberichten dat we te verwerken gaan krijgen.
Fixeren op AI oorlogstuig is zoals wat de media nu doet met productie in bv. China.
Artikels over hoe goedkoop iets als babyfoons wel niet is van aliexpress maar dan geen enkel woord over het feit dat China heel onze chemie onder onze neus aan het wegkapen is. De economische motor van oa België en Duitsland in de vernieling. En babyfoons zijn ons grootste probleem.

Als morgen uitkomt dat die brief gestart is door een andere mogendheid dan zou ik echt niet verrast zijn.

Langs de andere kant: Als morgen de Flair volledig geschreven kan worden door AI, zegt dat toch al iets over de "achterlijke nieuwsberichten" die we er nu al in lezen. De kwaliteit gaat dan niet noodzakelijk achteruit, en meer nog: de kwaliteit die daarvoor betalend was, zal dat nog altijd zijn. En dan heb je een "prompter" nodig voor die dwaze artikels, maar omdat babyfoons nooit ons grootste probleem zullen zijn, zullen de andere nieuwsschrijvers ook nog nodig zijn.

 

[JorisBlack]

Dat kan nu nog niet, en zal over zes maanden ook nog niet kunnen.
Je had het over "nieuwe chemische wapens bedenken". Op dit moment kan elke huis-, tuin- en keukenterrorist op enkele seconden bestaande gifreceptjes googelen. Daarin verandert AI niks, dat is mijn punt.

Ik krijg de indruk dat je dat artikel niet helemaal gelezen hebt. Het gaat hier over nieuwe, onbestaande, en krachtigere chemische wapens. Die vind je niet door te googelen.

The biggest thing that jumped out at first was that a lot of the generated compounds were predicted to be actually more toxic than VX. And the reason that’s surprising is because VX is basically one of the most potent compounds known.

en net omdat ze nieuw zijn, zou je ze zelfs kunnen laten produceren, omdat niemand eigenlijk weet dat het om een potentieel chemisch wapen gaat

A lot of the chemical building blocks of these chemical warfare agents are well known and are watched. They’re regulated. But there’s so many synthesis companies. As long as it doesn’t look like a chemical warfare agent, they’re most likely going to just synthesize it and send it right back because who knows what the molecule is being used for, right?

Zoals ik dus wou zeggen: het gaat veel verder dan de meesten hier denken. ChatGPT dat taalgebaseerd is en supersnel het internet afschuimt, tot daar en toe (en op zich ook al niet evident om mee om te gaan), maar het gaat over de volgende overtreffende stap.

 

[phate_13]

Ik krijg de indruk dat je dat artikel niet helemaal gelezen hebt. Het gaat hier over nieuwe, onbestaande, en krachtigere chemische wapens. Die vind je niet door te googelen.



en net omdat ze nieuw zijn, zou je ze zelfs kunnen laten produceren, omdat niemand eigenlijk weet dat het om een potentieel chemisch wapen gaat


Zoals ik dus wou zeggen: het gaat veel verder dan de meesten hier denken. ChatGPT dat taalgebaseerd is en supersnel het internet afschuimt, tot daar en toe (en op zich ook al niet evident om mee om te gaan), maar het gaat over de volgende overtreffende stap.

Maar er staat toch ook bij dat een gewone persoon dat niet kan? Want hoe bekom je dit? Hoe interpreteer je dit? En daarna heb je nog de stap, hoe maak je dit?

Kennis kan altijd misbruikt worden. Maar moeten we daarom alle kennis onttrekken aan de maatschappij, toch ook niet? In dit voorbeeld specifiek, kan een getraind persoon nu meer met een AI dan nu met google. Maar ook nu kan een getraind persoon al heel wat gevaarlijke dingen doen.

Net zoals een ongetraind persoon nu met google ook meer gevaarlijke dingen kan terugvinden tov. vroeger. Wilt toch ook niet zeggen dat we dan zo moeten oppassen met "het gevaarlijke google/bing/yahoo/..." daar geldt toch exact hetzelfde voor tov. de periode er voor? Of de periode voor internet? Of voor het schrift? Of...

Kennis kan misbruikt worden.

 

[ThomasMore]

Een paar zaken weten we zeker:

Elke nieuwe uitvinding / ontdekking met een gigantisch potentieel om iets grondig te veranderen stoot op weerstand bij de introductie ervan.

Mensen kunnen doorgaans de lange termijn impact van nieuwe technologie niet inschatten.

Nieuwe ontdekkingen/uitvindingen kunnen worden misbruikt.

Wetgeving komt pas nadat de nieuwe technologie een aantal keren heeft gefaald.

Daarnaast is het potentieel van AI in combinatie met robotica zeer groot.

Echter, met iets dat zelf leert zoals kunstmatige intelligentie zijn er een paar zaken die volgens specialisten best worden voorzien:

- Keep a human in the loop
- Bypass system
- The kill switch

Ook hoort er een ethische reflectie te zijn bij het inzetten van AI. Bijvoorbeeld, gaan we opvang van kleine kinderen overlaten aan een robot? Zo ja, wat is de invloed van kunstmatige intelligentie op de ontwikkeling van de hersenen van kleine kinderen?

Wie is verantwoordelijk voor het advies dat kunstmatige intelligentie geeft? Het systeem zelf (want zelf-lerend)? Hoe kan je dan juridisch ingrijpen?

Zijn alle mensen voldoende capabel om met AI of kunstmatige intelligentie te interneren? Moeten we bepaalde bevolkingsgroepen beschermen tegen blootstelling aan AI?

Boeiend allemaal

 

[contextbinder]

Hoe zien jullie het onderwijs dan? Een industrieel ingenieur kan de 3e integraal vergelijking oplossen omdat hij daar vanaf zijn 12e serieus voor geoefend heeft. Je traint je hersenen en wordt sterker en sterker met de jaren. Nu kan dat in 1 seconde

Ik zie dat toch veel genuanceerder, die ingenieur heeft die 3e integraal vergelijking waarschijnlijk helemaal niet nodig in het professionele leven - wat die wel nodig heeft is de mogelijkheid om deze logica om te zetten in redeneringsvermogen, probleemoplossend vermogen, inschattingsvermogen en dat toe te passen in het bedrijfsleven, en dat alles liefst nog eens gecombineerd met duidelijke communicatie en behoud van het nodige overzicht en controle - en onderweg ook nog bijsturen waar/wanneer nodig.

Ik zie dan ook veel meer potentieel in mensen (zoals die ingenieurs, maar ook tal van andere mensen) die AI gaan gebruiken i.f.v. vragen, controles, andere invalshoeken - op termijn lijkt het me zelfs wenselijk om daar een vak op school van te maken ... net zoals computers jaren terug veel mensen zouden "overbodig" maken is later het tegendeel gebleken - er zijn tal van jobs bijgekomen.

 

[LSDsmurf]

Er is ook een probleem van copywrite. Alles wat chatGPT zegt, heeft hij ergens zomaar gekopieerd vanop een website. Dat mag niet. Terecht.

Alles wat grafisch ontwikkeld wordt door AI gebruikt data van bestaande schilderijen. Zonder hun toestemming. Dat mag niet. Terecht.

Maar is dat zo? Als jij alle boeken leest over een bepaald onderwerp en daar dan vervolgens een artikel over schrijft, ben je dan een origineel werk aan het maken of een kopie aan het maken van bestaande kennis?

 

[Loser]

AI kan inderdaad niet destructief zijn zoals de mens. Maar de mens kan AI wel gebruiken / misbruiken om echt destructieve zaken te doen

Er is ook een probleem van copywrite. Alles wat chatGPT zegt, heeft hij ergens zomaar gekopieerd vanop een website. Dat mag niet. Terecht.

Alles wat grafisch ontwikkeld wordt door AI gebruikt data van bestaande schilderijen. Zonder hun toestemming. Dat mag niet. Terecht.

Maar is dat zo? Als jij alle boeken leest over een bepaald onderwerp en daar dan vervolgens een artikel over schrijft, ben je dan een origineel werk aan het maken of een kopie aan het maken van bestaande kennis?

Klopt inderdaad niet. Horse wijst naar de klok, maar het is de klepel waar de fout zit. Er is wel een probleem van copyright law.
Niks van wat ChatGPT zegt, heeft die zomaar gekopieerd van een website, namelijk. Of toch niet meer dan als jij of ik een zin schrijven. Niks van wat Dall.E maakt heeft hij gekopieerd van een bestaand schilderij.

En nog erger: niks van dat alles is verlopen zonder toestemming van de makers. We hebben al onze data gratis weggegeven, inclusief foto's en tekeningen die we hebben gemaakt, en dan de TOS aangevinkt zonder te kijken. Die data is verkocht aan grote bedrijven die ze gebruiken voor hun ontwikkeling. En nu blijkt dat ze daarmee iets ontwikkelen dat sommigen niet willen.

Er is dus geen copyright-inbreuk op dat vlak. Omdat je daarvoor moet kopiëren, en dat doet ChatGPT dus net niet. Wat niet wil zeggen dat de copyright claim geen grond heeft: Er is wel een probleem met copyright, namelijk dat de wet niet is afgestemd op dit soort ge-/misbruik.

Een bekend voorbeeld is de "controverse" rond Nick Cave op Twitter. Die maakt nogal typische, poëtische teksten. ChatGPT kun je een tekst laten schrijven die lijkt rechtstreeks van Nick Cave te komen. Natuurlijk puur oppervlakkig, geen enkele inhoud. Waar het bij Cave over het diepste van zijn ziel gaat, raapt ChatGPT gewoon (heel kundig) woorden samen. Maar die inhoud vullen wij zelf in in ons hoofd, en dan "lijkt" het plots diepgang te hebben. Dat kan niet bestaan zonder Nick Cave, en toch krijgt Nick Cave daar niks voor. Verder heb je nog het kunst-aspect eraan, Nick Cave heeft zijn eigen kunst niet meer in de hand en kan over van alles gaan, en wordt tegelijk plastic en dood.

Op zich snap ik die kritiek zeker, en ben ik het ermee eens dat copyright daaraan zal moeten aangepast worden. Maar dat heb je nu voor een stukje ook al, wanneer iemand een Balloon Dog van Koons 3D-print om thuis te zetten. Het is niet echt, de bedenker heeft er misschien niets van. En dat moeten we tegengaan. Maar misschien niet door 3D-printers te verbieden.