Archief - AI ontwikkelt eigen taal

Het archief is een bevroren moment uit een vorige versie van dit forum, met andere regels en andere bazen. Deze posts weerspiegelen op geen enkele manier onze huidige ideeën, waarden of wereldbeelden en zijn op sommige plaatsen gecensureerd wegens ontoelaatbaar. Veel zijn in een andere tijdsgeest gemaakt, al dan niet ironisch - zoals in het ironische subforum Off-Topic - en zouden op dit moment niet meer gepost (mogen) worden. Toch bieden we dit archief nog graag aan als informatiedatabank en naslagwerk. Lees er hier meer over of start een gesprek met anderen.
E

EvilTwin

Legacy Member
f

falc.be

Legacy Member
Het had al lang verboden moeten zijn, maar de politiek neemt het niet serieus
S

Sooth Awful

Legacy Member
Gewoon een programmeerfout. De ontwikkeling van AI staat echt nog in z'n kinderschoenen, mensen moeten er nu echt nog geen schrik van hebben.
E

EvilTwin

Legacy Member
Ik zou wel eens willen weten in welke tijdspanne die AI zijn taal heeft ontwikkeld. Spreken we nu over weken, dagen, uren? Hoe snel kan AI denken en beslissingen nemen, zich verder ontwikkelen etc?
C

Cerulean

Legacy Member
Sooth Awful zei:
Gewoon een programmeerfout. De ontwikkeling van AI staat echt nog in z'n kinderschoenen, mensen moeten er nu echt nog geen schrik van hebben.
Klik om te vergroten...

Het gaat ook niet echt om "nu", niemand zegt dat huidige AI al echt een bedreiging kan vormen. Maar aan het tempo dat alle hi-tech verder ontwikkeld wordt, wees maar zeker dat zoiets binnen 10-20 jaar echt wel een reëel gevaar wordt. Wie dat ontkent is naïef, of kent er te weinig van.
Veel dingen klinken als science fiction, tot het plots deel uitmaakt van dagdagelijks gebruik. Onlangs iets op tv gezien, dat iedereen over 10 jaar met een chip in zijn hoofd zal rondlopen die een smartphone compleet overbodig zal maken. Daar kan lacherig over gedaan worden, maar het wordt wel allemaal realiteit.
A

Anoniem13

Legacy Member
Het werd stilgelegd omdat het onderzoek niet draaide om het ontwikkelen van een nieuwe taal.
U

Ullewupper

Legacy Member
falc.be zei:
Het had al lang verboden moeten zijn, maar de politiek neemt het niet serieus
Klik om te vergroten...

Verbieden is onmogelijk. Je kan de technologische vooruitgang niet tegenhouden.
S

Sooth Awful

Legacy Member
Cerulean zei:
Het gaat ook niet echt om "nu", niemand zegt dat huidige AI al echt een bedreiging kan vormen. Maar aan het tempo dat alle hi-tech verder ontwikkeld wordt, wees maar zeker dat zoiets binnen 10-20 jaar echt wel een reëel gevaar wordt. Wie dat ontkent is naïef, of kent er te weinig van.
Veel dingen klinken als science fiction, tot het plots deel uitmaakt van dagdagelijks gebruik. Onlangs iets op tv gezien, dat iedereen over 10 jaar met een chip in zijn hoofd zal rondlopen die een smartphone compleet overbodig zal maken. Daar kan lacherig over gedaan worden, maar het wordt wel allemaal realiteit.
Klik om te vergroten...

Van alles een paranoïde schrik krijgen is evenzeer naïef. Wat mij stoort aan de hele "muh ai is evil"-discussie is dat het ruikt naar een anti-vooruitgang sentiment.
En dat het een gevaar wordt, so what. We hebben de multiculturele samenleving ook aanvaard, mét de gevaren erbij, en (bijna) niemand die er toen wat van zei . :)
Blijven stilstaan is achteruitgaan.
O

Otani

Legacy Member
Onlangs een heel interessant boek gelezen hierover: Yuval Noah Harari - Homo Deus. Daar heel wat verhalen en voorbeelden in tegengekomen die aangeven dat AI wel degelijk heel actueel is en dat de overheid inderdaad hopeloos achter is. Het kan verschillende kanten uit gaan, van extreem de mensheid uitroeien tot gewoon een hulp zijn voor de mens zelf. Ook een stukje over smartphones, dat de huidige toestellen zoals ze zijn zullen verdwijnen en in andere vormen zullen komen. Oa Google Glass was een eerste (mislukte) poging.
C

Cerulean

Legacy Member
Sooth Awful zei:
Van alles een paranoïde schrik krijgen is evenzeer naïef. Wat mij stoort aan de hele "muh ai is evil"-discussie is dat het ruikt naar een anti-vooruitgang sentiment.
En dat het een gevaar wordt, so what. We hebben de multiculturele samenleving ook aanvaard, mét de gevaren erbij, en (bijna) niemand die er toen wat van zei . :)
Blijven stilstaan is achteruitgaan.
Klik om te vergroten...

Dat is een antwoord naast de kwestie van mijn bericht he :p Ik heb geen paranoïde schrik, en ik ben zeker niet tegen vooruitgang, in tegendeel. Maar hi tech houdt nu eenmaal gevaren in, het is gewoon een kwestie van er voorzichtig en verstandig mee om te gaan.
s

sandervdw

Legacy Member
EvilTwin zei:
Ik zou wel eens willen weten in welke tijdspanne die AI zijn taal heeft ontwikkeld. Spreken we nu over weken, dagen, uren? Hoe snel kan AI denken en beslissingen nemen, zich verder ontwikkelen etc?
Klik om te vergroten...

Realistisch lijkt me dat in een panne van seconden mogelijk. Daar zit normaal krachtige hardware achter die waarschijnlijk een paar miljoen "gesprekken" per seconde kan voeren.

paradijsappel zei:
Het werd stilgelegd omdat het onderzoek niet draaide om het ontwikkelen van een nieuwe taal.
Klik om te vergroten...

Dat is de reden dat het werd stilgelegd, echter toont het aan dat je wel moet oppassen met AI die onderling communiceert zonder supervisie. Neemt trouwens niet weg dat het mogelijk is dat "ik wil die bal" als iets compleet anders geïnterpreteerd zou kunnen worden in "AI-taal" waardoor deze ontdekking evengoed onzichtbaar had kunnen blijven maar wel even gevaarlijk had geweest.
E

EvilTwin

Legacy Member
sandervdw zei:
Realistisch lijkt me dat in een panne van seconden mogelijk. Daar zit normaal krachtige hardware achter die waarschijnlijk een paar miljoen "gesprekken" per seconde kan voeren.

.
Klik om te vergroten...

Dat is ook nog zoiets he. Het hangt dus ook af van de gebruikte processorkracht hoe snel het zich kan ontwikkelen. Zomaar de stekker uittrekken kan dus makkelijk "een eeuwigheid" te laat komen omdat het kwaad al geschied is (bvb dat het zich verspreidt via het internet).
A

Anoniem13

Legacy Member
sandervdw zei:
Dat is de reden dat het werd stilgelegd, echter toont het aan dat je wel moet oppassen met AI die onderling communiceert zonder supervisie. Neemt trouwens niet weg dat het mogelijk is dat "ik wil die bal" als iets compleet anders geïnterpreteerd zou kunnen worden in "AI-taal" waardoor deze ontdekking evengoed onzichtbaar had kunnen blijven maar wel even gevaarlijk had geweest.
Klik om te vergroten...
Je moet nu ook niet overdrijven. Een eigen taal ontwikkelen om efficiënter te communiceren is niet hetzelfde als robots gaan de wereld overnemen.
N

Nahrtent

Legacy Member
paradijsappel zei:
Je moet nu ook niet overdrijven. Een eigen taal ontwikkelen om efficiënter te communiceren is niet hetzelfde als robots gaan de wereld overnemen.
Klik om te vergroten...

Het punt is dat je dat op termijn niet kunt weten en dus ook niet in de hand kan houden.
A

Anoniem13

Legacy Member
Nahrtent zei:
Het punt is dat je dat op termijn niet kunt weten en dus ook niet in de hand kan houden.
Klik om te vergroten...
Er is geen bewustzijn. Ze worden getraind voor een specifieke taak. Daarbij ontwikkelen de bots een taal om dit proces te optimaliseren.
Waarop baseer je jouw bewering? De clickbaittitel van hln is niet bepaald een goede bron.
L

Lakigigar

Legacy Member
Aynix zei:
Verbieden is onmogelijk. Je kan de technologische vooruitgang niet tegenhouden.
Klik om te vergroten...

Je kan dat uiteindelijk wel doen. Je kan nee zeggen tegen (bepaalde vlakken) van technologie. We hoeven geen risico's te nemen op vlak van communicatietechnologie.
s

sandervdw

Legacy Member
paradijsappel zei:
Er is geen bewustzijn. Ze worden getraind voor een specifieke taak. Daarbij ontwikkelen de bots een taal om dit proces te optimaliseren.
Waarop baseer je jouw bewering? De clickbaittitel van hln is niet bepaald een goede bron.
Klik om te vergroten...
Het punt is dat deze AI niet getraind is voor de taak "ontwikkel een nieuwe taal" maar "voer handel". Het feit dat die taal ontwikkeld wordt als neveneffect, is hetgene dat nu van belang is. Stel bvb dat dit soort AI gebruikt wordt voor beurs-transacties (waarvoor ze gebouwd zijn). Omdat je niet kan achterhalen hoe ze onderling communiceren, je dus ook achterliggende logica niet kan achterhalen. En op die manier wil je écht je economie niet sturen.

Sent from my MotoG3 using Tapatalk
A

Anoniem13

Legacy Member
sandervdw zei:
Het punt is dat deze AI niet getraind is voor de taak "ontwikkel een nieuwe taal" maar "voer handel". Het feit dat die taal ontwikkeld wordt als neveneffect, is hetgene dat nu van belang is. Stel bvb dat dit soort AI gebruikt wordt voor beurs-transacties (waarvoor ze gebouwd zijn). Omdat je niet kan achterhalen hoe ze onderling communiceren, je dus ook achterliggende logica niet kan achterhalen. En op die manier wil je écht je economie niet sturen.

Sent from my MotoG3 using Tapatalk
Klik om te vergroten...
Dat heb ik toch gezegd? Het was niet van belang voor het onderzoek dus het bijeffect werd eruit gehaald. Jij beweert dat dit effect op zich gevaarlijk is. Wie weet heb je gelijk, maar ik vraag me af op basis van wat.
Ze zijn eerder gebouwd voor het onderhandelen op pakweg een rommelmarkt, niet echt voor beurstransacties. Het optimaliseren van de gebruikte communicatietaal is bij dit onderzoek zelfs een nadeel omdat het er voor zorgt dat de menselijke kopers en verkopers er niks van begrijpen.
E

Ebisoka

Legacy Member
No, Facebook Did Not Panic and Shut Down an AI Program That Was Getting Dangerously Smart

this is a relatively mundane phenomena which arises when you take two machine learning devices and let them learn off each other. It’s worth noting that when the bot’s shorthand is explained, the resulting conversation was both understandable and not nearly as creepy as it seemed before.
Klik om te vergroten...

Is gewoon Click bait BS voor de doorsnee HLN-lezer

Code is trouwens opensource alse ge uw eigen skynet wilt maken :lol:
https://github.com/facebookresearch/end-to-end-negotiator
Het archief is een bevroren moment uit een vorige versie van dit forum, met andere regels en andere bazen. Deze posts weerspiegelen op geen enkele manier onze huidige ideeën, waarden of wereldbeelden en zijn op sommige plaatsen gecensureerd wegens ontoelaatbaar. Veel zijn in een andere tijdsgeest gemaakt, al dan niet ironisch - zoals in het ironische subforum Off-Topic - en zouden op dit moment niet meer gepost (mogen) worden. Toch bieden we dit archief nog graag aan als informatiedatabank en naslagwerk. Lees er hier meer over of start een gesprek met anderen.
Terug
Bovenaan