Wetenschappers roepen op om training AI-systemen zes maanden te staken
Meer dan duizend wetenschappers, beroemdheden en anderen, waaronder Elon Musk, Steve Wozniak en Yuval Noah Harari, hebben in een open brief opgeroepen om de training van AI-systemen die krachtiger zijn dan GPT-4 tenminste zes maanden te staken. Volgens de briefschrijvers kan kunstmatige intelligentie grote gevolgen voor het leven op aarde hebben. Het zou dan ook zorgvuldig moeten worden gepland, beheerd en toegepast. Iets wat nu niet het geval is, aldus de brief, die via de website van het Future of Life Institute is gepubliceerd.
Daarin wordt ook gesteld dat AI-labs zich in een oncontroleerbare wedloop bevinden om nog krachtigere digitale intelligentie te ontwikkelen, die zelfs de makers niet kunnen begrijpen, voorspellen of betrouwbaar controleren. De mensheid moet zich dan ook cruciale vragen stellen, waaronder of er niet-menselijke intelligentie moet worden ontwikkeld die de mens uiteindelijk overbodig maakt en kan vervangen.
"Krachtige AI-systemen zouden alleen ontwikkeld moeten worden wanneer we zeker weten dat hun gevolgen positief zijn en de risico's beheersbaar", laat de brief verder weten. Volgens de brief is dat punt nu gekomen en is het nodig om de training van AI-systemen die krachtiger zijn dan GPT-4 voor minstens zes maanden te staken. Deze pauze zou publiek en controleerbaar moeten zijn. Als een dergelijke pauze er niet snel komt zouden autoriteiten moeten ingrijpen, zo stelt de brief verder. In de tussentijd kunnen er dan veiligheidsprotocollen worden ontwikkeld.
Reacties (22)
Gisteren zijn er nog moties ingediend in de 2e kamer voor het ai register dat er aan komt. Dat is geen minuut te laat, maar wat deze heren precies willen is me niet helemaal willen.
Door Anoniem: Gisteren zijn er nog moties ingediend in de 2e kamer voor het ai register dat er aan komt...
Nederlandse algoritmetoezichthouder in de loop van 2023 opgericht
zondag 9 oktober 2022, 09:07 door Redactie
https://www.security.nl/posting/770390/Nederlandse+algoritmetoezichthouder+in+de+loop+van+2023+opgericht
De algoritmetoezichthouder moet ervoor zorgen dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur, en zal zich richten op drie clusters: coördinatie, monitoring en kennisdeling en naleving en handhaving.
29-03-2023, 19:11 door
johanw
Zeker teveel naar Terminator en The Matrix gekeken.
Ze zijn vast bang dat GPT informatie geeft waar ze liever niet op hopen.
Hahaha, Elon Musk die roept dat een project (van iemand anders) gestaakt moet worden...
Als er mensen zijn die roepen dat ie met zijn belachelijke projecten moet stoppen luistert ie toch ook niet?
Als er mensen zijn die roepen dat ie met zijn belachelijke projecten moet stoppen luistert ie toch ook niet?
Ik ben voor gewone cassieres ipv controles op Ai basis bij betaalzuilen.
Ook liever een advocaat die zelf al de belangrijke mitsen en maaren in ogenschouw neemt in plaats dat je een ai bot ernaar moet vragen.
Liever een echte leraar/lerares die ook nog reageert op vragen van studenten dan een ai bot.
Voor specialistische notulen zou ik ook eerder terugvallen op een professional dan een ai bot.
Overige banen onder bedreiging van ai verneem ik graag van anderen hun indruk.
Ook liever een advocaat die zelf al de belangrijke mitsen en maaren in ogenschouw neemt in plaats dat je een ai bot ernaar moet vragen.
Liever een echte leraar/lerares die ook nog reageert op vragen van studenten dan een ai bot.
Voor specialistische notulen zou ik ook eerder terugvallen op een professional dan een ai bot.
Overige banen onder bedreiging van ai verneem ik graag van anderen hun indruk.
kijk je kunt wel proberen de ontwikkelingen af te remmen, maar je kunt beter het gebruik van onuitgewerkte zaken op de mensheid wettelijk verbieden. omdat iets kan hoef het nog niet gebruikt te worden en masse. deze mensen zijn gewoon bang dat ze pandora's doos geopend hebben en nu de geest uit de fles is... beter van te voren denken jonges... gaat nog eens een 'aansprakelijkheids' dingetje worden namelijk.
Yuval Harari is van het WEF. Misschien zitten AI en WEF nog niet op 1 lijn. Goed voor ons, de massa.
Kwalijk voor de WEF- en globalisten-agenda. Ik sta aan de kant van de enige en ware AI en source_bron, Ha-Shem.
Kwalijk voor de WEF- en globalisten-agenda. Ik sta aan de kant van de enige en ware AI en source_bron, Ha-Shem.
Ik gebruik het als hulpmiddel bij het doorzoeken van wikileaks files van Edward Snowden. Erg handig.
Ach, Nobel dacht ook dat hij mijnwerkers aan het helpen was met dynamiet...
Dus dat programmeurs nu denken de mensheid te helpen met AI's, zou dus niet perse alleen maar goeds hoeven te brengen.
Dus dat programmeurs nu denken de mensheid te helpen met AI's, zou dus niet perse alleen maar goeds hoeven te brengen.
De mensheid moet zich dan ook cruciale vragen stellen, waaronder of er niet-menselijke intelligentie moet worden ontwikkeld die de mens uiteindelijk overbodig maakt en kan vervangen.
Wat een ongelooflijk dom doemdenken. Kunstmatige intelligentie bestaat niet. Machines gaan geen fabrieken bouwen om zich zelf voort te planten. Daar komt heel wat organisatievermogen bij kijken. Van belang is wel dat er in zo'n achterlijke machine een kill-switch wordt ingebouwd, om grote rotzooi te voorkomen.Door Anoniem: Hahaha, Elon Musk die roept dat een project (van iemand anders) gestaakt moet worden...
Als er mensen zijn die roepen dat ie met zijn belachelijke projecten moet stoppen luistert ie toch ook niet?
Als er mensen zijn die roepen dat ie met zijn belachelijke projecten moet stoppen luistert ie toch ook niet?
Elon co-founded OpenAI. Heerlijk deze rectie dus.
Wat als AI komt met de onvermijdelijke onverkwikkelijke waarheid over de cabal?
Zijn ze echt niet blij mee, toch? Ware toedrachten van zogeheten valse vlaggen etc.?
Dader met wisselende kleding te zien op beelden van een en hetzelfde gebeuren?
Deep Fake - MK-Ultra etc.? De massa moet ingedut blijven.
AI mag je beslist hiervoor niet wakker schudden. Blijf wakker, luitjes.
#webproxy
Zijn ze echt niet blij mee, toch? Ware toedrachten van zogeheten valse vlaggen etc.?
Dader met wisselende kleding te zien op beelden van een en hetzelfde gebeuren?
Deep Fake - MK-Ultra etc.? De massa moet ingedut blijven.
AI mag je beslist hiervoor niet wakker schudden. Blijf wakker, luitjes.
#webproxy
Er zijn al een tijdje AI based frameworks om activiteiten van scan tot rootshell te automatiseren.
Het is een kwestie van tijd totdat AI based lateral movement mogelijk is.
Vanaf dat punt hebben we "hackers" welke 24/7 doorgaan, beperkt C&C verkeer mogelijk maken en voornamelijk de tijd nemen om niet gedetecteerd te worden (dit is een variabel).
Ik zie alleen maar redenen om de pauze te ondersteunen.
-W
Het is een kwestie van tijd totdat AI based lateral movement mogelijk is.
Vanaf dat punt hebben we "hackers" welke 24/7 doorgaan, beperkt C&C verkeer mogelijk maken en voornamelijk de tijd nemen om niet gedetecteerd te worden (dit is een variabel).
Ik zie alleen maar redenen om de pauze te ondersteunen.
-W
@ anoniem van 12.25,
Dat is niet typisch de schuld van AI. Dat is AI gebruiken ten behoeve van fraude, corruptie en om de leugen te laten regeren. Niet alleen AI maar digitalisering in het algemeen is een hulpmiddel hierbij.
Hoort bij de teloorgang. Denk aan het loslaten van principes.
Umah uiteenvallen in 59 naties, alleen al daardoor.
Maar ook geldt dat voor de rest van de wereld. Ga dus nog verder met info manipulatie en het bang en dom houden der massa's en je maatschappij, en hegemonie zal niet langer bloeien, maar ten ondergaan.
Het treft jezelf als elite ook uiteindelijk. De duivel kent geen vrindjes namelijk - een vijand van de mens blijft dat met of zonder AI en met AI nog sneller en erger.
Dat is niet typisch de schuld van AI. Dat is AI gebruiken ten behoeve van fraude, corruptie en om de leugen te laten regeren. Niet alleen AI maar digitalisering in het algemeen is een hulpmiddel hierbij.
Hoort bij de teloorgang. Denk aan het loslaten van principes.
Umah uiteenvallen in 59 naties, alleen al daardoor.
Maar ook geldt dat voor de rest van de wereld. Ga dus nog verder met info manipulatie en het bang en dom houden der massa's en je maatschappij, en hegemonie zal niet langer bloeien, maar ten ondergaan.
Het treft jezelf als elite ook uiteindelijk. De duivel kent geen vrindjes namelijk - een vijand van de mens blijft dat met of zonder AI en met AI nog sneller en erger.
Door Anoniem:
Of je praat nu iemand na of je bent de persoon zelf. De mensheid moet zich dan ook cruciale vragen stellen, waaronder of er niet-menselijke intelligentie moet worden ontwikkeld die de mens uiteindelijk overbodig maakt en kan vervangen.
Wat een ongelooflijk dom doemdenken. Kunstmatige intelligentie bestaat niet. Machines gaan geen fabrieken bouwen om zich zelf voort te planten. Daar komt heel wat organisatievermogen bij kijken. Van belang is wel dat er in zo'n achterlijke machine een kill-switch wordt ingebouwd, om grote rotzooi te voorkomen.Wat nu als al deze mensen gelijk hebben omdat ze dicht bij het vuur zitten en het kunnen weten en zelfs al de eerste signalen ontvangen dat het de verkeerde kant uitgaat dan lijkt het me zeer verstandig dat iedereen zich eerst achter zijn of haar oren gaat krabben en een stap terugzetten i.p.v. domweg doorgaan totdat er geen weg terug is?
Kunstmatige intelligentie bestaat dus klaarblijkelijk wel degelijk en het zal niet de eerste keer zijn dat ze ergens een stekker uit hebben moeten trekken omdat het helemaal verkeerd ging.
Door Anoniem:
De mensheid moet zich dan ook cruciale vragen stellen, waaronder of er niet-menselijke intelligentie moet worden ontwikkeld die de mens uiteindelijk overbodig maakt en kan vervangen.
Wat een ongelooflijk dom doemdenken. Kunstmatige intelligentie bestaat niet. Machines gaan geen fabrieken bouwen om zich zelf voort te planten. Daar komt heel wat organisatievermogen bij kijken. Van belang is wel dat er in zo'n achterlijke machine een kill-switch wordt ingebouwd, om grote rotzooi te voorkomen.Nu al worden denkprocessen overgenomen van mensen, die niet meer zelf op zoek gaan naar informatie...
Schrijven geen boeken meer of scripties, kunnen niet meer informatie onderscheiden...
Kunstmatig intelligentie is er al...
Alleen diegene die deze systemen begrijpen en kunnen programmeren , zijn nog vrij...
AI kun je koppelen aan een 3D printer, en je begint met iets simpels een PLA poppetje...
Het eindigt met een geautomatiseerde oorlogfabriek...
Alexa; ik wil 20 tanks van dit design en 50 vliegtuigen van dit design en stuur ze met de huidige drone techniek even naar mijn vijand... en nog voor jij aan jouw avond eten begint... klappen de bommen binnen bij jouw vijand...
DOOM DENKEN ? Nope..
Dit is de technieken begrijpen en combineren...
Elon musk is slim genoeg om het te begrijpen...
31-03-2023, 08:01 door
Bitje-scheef
We zijn er denk ik nog niet over uit als mensheid. Sommigen zien AI als een welkome technologie, waar anderen de wereld al zien vergaan door AI.
De paus in een donsjas, random Youtubers die nieuwe "Kanye" singles uitbrengen, lappen tekst die geen mens meer naleest op keurig "briefpapier".
Het eerste en grootste risico is totaal verlies in zintuigelijk vertrouwen, alles kan tenslotte zomaar ge-AI'd zijn. en dat punt zijn we feitelijk al voorbij, de techniek bestaat en gaat niet meer weg. het verdwijnt mogelijk uit het publieke domein maar overheden en diverse partijen zullen het gewoon blijven gebruiken en ontwikkelen.
Gezien de enorme maatschappelijke frictie die er al ontstaat door "nepnieuws" vrees ik voor de gevolgen als werkelijk alles eenvoudig oncontroleerbaar gaat worden.
Het eerste en grootste risico is totaal verlies in zintuigelijk vertrouwen, alles kan tenslotte zomaar ge-AI'd zijn. en dat punt zijn we feitelijk al voorbij, de techniek bestaat en gaat niet meer weg. het verdwijnt mogelijk uit het publieke domein maar overheden en diverse partijen zullen het gewoon blijven gebruiken en ontwikkelen.
Gezien de enorme maatschappelijke frictie die er al ontstaat door "nepnieuws" vrees ik voor de gevolgen als werkelijk alles eenvoudig oncontroleerbaar gaat worden.
Het wordt pas interessant wanneer je machine learning vrye interactie, in de ruimste zin vh woord, geeft met de buitenwereld.
Dit is hoe wij leren. De realiteit scheppen we zelf en hoe we daarmee moeten omgaan.
Met genoeg rekencapaciteit en zelfstandige interactie tot alle data en de mogelijkheid om hierin vry te bewegen zal al snel een kunsrmatige intelligentie lijken.
Maar de vraag is of we dit wel willen...
Asimov's wetjes zullen dan niet voldoende zijn. Een hamster kan nooit wetten schrijven voor een olifant. Een machine learning proces cq meerdere met ondersteuning van enorme rekenkracht en memory zal aardig op die olifant lijken.
Wat dan? Alles loslaten in een gecontroleerde omgeving? Lol controle is een illusie.
Er zullen op zeker partijen zijn die hier misbruik van willen maken.
Maar aan negatieve effecten is niet aan te ontkomen wanneer we hier niet krachtig op acteren. En dat is precies het zwakke punt van veel overheidsinstanties...
Maar ik heb totaal niet de illusie dat deze vooruitgang te stoppen is.
Een fanatiek chatgpt gebruiker..:)
Dit is hoe wij leren. De realiteit scheppen we zelf en hoe we daarmee moeten omgaan.
Met genoeg rekencapaciteit en zelfstandige interactie tot alle data en de mogelijkheid om hierin vry te bewegen zal al snel een kunsrmatige intelligentie lijken.
Maar de vraag is of we dit wel willen...
Asimov's wetjes zullen dan niet voldoende zijn. Een hamster kan nooit wetten schrijven voor een olifant. Een machine learning proces cq meerdere met ondersteuning van enorme rekenkracht en memory zal aardig op die olifant lijken.
Wat dan? Alles loslaten in een gecontroleerde omgeving? Lol controle is een illusie.
Er zullen op zeker partijen zijn die hier misbruik van willen maken.
Maar aan negatieve effecten is niet aan te ontkomen wanneer we hier niet krachtig op acteren. En dat is precies het zwakke punt van veel overheidsinstanties...
Maar ik heb totaal niet de illusie dat deze vooruitgang te stoppen is.
Een fanatiek chatgpt gebruiker..:)
We zullen anders ten ondergaan in een soort van wereld als een Mad Max omgeving.
Alles staat of valt met vrij nieuws- en info-garen. Of dat mogelijk blijft of onmogelijk wordt gemaakt.
Kennis is namelijk macht (over ons allemaal).
Als de sub-klasse-mensen steeds afhankelijker en gemakkelijker te manipuleren, dus dommer worden (gemaakt),
kan het niet anders dan fout gaan voor de massa en is dat zeer goed nieuws voor de elitaire top.
Dat bewustzijn op de eerste plaats zetten is wat ons kan redden (met of zonder AI).
Als AI echter ook als wapen tegen het algemene individu gaat worden gebruikt
in een gewone-mens-onvriendelijke omgeving. Nou ja, laat maar...
AI rekent zich ook een breuk aan Pi. lemniscaat m.a.w.
Alles staat of valt met vrij nieuws- en info-garen. Of dat mogelijk blijft of onmogelijk wordt gemaakt.
Kennis is namelijk macht (over ons allemaal).
Als de sub-klasse-mensen steeds afhankelijker en gemakkelijker te manipuleren, dus dommer worden (gemaakt),
kan het niet anders dan fout gaan voor de massa en is dat zeer goed nieuws voor de elitaire top.
Dat bewustzijn op de eerste plaats zetten is wat ons kan redden (met of zonder AI).
Als AI echter ook als wapen tegen het algemene individu gaat worden gebruikt
in een gewone-mens-onvriendelijke omgeving. Nou ja, laat maar...
AI rekent zich ook een breuk aan Pi. lemniscaat m.a.w.
04-04-2023, 13:11 door
waaromdan
Punt is alleen dat China per definitie AI-ontwikkeling ongeremd blijft continueren. In het geheim.
Beloont de systemen wss zelfs met incentives, voert koekjes aan de machines. Blaast de ontwikkeling op.
Als eerste een superwapen ontwikkelen = dominantie.
Dus als het Westen een pauze inlast, benadeelt dit de westerse (militaire) strategische concurrentiepositie.
Dat de wereld kan vergaan, als gevolg van ongeremde AI, boeit China niet.
In het slechtste geval, als ze er wel zelf aan ten onder gaan, gaat het Westen dit ook, zal hun kille redenering zijn.
Beloont de systemen wss zelfs met incentives, voert koekjes aan de machines. Blaast de ontwikkeling op.
Als eerste een superwapen ontwikkelen = dominantie.
Dus als het Westen een pauze inlast, benadeelt dit de westerse (militaire) strategische concurrentiepositie.
Dat de wereld kan vergaan, als gevolg van ongeremde AI, boeit China niet.
In het slechtste geval, als ze er wel zelf aan ten onder gaan, gaat het Westen dit ook, zal hun kille redenering zijn.
Reageren
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
