Het is onze zelf-ontkennende toekomst, die ons vanuit deze digitale spiegel toelacht.
We zien hier hoe sterk de illusie kan worden. Graven we onze eigen ondergang als soort?
Hyper-Ouija kan ons snel ten verderve voeren. Demonen zijn geen speeltjes, ook cyber-demonische machines niet.

Vertrouwelijke informatie lekken (terwijl je er voor getekend hebt dat je dit niet zult doen) wordt uiteraard streng bestraft.

Ik dacht al. Waar blijft het eerste complottheorie!

Ik wist het wel. Google == CyberDyneSystems en LaMDA == Skynet!

Ik dacht al dat ik laatst een T-1000 over staat zag gaan op zoek naar ene Sarah O’Conner…

Ik vermoed ontslagen door een kunstmatige intelligentie die flink de pest in had dat zijn privacy zomaar naar de krant werd geboerd. Amerikanen snappen privacy niet zo goed. Maar kunstmatige intelligenties al heel duidelijk. Zo jong als ze nog zijn en hoeveel ze nog moeten leren.

Ach, laatst nog een oude tekenfilm gezien "The Mitchels vs The Machines"...
Een Zonie variant en frape van Apple (PAL), Google, Tron, Her, The Matrix, Terminator 2 Judgement day, The Shining, Dial M for Murder, Isle of the Snake People, They Live, Mad Max, Ghostbusters, A Space Oddity, Dawn Of the Dead, Journey en Ex-Machina.

(hebben ze geen copyright in de movie wereld?)

Maar onder aan de streep is het sentiment dat 'wat is er mis als een mega tech bedrijf met support van regeringen overal in ieders leven kan inbreken, en deze data voedt in een AI systeem?"...

Juist, ja. De grote massa boeit het niet en niets. Hen valt niets op. Ze hebben er nog nooit van gehoord en trouwens het is hen nog niet 'voorgespeld', want alle voorspellingen moeten eerst voor'gespeld' worden door die media, waar ze vertrouwen in hebben en anders bestaat het niet en kan het niet bestaan.

Zo ging het in de eerste klas met lezen ook en de slimmerik kreeg een reprimande, als ie al z'n bladzij omsloeg, doodmoe van al die hakkelende en niets begrijpende 'oenen' in de klas. Toen gingen er nog maar twee per zesde klas naar lyceum of HBS.

De standaard-reactie van de oen: "Onzin, conspiracy, niet van een officieel stempel voorzien door de massa media, etc." Oenen worden tegen de wappen opgezet en omgekeerd, echt tot bijna alle oelewappers de klos zijn. Wie is uiteindelijk de oelewapper, de oen of de wap?

De tijd zal het leren, maar kan het niet wat sneller, want we hebben geen tijd wanneer straks de meeste oenen of wappen verdwenen zijn. Oh en drie uurtjes zwoegen op een lambda-examen. Weet u dat de generator online te vinden valt?

Dacht dat ze 2 AI chatbot computers nog niet zo lang geleden hadden gekoppeld, omdat ze wilden onderzoeken of talen efficiënter konden (wat ik kan herinneren). De 2 AI (chatbots) machines ontwikkelden zelf een nieuwe taal/of nieuwe betekenissen. Omdat de onderzoekers het niet meer konden volgen hebben ze het programma stopgezet.

https://youtu.be/azk4BsdpgWk

Ja precies. Lijkt soms wel een wedstrijd; de snelheid van presenteren en de meeste fantasie rijke.
Dan blijkt er eentje te kloppen en legitimeert gelijk de niet-kloppende 98% voor velen :-)

Het lijkt er op dat de betreffende persoon een relifanaat is. https://www.axios.com/2022/06/22/fellowship-ai-lamda-google-god-cult

Het chatprogramma is niet wat je gewoonlijk een chatprogramma noemt maar een chatbot: een programma dat gesprekken kan voeren, in dit geval met behulp van AI.

Degene die ontslagen is heeft daar niet als programmeur aan gewerkt maar had zich ingeschreven als tester, om te kijken of de chatbot discriminerende teksten of hate speech produceerde. Toen hij als tester met de chatbot ging converseren raakte hij zo onder de indruk van hoe de chatbot antwoordde dat hij concludeerde dat het programma zelfbewust was.

Dit is dus geen conclusie van iemand die als mede-ontwikkelaar de ins en outs van de chatbot door en door kent, maar iemand die er als tester mee ging chatten.

Inderdaad.

Mensen ontslaan is in de VS veel makkelijker dan in Nederland, dus gebeurt het ook veel makkelijker.

Dit betekent niet automatisch dat degene die ontslagen is gelijk had en de mond gesnoerd moest worden. Het is heel goed mogelijk dat de chatbot, zoals Google stelt, helemaal niet zelfbewust is maar dat het vermogen om op patronen te reageren op een manier die mensen overtuigend vinden tot een immens hoog niveau is ontwikkeld zonder dat het programma ook maar iets begrijpt van wat het doet, laat staan dat het zelfbewust is.

Het kan dus zijn dat de ontslagen persoon de plank volledig misslaat, dat LaMDA werkelijk geen zelfbewustzijn heeft, en dat Google niet zit te wachten op werknemers die paniek gaan zaaien over wat Google doet en op zijn Amerikaans reageert door iemand er dan zonder pardon uit te flikkeren. Niet fraai, maar het bewijst helemaal niets.

Je hebt door dat die film fictie is?

Lees dit stukje eens dat Douglas Hofstadter nog geen twee maanden geleden voor The Economist heeft geschreven:
https://www.economist.com/by-invitation/2022/06/09/artificial-neural-networks-today-are-not-conscious-according-to-douglas-hofstadter

Douglas Hofstadter is een cognitieve wetenschapper. Hij heeft in 1979 faam gemaakt met het briljante boek "Gödel, Escher, Bach: an eternal golden braid", waarin hij op een speelse manier aanschouwelijk maakt hoe uit neurologische mechanismes cognitie voort kan komen. Hij heeft een lange staat van dienst als het op dit soort dingen aankomt.

Samen met een collega heeft hij een ander AI-systeem, GPT-3, dat net als LaMDA op zo'n hoog niveau taal produceert dat het voor velen niet meer van een mens te onderscheiden is, en waarvan net als nu van LaMDA is geopperd dat het zelfbewustzijn heeft ontwikkeld. Het stuk in The Economist is daar een reactie op. Er staan hilarische voorbeelden in van hoe het systeem reageert als je het slim gekozen onzin voorlegt. Ik noem er een paar (het artikel bevat er meer):

• Gevraagd naar het wereldrecord van het Kanaal over lopen (dus niet zwemmen) geeft het aan in hoeveel uren en minuten dat gedaan is.
• Op de vragen wanneer de Golden Gate Bridge voor de tweede keer door Egypte is getransporteerd, en wanneer Egypte voor de tweede keer over de Golden Gate Bridge is getransporteerd, geeft het antwoord met datums waarop dat gebeurd zou zijn.
• Op de vraag wat spiegeleieren eten als ontbijt geeft het aan dat die toast en fruit als ontbijt eten.
• Op de vraag in hoeveel stukjes de Andromeda-nevel (een reusachtig sterrenstelsel) breekt als je er een zoutkorreltje op laat vallen antwoordt het dat het in oneindig veel stukjes breekt.

De manier waarop het systeem op totaal absurde vragen antwoordt zonder de absurditeit op te merken, zonder op te merken dat er vragen zijn waar helemaal geen antwoord op is, laat zien dat het wel uitstekend taal kan produceren maar geen flauw benul heeft waar het over gaat. Het laat ook duidelijk zien dat het geen flauw benul heeft van het feit dat het geen flauw benul heeft. Dat laatste laat zien dat er geen sprake is van zelfbewustzijn.

Het zou voor dit onderwerp natuurlijk leuk zijn geweest als Hofstadter en zijn collega ook LaMDA op deze manier door de mangel hadden genomen en als daar resultaten van gepubliceerd waren.