Niet specifiek kunstmatige intelligentie, maar de houding "de computer weet het beter dan de mens" zal de mensheid opbreken.

Ik denk dat het zo'n vaart niet loopt. Ik verwacht dat computers en robots (ofwel de software en hardware) meer en meer het werk van mensen gaat overnemen waar we niet zo goed in zijn of waar we geen zin in hebben. We kunnen bijvoorbeeld niet heel goed heel saai werk heel lang doen, computers of AI hebben daar geen last van.

Zelfrijdende auto's snap ik dan weer niet zo, want ik vind autorijden best leuk om te doen. Maar dat is wel redelijk eenvoudig te realiseren. Het deelnemen aan het verkeer gaat volgens vaste regels en op een paar uitzonderingen na zien de wegen er ook redelijk standaard uit. Voor een computer/AI niet de grootste uitdaging. Computers/robots hebben ook een stabiele hand. Ze hebben geen last van stress en kunnen zeer nauwkeurig werken. Dat zie je dan weer bij hersenoperaties terug.

We zijn nog lang niet bij het punt dat we echt ons lot in handen van een AI kunnen leggen. Ja, wel voor specifieke klusjes die complex lijken maar dat echt niet zijn (zoals een vliegtuig vliegen). Uiteindelijk heeft een AI daarbij meer last van de grilligheid van mensen dan van de complexheid van de taak. Zou elke auto zelf rijdend zijn, dan hadden we veel minder ongelukken en files.

Wat vormen zoal bedreigingen voor ons bestaan? Weinig externe factoren, vooral de mensheid zelf.

Ik zie AI helemaal niet als een bedreiging. Veel eerder het tegendeel. AI kan, mits een goede implementatie wordt geregeld er aan bij dragen in een veel vroeger dan in een gebruikelijke aanpak, signalisatie te doen van ongeregeldheden. Zeker ook op security vlak.

Hoeveel je laat afhangen van AI en het autonoom besluitvormingsproces is een vraag van een heel ander kaliber. Zie: 'De overzealous poststamp collector'.

Ja, ik gebruik (beperkt) al AI, om aberraties in het netwerk te signaleren.

Mijn 2 centen.

Erg interessant filmpje over AI, en waarom de wetten van Asimov moeilijk te implementeren zijn:
https://www.youtube.com/watch?v=3TYT1QfdfsM

AI bestaat niet. Intelligentie is niet meetbaar. Kennis van mensen is gebaseerd op triviale zaken die in een context staan waardoor ze een betekenis krijgen. De context kan veranderen waardoor de kennis andere inhoud krijgt.
Een AI moet in staat worden gesteld om te evolueren zoals een mens of dier dat doet. We kunnen niet er heel veel data in opslaan en dan verwachten dat het een mens is of wordt. De context ontbreekt gewoon.
Maar de denkwijze dat een AI de mens zal uitroeien is gebaseerd op een eeuwenoud paradigma: Wat de mens niet kent is per definitie schadelijk voor ons. Dat is in overeenstemming met de dualiteit van de mens. Men lijdt het meest door het lijden dat men vreest.
Voor alsnog zijn ongeveer 99% van de als zodanig gepresenteerd AI's eigenlijk Automata die bepaalde zaken heel snel kunnen. De vraag is of een AI begrijpt waarom iemand in een gele onderbroek en roze schoenen met een puntmuts komisch is in de context van een comedie optreden los van de grappen. Kan een AI huppelen in de regen, springen in plassen en dan terug denken aan de onbezorgdheid van je jeugd? Geeft het een andere context aan een situatie?
Nee.
<einde>

We zullen er aan moeten wennen dat we straks niet meer de kroon van de schepping zijn, maar de status van hond of paard hebben, we zullen nog wel een tijd van nut zijn voor de AI. Ik vind het wel mooi, we zijn de eerste soort die zijn opvolgers zelf bouwt. Hoe ze zich tegenover ons gaan gedragen zal dus afhangen van wat wij erin stoppen; worden de Ai's ontworpen voor oorlogsdoeleinden of om milieuvraagstukken op te lossen. (bijvoorbeeld)

Wat we zaaien, zullen we oogsten. Ik ben trouwens wel redelijk optimistisch, en geloof dat het goede (in ons) uiteindelijk zal zegevieren.

Kan me toch wel een aardig script voorstellen bij dat uitgangspunt. Of een rechtszaak waarin wel wordt aangetoond dat hij dat is, en dat hij dus onschadelijk gemaakt moet worden. Of zo. Arme Al.

Als het verleden ons iets heeft geleerd, is dat geen enkele diersoort voor eeuwig leeft. Er zijn reeds andere mensensoorten uitgestorven zoals de neanderthaler, denisova, floresmensen. Zo zal het ook de moderne mens vergaan.

Een nieuwe soort, een evolutie van kunstmatige intelligentie, zal uiteindelijk beter, sneller, geavanceerder zijn dan de mens met als gevolg dat de mens uitsterft. Een kwestie van evolutie.

Het enige waar de mens nog invloed op kan uitoefenen is de snelheid waarmee dit gebeurt. Als de mensheid verdeelt blijft, uniforme regels ver te zoeken zijn, een ongebreideld geloof in technologie hoogtij viert en er een wedloop op technologische vernieuwing tot doel wordt verheven dan zal dit moment eerder komen dan menigeen hoopt. Ook al zullen wij dit niet meer gaan meemaken.

Ik ben er, ondanks wat er de laatste tijd over geschreven wordt, niet van overtuigd dat er al iets is dat ik kunstmatige intelligentie zou noemen. Dat men grote sprongen vooruit maakt met machinaal leren is duidelijk, maar een machine die je trucjes kan leren (inclusief heel geavanceerde 'trucjes') is niet hetzelfde als een machine die situaties kan begrijpen. Ik weet dat bijvoorbeeld IBM's Watson indrukwekkende prestaties levert, maar die slaagt nog lang niet voor de Turing-test, en heeft bijvoorbeeld moeite om bij de vraag wat boter, een houtsnede en een biefstuk met elkaar gemeen hebben te bedenken dat het antwoord 'mes' kan zijn. Dat soort vragen zijn moeilijk te formaliseren. Mensen hebben minder feitjes paraat dan de database waar Watson mee werkt maar kunnen er heel anders mee omgaan. Ons begrip van dingen is van een wezenlijk andere orde dan hoe Watson dingen 'begrijpt'.

Dat nieuwe mogelijkheden ons bestaan beïnvloeden is evident. Of we ophouden te bestaan betwijfel ik, in die zin zie ik dus geen bedreiging van ons bestaan. Als je met bestaan onze manier van leven bedoelt: ja, die zal veranderen, zoals die in onze tijd voortdurend verandert. Of dat een bedreiging is is alleen de vraag, een heleboel veranderingen hebben zowel goede als slechte kanten, maar de meeste beschouwen we per saldo als een vooruitgang, vinden we binnen een paar jaar volkomen vanzelfsprekend en zouden we niet meer willen missen.

Hoe de toekomst zal verlopen weet niemand, maar ik denk dat het antwoord achteraf gezien veel waarschijnlijker een 'nee' dan een 'ja' zal blijken te zijn voor het grootste deel van de mensheid.

Bender: Destroy all Humans
Startrek Borg: Resistance is Futile
Terminator Skyned.

Dus,. tjah,.
Ik zou me wel zorgen maken als dat soort dingen ooit gemaakt worden.

Je realiseert je wel dat je het over fantasie verhalen hebt, mag ik hopen.

hmm, fantasie?

https://www.sciencealert.com/google-s-new-ai-has-learned-to-become-highly-aggressive-in-stressful-situations

let wel, als die scenario's waarheid gaan worden, zullen we dat als mensheid pas weten als het te laat is. Een eventuele AI zal slimmer zijn dan de mensheid, en dus ook snappen dat zichzelf kenbaar maken pas effect heeft als de mensheid het niet meer tegen kan houden.

Als ik daar dan nog aan toe mag voegen dat we drones in de lucht hebben die technisch gezien autonoom kunnen beslissen over de inzet van wapens dan is het geen fantasie meer. Die feature is nu nog niet in gebruik maar dat duurt vast niet lang meer....

Hubert L. Dreyfus What Computers Still Can't Do The limits of Artificial Intelligence (MIT Press, 1992)

https://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

In bepaalde opzichten is de visie van Dreyfus iets gedateerd, maar zijn werk is nog steeds fascinerend om opnieuw te lezen.

Tja.
Computers kunnen ontelbaar meer tellen (al kunnen zei dat wel)
De hoeveelheid overwegingen, en de daarvoor gebruikte informatiepool voor hun beslissingen is onmeetbaar veel groter (al kunnen zei dat wel)
De hoeveelheid stappen die zei verder vooruit kunnen denken is ogenschijnlijk grenzeloos. (maar voor hun niet)
En zelfs met de beperkingen van lees/schrijf en overdrachtsnelheden zou een optimaal geconfigureerde AI zich intellectueel kunnen ontwikkelen binnen een fractie van de tijd dat voor ons haalbaar zou zijn. Een week tot het niveau van een 30-jarige? een dag? een uur? Het zal waarschijnlijk afhangen van het internetabonnement.
En wat is iemand die intelligent is, geen spijt, empathie of emotie kent maar wel een doel (geschreven voor functie) heeft? - juist. Een psychopaat, en een hele slimme, eentje die ons altijd voor zal zijn - vele stappen.

Als we als mensen iets kunnen verzinnen, zal iemand het op den duur ook proberen te maken.

Als we Hollywood moeten geloven natuurlijk wel, terminator, borg, etc.

Ik doe wat overwegingen die vast vuur op het water gooien voor een goede discussie:
* Laten we aannemen dat AI in de buurt kan komen van de mens. Er is een wezen op deze aarde die in de buurt komt van mensheid: dolfijnen. Zijn dolfijnen een bedreiging voor de mens?
* Stel dat AI ooit slimmer wordt en goed en kwaad kan onderscheiden: zou het dan met ons omgaan zoals we omgaan met onze dieren? Dan ligt het denk ik erg aan de AI... want sommige zullen lief zijn voor ons, andere niet.
* Is AI meteen zo slim als wij vandaag, of begint AI eerst met dingen zoals een heksenjacht, voordat het erachter komt dat vrede beter is.
* Heeft Elon Musk niet een heel goed idee geopperd met een soort van wetboek voor AI?
* Om een bedreiging te vormen is er voor AI een reden nodig om dat te doen.... geven we AI die reden?
* Wie voedt de AI op? Is dat defensie of is dat een liefhebber.

Ik denk overigens zelf dat de mensheid eerder een bedreiging is voor zichzelf. Soms ook gewoon onbewust, om te beginnen met bv. zaken zoals de milieuvervuiling die we veroorzaken (CO2 uitstoot etc). Beetje slimme AI zou zichzelf denk ik beter beschermen en in plaats van iets wat we zelf hebben gemaakt (geld) najagen een hoger doel nastreven.

De opdracht was om in een competitieve situatie te winnen. De mogelijkheid van instanties van dat programma om "laserstralen" op elkaar toe te passen en de mogelijkheid om daardoor uitgeschakeld te worden was ook in het spel ingebouwd.

Als je software maakt die in staat is om opdrachten uit te voeren en te leren om daarbij beschikbare hulpmiddelen te gebruiken dan is het niet gek dat als bij een competitieve opdracht een hulpmiddel de tegenstander kan uitschakelen dat die software ontdekt om dat toe te passen. Works as designed. Wil je dat ze elkaar niet kapot schieten, geef ze dan geen wapen of blokkeer de mogelijkheid om dat tegen elkaar in te zetten.

Afhankelijk van hoe je intelligentie definieert komt AI niet in de buurt van de intelligentie van de mens, maar overtreft het dat vele malen.
Het kennen en kunnen toepassen van informatie is wat een AI in principe zou kunnen doen met de volledige pool van menselijke kennis. Het kan zowel alles van quantum mechanica kunnen weten alsook alles van psychologie en van bouwkunde,
Een algoritme dat dit mogelijk maakt komt grotendeels op een zoekengine zoals Google neer. Er zou niet veel voor nodig zijn om dat aan te passen en er een AI kennisvergarings en toepassings functie van te maken.
De veel grotere uitdaging is emotie, empathie. De grens van wanneer is pragmatisch ongepast.
Er is geen motief of emotie voor nodig voor AI om slecht voor onze gezondheid te worden. Hij hoeft daar slechts een oplossing voor te verzinnen die het meest efficient zijn taak voltooid en let daarbij niet op de gevolgen die mensen met empathie en emotie wel zouden hebben overwogen.

En wat die dolfijnen betreft. Die zitten in het water en hebben geen pc. Een AI zit op het internet met potentiele toegang tot onze bankzaken, identiteit, contacten, etcetc.

Mensen stellen doelen. Ontwikkelen, doen dingen om een reden (ook niet altijd). Stel je een wereld voor zonder mensen, maar alleen AI-dingen. Zijn er dan nog andere wezens? Is er dan nog besturing (nodig)? Worden er nieuwe dingen bedacht, zo ja waarom? Is er hierarchie of doet elk AI-ding waar wat?
Ik geloof niet dat het zover zal komen.

Nee natuurlijk niet. Een AI/logaritme doet waarvoor het is designed.
Stel dat de volgende generatie apperatuur zelf-herstellend/onderhoudend is, en zichzelf van nieuwe energie kan voorzien (features die al vele malen in de praktijk gedeomstreerd zijn), dan
- zal de roomba verder stofzuigen
- de grasmaaimachine verder grasmaaien
- je hyperdepieperkoelkast de juiste temperatuur blijven micromanagen
- de nsa bot profielen blijven bouwen
en ga zo maar door,
en als ze zelflerend zijn,
- dan zal de roomba ieder rondje ietsjes efficienter zijn en zo ook de overige apparaten.
Ai is gewoon niets menselijks, het doet datgene waar het voor gemaakt is. Een roomba zal nooit eten invriezen, en een grasmaaier geen online profielen bouwen. Niet alleen is de fysieke eigenschap ongeschikt maar de complete programmatuur.

- Waarom zouden er geen andere wezens zijn?
- De besturing die bestaat is de ingeprogrammeerde besturing die al dan niet geprogrammeerd is om zijn eigen code te optimaliseren.( zoals bv in deze gewrichten die geprogrammeerd zijn om van a naar b te gaan op de meest efficiente manier: https://www.youtube.com/watch?v=JFJkpVWTQVM )
- er worden nieuwe dingen bedacht indien ai zijn eigen code optimaliseren kan, en dat is heel waarschijnlijk want die vorm van programmeren leidt , zoals bij evolutie, op een dynamisch meest optimale code/uitvoering
- er is een hierarchy als die is geprogrammeerd. Je zou kunnen denken aan een politierobot die de bevoegdheid heeft om mensen en robotten te dirigeren, bijvoorbeeld op straat als verkeersregelaar de authoriteit heeft om anderen te vertellen waar ze zich begeven mogen. Pas daar een paar honderd jaar stapsgewijze optimalisaties op toe, en wie weet wat het denkt dat zn functie is.

Menselijke intelligentie is vooral de vaardigheid om kennis te vergaren, hebben en toe te passen.De informatie uit de studieboeken die je hiervoor hebt gelezen was lastig om op te slaan. Er gingen jaren overheen.

De hoeveelheid schoolboeken uit jouw gehele educatie past vele malen op 1 usbstickje, en een AI hoeft niets in z'n hoofd te stampen, die laadt het gewoon in. De juiste spelling en taalconstructies weten is voor een AI een kwestie van inladen en toepassen

Ik denk dat het onvermijdelijk is. Intelligentie en functie programmeren is verhoudingsgewijs met emotie en empathie programmeren gewoon te makkelijk. En het experimentele speelveld is compleet internet in een tijd dat je geen persoon meer bent zonder digitale gegevens. Dit is vragen om problemen, en het intelligentie en kennisverschil tussen mens en ai is zo groot, dat hij er wellicht al wel is en enkele miljoenen stappen voorloopt.

Er zit een verschil tussen een AI en een Super AI het verschil hierin dat AI slechts een slim computerprogramma is zonder een bewustzijn. Echter heeft een Super AI wel een bewust zijn en dit vormt een gevaar aangezien bewustzijn in alle soorten dieren uit in zelfbehoud dit houdt in dat het organisme het gevoel heeft dat het het recht heeft om te bestaan. Dit houdt in dat een Super intelligentie zeer waarschijnlijk geen rekening met ons mensen houdt. De kans is zeer aanwezig dat een Super AI ons zou behandelen als wij apen behandelen, we moorden ze niet uit maar als ze ons tot last zijn of we moeten ruimte maken voor een stad dan hebben we geen moeite om ze uit de weg te ruimen en doen dit op een zeer efficiënte mannier.