Stephen Hawking vreest militaire inzet kunstmatige intelligentie
Stephen Hawking, Elon Musk, Steve Wozniak en tal van andere vooraanstaande onderzoekers en wetenschappers hebben een open brief gepubliceerd en ondertekend waarin ze waarschuwen voor de militaire inzet van kunstmatige intelligentie. Volgens de experts heeft kunstmatige intelligentie een punt bereikt waarbij het inzetten van dit soort systemen binnen enkele jaren een realiteit is.
Als het gaat om de inzet van kunstmatige intelligentie door het leger worden zowel voor- als nadelen genoemd. Het vervangen van menselijke soldaten door robots zou het aantal menselijke slachtoffers kunnen verminderen, maar kan aan de andere kant de drempel om een oorlog te beginnen verlagen. De experts vrezen dat er een wereldwijde wedloop ontstaat in het ontwikkelen van kunstmatige intelligentie voor militaire doeleinden.
Zodra een militaire wereldmacht kunstmatige intelligente wapens gaat ontwikkelen zullen anderen volgen. Autonome wapens zullen daardoor de Kalasjnikovs van morgen worden, aldus de experts. In tegenstelling tot kernwapens zouden autonome wapens eenvoudig te produceren zijn en geen kostbare materialen vereisen. Het zou daarnaast slechts een kwestie van tijd zijn voordat ze in de handen van terroristen, dictators of krijgsheren terechtkomen.
Autonome wapens zijn volgens de experts ook ideaal voor het uitvoeren van aanslagen, het destabiliseren van landen, het onderdrukken van de bevolking en het selectief uitmoorden van ethnische groepen. Daarom is een militaire wedloop in kunstmatige intelligentie niet in het belang van de mensheid, zo waarschuwen ze. De experts sluiten de brief af door te stellen dat kunstmatige intelligentie grote potentie voor de mensheid heeft, maar dat dit niet op militair vlak is en er dan ook een verbod op autonome wapens moet komen.
regelen door een staatsbedrijf. Immers, nu is er geen manier meer om je te verdedigen tegen ongewenst gebruik van
het net. Een open brief doet daar immers weinig aan.
Dat probleem is er al: het afwezig zijn van source adres filtering (BCP38) zorgt voor wijds misbruik van het net, en er is
niks wat we er aan kunnen doen want de commerciele partijen die het netwerk exploiteren hebben er geen financieel
belang bij daar wat tegen te doen. Nu kunnen een paar puistenkoppen op hun zolderkamertje de boel plat leggen.
Had je een officieel gemanaged netwerk wat hooguit door commerciele partijen geimplementeerd wordt maar waar een
autoriteit bepaalt wat het beleid is, dan zou het simpel zijn om dat soort DDoS attacks te stoppen. En ook ander
misbruik van het internet wat bedoeld is om het leuk voor iedereen te maken, niet om iedereen de vrijheid te geven om
de boel te verzieken.
Als deze autonome wapens dan ook maar met een kill-switch zijn uitgevoerd. Ook dat deze autonome wapens geen atoom wapens of van die prut kunnen dragen is het al beter.
Dus tja.. wat denk je zelf?
Dus tja.. wat denk je zelf?
Ik zie liever geen oorlogsgebieden.
Peter
Dus tja.. wat denk je zelf?
Dat gaat ervan uit dat je de oorlogsgebieden en de gebieden waarin de ouders/kiezers wonen, van elkaar gescheiden houden kunt. Ervan uitgaand dat je niet het monopolie op autonome bots/drones bezit maar dat de potentiële vijanden ze ook hebben, is die scheiding een stuk moeilijker te handhaven dan zonder dit soort wapens.
Het is veel gemakkelijker om een legertje drones te bouwen en een land binnen te smokkelen dan met een menselijk leger plus materieel een invasie te plegen (vooral in de VS en Rusland). Als je dergeijke wapens bouwt betekent dat op strategisch niveau dat je een nieuw soort wapens geïntroduceerd hebt dat -net als kernwapens- praktisch onmogelijk te stoppen is, zodat je tegenstanders wel moeten reageren door zelf ook dergelijke wapens te bouwen als tegendreiging.
Er ontstaat dan een wapenwedloop om de meest geavanceerde, dodelijke, strategisch begaafde en tactisch sluwe kunstmatige intelligenties te ontwikkelen en die in tevens steeds geavanceerdere wapens te installeren, hetgeen op zich al mogelijk catastrofale gevolgen hebben kan. Omdat dergelijke technologie veel goedkoper en veel moeilijker te reguleren is dan kernwapentechnologie, zal iedere mogendheid het zich kunnen veroorloven om aan die wapenwedloop mee te doen, evenals politieke groeperingen, commerciële bedrijven en zelfs vermogende individuen.
Ik denk dat we dat wel mee gaan maken en ook dat dit niet lang meer gaat duren. N.B.: een volledig autonoom wapen hoeft niet zelfbewust te zijn om goed te kunnen functioneren binnen een bepaalde context. Vergelijk het met de zelfrijdende auto die nu al rondrijdt. De stap naar een autonoom wapen is niet eens zo groot, als je erover nadenkt.
Ik denk dat we dat wel mee gaan maken en ook dat dit niet lang meer gaat duren. N.B.: een volledig autonoom wapen hoeft niet zelfbewust te zijn om goed te kunnen functioneren binnen een bepaalde context. Vergelijk het met de zelfrijdende auto die nu al rondrijdt. De stap naar een autonoom wapen is niet eens zo groot, als je erover nadenkt.
De hedendaagse moderne wapens draaien voor 99% op computers en geavanceerde algoritmen. De tijd dat een kanon met de hand werd afgesteld, geladen en met een aangestoken lont wordt afgeschoten is voorbij. Een marineschip heeft een automatisch luchtverdedigingssysteem wat enkel aan of uit hoeft worden gezet. Een drone klinkt heel geavanceerd, maar de ouderwetse F16 is al een vliegende computer. Zonder systemen kan geen piloot dat ding in de lucht houden, laat staan ook nog eens handmatig een raket afschieten.
Het enige wat verschilt met die zogenaamde autonome wapens is dat er steeds minder menselijk handelen bij komt. Het wordt aan gezet en zoekt verder zelf uit wat het moet doen, nog steeds aan de hand van geavanceerde algoritmen. Een volledig autonoom wapen bestaat nog lang niet, want er moet altijd context zijn. Die context verzint het wapen zelf niet maar wordt ingegeven door programmeurs (bijvoorbeeld)
Ik vind het nog steeds klinken als een slechte film.
Dus tja.. wat denk je zelf?
Ik zie liever geen oorlogsgebieden.
Peter
Een romantische gedachte, echter zolang zij die daar lak aan hebben er zijn, zal je toch een krijgsmacht nodig hebben.
Een volledig autonoom wapen is mijns inziens niet meer ver weg en een volledig autonome auto is er eigenlijk al (hoe wil je anders een zelfrijdende auto noemen?). Autonoom betekent in deze discussie dat het niet direct aangestuurd hoeft te worden. Zelfbewustzijn is daarvoor niet meteen nodig.
Context is er altijd. Wanneer ik jou neerzet in een land waar je de taal niet spreekt dan ben je nog steeds autonoom (maar je functioneert niet echt meer).
Recente vorderingen op het vlak van analoge computers (zoals neurale netwerken) en deep learning algorithmen hebben al veel mogelijk gemaakt en gaan nog voor grote verrassingen zorgen (denk en vrees ik).
De AI moet in ieder geval over situatiebewustzijn ("situational awareness") beschikken om zelfstandig te kunnen ageren, hij moet zijn omgeving en de objecten daarin niet alleen kunnen herkennen maar ook hun intenties begrijpen. Op het slagveld moet de AI niet alleen vriendelijke, vijandige en neutrale agenten identificeren, maar om tactisch te kunnen handelen moet de AI zich ook een beeld kunnen vormen van wat die (vijandige) agenten van plan zijn zodat hij daarop kan anticiperen.
Als een AI in staat is om zelfstandig andere intelligente agenten op het slagveld te identificeren en een intern model van hun handelen/intenties te vormen, dan is de stap naar "in de spiegel kijken" en zichzelf als een bewustzijn te (her)kennen en te modelleren, nog maar heel klein.
maar ach, het militair doet toch wat het wil
en dan,.
dan wordt er een adolfje gedaan.
das habben wir nicht gewust.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
