AIVD: AI kan bestaande dreigingen voor nationale veiligheid versterken
AI kan bestaande dreigingen voor de nationale veiligheid waarschijnlijk versterken, zo stellen de AIVD, MIVD en NCTV in een nieuw rapport (pdf). Volgens de diensten is AI op zichzelf geen gevaar, maar biedt het kwaadwillende actoren de mogelijkheid om zaken die vroeger meer (technische) kennis, tijd en geld vereisten eenvoudiger, sneller, goedkoper en overtuigender te doen.
"Het kan dus leiden tot meer of beter uitgevoerde sabotage, desinformatie, hacks, radicalisering of diefstal. Grootmachten investeren in de ontwikkeling van AI vanwege de militaire, digitale en economische potentie van deze technologie. AI kan hierdoor bijdragen aan een verschuiving van de machtsbalans in de wereld", aldus de analyse van het effect van AI op de nationale veiligheid. De analyse beschrijft verschillende soorten 'AI' en hoe kwaadwillenden daar misbruik van kunnen maken.
Zo zouden cyberactoren Large language models (LLM’s) kunnen gebruiken om snel en automatisch interessante doelwitten te detecteren en informatie over mogelijke doelwitten te verzamelen. LLM's zouden cyberactoren ook kunnen helpen bij het opstellen van phishingmails en het uitvoeren van cyberaanvallen die ze technisch gezien niet zouden kunnen doen zonder de hulp van AI, zo stellen de diensten in het rapport.
Afsluitend concluderen de diensten dat AI een veelomvattende systeemtechnologie is die onze samenleving fundamenteel zal veranderen. "AI heeft de potentie om ons leven op veel manieren makkelijker te maken en kan helpen bij het oplossen van tal van maatschappelijke problemen. Tegelijkertijd heeft de ontwikkeling van AI ook bedoeld en onbedoeld invloed op onze nationale veiligheid. Zeer waarschijnlijk versterkt de ontwikkeling van AI de diverse bestaande dreigingen voor onze nationale veiligheid."
Voor de toekomst verwachten de AIVD, MIVD en NCTV dat AI-toepassingen die nu veel hoogwaardige expertise en veel (financiële) middelen vereisen, waarschijnlijk breder en laagdrempelig beschikbaar worden. Hierdoor zal het aantal partijen groeien dat van dergelijke AI-toepassingen misbruik kan maken. Daarnaast zullen AI-toepassingen waarschijnlijk steeds meer onderdeel worden van onze economie en maatschappij, wat nieuwe kwetsbaarheden introduceert die kwaadwillenden zullen proberen te misbruiken.
Minister van Weel van Justitie en Veiligheid laat weten dat de inzichten uit de analyse gebruikt zullen worden voor een eventuele koerswijziging van de Nederlandse Veiligheidsstrategie. "Hierbinnen kan, op basis van de beoordeling van ontwikkelingen in het dreigingsbeeld, de uitvoering van de actielijnen uit de Veiligheidsstrategie worden bijgesteld", aldus de bewindsman (pdf).
Het kan leiden tot valse beschuldigingen of "potentiele" terroristen aanwijzen... Een soort heksenjacht als het ware.
Als iemand hier over glijdende schalen begint heeft diegene groot gelijk.
snel! Laten we alles verbieden!
Een soort Skynet die gaat bepalen wie slecht is en wie niet.
Maarja, terroristen gebruiken het ook, dus we moeten ze voor zijn, als een soort wapenwetrace, toch...?
Een soort angst om achter te blijven, en computers te militariseren tegen het volk. /-:<
Als een politiestaat met AI die de verdenkingen gaat bepalen.
snel! Laten we alles verbieden!
snel! Laten we alles verbieden!
Hoe dan ook, de “boomers” hebben het gedaan en zijn de oorzaak en schuld van alles?
snel! Laten we alles verbieden!
Ten eerste hebben boomers nooit de controle gehad, de enige die controle hebben zijn de AIVD en de overheid, en dat is altijd al zo geweest, als AI in de boomertijd bestond was daar eveneens misbruik van gemaakt zoals men nu van plan is.
Of bedoeld u dat boomers wijzer zijn omdat ze meer levenservaring hebben dan jongeren en dat ze zijn opgegroeid in een nog enigszins vrije onbespioneerde samenleving en daar het geluk van hebben mogen proeven?
Ja, daar ben ik het mee eens, met iedere generatie is de massaspionage erger en staar steeds meer populatie onder potentiele verdenking.
U geeft in principe een nieuwe baseline aan.
"Changing privacy expectations, shifting baselines, and questioning what we want for the future"
https://youtu.be/aXhXkXcMXyM
Toekomstige generaties zullen steeds minder vrijheid kennen dan de voorgaande generaties, en iedere nieuwe generatie gaat dit normaliseren, een beetje zoals u dat doet.
Het nieuwe normaal.vmf9Gau
Wanneer een programmeur eenmaal een 'dingetje' doet, dan blijven ze die tick vaak houden.
Je kunt dan een AI trainen op het vinden van door NSA gemaakte backdoors in mainstream software.
Een backdoor in Cisco NX-OS zou je dan bijvoorbeeld kunnen terugvinden in Juniper JUNOS...
Programmeurs zijn lui en kunnen op deze manier van programmeren zichzelf verraden.. Beetje AI kan zo gehakt maken van claims van westerse 3-4 letter afkortingen dat het van APT-XYZ komt maar de software zware characteristieken heeft van programmeur XYZ van de NSA.
Of erger, dat NSA programmeur XYZ code heeft gekopieerd van APT-YXZ, of nog erger, dat NSA programmeur dezelfde soort code schrijft als APT-ZYX... of nog erger, APT-ZYY code komt ineens in NSA code voor, dus die werkt als dubbelspion, of is overgelopen.
Dus AI kan inderdaad kwaad..
snel! Laten we alles verbieden!
AI is leuk en aardig, maar wie wil dat nou in handen van een bureau dat doet aan massaspionage behalve een lid van de overheid en AIVD?
Ik ben zelf jong, maar ook ik vind het geen goed idee, maarja, ik ben dat ook dat "domme volkje"...
Zoals iemand al eerder aangaf speelt er een machocultuur bij de AIVD, en dat sijpelt overal doorheen als een bacteriële infectie in de samenleving, ze manipuleren zelfs de publieke opinie om hun ding er doorheen te krijgen.
Massaspionage is een vorm van terrorisme aangezien het angst en terreur sticht, moet u eens voorstellen wat voor effect het op de samenleving zal hebben als we gissende computers krijgen die gaan beoalen wie " slecht" is en wie niet.
Ik voel me nu al geterroriseerd door oa. de sleepwet en het feit dat men van plan is massaal onze privéberichtjes te lezen, ook dat is terreur.
Er komt een punt dat de AIVD zelf een terroristische organisatie is geworden zonder dat ze dat zelf doorhebben.
snel! Laten we alles verbieden!
Zodra we van de samenleving een oorlogsgebied maken hetzij het fysiek of via computers, dan zitten we tot onze schouders in de ellende.
Helaas wordt dat onderscheid steeds minder gemaakt.
Nieuwe tools zoals deze geven logischerwijs dan ook weinig hoop in een goede afloop, er wordt ongetwijfelt opnieuw misbruik van gemaakt door geheime diensten om het volk bij de massas bij voorbaat als verdachte aan te merken zoals met de sleepwet en CSS het geval is.
https://nl.wikipedia.org/wiki/Trias_politica
Zodra we van de samenleving een oorlogsgebied maken hetzij het fysiek of via computers, dan zitten we tot onze schouders in de ellende.
Helaas wordt dat onderscheid steeds minder gemaakt.
Het klinkt als een politiestaat waarin iedereen door algoritmes in de gaten wordt gehouden, een dystopisch geheel.
Deze tools blijven ongetwijfelt niet bij het navolgen van potentiele terroristen, dat heeft de AIVD al eens eerder bewezen met haar sleepwet, het wordt ongetwijfelt op grote schaal ingezet om het volk te volgen met behulp van deze algoritmes.
Niks kan tegenwoordig meer in proportie, alles moet maar als een visnet gesleept worden...
Er is een reden waarom de conventionele politie zich niet zo gedraagt, dat zou ingaan tegen de grondrechten van burgers, maar blijkbaar heeft de AIVD daar een vrijpas voor, ze bemoeien zich teveel met burgerzaken waardoor de lijn tussen criminelen en burgers vervaagd, en dat is nou hetgeen waar we erg mee moeten oppassen.
Voor het oplossen van maatschappelijke problemen is (politieke) wil nodig. Dat is echt wat anders dan Artifical of Natural Intelligence.
Het ontbreekt m.i. aan de wil om maatschappelijke problemen überhaupt op te willen lossen.
Beneden peil deze zielig-doenerij.
Wellicht een voorsorteren (d.m.v. stemmingmakerij) op nog meer bevoegdheden willen pakken?
snel! Laten we alles verbieden!
AI is leuk en aardig, maar wie wil dat nou in handen van een bureau dat doet aan massaspionage behalve een lid van de overheid en AIVD?
Ik ben zelf jong, maar ook ik vind het geen goed idee, maarja, ik ben dat ook dat "domme volkje"...
Zoals iemand al eerder aangaf speelt er een machocultuur bij de AIVD, en dat sijpelt overal doorheen als een bacteriële infectie in de samenleving, ze manipuleren zelfs de publieke opinie om hun ding er doorheen te krijgen.
Massaspionage is een vorm van terrorisme aangezien het angst en terreur sticht, moet u eens voorstellen wat voor effect het op de samenleving zal hebben als we gissende computers krijgen die gaan beoalen wie " slecht" is en wie niet.
Ik voel me nu al geterroriseerd door oa. de sleepwet en het feit dat men van plan is massaal onze privéberichtjes te lezen, ook dat is terreur.
Er komt een punt dat de AIVD zelf een terroristische organisatie is geworden zonder dat ze dat zelf doorhebben.
Maar goed dat wij het dan doorhebben.
Alleen: wat gaan we er tegen doen.
Verwachten dat Schoof wijzer en machtiger is dan al dat personeel en oud-personeel daar bij elkaar?
Wanneer een programmeur eenmaal een 'dingetje' doet, dan blijven ze die tick vaak houden.
Je kunt dan een AI trainen op het vinden van door NSA gemaakte backdoors in mainstream software.
Een backdoor in Cisco NX-OS zou je dan bijvoorbeeld kunnen terugvinden in Juniper JUNOS...
Programmeurs zijn lui en kunnen op deze manier van programmeren zichzelf verraden.. Beetje AI kan zo gehakt maken van claims van westerse 3-4 letter afkortingen dat het van APT-XYZ komt maar de software zware characteristieken heeft van programmeur XYZ van de NSA.
Of erger, dat NSA programmeur XYZ code heeft gekopieerd van APT-YXZ, of nog erger, dat NSA programmeur dezelfde soort code schrijft als APT-ZYX... of nog erger, APT-ZYY code komt ineens in NSA code voor, dus die werkt als dubbelspion, of is overgelopen.
Dus AI kan inderdaad kwaad..
Dat waren nog eens tijden: dat de NSA zelf gevonden kwetsbaarheden, aan zelfbedachte statelijke actoren mocht toeschrijven , terwijl NSA zelf die kwetsbaarheden had misbruikt, en NSA die kwetsbaarheden zelf had ingebouwd.
Maar als ik het stuk van de redactie lees, is er aan dat verhaal op zich niet heel veel veranderd.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Netwerk Security Engineer
Luchtverkeersleiding Nederland
Als Netwerk Security Engineer ontwerp en optimaliseer je onze technische netwerk- en beveiligingsinfrastructuur. Je stuurt tech-nische veranderingen aan op basis van de gestelde architectuur kaders en helpt mee met de uitvoering ervan. Ben jij een gedreven professional met passie voor netwerk-beveiliging? Dan is deze functie als Netwerk Security Engineer bij Luchtverkeersleiding Nederland (LVNL) iets voor jou!
Lead Network Security Engineer
Luchtverkeersleiding Nederland
Word Lead Network Security Engineer bij LVNL. Ontwerp en implementeer security-oplossingen die de luchtverkeersleidings-systemen veilig houden. Solliciteer nu en draag bij aan onze cyberweerbaarheid! Als Lead Network Security Engineer bij LVNL ben je verantwoordelijk voor het ontwerpen, implementeren en optimaliseren van de netwerkbeveiliging die cruciaal is voor de veilige en efficiënte werking van het luchtverkeersleidingssysteem in Nederland.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?