image

Cyber Security Raad: aanvullende AI-regelgeving noodzakelijk

vrijdag 22 december 2023, 10:23 door Redactie, 9 reacties

Naast al bestaande regulering is ook aanvullende regelgeving voor AI noodzakelijk, alsmede nauwere samenwerking met grote techbedrijven, zo adviseert de Cyber Security Raad (CSR) aan demissionair staatssecretaris Van Huffelen van Digitalisering. Volgens de CSR biedt generatieve AI kansen, maar neemt de technologie ook allerlei risico's met zich mee.

De CSR stelt dat AI-toepassingen het uitvoeren van cyberaanvallen vergemakkelijken, kan het cybercriminelen helpen om al bestaande modi operandi makkelijker, op grotere schaal en in hogere kwaliteit toe te passen, vergroot het gebruik van AI-tooling door organisaties het aanvalsoppervlak waardoor ook de risico´s op binnendringen, manipulatie en datalekken toenemen en brengt het grootschalig gebruik van AI-software ook algemene cybersecurity-risico’s met zich mee.

Om de risico's van AI tegen te gaan vraagt de CSR extra aandacht voor het aanbrengen van ´vangrails´. "Het gaat daarbij niet alleen om extra regulering, maar ook om blijvende aandacht voor het belang van menselijke beoordeling, duiding en (waar nodig) aanpassing van AI-output bij het nemen van zwaarwegende beslissingen of het uitvoeren van impactvolle acties, ook op het vlak van cybersecurity", zo laat de raad in een advies aan de staatssecretaris weten.

Daarnaast vindt de CSR dat technische maatregelen voor het inrichten van digitaal veilige omgevingen voor AI-toepassingen gestimuleerd moeten worden, in combinatie met sturing op de kwaliteit van AI-software zelf, onderliggende modellen en data. "Verder is naast al bestaande regulering ook aanvullende regelgeving noodzakelijk, zowel voor de veiligheid van AI-software zelf als voor software die met generatieve AI is gemaakt."

Als laatste adviseert de raad om de samenwerking met de grote technologiebedrijven te intensiveren, ook op Europees niveau. "Dit maakt het beter mogelijk om digitale AI-producten en -diensten veiliger te maken." De Cyber Security Raad is een adviesorgaan van het kabinet en bestaat uit vertegenwoordigers van publieke en private organisaties en de wetenschap.

Reacties (9)
22-12-2023, 12:27 door Anoniem
Nog een reden om de EU digi-verificatie bij inloggen in te voeren.
2FA. Of het helpt tegen cybercrime, zonder de overtreders fysiek in de kraag te kunnen vatten, is de vraag.

Zie het somber in. Een AI met een politie-pet misschien?
23-12-2023, 00:51 door Maarten Bodlaender
Het goede nieuws is dat je voor een echt goede AI een flinke server farm nodig hebt die veel stroom trekt - moeilijk te verbergen. Dus met de juiste regels zal handhaven goed te doen moeten zijn?
23-12-2023, 01:33 door Anoniem
ChatGPT: Aanvullende overheid-regelgeving noodzakelijk.
23-12-2023, 08:08 door Anoniem
Deze wetgeving zal helaas niet in Noord-Korea, Rusland of bijv China van stoepassing zijn.
23-12-2023, 11:19 door Anoniem
De onnutte bankhanger zal er niet mee geholpen zijn.

Deze figuren zitten vooral de elite in de weg, naar we steeds vernemen.
23-12-2023, 12:31 door Anoniem
Wat moet ik concluderen uit de volgende discussie met AI?

AI:Hello human,

You:
Is the word "gait" of Scottish origin?
AI:The word "gait" is not of Scottish origin. It originated from Middle English and has roots in Old Norse and Old English. It refers to a person's manner of walking or running.

You:
Modern spelling developed before 1750, originally in Scottish. Related: Gaited.
AI:Apologies for the incorrect information provided earlier. You are correct. The word "gait" did develop its modern spelling before 1750, originally in Scottish. It is related to the term "gaited," which refers to an animal with a particular manner of walking or running. Thank you for pointing out the error.

Als je niet zou weten waarover je praat, kun je dus gemakkelijk op het verkeerde been gezet worden door AI.

AI is dus manipuleerbaar en kan als zodanig door machthebbers/developers worden gebruikt.
Bron: https://www.etymonline.com/word/gait

Het doel of een van de doelen zou dan kunnen zijn het beheersen van het discours?
Dommen met dommere info voeden, bij intelligentere mensen een excuus verzinnen,
zodat de basale initial output niet opvalt.

Wederom is de vraag, ook bij AI,: "Quis custodiet ipsos custodes?".

Ik twijfel tegenwoordig aan vele digitale items,

luntrus
23-12-2023, 18:28 door Anoniem
Alles wat niet past in de algemeen aanvaarde gecheckte weergave van de waarheid,
berust op fringe theories, volgens AI.
23-12-2023, 20:39 door Anoniem
Wat is jullie ervaring met AI zoeken via you.com?
24-12-2023, 14:33 door Anoniem
Gaat men ook wat doen aan de intense (ad-)tracking op chatbot websites bijvoorbeeld?

Je bent er niet alleen maar met algoritme-bewaking?

Ik wil een anonieme conversatie met AI chatbot.
Hoe doe ik dat tegen Big Tech meta data slurpe/profilering in?

Ook dit laten we er op los: https://smodin.io/nl/ai-inhoudsdetector

Zie ook: [url[ https://reports.exodus-privacy.eu.org/en/ [/url]
Afschrikwekkend voorbeeldje:
ChatAI: AI Chatbot
13 trackers
18 permissions

Nou, nou, daar gaan je met je zijen kousen en meta-data vliegen het scherm uit....
AI wordt een surveillance en controle-gereedschap voor het Ministerie van Waarheid.
Langzaam, dat wel, maar zeker en vast.

Overheid en Big Corp zijn niet onze vrindjes.

#laufer
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.