Naast al bestaande regulering is ook aanvullende regelgeving voor AI noodzakelijk, alsmede nauwere samenwerking met grote techbedrijven, zo adviseert de Cyber Security Raad (CSR) aan demissionair staatssecretaris Van Huffelen van Digitalisering. Volgens de CSR biedt generatieve AI kansen, maar neemt de technologie ook allerlei risico's met zich mee.
De CSR stelt dat AI-toepassingen het uitvoeren van cyberaanvallen vergemakkelijken, kan het cybercriminelen helpen om al bestaande modi operandi makkelijker, op grotere schaal en in hogere kwaliteit toe te passen, vergroot het gebruik van AI-tooling door organisaties het aanvalsoppervlak waardoor ook de risico´s op binnendringen, manipulatie en datalekken toenemen en brengt het grootschalig gebruik van AI-software ook algemene cybersecurity-risico’s met zich mee.
Om de risico's van AI tegen te gaan vraagt de CSR extra aandacht voor het aanbrengen van ´vangrails´. "Het gaat daarbij niet alleen om extra regulering, maar ook om blijvende aandacht voor het belang van menselijke beoordeling, duiding en (waar nodig) aanpassing van AI-output bij het nemen van zwaarwegende beslissingen of het uitvoeren van impactvolle acties, ook op het vlak van cybersecurity", zo laat de raad in een advies aan de staatssecretaris weten.
Daarnaast vindt de CSR dat technische maatregelen voor het inrichten van digitaal veilige omgevingen voor AI-toepassingen gestimuleerd moeten worden, in combinatie met sturing op de kwaliteit van AI-software zelf, onderliggende modellen en data. "Verder is naast al bestaande regulering ook aanvullende regelgeving noodzakelijk, zowel voor de veiligheid van AI-software zelf als voor software die met generatieve AI is gemaakt."
Als laatste adviseert de raad om de samenwerking met de grote technologiebedrijven te intensiveren, ook op Europees niveau. "Dit maakt het beter mogelijk om digitale AI-producten en -diensten veiliger te maken." De Cyber Security Raad is een adviesorgaan van het kabinet en bestaat uit vertegenwoordigers van publieke en private organisaties en de wetenschap.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.