Generatieve AI vereist een nieuwe benadering van cybersecurity, zo stellen de Algemene Inlichtingen- en Veiligheidsdienst (AIVD) en de Rijksinspectie Digitale Infrastructuur (RDI) in een gezamenlijke publicatie. In de publicatie laten beide organisaties weten dat AI een transformatieve impact zal hebben op het gebied van cybersecurity. "Deze impact is dusdanig anders van aard dat een nieuwe cybersecuritybenadering nodig is om deze impact het hoofd te bieden."

Generatieve AI heeft specifieke eigenschappen dat het doet verschillen van andere cybersecurityuitdagingen, aldus de AIVD en RDI. Het gaat dan om de complexiteit en snelheid waarmee dreigingen worden aangedreven, buitengewone personalisatie voor op maat gemaakte aanvallen, schaalbaarheid om aanvallen op grotere schaal uit te voeren en autonomie, waardoor minder menselijke tussenkomst nodig is.

Volgens beide organisaties zal de mate waarin generatieve AI in staat is om een opdracht of taak uit te splitsen in subtaken en de mate waarin generatieve AI in staat is om binnen één systeem verschillende taken uit te voeren, de kans vergroten dat generatieve AI 'onverwachte en ongewenste gedragingen' vertoont. "In het licht van deze analyse is het duidelijk dat de komst van generatieve AI aanzienlijke uitdagingen met zich meebrengt", waarschuwen de AIVD en RDI, die toevoegen dat organisaties voorbereid moeten zijn op nieuwe soorten uitdagingen en dreigingen.

Om de uitdagingen en kansen rond AI nader te duiden hebben beide organisatie het 'AI Cybersecurity Kwadrant' geïntroduceerd. Het kwadrant bestaat uit twee assen. De bovenste vlakken hebben betrekking op de offensieve aspecten van generatieve AI, de dreigingen. De onderste as heeft betrekking op het verdedigen van AI-systemen en het gebruik van AI voor het verdedigen van systemen tegen cyberaanvallen. Daarnaast zullen er ook factsheets worden gepubliceerd waarin gedetailleerd wordt ingegaan op de uitdagingen en risico’s van generatieve AI.