De Amerikaanse geheime dienst NSA heeft samen met de FBI en autoriteiten uit Australië, Canada, Nieuw-Zeeland en het Verenigd Koninkrijk een document met best practices gepubliceerd voor het uitrollen van veilige AI-systemen (pdf). Volgens de diensten kunnen aanvallers die het op AI-systemen hebben voorzien aanvalsvectoren gebruiken die uniek voor dergelijke systemen zijn, alsmede traditionele technieken.
"Vanwege het grote aantal aanvalsvectoren moet de verdediging divers en uitgebreid zijn", aldus het document. "Geavanceerde aanvallers combineren vaak meerdere aanvalsvectoren die meer complex zijn. Dergelijke combinaties kunnen een meerlaagse verdediging doorbreken." Organisaties worden dan ook door de diensten opgeroepen om een aantal best practices door te voeren.
Het gaat dan om zaken als het beveiligen en hardenen van de infrastructuur waarop het AI-systeem gaat draaien, het testen van het gebruikte AI-model, het kunnen uitvoeren van geautomatiseerde rollbacks, het niet meteen doorvoeren van AI-modellen in een zakelijke omgeving, het controleren op blootgestelde API's, het actief monitoren van hoe het AI-model zich gedraagt en het uitvoeren van audits en penetratietests. Tevens wordt aangeraden om voor AI-leveranciers te kiezen die een 'secure by design' aanpak toepassen en zich actief met de veiligheid van hun systeem bezighouden.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.