Nieuws
image

NSA komt met best practices voor uitrollen van veilige AI-systemen

dinsdag 16 april 2024, 10:57 door Redactie, 3 reacties

De Amerikaanse geheime dienst NSA heeft samen met de FBI en autoriteiten uit Australië, Canada, Nieuw-Zeeland en het Verenigd Koninkrijk een document met best practices gepubliceerd voor het uitrollen van veilige AI-systemen (pdf). Volgens de diensten kunnen aanvallers die het op AI-systemen hebben voorzien aanvalsvectoren gebruiken die uniek voor dergelijke systemen zijn, alsmede traditionele technieken.

"Vanwege het grote aantal aanvalsvectoren moet de verdediging divers en uitgebreid zijn", aldus het document. "Geavanceerde aanvallers combineren vaak meerdere aanvalsvectoren die meer complex zijn. Dergelijke combinaties kunnen een meerlaagse verdediging doorbreken." Organisaties worden dan ook door de diensten opgeroepen om een aantal best practices door te voeren.

Het gaat dan om zaken als het beveiligen en hardenen van de infrastructuur waarop het AI-systeem gaat draaien, het testen van het gebruikte AI-model, het kunnen uitvoeren van geautomatiseerde rollbacks, het niet meteen doorvoeren van AI-modellen in een zakelijke omgeving, het controleren op blootgestelde API's, het actief monitoren van hoe het AI-model zich gedraagt en het uitvoeren van audits en penetratietests. Tevens wordt aangeraden om voor AI-leveranciers te kiezen die een 'secure by design' aanpak toepassen en zich actief met de veiligheid van hun systeem bezighouden.

Image

Reacties (3)
Reageer met quote
16-04-2024, 11:50 door Anoniem
best practice uitrollen veilige AI systemen.. dat is een beetje als roepen 'best practice rollout animal friendly dog-beatings'...
per definitie zijn AI (er even van uit gaand dat het ECHTE AI is, en niet een logaritme met een grote mond, dan zijn ze per definitie niet te vertrouwen, immers, AI is gemaakt door mensen, mensen zijn niet te vertrouwen, en de input is begrenst tot de beperkingen die door diezelfde mens opgelegd worden... OCP all over again... ik hoor de antwoorden al van de AI... 'je hebt nooit gezegd dat ik de hele mensheid niet mocht uitroeien'... Geen geweten, is geen boundaries waarin de AI kan opereren. Als een kind met kernraketten laten spelen...

We konden in 2000 al niet voorkomen dat 'AI' niet discremineerde, omdat uitkering/steun trekken werd geassocieerd met een bepaalde bevolkingsgroep, en dat was op basis van BOEKEN in de bibliotheek... niet echt een stukje selectieve input waar de gemiddelde AI mee opgevoed wordt. Moet je nagaan wat er kan gebeuren als je AI koppelt aan defensie netwerken... Wargames, Skynet... niet meer geheel ondenkbaar op dat moment.
Draait er nog een AI op de linux kernel 4.1.15.1.1381_SKYN12nnmp ?
Reageer met quote
16-04-2024, 14:57 door Anoniem
Analoog en digitaal gaat de hele westerse wereld naar de gallemieze en men gaat The Borg 'borgen'. Wereldvreemd,
steeds meer taken goed van het padje af.
Reageer met quote
18-04-2024, 08:02 door Anoniem
Door Anoniem: Analoog en digitaal gaat de hele westerse wereld naar de gallemieze en men gaat The Borg 'borgen'. Wereldvreemd,
steeds meer taken goed van het padje af.

Of Weesie gaat voor schut met zijn 20jarige propagandaprogramma voor de Finnenpartij van Borg. Misbruik van recht heet dat. Het is bekend uit welk nest dat komt (en financiering daarvan)
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.

Zoeken
search