Bits of Freedom vreest dat AI-wet deur openzet voor meer massasurveillance
Digitale burgerrechtenbeweging Bits of Freedom vreest dat de Europese AI-wet de deur openzet voor nog meer massasurveillance door de overheid. Dat laat de organisatie weten in een reactie op het vorige week gesloten voorlopige akkoord. De Europese burgerrechtenbeweging EDRi deelt dezelfde zorgen. Eerder stelde ook mensenrechtenorganisatie Amnesty International dat de verordening groen licht geeft voor 'dystopische digitale surveillance' in de Europese Unie.
De Artificial Intelligence Act stelt regels aan het gebruik van kunstmatige intelligentie. Eén van de onderdelen betreft het gebruik van live gezichtsherkenning door justitie. Het Europees Parlement had zich in eerste instantie nog uitgesproken voor een volledig verbod op biometrische identificatie, zonder enige uitzonderingen. De EU-lidstaten wilden echter dat justitie de technologie wel kan inzetten. Over dit onderdeel werd dan ook lang onderhandeld. "Even leek het er op dat dit verbod zo breed uitgezonderd zou worden, dat we nog maar amper van een verbod konden spreken", aldus Bits of Freedom.
Het eindresultaat is dat justitie real-time gezichtsherkenning toch mag inzetten op basis van verschillende uitzonderingen. Het gaat dan om het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.
"Het is teleurstellend dat er geen algeheel verbod op biometrische identificatie is aangenomen. We vrezen dat dit de deur open zet voor nog meer discriminatie en massasurveillance door de overheid", zegt Nadia Benaissa, beleidsadviseur van Bits of Freedom. Ook eDRI stelt dat de aangenomen verordening een pad creëert dat leidt tot het gebruik van AI-systemen voor massasurveillance.
"We hebben de Europese organen en Nederlandse bewindspersonen opgeroepen niet te zwichten voor de Big Tech lobby. Ook deze week hebben we nog opgeroepen onze rechten niet in te ruilen voor een ‘deal’. Belangrijk, zeker ook binnen de Nederlandse context. Van discriminerende fraudeopsporingsalgoritmen door gemeenten en DUO tot het racistisch inzetten van AI voor visumaanvragen. Nederland kent vele slechte voorbeelden, met als dieptepunt: de toeslagenaffaire. Deze AI-verordening is dus hard nodig", merkt Bits of Freedom op.
"Het beschermen van fundamentele rechten was één van de belangrijkste doelen van de wet. Wij houden nog een slag om de arm en wachten de definitieve tekst in spanning af", gaat Benaissa verder. Ella Jakubowska, beleidsadviseur van eDRI, stelt dat het lastig is om blij te zijn met een wet die voor het eerst stappen heeft gezet om live gezichtsherkenning in de hele EU te legaliseren en spreekt van een schim van de wet die Europa echt nodig heeft.
Hebt U daar dan gegevens van?
Of is het alleen maar ( een niet onderbouwde) mening?
M.a.w., we hebben een wet die de burger moet beschermen, maar er zijn zoveeeeel uitzonderingen op die bescherming, dat er geen bescherming meer is...
Een beetje als 'je mag iemand niet slaan, opsluiten of martelen, behalve als die een post doet op internet, adem haalt in een omgeving met meer dan 40% stikstof en meer dan 5% zuurstof, wanneer die wel of geen haar heeft"...
Goede wet dan.. Maar je kunt in ieder geval zeggen dat je een wet hebt gemaakt die als DOEL heeft om de burgers te beschermen tegen skynet... we hebben nog tot 2029 de tijd...
Daar is de politie permanent naar op zoek in het kader van hun huidige taken, dus dat zou wel heel makkelijk zijn om alles daar aan vast te hangen en permanent massasurveillance toe te passen. Ook is er altijd wel een terroristische dreiging (de dreiging bij de NL'se kazernes geeft tenslotte momenteel een "hoogste paraatheid aan), dus ik vrees het ergste...
Stel dat je een service of product maakt dat ook malafide ingezet kan worden, dan heb je gelijk de handleiding geleverd over hoe zo'n product gemaakt moet worden.
Straks is de wereld er eentje vol met monitoren en cameras die elke stap van de burger volgen onder zware surveillance en wantrouwen... Oh wacht, dat is ze al.
Vraag me af hoe men ooit de jaren '80 en eerder overleefd hebben als het " zo'n gevaarlijke wereld was" zonder deze totale massacontrole.
We gaan leven in een grote gepropagandeerde leugen.
Wat als er een grotere en langduriger onderbreking komt van Internet,
dan verstomt het geluid van andersdenkenden
en betekent dat gelijk het eind van de vrije meningsuiting.
Helpt AI daarbij? Dat is aan de inrichters ervan.
Collaboreren deze met de overal inmiddels heersende corporatocatie?
De grote corporaties bepalen het beleid, ook voor de staten binnen de EU.
Zij bepalen ook overal het curriculum. Zij zijn de grote verbortgen hand achter de politiek.
Assange wordt als voorbeeld gesteld, wat je beslist niet moet doen - klokkenluiden als journalist.
De mens leert uiteindelijk niets van haar geschiedenis
en is geneigd die steeds opnieuw in een of andere vorm te herhalen.
Zie waarin het jaar 1923 leek op het jaar nu.
Weer een scheet in een netje. Niet begrepen dat zelden met vrucht van succes gericht gevraagd kan worden om achtergehouden/geheimgehouden informatie.
Op een dag komen ze hier kijken hoe het moet, nu is het nog andersom.
Er zitten in de politiek sowieso al genoeg mensen die een klein beetje opgewonden worden van het Chinese model.
Ze maken daar ook geen geheim van. Onze eigen timmerfrans is daar een mooi voorbeeld van.
Betekent dit dat je tegen de WOO bent? (openheid van de overheid is onwenselijk?)
Of tegen sleepnetten? (bv die van de overheid diensten zelf?)
Op naar de volgende wapenwedloop.
Zo maar voor de lol:
De misbruikte AI-gezichtsherkenning technologie van Interpol in "Detective Conan: The Black Iron Submarine".
(Voor als iemand een keer een verloren momentje heeft samen met zijn/haar kinderen)
Met dank aan 20+ jaar VVD op Justitie.
Ik weet niet welke "Vrijheid" de VVDers nog voorstaan, maar de rechtsstaat verdedigen ze al lang niet meer.
Een en al ondermijning.
Kunnen die er ook al later niet meer op aangesproken worden,
want zij hebben het immers niet kunnen gebruiken.
Verder gebeurt er erg veel aan de andere kant van uw schermpje,
waar u geen weet van heeft of men aanneemt dat u het niet vermoedt.
Your input text is not being processed since it etc. etc.
Het vertrouwen in grote corporaties en overheden bij velen slinkt geweldig.
#laufer
Hebt U daar dan gegevens van?
Of is het alleen maar ( een niet onderbouwde) mening?
Je kunt de uitspraken in zaken volgen, De disproportionaliteit komt daar regelmatig naar boven.
Opmerkingen van een rechter dat benodigde capaciteit geen reden zou mogen zijn slaat hard terug nar de rechtspraak die veel zaken niet afhandelt wegens gebrek aan capaciteit.
Betekent dit dat je tegen de WOO bent? (openheid van de overheid is onwenselijk?)
Of tegen sleepnetten? (bv die van de overheid diensten zelf?)
Ik ben tegen sleepnetten waarbij elk mogelijk gesprek ook in de prive sfeer onder de WOO als document valt.
Het zou kunnen zijn dat iets in een voorgespreken in vele opties afgewogen wordt, gedachtenvorming is niet voor WOO.
Daar hoort bij voor de WOO waarbij de besluiten met stemmen en korte onderbouwing van de stemmer als standaard openbaar gegeven wordt. Die zouden in een archief eenvoudig teruggevonden moeten kunnen worden.
Invloeden van NGO's en ander lobbies dienen benoemd te zijn in de openbaarheid.
Betekent dit dat je tegen de WOO bent? (openheid van de overheid is onwenselijk?)
Of tegen sleepnetten? (bv die van de overheid diensten zelf?)
Ik ben tegen sleepnetten waarbij elk mogelijk gesprek ook in de prive sfeer onder de WOO als document valt.
Het zou kunnen zijn dat iets in een voorgespreken in vele opties afgewogen wordt, gedachtenvorming is niet voor WOO.
Daar hoort bij voor de WOO waarbij de besluiten met stemmen en korte onderbouwing van de stemmer als standaard openbaar gegeven wordt. Die zouden in een archief eenvoudig teruggevonden moeten kunnen worden.
Invloeden van NGO's en ander lobbies dienen benoemd te zijn in de openbaarheid.
Wat niet vastgelegd is, is niet vastgelegd. Wat je niet hebt, kun je ook niet verstrekken. (dat is bestuur en beleid 101)
Als men (voor)gesprekken wel notuleert of opneemt, dan is daar meestal een reden voor. En dus ook een potentiele reden om het beschikbaar te maken bij een WOO-verzoek.
Vwb het vrijgeven van prive gesprekken. Daar kunnen 1 of meer betrokkenen bezwaar tegen maken. Als ze maar een bezwaar hebben dat zwaarwegend genoeg is.
Er zijn voorzorgen in de WOO opgenomen.
Maar vertel: moet jij vaak prive-gesprekken vrijgeven in het kader van de WOO, dat dit je zo irriteert?
Waarom vertaal je sleepnetten naar gesprekken in de prive-sfeer?
Sleepnetten betreffen een breed scala aan data of personen. Niet 1 individueel prive-gesprek dat genotuleerd is of opgenomen.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Chief Information Security Officer
Utrecht heeft jou nodig! Als Chief Information Security Officer speel jij een cruciale rol in de bescherming van de digitale informatie van de gemeente Utrecht. Als geen ander weet jij welke dreigingen er zijn en kun je deze vertalen naar risico's die de gemeente en haar inwoners lopen. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
