image

Europese AI-wet staat nu in bepaalde gevallen live gezichtsherkenning toe

maandag 3 februari 2025, 12:07 door Redactie, 9 reacties

Politie en opsporingsdiensten mogen vanaf nu in bepaalde gevallen live gezichtsherkenning inzetten. Dat is het gevolg van de Europese AI-wet die gefaseerd wordt ingevoerd. De Europese AI-verordening (AI Act) is afgelopen zomer van kracht geworden. Sinds gisteren gelden in de gehele EU bepaalde bepalingen van de verordening.

Zo mag real-time gezichtsherkenning worden ingezet voor het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Andere uitzonderingen zijn het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.

Burgerrechtenbewegingen waren niet te spreken over dit onderdeel van de AI Act. "Het is teleurstellend dat er geen algeheel verbod op biometrische identificatie is aangenomen. We vrezen dat dit de deur open zet voor nog meer discriminatie en massasurveillance door de overheid", liet burgerrechtenbeweging Bits of Freedom eerder weten. Ook de Europese burgerrechtenbeweging eDRI stelde dat de verordening een pad creëert dat leidt tot het gebruik van AI-systemen voor massasurveillance.

Als onderdeel van de gefaseerde invoering zijn sinds gisteren bepaalde AI-toepassingen niet toegestaan. Het gaat onder andere om het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten uitsluitend op basis van profilering. Ook AI-systemen die mensen indelen of rangschikken op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) waarbij dit tot nadelige of ongunstige behandeling kan leiden zijn niet meer toegestaan. Verder is 'realtime biometrische identificatie op afstand in de openbare ruimte' niet toegestaan, behalve in het geval van de eerder genoemde uitzonderingen. Later dit jaar in augustus worden er eisen van kracht voor 'general purpose AI' systemen.

Image

Reacties (9)
Vandaag, 12:24 door majortom
Hoe kun je nu gezichtsherkenning limnitatief inzetten? Als je het aanzet geldt het voor een ieder die door de camera wordt gefilmd, dus ook de 99.999% mensen die niet van toepassing zijn, maar op deze manier wel gevolgd zullen worden.
Vandaag, 12:32 door Anoniem
Door majortom: Hoe kun je nu gezichtsherkenning limnitatief inzetten? Als je het aanzet geldt het voor een ieder die door de camera wordt gefilmd, dus ook de 99.999% mensen die niet van toepassing zijn, maar op deze manier wel gevolgd zullen worden.

Eens. Zonder voorafgaande toetsing is ‘limitatieve inzet’ een illusie—iedereen wordt gescand. Dit opent de deur naar massasurveillance onder het mom van misdaadbestrijding.
Vandaag, 12:40 door Anoniem
Je kunt nu dus nergens meer over straat lopen zonder dat mogelijk jouw gezicht gescand èn vergeleken wordt met gezichten in een database.

Behalve als je je gezicht bedekt, wat dan weer "verdacht" gevonden wordt. Of nee, niet verdacht hoor, het "roept alleen vragen op"...

Het gaat onder andere om het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten uitsluitend op basis van profilering.

Het zoveelste geitenpaadje. Inzet voor risicobeoordelingen mag eigenlijk dus toch wel, als het maar niet uitsluitend gebeurt op basis van profilering. Dus als er nog iets anders bij verzonnen kan worden, dan mag het opeens wel. Bijvoorbeeld als je een meditteraan uiterlijk hebt. Want "Nee hoor, dat is geen profilering, want er wordt ergens in Nederland een voortvluchtige dader gezocht met een meditteraan uiterlijk".

Wit kaaskop-uiterlijk dan? "Dat mag ook, want dat is ook geen profilering, want er wordt ergens in Nederland ook een voortvluchtige dader gezocht met een wit kaaskop-uiterlijk."

Ook AI-systemen die mensen indelen of rangschikken op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) waarbij dit tot nadelige of ongunstige behandeling kan leiden zijn niet meer toegestaan.

Als het criterium dat het niet "tot nadelige of ongunstige behandeling kan leiden", echt zou worden toegepast, dan zou het indelen of rangschikken van mensen op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) helemaal niet meer zijn toegestaan. Want het kan altijd tot nadelige of ongunstige behandeling leiden. Maar het is natuurlijk niet de bedoeling dat dit criterium echt wordt toegepast. Het wordt nu alleen genoemd, als fake-excuus om toch te kunnen overgaan tot social scoring.

Later dit jaar in augustus worden er eisen van kracht voor 'general purpose AI' systemen.

De hypocrisie van al die beslissers in de regering, het parlement en de ambtelijke burelen die ons hier een totalitaire massasurveillance-staat in rommelen, waarin mensen met willekeur worden onderworpen aan social scoring, is hemelschrijend. Die beslissers hebben geen normaal functionerend geweten meer, het is een soort kudde-sociopathie. Dit is een vorm van verhuld staatsterrorisme tegen de burgers. Het enige wat deze stapsgewijs uitgevoerde coup van een kudde sociopaten tegen de democratie kan keren, is radicale actie, uitgevoerd door een groot aantal mensen die hun vrijheid terugwillen. Inclusief hun vrijheid om ongeregistreerd en ongemonitord over straat te lopen.

Hoe die radicale actie eruit zou kunnen zien, dat moet maar ergens anders bedacht en overlegd worden, niet op dit forum.
Vandaag, 13:24 door Anoniem
Door majortom: Hoe kun je nu gezichtsherkenning limnitatief inzetten? Als je het aanzet geldt het voor een ieder die door de camera wordt gefilmd, dus ook de 99.999% mensen die niet van toepassing zijn, maar op deze manier wel gevolgd zullen worden.
Ze mogen jou niet volgen omdat je verdacht wordt van reizen zonder OV-kaartje. De camera mag het beeld van jouw gezicht vergelijken met het lijstje "most wanted", maar als je daar niet opstaat moet het beeld van jouw weer vergeten (=gewist) worden.
Vandaag, 13:33 door Anoniem
BIJLAGE II

Lijst van strafbare feiten als bedoeld in artikel 5, lid 1, eerste alinea, onder h), iii)

— terrorisme,
— mensenhandel,
— seksuele uitbuiting van kinderen en kinderpornografie,
— sluikhandel in verdovende middelen of psychotrope stoffen,
— illegale handel in wapens, munitie of explosieven,
— moord, zwaar lichamelijk letsel,
— illegale handel in menselijke organen of weefsels,
— illegale handel in nucleair of radioactief materiaal,
— ontvoering, wederrechtelijke vrijheidsberoving of gijzeling,
— misdrijven die onder de rechtsmacht van het Internationaal Strafhof vallen, (i.e., oorlogsmisdaden)
— het wederrechtelijk in beslag nemen van luchtvaartuigen of schepen,
— verkrachting,
— milieucriminaliteit,
— georganiseerde of gewapende overvallen,
— sabotage,
— deelneming aan een criminele organisatie die betrokken is bij een of meer van de bovengenoemde strafbare feiten.
Vandaag, 13:57 door Anoniem
Door majortom: Hoe kun je nu gezichtsherkenning limnitatief inzetten? Als je het aanzet geldt het voor een ieder die door de camera wordt gefilmd, dus ook de 99.999% mensen die niet van toepassing zijn, maar op deze manier wel gevolgd zullen worden.

Dat is natuurlijk ook precies de bedoeling . . Zelfde verhaal als bij client side scanning.
Vandaag, 14:21 door Anoniem
Daarnaast wordt de metadata van de gezichtsherkenning ongetwijfelt verkocht via psuedoniemen aan adverteerders en gedeeld met de sleepwet, het gaat immers niet om "terroristen" maar om geld...
Vandaag, 14:37 door Anoniem
Nu veschermt deze wet tegen terrorisme e.d. maar deze wet kan achteraf gemakkelijk worden aangepast/bijgeschaaft naar minder kwalijke zaken zoals bijv. "samen rondhangen op straat" en "reclamedoeleinden".
Door Anoniem:
Door majortom: Hoe kun je nu gezichtsherkenning limnitatief inzetten? Als je het aanzet geldt het voor een ieder die door de camera wordt gefilmd, dus ook de 99.999% mensen die niet van toepassing zijn, maar op deze manier wel gevolgd zullen worden.
Ze mogen jou niet volgen omdat je verdacht wordt van reizen zonder OV-kaartje. De camera mag het beeld van jouw gezicht vergelijken met het lijstje "most wanted", maar als je daar niet opstaat moet het beeld van jouw weer vergeten (=gewist) worden.

Hoe lang denk je dat het duurt voordat iemand "vergeet" om die beelden tijdig te wissen of het "nodig" acht om zich even niet aan de wet te houden? (antwoord: kort. De Nederlandse politie houdt zich nu al niet aan de wet bij het wissen van persoonsgegevens: https://www.security.nl/posting/873085/Politie+blijft+te+verwijderen+gegevens+bewaren+in+afwachting+van+wetswijziging)

Hoe lang denk je dat het duurt voordat een inlichtingendienst via een backdoor die beelden toch tapt en bewaart? (antwoord: kort)

Hoe lang denk je dat het vervolgens duurt voordat die beelden ook bij buitenlandse diensten terecht komen? (antwoord: heel kort, als die buitenlandse diensten al niet de eersten zijn die zo gaan hacken/tappen/registreren)

Hoe lang denk je dat het vervolgens duurt voordat een NL inlichtingendienst daarop betrapt wordt en het niet langer onder de pet wordt gehouden? (antwoord: best lang; er is misschien een Omtzigt voor nodig die er jarenlang aan trekt)

Hoe lang denk je dat het daarna duurt voordat deze hack, tap en opslag alsnog gelegaliseerd worden? (antwoord: kort, zoals we sinds 2013 hebben gezien na de Snowden-onthullingen over massasurveillance, het goedpraten daarvan door de misdadigers - eh... autoriteiten - en de daaropvolgende initiatieven voor diverse "sleepwetten")

Door Anoniem:
BIJLAGE II

Lijst van strafbare feiten als bedoeld in artikel 5, lid 1, eerste alinea, onder h), iii)

— terrorisme,
(...)
— verkrachting,
— milieucriminaliteit,
(...)
— sabotage,
— deelneming aan een criminele organisatie die betrokken is bij een of meer van de bovengenoemde strafbare feiten.

Hoe vaag is dit? "Terrorisme" is inmiddels een containerbegrip geworden voor zo'n beetje alles wat angst aanjaagt. Zelfs een psychisch labiele "lone wolf" die losgaat, wordt tegenwoordig al snel als een "terrorist" beschouwd. En ook familieleden die hem helpen bij het vluchten.

In Zweden werd Assange beschuldigd van "verkrachting".

Milieucriminaliteit, is dat straks ook als je een colablikje op straat laat vallen en niet in de prullenbak gooit? Of als je plantenresten bij het restafval doet?

Sabotage, is dat zoiets als wanneer een demonstrant een dranghek omgooit of een bulldozer onklaar maakt waarmee een oerbos dreigt te worden verwoest? Bijvoorbeeld door wat schroefjes uit de ruitenwissers te halen? Punaises op het wegdek strooien?

Deelneming aan een criminele organisatie, is dat ook als je deelneemt aan een actiegroep die betrokken is bij burgerlijke ongehoorzaamheid ter bescherming van het milieu, of ter bescherming van de Sinterklaastraditie, of ter bescherming van de mogelijkheid van boeren om hun bedrijf voort te zetten? Want ja, dat mag allemaal niet, he?

Als het aan politici ligt, die voortdurend hun concepten verdraaien en de betekenis daarvan oprekken, dan is deze massasurveillance, inclusief social scoring en het bewaren van "herkende" gezichten, straks allemaal geoorloofd. Want "het staat in de wet dat het mag en moet", en dan rekken wij die begrippen ook nog een beetje op. En ja, dan verbiedt de AVG dat ook niet, want het gaat immers om "misdaadbestrijding" en daar gaat de AVG niet over (artikel 2 onder d van de AVG).

Kortom, dit is het openzetten van een deur naar een surveillance-hel. De zoveelste. Zodra er straks politici aan de macht komen die iets met deze nieuwe surveillance-bevoegdheden willen (Trump/Musk? Orban? Fico? Een VVD'er met Macron-achtige zonnekoning-ambities - Macron schoof democratische wetten opzij als het hem zo uitkwam? Of misschien een Groenlinkser met een autoritaire mindset, zoals meneer Klaver die tijdens de coronacrisis demonstreerde?), klapt de val dicht en zitten we met z'n allen gevangen.

Zo maakt de EU zichzelf stapje voor stapje tot een gevangenis naar Chinees model. Waarbij onze Nederlandse politici ijverig collaboreren. Denk aan de Sleepwet (referendumuitslag genegeerd), en aan de Nederlandse regering die anderhalf jaar geleden zelfs een door de Tweede Kamer aangenomen motie negeerde inzake Client Side Scanning (CSS):
https://www.security.nl/posting/801335/Kabinet+weigert+aangenomen+motie+over+client-side+scanning+uit+te+voeren

Het idee dat wij in Nederland in een democratie leven, is al een aantal jaren echt achterhaald. We leven tegenwoordig onder een bewind van anti-democratische en anti-rechtsstatelijke charlatans, die zichzelf telkens "verversen" door coöptatie van weer de volgende charlatans.

Deze charlatans willen dat we hen vertrouwen terwijl ze ons neppen en onder massasurveillance plaatsen.

Ik ben altijd voor Europese samenwerking geweest, maar het monster dat de EU nu is geworden, gesteund door Nederlandse politici die azen op en beloond worden met zeer ruim betaalde EU-banen, daar moeten we een eind aan maken, desnoods door eruit te stappen als het niet anders kan. De structurele, ver doorgeslagen corruptie (die van de daarvan profiterende politici geen corruptie mag heten, maar volgens hen moet worden beschouwd als succesvol carrière maken) kan niet zonder pijnlijke maatregelen of acties worden tegengegaan.

Ik begrijp een heleboel mensen wel die op Trump hebben gestemd. Als elke reële mogelijkheid om constructief democratische invloed uit te oefenen, je is afgepakt, dan ga je op een gegeven moment stemmen voor destabilisatie - om maar verandering te krijgen. Dan stem je op de grootste charlatan van allemaal, in de hoop dat die het proces versnelt, omdat quasi-"zachte" heelmeesters reëel-stinkende doorligwonden maken die uiteindelijk nog gevaarlijker zijn dan onmiddellijke destructie en chaos.

M.J.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.