EFF: gebruik gezichtsherkenning door overheid is onacceptabel
Het gebruik van gezichtsherkenning door de overheid is onacceptabel, ook in het geval om de bestormers van het Capitool te identificeren, zo stelt de Amerikaanse burgerrechtenbeweging EFF. Amerikaanse politiekorpsen zetten de gezichtsherkenningssystemen van het bedrijf Clearview AI in om te achterhalen wie de relschoppers waren.
Clearview zou over drie miljard afbeeldingen bevatten, onder andere afkomstig van Facebook, LinkedIn en andere websites en socialmediaplatformen. Het bedrijf heeft naar eigen zeggen meer dan 2400 politie- en opsporingsdiensten als klant. Een deel daarvan gebruikt de foto's die tijdens de bestorming zijn gemaakt en vergelijkt die met de Clearview-database. Resultaten worden vervolgens naar de FBI gestuurd.
Volgens de EFF moeten de Capitool-bestormers worden vervolgd, maar kleven er aan het gebruik van gezichtsherkenning teveel risico's en problemen, zowel technisch als juridisch, om het gebruik ervan te rechtvaardigen. In het geval van Clearview AI hebben mensen nooit toestemming gegeven voor het schrapen van hun foto's.
Daarnaast maken Amerikaanse politiediensten vermoedelijk ook gebruik van overheidsdatabases, waaronder die van het Department of Motor Vehicles. Iets waar burgers zich niet voor kunnen afmelden. "Het is geen vraag van 'wat er gebeurt wanneer gezichtsherkenning tegen je wordt gebruikt?' Het is de vraag hoe vaak politie dit al heeft gedaan", zegt Jason Kelley van de EFF.
Hij stelt dat het gebruik van gezichtsherkenning door de overheid een grens overschrijdt en het gebruik nooit gewoon moet worden gevonden, zelfs niet in het geval van de recente tragedie. Volgens Kelley moet er in de reactie op deze ongekende gebeurtenis bedachtzaam worden gereageerd en rekening gehouden met de gevaren die surveillancetechnieken zoals gezichtsherkenning vormen.
"Deze technologie vormt een grote dreiging voor de persoonlijke privacy, raciale gelijkheid, politieke en religieuze uitingen en de fundamentele vrijheid om ons leven te leiden zonder dat al onze bewegingen en contacten in het geheim worden gemonitord en geanalyseerd", besluit de EFF-medewerker.
wie een dader kan zijn, dat dan meteen gelijk staat aan bewijs tegen, vervolging van, en veoordeling van die persoon.
Zo werkt dat echt niet, en je zou verwachten dat een organisatie als EFF niet zo naief (en dom) zou zijn dat te denken.
Als de FBI een lijst krijgt van matches met gezichten die zogenaamd herkend zouden zijn op de plek van die
ongeregeldheden, dan is dat echt geen reden om die mensen te vervolgen. Ze gaan dat dan eerst naast allerlei andere
informatie leggen, zoals telefoondata, mogelijke uitspraken op (publieke) sociale media, etc etc en DAN pas gaan ze
met de overgebleven verdachten aan de gang om die eventueel te verhoren of te volgen. Vervolging is helemaal niet
aan de orde zolang er niet meer bewijs is.
En ohja, met privacy of raciale gelijkheid heeft dat HELEMAAL NIKS te maken. Als je misdadiger bent dan verdien je
het om te worden getraceerd en vervolgd, niks privacy en niks "maar ik ben zwart dus moeten ze mij weer hebben".
Gezichtsherkenning met fuction creep.
Andere regels geldend voor herkenners en herkenden.
Onverdraagzaamheid jegens 1 bepaalde visie en ondersteuning voor de andere.
We wonen nog niet in Hong Kong en staan onder een soort robocop surveillance.
Willen we dit of hebben we wel iets te willen?
J.O.
Indien aan die voorwaarden bij wettelijke grondslag is voldaan mag van mij gezichtsherkenning, net als bij een DNA match, als een van meerdere bewijsvoeringen in een casus worden gebruikt.
Ten overvloede: zo niet, dan nooit of te nimmer.
Om dit kracht bij te zetten zou er een clausule of hoe dat ook mag heten moeten worden gevoegd bij dit wetsartikel dat mocht er een voorstel tot wijziging komen dit onmiddellijk leidt tot een motie van afkeuring, dus automatisch zonder dat deze oppositioneel is ingebracht.
Op dit punt slaat de EFF de plank mis. Alsof gezichtsherkenning de enige wijze is waarop de FBI de identiteiten van de verdachten van de terreur bij het Capitool vaststelt. Gezichtsherkenning is slechts één van de vele puzzelstukjes om iemands identiteit vast te stellen. Er wordt tevens gebruik gemaakt van afbeeldingen van de kleding en voorwerpen die de verdachten met zich mee droegen, en van vele andere forensische bewijsmethoden, zoals vingerafdrukken, telefoontaps, kassabonnen, etc., alsmede vele honderden getuigenverklaringen, waaronder die van de politie agenten.
Behalve natuurlijk als je er hobby in hebt om parlementsgebouwen te bestormen.
Daarom hoor je de bezwaren ook meestal uit kringen waar men boter op het hoofd heeft.
Analogie: als iemand vindt dat kledingzaken geen bont moeten verkopen claimt die daarmee nog niet dat kledingzaken uitsluitend bont verkopen.
wie een dader kan zijn, dat dan meteen gelijk staat aan bewijs tegen, vervolging van, en veoordeling van die persoon.
Zo werkt dat echt niet, en je zou verwachten dat een organisatie als EFF niet zo naief (en dom) zou zijn dat te denken.
Als de FBI een lijst krijgt van matches met gezichten die zogenaamd herkend zouden zijn op de plek van die
ongeregeldheden, dan is dat echt geen reden om die mensen te vervolgen. Ze gaan dat dan eerst naast allerlei andere
informatie leggen, zoals telefoondata, mogelijke uitspraken op (publieke) sociale media, etc etc en DAN pas gaan ze
met de overgebleven verdachten aan de gang om die eventueel te verhoren of te volgen. Vervolging is helemaal niet
aan de orde zolang er niet meer bewijs is.
En ohja, met privacy of raciale gelijkheid heeft dat HELEMAAL NIKS te maken. Als je misdadiger bent dan verdien je
het om te worden getraceerd en vervolgd, niks privacy en niks "maar ik ben zwart dus moeten ze mij weer hebben".
Ja en nee. Zo zou het in theorie moeten werken. In de praktijk werkt het helaas anders.
Ook de FBI bestaat uit mensen. Waarvan een aantal van 9 tot 5 werken en maar al te graag hun werk met minimale inspannning doen (wat prioriteit heeft over het goed doen). Zelden blijkt dat zij werken zoals de handboeken en cursussen een indruk geven dat ze zouden doen. De verlokkingen van de vermeende 'silver bullet' zijn dan ook groot, groter dan de bedenkingen over false positives en andere issues.
EFF is bekend met de incidenten waar gezichtsherkenning en andere dergelijke silver bullets er kort en goed naast zaten en mensen bepaald meer problemen van welke aard ook hadden dan hen lief was of ze verdienden. De valkuil van een false positive is dat het veel meer tijd kost weer uit de problemen te komen dan een overheidsorganisatie je er in geblunderd heeft. Een treffend voorbeeld in NL is natuurlijk de toeslagenaffaire.
Jammer genoeg sluipen in dergelijke algorithmes op de een of andere manier ook altijd weer bepaalde vooroordelen binnen. Waardoor de foutkans bij gekleurde mensen aantoonbaar groter is dan bij witte mensen (https://tweakers.net/nieuws/161438/gezichtsherkenningsalgoritmes-maken-onderscheid-tussen-zwarte-en-witte-mensen.html).
Zoals gezegd, EFF is bekend met de diverse incidenten en het patroon dat daarin ontstaat. Dat geeft hun natuurlijk weer een andere blikveld en achterban. Maar de feiten die zij hebben kunnen niet genegeerd worden. Ze vertellen dat er meer is dan alleen true positives en true negatives. En dat je hoe dan ook meer moet met false positives en false negatives dan op dit moment de gebruikelijke praktijk is wat de theorie er ook van vindt.
daarmee dat een dergelijk systeem fouten kan maken en door daar een probleem van te maken geven ze duidelijk aan
dat ze er niks van snappen. Of dat ze het wel snappen maar dat ze tamtam willen maken en het ze niet kan schelen dat
het argument daarvoor geen hout snijdt.
Dat is overigens een terugkerend patroon bij privacy activisten.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Information Security Officer (2fte)
Een uitdagende rol waarbij jij, op basis van security, de vertaalslag maakt tussen business en IT en direct bijdraagt aan de veiligheid van informatie binnen de gemeente Almere. Dat is in een notendop waar jij als Information Security Officer mee bezig bent. Interesse gewekt? Door groei van de organisatie zijn we op zoek naar twee nieuwe collega’s.
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
