image

Software om verdacht gedrag in supermarkt te detecteren in strijd met AVG

maandag 26 augustus 2024, 12:24 door Redactie, 18 reacties

De software van het Franse bedrijf Veesion, dat supermarkten en winkels gebruiken om verdacht gedrag te detecteren, is in strijd met de AVG, zo heeft de hoogste Franse bestuursrechter, de Conseil d'Etat, geoordeeld. Eerder stelde de Franse privacytoezichthouder dat de software in strijd met Artikel 21 van de AVG is, dat gaat over het recht om bezwaar te maken tegen de verwerking van persoonsgegevens.

CNIL informeerde Veesion over de uitkomsten van het onderzoek en stelde dat het bedrijf diens klanten hierover moest informeren. In een reactie stelde Veesion dat het een beroep kon doen op een uitzondering onder Franse wetgeving. Veesion verzocht de bestuursrechter om het bevel van de CNIL op te schorten. De rechter verklaart het verzoek echter ongegrond en stelt dat de software van Veesion geen beroep op de genoemde uitzondering kan doen.

Deze uitzondering geldt alleen voor beveiligingscamera's met betrekking tot het beveiligen van grote evenementen tegen aanslagen. Dit is niet het geval bij de systemen die Veesion levert, die zich bezighouden met het algoritmisch verwerken van verzamelde camerabeelden. Het bedrijf kan dan ook geen beroep op de uitzondering doen. Eerder dit jaar meldde Veesion dat in Nederland er ruim honderd supermarkten zijn met camera's die via de software van het bedrijf verdacht gedrag van klanten detecteren.

Image

Reacties (18)
26-08-2024, 12:32 door Anoniem
Nou, dan zal de wet dus even aangepast moeten worden.
De lobby daarvoor begint vandaag.
Denk nou niet dat overheden er ten gunste van burgers zijn hoor...
26-08-2024, 12:36 door Anoniem
lekker beelden van ons allen de cloud in, terwijl je daar bent voor levensonderhoud...

en dat voor die paar knaken die gejat worden ten opzichten van de mijarden winsten
26-08-2024, 13:06 door Anoniem
Nu de bedrijven die het gekocht hebben vervolgen, net als de ontwikkelaar van de software.
wat denken die bedrijven wel, regels alleen voor anderen?
26-08-2024, 14:09 door [Account Verwijderd] - Bijgewerkt: 26-08-2024, 14:10
Eerder dit jaar meldde Veesion dat in Nederland er ruim honderd supermarkten zijn met camera's die via de software van het bedrijf verdacht gedrag van klanten detecteren.
Verdacht gedrag, is nog niet het zelfde als een verdachte van een misdrijf, zoals winkeldiefstal.

Er is pas sprake van een misdrijf als iemand bijvoorbeeld op heterdaad wordt betrapt in het wegnemen van andermans goed in de winkel en vervolgens de kassa voorbijloopt met het goed in zijn bezit, zonder te betalen. Dan pas wordt in Nederland het misdrijf als volledig uitgevoerd beschouwd (Jurisprudentie) en is er sprake van diefstal.

En dan hebben we het ook niet over de vraag wat precies de definitie is van verdacht gedrag
26-08-2024, 14:17 door Anoniem
Door Cash is Koning:
Eerder dit jaar meldde Veesion dat in Nederland er ruim honderd supermarkten zijn met camera's die via de software van het bedrijf verdacht gedrag van klanten detecteren.
Verdacht gedrag, is nog niet het zelfde als een verdachte van een misdrijf, zoals winkeldiefstal.

Er is pas sprake van een misdrijf als iemand bijvoorbeeld op heterdaad wordt betrapt in het wegnemen van andermans goed in de winkel en vervolgens de kassa voorbijloopt met het goed in zijn bezit, zonder te betalen. Dan pas wordt in Nederland het misdrijf als volledig uitgevoerd beschouwd (Jurisprudentie) en is er sprake van diefstal.

En dan hebben we het ook niet over de vraag wat precies de definitie is van verdacht gedrag

Als je een oogje hebt op een supermarktmedewerker, uittesten wat verdachte gedragingen zijn, krijg je minstens een gesprekje. Train je het AI bovendien.
26-08-2024, 14:18 door Anoniem
Door Anoniem: Nou, dan zal de wet dus even aangepast moeten worden.
De lobby daarvoor begint vandaag.
Denk nou niet dat overheden er ten gunste van burgers zijn hoor...
Als jij gelijk hebt hoeft die wetgeving helemaal niet te worden aangepast, want dan was de wet waar die rechter zich op baseerde om te beginnen al nooit aangenomen. Dan moet die rechter vreselijk hebben geblunderd met deze uitspraak. Dat wordt dan makkelijk in hoger beroep rechtgezet.

Of zouden er misschien toch wetten bestaan die burgers beschermen? Waar zouden die dan vandaan zijn gekomen?
26-08-2024, 14:29 door Anoniem
De software detecteert geen "verdacht" gedrag, maar "afwijkend" gedrag: https://www.security.nl/posting/828596/Jumbo+gaat+met+AI-software+afwijkend+gedrag+van+klanten+herkennen

Dat houd in dat iedereen die zich afwijkend gedrag vaker met vervelende controles te maken zal krijgen, dus mensen met autisme, neurodiversiteit, gehandicapten, mensen met pleinvrees etc, die zullen allemaal door deze software gediscrimineerd gaan worden.

Heel goed dat dit illegaal blijkt te zijn!
26-08-2024, 14:30 door Anoniem
Door Anoniem: Nu de bedrijven die het gekocht hebben vervolgen, net als de ontwikkelaar van de software.
wat denken die bedrijven wel, regels alleen voor anderen?
Nu in hoger beroep is vastgesteld dat de toepassing illegaal is, horen de supermarkten het systeem uit te schakelen. Als de AP hierop gaat handhaven moet je niet verachten dat je snel iets hoort; een officieel boetebesluit kost vele maanden (ook omdat het aangeklaagde bedrijf de mogelijkheid krijgt om zichzelf te verdedigen voor publicatie.)
26-08-2024, 14:35 door Anoniem
Door Cash is Koning:
Eerder dit jaar meldde Veesion dat in Nederland er ruim honderd supermarkten zijn met camera's die via de software van het bedrijf verdacht gedrag van klanten detecteren.
Verdacht gedrag, is nog niet het zelfde als een verdachte van een misdrijf, zoals winkeldiefstal.

Er is pas sprake van een misdrijf als iemand bijvoorbeeld op heterdaad wordt betrapt in het wegnemen van andermans goed in de winkel en vervolgens de kassa voorbijloopt met het goed in zijn bezit, zonder te betalen. Dan pas wordt in Nederland het misdrijf als volledig uitgevoerd beschouwd (Jurisprudentie) en is er sprake van diefstal.

En dan hebben we het ook niet over de vraag wat precies de definitie is van verdacht gedrag

Let wel: De kassa hoeft niet te zijn gepasseerd. Ontrekken aan de heerschappij van de rechthebbende (bijvoorbeeld door in je binnenzak te stoppen) kan al voldoende zijn.
26-08-2024, 14:49 door Briolet - Bijgewerkt: 26-08-2024, 14:50
…En dan hebben we het ook niet over de vraag wat precies de definitie is van verdacht gedrag

Wat je als verdacht gedrag beschouwd, wil je niet eens wereldkundig maken. Dan help je de criminelen door te vertellen waarop gelet wordt.

Het detecteren van verdacht gedrag is niets anders dan wat een menselijke beveiliger ook doet. Dat gedrag hoeft geen criminele achtergrond te hebben, maar zet een beveiliger wel op scherp om beter op te letten of er iets gebeurd.
26-08-2024, 15:41 door karma4
Door Anoniem: Nou, dan zal de wet dus even aangepast moeten worden.
De lobby daarvoor begint vandaag.
Denk nou niet dat overheden er ten gunste van burgers zijn hoor...
Lijkt me hard nodig als privacy gebruikt wordt als recht om te stelen en erger.
26-08-2024, 16:46 door Anoniem
Ik gedraag me altijd "verdacht" aldus de camera; door mijn autisme moet ik altijd met mijn handen terug de schappen in om dingen recht te leggen en maak ik "verdachte" bewegingen door veel heen en weer te lopen omdat de muziek in de winkel zo hard staat waardoor ik me niet kan concentreren op waar ik loop... (Supermarkten zijn soms net een disco, alsof ze verwachten dat we moeten gaan dansen ofzo?)
Gelukkig hebben we nog de boeren, daar haal ik met regelmaat mijn maaltje vandaan, lekker goedkoop en de meeste winst naar de boer, niet de supermarkt die me met arguscameraogen vol verdenking aankijkt.
26-08-2024, 16:50 door Anoniem
Straks nog infraroodcamera's om te kijken of je de kassajuffrouw een beetje te leuk vind. (Warme wangetjes)
Zo'n ding gaat allerlei analyses uit zijn neus trekken.
Wat meer bewaking (en dus werkgelegenheid) en het probleem is opgelost.
Een kennis doet dat werk ook, heel gezellig met af en toe een praatje met de klanten, niks mis mee, beter dat dan mijn eigen baan; een uitzendkracht die sorteert aan de lopende band in een fabriek met een luide speaker met muzak boven mijn kop.
27-08-2024, 07:41 door Anoniem
moet dit niet artikel 22 zijn en niet artikel 21 zoals hier in dit artikel staat?
Artikel 21 gaat over het recht van bezwaar
Artikel 22 over geautomatiseerd individuele besluitvorming, waaronder profilering.
Ook ben ik benieuwd waar de oorspronkelijke uitspraak van de CNIL staat, kan deze niet online vinden.
27-08-2024, 08:37 door Anoniem
Door Anoniem: Ik gedraag me altijd "verdacht" aldus de camera; door mijn autisme moet ik altijd met mijn handen terug de schappen in om dingen recht te leggen en maak ik "verdachte" bewegingen door veel heen en weer te lopen omdat de muziek in de winkel zo hard staat waardoor ik me niet kan concentreren op waar ik loop... (Supermarkten zijn soms net een disco, alsof ze verwachten dat we moeten gaan dansen ofzo?)
Gelukkig hebben we nog de boeren, daar haal ik met regelmaat mijn maaltje vandaan, lekker goedkoop en de meeste winst naar de boer, niet de supermarkt die me met arguscameraogen vol verdenking aankijkt.

Earbuds indoen terwijl je in het openbaar bent helpt enorm tegen overstimulatie. Je eigen muziek, een rustige podcast, white noise of helemaal geen audio. Bijkomend voordeel: de meeste mensen laten je met rust. De wereld gaat zich niet aan ons aanpassen, maar op deze manier hebben we minder last van de wereld.
27-08-2024, 09:09 door Anoniem
Door Anoniem: Straks nog infraroodcamera's om te kijken of je de kassajuffrouw een beetje te leuk vind. (Warme wangetjes)
Dat wordt "opgelost" door kassajuffrouwen af te schaffen. Maar ja, dan krijg je weer warme wangetjes omdat de contant-geld-automaat niet doet wat jij wilt... Dan duikt de kassajuffrouw opeens weer op, ze is veranderd in een controleur die kijkt of jij wel een flesje bier mag afrekenen. Het ergste vind ik dat ze nu een hekje hebben neergezet dat je met een streepjescode op je bonnetje moet openen, anders mag je de supermarkt niet meer uit. Ik weiger dat. Ik heb het recht om naar buiten te gaan. Elke keer vraag ik zo'n controleur ex kassajuffrouw om het hekje voor me te openen. Of ik glip met een andere klant mee naar buiten. De supermarkt als gevangenis... Dat is Nederland.
Zo'n ding gaat allerlei analyses uit zijn neus trekken.
Ja, alles wat "afwijkend" geacht wordt, wordt bestempeld als "verdacht". Maar dat willen ze dan weer "oplossen" met gezichtsherkenning en profilering in het kader van "KYC" (ken je klant). Dan gaan ze in de supermarkt automatisch jouw identiteit vaststellen en weten ze van te voren dat je autistisch of depressief bent en vinden dat alsnog weer normaal. Maar als ze dan toch je identiteit kennen, dan wordt dat elke keer dat je een supermarkt bezoekt, ook even doorgegeven aan de politie, interpol e.d. om het even automatisch langs een zwarte lijst te halen. Denk je dat op te lossen met een hoed en een zonnebril? Dat is afwijkend en dus "verdacht". Het wachten is op de vliegveldpoortjes als je een supermarkt verlaat.
Wat meer bewaking (en dus werkgelegenheid) en het probleem is opgelost.
Een kennis doet dat werk ook, heel gezellig met af en toe een praatje met de klanten, niks mis mee, beter dat dan mijn eigen baan; een uitzendkracht die sorteert aan de lopende band in een fabriek met een luide speaker met muzak boven mijn kop.
Veel sterkte toegewenst, ik ken ook een paar mensen die door omstandigheden buiten hun schuld dagelijks in slechte, ongezonde arbeidsomstandigheden moesten werken. Daarna uitval en gedeeltelijk arbeidsongeschikt. Dat schijnt goedkoper te zijn voor de werkgevers, maar natuurlijk niet voor Nederland.
27-08-2024, 11:59 door Anoniem
Door Anoniem: lekker beelden van ons allen de cloud in, terwijl je daar bent voor levensonderhoud...

en dat voor die paar knaken die gejat worden ten opzichten van de mijarden winsten
Voor een paar knaken zullen ze dit niet doen, het zal om miljoenen gaan.
Maar waarschijnlijk neemt het personeel zelf het grootste deel.
27-08-2024, 17:13 door Anoniem
Door Anoniem:
Door Anoniem: Ik gedraag me altijd "verdacht" aldus de camera; door mijn autisme moet ik altijd met mijn handen terug de schappen in om dingen recht te leggen en maak ik "verdachte" bewegingen door veel heen en weer te lopen omdat de muziek in de winkel zo hard staat waardoor ik me niet kan concentreren op waar ik loop... (Supermarkten zijn soms net een disco, alsof ze verwachten dat we moeten gaan dansen ofzo?)
Gelukkig hebben we nog de boeren, daar haal ik met regelmaat mijn maaltje vandaan, lekker goedkoop en de meeste winst naar de boer, niet de supermarkt die me met arguscameraogen vol verdenking aankijkt.

Earbuds indoen terwijl je in het openbaar bent helpt enorm tegen overstimulatie. Je eigen muziek, een rustige podcast, white noise of helemaal geen audio. Bijkomend voordeel: de meeste mensen laten je met rust. De wereld gaat zich niet aan ons aanpassen, maar op deze manier hebben we minder last van de wereld.

Nog leuker: radio luisteren, misschien komen ze er nog doorheen met live-commentaar op de film die aan je voorbij trekt.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.