AP: inzet algoritmes voor monitoring betalingsverkeer niet zonder risico's
De inzet van algoritmes voor monitoring van het betalingsverkeer is niet zonder risico's en kan tot een 'chilling effect' leiden, zo stelt de Autoriteit Persoonsgegevens (AP) in de eerste 'Rapportage Algoritmerisico’s Nederland'. Daarin laat de privacytoezichthouder onder andere weten dat duidelijke regelgeving omtrent algoritmes nu cruciaal is. Sinds het begin van dit jaar houdt de AP ook toezicht op het gebruik van algoritmes. In de vandaag verschenen rapportage worden de risico's van algoritmes besproken en de gevolgen die dit voor de maatschappij kunnen hebben.
Het gaat dan ook om het gebruik van algoritmes om het betalingsverkeer te monitoren. Het demissionaire kabinet presenteerde vorig jaar plannen om alle particuliere transacties boven de 100 euro gezamenlijk door banken te monitoren. Privacy First sprak van een 'bancair sleepnet' en ook volgens de AP is dit niet zonder risico's. "Waar algoritmes ingezet worden om ongebruikelijke patronen te herkennen, bestaat ook snel het risico dat bias kan resulteren in ongewenste discriminerende effecten." Een mogelijk gevolg is ook het optreden van een 'chilling effect'. Dit is het verschijnsel dat mensen hun gedrag aanpassen wanneer ze het gevoel krijgen in hun grondrechten te worden aangetast. Ongeacht of dit echt zo is.
"Een nieuwe vorm van het chilling effect doet zich voor in de interactie tussen mens en algoritmes. Het is namelijk ook mogelijk dat mensen hun gedrag veranderen als zij weten, of het idee hebben, dat ze niet door een mens maar door een algoritme zullen worden beoordeeld", waarschuwt de Autoriteit Persoonsgegevens. Ook bij het gebruik van algoritmes voor gemeentelijke sociale voorzieningen en rechtshandhaving ziet de toezichthouder de nodige risico's.
"Algoritmes en AI kunnen geweldig nuttig zijn, maar brengen ook risico’s met zich mee. Bijvoorbeeld het risico op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid", zegt AP-voorzitter Aleid Wolfsen. "Het bewustzijn hierover neemt toe, maar veel overheden en bedrijven zijn nog zoekende naar de juiste manier om dit te doen. Daarom is duidelijke regelgeving nu cruciaal. We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
De AP adviseert om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder aankomende Europese wetgeving die nu in onderhandeling is. Zo wordt het kabinet door de toezichthouder opgeroepen om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Reacties (24)
Je bedoelt dat dit een groot risico is om een toeslagaffaire in het kwadraat te creëren doordat dezelfde problemen die daar speelde ook bij banken gaat spelen. En dit kan nog grotere gevolgen hebben dan dat de toeslagaffaire veroorzaakte omdat iedereen afhankelijk is van banken voor het betalingsverkeer. Z
elfs als het ook nog door personen moet worden beoordeelt is het vaak zo dat het "computer says so" is.
elfs als het ook nog door personen moet worden beoordeelt is het vaak zo dat het "computer says so" is.
"We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
17-07-2023, 16:45 door
_R0N_
Door Anoniem: "We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Jij snapt niet wat demissionair inhoudt dus.
Er is niets veranderd, ze zijn nog steeds actief alleen nu interim, ze mogen nog steed sgewoon hun werk doen.
Door Anoniem: "We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
De "dictatuur" van de meerderheid vervangt gewoon de ene trekpop met de andere.
Verder verandert er niets behalve de illusie die men zichzelf voorschoteld.
- chilling effect - ik zie per saldo een nog verdergaande vervreemding van klanten / burgers en organisaties die iets leveren of verkopen. En ik dacht nou juist dat de overheid en ook woordvoerders van 2e kamerfracties de kloof juist kleiner wilden hebben. Mensen hebben dat ze in eerste instantie met een dooie klaagmuur te maken hebben waartegen ze communiceren. En het personeel dat dan bij die organisaties met uitkomsten van algoritmes aan de slag moet worden steeds meer in mallen geduwd en die algoritmes werken tegelijk meer op de voorgrond. Zo weet personeel steeds minder zelf van de hoed en de rand. Kortom nog meer voorgekauwde antwoorden en minder maatwerk in plaats van meer terwijl organisaties en maatschappij steeds complexer worden.
Ik kan me derhalve ook voorstellen dat bij inzet van algoritmes voortaan standaard bewezen moet gaan worden dat de handeling waarvoor ze ingezet worden een wel heel generieke algemene handeling is en dat de kostenstructuur van inzet van het betreffende algoritme over de verschillende levenscycli van het algoritme als onderdeel bij de websites / andere software ook echt goedkoper is dan inzet van personeel op de betreffende taak. Waarom met de verschillende levenscycli berekend, omdat de algoritmes toch steeds voor elke bug / lek / vernieuwingsslag moeten worden beoordeeld.
Ik kan me derhalve ook voorstellen dat bij inzet van algoritmes voortaan standaard bewezen moet gaan worden dat de handeling waarvoor ze ingezet worden een wel heel generieke algemene handeling is en dat de kostenstructuur van inzet van het betreffende algoritme over de verschillende levenscycli van het algoritme als onderdeel bij de websites / andere software ook echt goedkoper is dan inzet van personeel op de betreffende taak. Waarom met de verschillende levenscycli berekend, omdat de algoritmes toch steeds voor elke bug / lek / vernieuwingsslag moeten worden beoordeeld.
Door Anoniem: "We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Je weet dat de overheid niet opeens tot stilstand komt als het kabinet is gevallen. Als het Kabinet demissionair zijn kunnen ze nog steeds besluiten nemen in de tweede kamer. Dit zijn dus 2 verschillende dingen.
Ander zou het land als er een Kabinet valt onbestuurbaar zijn. Het land komt niet tot stilstand als het kabinet valt dus ook demissionair worden er besluiten genomen.
Maakt het enorm veel uit als diezelfde wegingen enkel door menselijke controleurs worden uitgevoerd?
(i.p.v. voorscreening door computer + mensen die alle alerts reviewen)
(i.p.v. voorscreening door computer + mensen die alle alerts reviewen)
Het betalingsverkeer zou helemaal niet gemonitord moeten worden. Monitoren doe je met criminelen. Hiermee is dus iedereen - volgens de overheid - crimineel. Die crimineel heeft al lang een andere weg gevonden om de boel onder de radar te houden.
Elke keer blijkt weer: de overheid is de vijand! De dictatuur is een feit.
Elke keer blijkt weer: de overheid is de vijand! De dictatuur is een feit.
De algoritmes zijn bedoeld om criminele geldstromen te herkennen maar uiteindelijk hebben de braveriken onder ons er het meeste last van.
Ik ben nieuwsgierig hoeveel criminelen al zijn opgepakt met behulp van algoritmes.
En hoeveel rekeningen zijn geblokkeerd die ook echt werden gebruikt om wit te wassen.
Ik ben nieuwsgierig hoeveel criminelen al zijn opgepakt met behulp van algoritmes.
En hoeveel rekeningen zijn geblokkeerd die ook echt werden gebruikt om wit te wassen.
Door Anoniem:
Je weet dat de overheid niet opeens tot stilstand komt als het kabinet is gevallen. Als het Kabinet demissionair zijn kunnen ze nog steeds besluiten nemen in de tweede kamer. Dit zijn dus 2 verschillende dingen.
Ander zou het land als er een Kabinet valt onbestuurbaar zijn. Het land komt niet tot stilstand als het kabinet valt dus ook demissionair worden er besluiten genomen.
Door Anoniem: "We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent. Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
Geldt ook voor de schapen die er maar niets van willen geloven.
Je weet dat de overheid niet opeens tot stilstand komt als het kabinet is gevallen. Als het Kabinet demissionair zijn kunnen ze nog steeds besluiten nemen in de tweede kamer. Dit zijn dus 2 verschillende dingen.
Ander zou het land als er een Kabinet valt onbestuurbaar zijn. Het land komt niet tot stilstand als het kabinet valt dus ook demissionair worden er besluiten genomen.
Meestal functioneert een demissionair kabinet beter dan een missionair kabinet.
Door Anoniem: "We roepen het demissionaire kabinet op om hierin voortgang te blijven maken."
Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent.
Als toevoeging aan de reacties die je al hebt gehad: een demissionair kabinet mag zaken die al lopen afhandelen, en dit is iets wat al liep. Verder is de gang van zaken dat onderwerpen waar ze zich niet meer mee moeten bemoeien door de kamer controversieel worden verklaard.Niks ervan! Demissionair is demissionair. Volgens mij snappen ze nog niet wat het deze keer betekent.
Ook nuttig om te weten: de term "demissionair" wordt gebruikt als een minister of een kabinet ontslag heeft gevraagd aan de koning(in), maar dat nog niet heeft gekregen. Ik zie het niet gebeuren, maar dit kabinet kan in beginsel weer missionair worden als ze het toch weer met elkaar eens weten te worden. Het ontslag is nog niet definitief. Een kabinet wordt ook vanzelf demissionair als de reguliere vierjaarlijkse verkiezingen plaatsvinden.
Het is niet niet doorregeren, het is doorregeren met minder bevoegdheden. Ze mogen niet meteen helemaal niets.
Volgens mij snapt niemand wat Rutte duidelijk heeft gemaakt de 7e, namelijk dat wij in een dictatuur zitten.
Ik volg niet hoe je dat beredeneert. In een dictatuur valt een kabinet niet over een fundamenteel meningsverschil tussen coalitiepartijen, in een dictatuur wordt de uitkomst door de dictator bepaald en heeft de rest zich daarnaar te voegen. De tegenstanders (als die er nog zijn op dat niveau) binden in of ze overkomt iets, en het kabinet blijft zitten. Ik heb tot nu nog steeds gelijk gekregen. Deze keer ook.
...vindt iemand die demonstreert hevig overtuigd te zijn van iets waar hij ongelijk in heeft. Geldt ook voor de schapen die er maar niets van willen geloven.
Goed zo, zet mensen die iets ander beweren maar weg als schapen. Het is heel makkelijk om jezelf wijs te maken dat je steeds gelijk hebt als je alles wat jouw "gelijk" tegenspreekt diskwalificeert zodat je de keren dat je ongelijk hebt nooit tot je door hoeft te laten dringen.Door Anoniem: Maakt het enorm veel uit als diezelfde wegingen enkel door menselijke controleurs worden uitgevoerd?
(i.p.v. voorscreening door computer + mensen die alle alerts reviewen)
Bij algoritmes kan je alleen terugvinden wat vantevoren is ongeregeld en wat erover is vastgelegd. Bij controle door mensen kan je nog eens extra navraag doen ;-) kan wel eens handig zijn volgens mij.(i.p.v. voorscreening door computer + mensen die alle alerts reviewen)
17-07-2023, 21:00 door
karma4
Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is.
Dat is wel zo;n gevaarlijk algoritme volgens de AP...... hoe duidelijker wil je het hebben dat ze de postie als big brother wensen wensen zodat met newspeak de nieuwe privacy doorgevoerd kan worden.
Dat is wel zo;n gevaarlijk algoritme volgens de AP...... hoe duidelijker wil je het hebben dat ze de postie als big brother wensen wensen zodat met newspeak de nieuwe privacy doorgevoerd kan worden.
Door karma4: Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is.
Dat is wel zo;n gevaarlijk algoritme volgens de AP...... hoe duidelijker wil je het hebben dat ze de postie als big brother wensen wensen zodat met newspeak de nieuwe privacy doorgevoerd kan worden.
Dat is wel zo;n gevaarlijk algoritme volgens de AP...... hoe duidelijker wil je het hebben dat ze de postie als big brother wensen wensen zodat met newspeak de nieuwe privacy doorgevoerd kan worden.
"Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is"
Dat is geen algoritme. Dat is een gebeurtenis.
Tijdig betalen is afhankelijk van de persoon die de opdracht geeft.
Daar controleert de bank niet op. Misschien de ontvanger. Maar zeker niet de bank.
Maar als jij 100 euro of meer ovemaakt, dan gaan er allemaal alarmbellen af, want jij zou wel eens iets illegaals of crimineels aan het doen zijn. En dan moet een algoritme je doorlichten of jij wel te vertrouwen bent.
Hoe vaak maar je een soortgelijk bedrag over.
Altijd naar dezelfde ontvangers.
Maar misschien ook of je een buitenlandse naam hebt,of blauwe ogen, of een vrouw bent, of jonger dan ... etc.
Dat kan allemaal tegen je gebruikt worden.
Want volgens de overheid/Rutte ben je niet meer te vertrouwen als jij meer dan 99,99 euro wilt overboeken in 1 transactie. Dat kan nooit niet legaal zijn.
Maar 10 keer of 100 keer 99,99 overmaken, dan is er niets aan de hand.
In morele zin is het op te vatten als dat wat het altijd al was,
namelijk een vorm van slavernij. En weer werd alles tien procent duurder qua bankkosten.
De massa heeft het nog steeds niet door, ze rekenen nog met compassie. Die zal niet worden getoond.
namelijk een vorm van slavernij. En weer werd alles tien procent duurder qua bankkosten.
De massa heeft het nog steeds niet door, ze rekenen nog met compassie. Die zal niet worden getoond.
Rare term 'dooie' klaagmuur, alles wat er ingestoken wordt, wordt immers later begraven.
Trouwens het heet al een tijdje lang geen klaagmuur meer, maar westelijke muur.
Waar je wel gelijk in hebt is, dat 'democratie', waar de meeste mensen nog in schijnen te geloven,
nooit heeft bestaan. Er is alleen de schijn dat dat bestaat.
Als iets na de komst van de EU wel duidelijk is geworden is het dat en
dat Nederland als nationale staat nauwelijks meer bestaat.
Trouwens het heet al een tijdje lang geen klaagmuur meer, maar westelijke muur.
Waar je wel gelijk in hebt is, dat 'democratie', waar de meeste mensen nog in schijnen te geloven,
nooit heeft bestaan. Er is alleen de schijn dat dat bestaat.
Als iets na de komst van de EU wel duidelijk is geworden is het dat en
dat Nederland als nationale staat nauwelijks meer bestaat.
18-07-2023, 06:51 door
spatieman
Door Anoniem: Het betalingsverkeer zou helemaal niet gemonitord moeten worden. Monitoren doe je met criminelen. Hiermee is dus iedereen - volgens de overheid - crimineel. Die crimineel heeft al lang een andere weg gevonden om de boel onder de radar te houden.
Elke keer blijkt weer: de overheid is de vijand! De dictatuur is een feit.
Elke keer blijkt weer: de overheid is de vijand! De dictatuur is een feit.
in nederland, op het moment dat je geboren wordt, ben je al een crimineel..
Het zit altijd zo: "'Gelijk' en 'ongelijk' vragen de kaas.
Denk daar maar eens goed over na,
over een dergelijke volseijsheid.
Alleen is het volk meestal niet zo wijs en eerder zo dom,
dat ze gemakkelijk kunnen worden gemanipuleerd.
Dat alles duurder wordt ligt niet aan de huidige proxy-oorlog en zelfvernietigende sanctie maar aan het beleid van onze politieke tegenstanders. Denk toch eens na en laat je niet steeds in de maling nemen.
#webproxy
Denk daar maar eens goed over na,
over een dergelijke volseijsheid.
Alleen is het volk meestal niet zo wijs en eerder zo dom,
dat ze gemakkelijk kunnen worden gemanipuleerd.
Dat alles duurder wordt ligt niet aan de huidige proxy-oorlog en zelfvernietigende sanctie maar aan het beleid van onze politieke tegenstanders. Denk toch eens na en laat je niet steeds in de maling nemen.
#webproxy
Door karma4: Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is.
AP heeft het over het toepassen van patroonherkenning door banken, niet over de ouderwetse algoritmes die al tientallen jaren in de administratieve systemen van de ontvangers van die betalingen zitten. Dat is wel zo;n gevaarlijk algoritme volgens de AP...... hoe duidelijker wil je het hebben dat ze de postie als big brother wensen wensen zodat met newspeak de nieuwe privacy doorgevoerd kan worden.
Geloof je het zelf?
18-07-2023, 21:17 door
karma4
Door Anoniem:
"Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is"
Dat is geen algoritme. Dat is een gebeurtenis.
Tijdig betalen is afhankelijk van de persoon die de opdracht geeft.
Daar controleert de bank niet op. Misschien de ontvanger. Maar zeker niet de bank.
...
We hadden het over banken en financieel verkeer. Dat van op tijd betalen is wel degelijk de fucntie bij betalingen."Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is"
Dat is geen algoritme. Dat is een gebeurtenis.
Tijdig betalen is afhankelijk van de persoon die de opdracht geeft.
Daar controleert de bank niet op. Misschien de ontvanger. Maar zeker niet de bank.
...
Ooit was er de duidelijke clearing met rentedagen.
Door Anoniem:
Maar als jij 100 euro of meer ovemaakt, dan gaan er allemaal alarmbellen af, want jij zou wel eens iets illegaals of crimineels aan het doen zijn. En dan moet een algoritme je doorlichten of jij wel te vertrouwen bent.
Hoe vaak maar je een soortgelijk bedrag over.
Altijd naar dezelfde ontvangers.
Maar misschien ook of je een buitenlandse naam hebt,of blauwe ogen, of een vrouw bent, of jonger dan ... etc.
Dat kan allemaal tegen je gebruikt worden.
Want volgens de overheid/Rutte ben je niet meer te vertrouwen als jij meer dan 99,99 euro wilt overboeken in 1 transactie. Dat kan nooit niet legaal zijn.
Maar 10 keer of 100 keer 99,99 overmaken, dan is er niets aan de hand.
Maar als jij 100 euro of meer ovemaakt, dan gaan er allemaal alarmbellen af, want jij zou wel eens iets illegaals of crimineels aan het doen zijn. En dan moet een algoritme je doorlichten of jij wel te vertrouwen bent.
Hoe vaak maar je een soortgelijk bedrag over.
Altijd naar dezelfde ontvangers.
Maar misschien ook of je een buitenlandse naam hebt,of blauwe ogen, of een vrouw bent, of jonger dan ... etc.
Dat kan allemaal tegen je gebruikt worden.
Want volgens de overheid/Rutte ben je niet meer te vertrouwen als jij meer dan 99,99 euro wilt overboeken in 1 transactie. Dat kan nooit niet legaal zijn.
Maar 10 keer of 100 keer 99,99 overmaken, dan is er niets aan de hand.
Dit nivo van onbegrip had ik niet verwacht op dit forum. Je kunt je voorstellen dat jan-van-de-straat denkt dat het zo werkt, maar in werkelijkheid is er natuurlijk geen sprake van "oh 102.55 overgemaakt naar restaurant X, foute boel!".
Zo'n "algorithme" is veel geavanceerder, anders zouden de bellen de hele dag rinkelen. Het is zelfs geen kwestie van "als het 3 keer is naar dezelfde ontvanger is het verdacht" of dergelijke simplistische if/then condities.
Je moet het veel meer zien als een Bayesiaans filter zoals gebruikt wordt in spamfilters. Er wordt heel veel data in een Bayes filter gegooid wat de combinaties waarin die overboekingen voorkomen vastlegt, en dat doet bij zowel "normale" als "afwijkende" personen (fraudeurs, criminelen, whatever) en als je dat met genoeg data gedaan hebt kun je vervolgens van een individu berekenen of die meer naar normaal of meer naar afwijkend neigt.
De reden dat AP daar zo voorzichtig mee is, is dat het vooroordeel-bevestigend werkt. Als er gegevens mee het algorithme in gaan waarvan "men" vindt dat die discriminerend zijn, en tevens gaat er data in die deze groepering voorziet van "slechte cijfers", dan komt er uiteindelijk in die Bayes database (wat men in de pers meestal "het algorithme" noemt) een bevestiging van die situatie. Mensen die de positieve uitzondering op het gemiddelde zijn worden daarvan dan het slachtoffer.
(het is dus niet zo dat, wat vaak gesuggereerd wordt, die algorithmes zonder meer groepen in een negatief daglicht stellen. dat gebeurt alleen als ze gemiddeld ook inderdaad in een negatief daglicht staan, anders zou die uitkomst er niet uit komen)
Maar digitaal voegt een hele grote mogelijkheid tot corruptie toe.
Bijvoorbeeld men maakt gebruik van uw gegevens om op uw adres iets te bestellen met achteraf betalen.
Als u niet uitkijkt betaalt u de crimineel via onterechte incasso.
Monitoren en surveillance heeft dit nog nooit opgelost.
Keihard deze vormen van criminaliteit aanpakken, zou dat wel kunnen.
Maar de trein rijdt liever een station voorbij dan dat personeel durft te handhaven,
de goeden niet te na gesproken.
Het kleine deel van het geheel, dat zich niet aan de regels houdt,
kan toch weer terug in het gareel gebracht worden?
Is de rol van de bank daarin - meer van uw persoonlijke data slurpen?
Bijvoorbeeld men maakt gebruik van uw gegevens om op uw adres iets te bestellen met achteraf betalen.
Als u niet uitkijkt betaalt u de crimineel via onterechte incasso.
Monitoren en surveillance heeft dit nog nooit opgelost.
Keihard deze vormen van criminaliteit aanpakken, zou dat wel kunnen.
Maar de trein rijdt liever een station voorbij dan dat personeel durft te handhaven,
de goeden niet te na gesproken.
Het kleine deel van het geheel, dat zich niet aan de regels houdt,
kan toch weer terug in het gareel gebracht worden?
Is de rol van de bank daarin - meer van uw persoonlijke data slurpen?
Door karma4:
Ooit was er de duidelijke clearing met rentedagen.
Door Anoniem:
"Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is"
Dat is geen algoritme. Dat is een gebeurtenis.
Tijdig betalen is afhankelijk van de persoon die de opdracht geeft.
Daar controleert de bank niet op. Misschien de ontvanger. Maar zeker niet de bank.
...
We hadden het over banken en financieel verkeer. Dat van op tijd betalen is wel degelijk de fucntie bij betalingen."Het meest gebruikte algoritme bij betalingen is of het overeengekomen bedrag op tijd betaald is"
Dat is geen algoritme. Dat is een gebeurtenis.
Tijdig betalen is afhankelijk van de persoon die de opdracht geeft.
Daar controleert de bank niet op. Misschien de ontvanger. Maar zeker niet de bank.
...
Ooit was er de duidelijke clearing met rentedagen.
Als ik betaalvezoek krijg van een bedrijf, dan bepaal ik waneer ik betaal.
Ben ik te laat, dan heeft het bedrijf (niet de bank!) uiteindelijk misschien een boete.
In die gevallen voert de bank alleen maar uit.
Dat is d ebulk van al het betalingsverkeer.
Maar mogelijk doel je op het betalen van een aflossing of rente voor een krediet of hypotheek dat bij de bank loopt?
Dan is de bank op dat moment een leverancier/financier, en niet de financiele instelling voor de afhandeling van het betalingsverkeer. (iets van rollen/petten en belangenverstrengeling)
Door Anoniem:
Dit nivo van onbegrip had ik niet verwacht op dit forum. Je kunt je voorstellen dat jan-van-de-straat denkt dat het zo werkt, maar in werkelijkheid is er natuurlijk geen sprake van "oh 102.55 overgemaakt naar restaurant X, foute boel!".
Zo'n "algorithme" is veel geavanceerder, anders zouden de bellen de hele dag rinkelen. Het is zelfs geen kwestie van "als het 3 keer is naar dezelfde ontvanger is het verdacht" of dergelijke simplistische if/then condities.
Je moet het veel meer zien als een Bayesiaans filter zoals gebruikt wordt in spamfilters. Er wordt heel veel data in een Bayes filter gegooid wat de combinaties waarin die overboekingen voorkomen vastlegt, en dat doet bij zowel "normale" als "afwijkende" personen (fraudeurs, criminelen, whatever) en als je dat met genoeg data gedaan hebt kun je vervolgens van een individu berekenen of die meer naar normaal of meer naar afwijkend neigt.
De reden dat AP daar zo voorzichtig mee is, is dat het vooroordeel-bevestigend werkt. Als er gegevens mee het algorithme in gaan waarvan "men" vindt dat die discriminerend zijn, en tevens gaat er data in die deze groepering voorziet van "slechte cijfers", dan komt er uiteindelijk in die Bayes database (wat men in de pers meestal "het algorithme" noemt) een bevestiging van die situatie. Mensen die de positieve uitzondering op het gemiddelde zijn worden daarvan dan het slachtoffer.
(het is dus niet zo dat, wat vaak gesuggereerd wordt, die algorithmes zonder meer groepen in een negatief daglicht stellen. dat gebeurt alleen als ze gemiddeld ook inderdaad in een negatief daglicht staan, anders zou die uitkomst er niet uit komen)
Door Anoniem:
Maar als jij 100 euro of meer ovemaakt, dan gaan er allemaal alarmbellen af, want jij zou wel eens iets illegaals of crimineels aan het doen zijn. En dan moet een algoritme je doorlichten of jij wel te vertrouwen bent.
Hoe vaak maar je een soortgelijk bedrag over.
Altijd naar dezelfde ontvangers.
Maar misschien ook of je een buitenlandse naam hebt,of blauwe ogen, of een vrouw bent, of jonger dan ... etc.
Dat kan allemaal tegen je gebruikt worden.
Want volgens de overheid/Rutte ben je niet meer te vertrouwen als jij meer dan 99,99 euro wilt overboeken in 1 transactie. Dat kan nooit niet legaal zijn.
Maar 10 keer of 100 keer 99,99 overmaken, dan is er niets aan de hand.
Maar als jij 100 euro of meer ovemaakt, dan gaan er allemaal alarmbellen af, want jij zou wel eens iets illegaals of crimineels aan het doen zijn. En dan moet een algoritme je doorlichten of jij wel te vertrouwen bent.
Hoe vaak maar je een soortgelijk bedrag over.
Altijd naar dezelfde ontvangers.
Maar misschien ook of je een buitenlandse naam hebt,of blauwe ogen, of een vrouw bent, of jonger dan ... etc.
Dat kan allemaal tegen je gebruikt worden.
Want volgens de overheid/Rutte ben je niet meer te vertrouwen als jij meer dan 99,99 euro wilt overboeken in 1 transactie. Dat kan nooit niet legaal zijn.
Maar 10 keer of 100 keer 99,99 overmaken, dan is er niets aan de hand.
Dit nivo van onbegrip had ik niet verwacht op dit forum. Je kunt je voorstellen dat jan-van-de-straat denkt dat het zo werkt, maar in werkelijkheid is er natuurlijk geen sprake van "oh 102.55 overgemaakt naar restaurant X, foute boel!".
Zo'n "algorithme" is veel geavanceerder, anders zouden de bellen de hele dag rinkelen. Het is zelfs geen kwestie van "als het 3 keer is naar dezelfde ontvanger is het verdacht" of dergelijke simplistische if/then condities.
Je moet het veel meer zien als een Bayesiaans filter zoals gebruikt wordt in spamfilters. Er wordt heel veel data in een Bayes filter gegooid wat de combinaties waarin die overboekingen voorkomen vastlegt, en dat doet bij zowel "normale" als "afwijkende" personen (fraudeurs, criminelen, whatever) en als je dat met genoeg data gedaan hebt kun je vervolgens van een individu berekenen of die meer naar normaal of meer naar afwijkend neigt.
De reden dat AP daar zo voorzichtig mee is, is dat het vooroordeel-bevestigend werkt. Als er gegevens mee het algorithme in gaan waarvan "men" vindt dat die discriminerend zijn, en tevens gaat er data in die deze groepering voorziet van "slechte cijfers", dan komt er uiteindelijk in die Bayes database (wat men in de pers meestal "het algorithme" noemt) een bevestiging van die situatie. Mensen die de positieve uitzondering op het gemiddelde zijn worden daarvan dan het slachtoffer.
(het is dus niet zo dat, wat vaak gesuggereerd wordt, die algorithmes zonder meer groepen in een negatief daglicht stellen. dat gebeurt alleen als ze gemiddeld ook inderdaad in een negatief daglicht staan, anders zou die uitkomst er niet uit komen)
Ironie/sarcasme blijft lastig te herkennen, blijkt maar weer.
De volgende keer toch maar weer een /s erbij zetten. :-)
Reageren
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
