image

Bunq wint rechtszaak over inzet kunstmatige intelligentie bij fraudebestrijding

dinsdag 18 oktober 2022, 13:44 door Redactie, 6 reacties

Bunq mag bij de bestrijding van fraude kunstmatige intelligentie inzetten, zo heeft het College van Beroep voor het bedrijfsleven geoordeeld in een rechtszaak die de bank tegen De Nederlandsche Bank (DNB) had aangespannen. In een blogposting spreekt Bunq van een "historische rechtszaak".

De bank is, net als andere banken, verplicht om klanten te onderzoeken. DNB deed eind 2018 onderzoek naar de kwaliteit van de manier waarop banken de klantcontrole uitvoeren. Volgens De Nederlandsche Bank overtrad Bunq onder andere bij de monitoring de wettelijke verplichtingen op "essentiële punten". Bunq kreeg vervolgens een aanwijzing om de overtredingen te stoppen. Zo moest de bank onder andere een adequaat transactiemonitoringssysteem en -proces implementeren, om zo effectief ongebruikelijke transacties te detecteren, onderzoeken en afhandelen.

Bunq was het hier niet mee eens en maakte bezwaar bij De Nederlandsche Bank, maar dat verklaarde het bezwaar ongegrond. Volgens de bank is de analysemethode van DNB achterhaald en "verouderd". Bunq maakt naar eigen zeggen gebruik van een slimmere en efficiëntere aanpak. Na de uitspraak van DNB ging Bunq in beroep bij de rechtbank Rotterdam en kreeg daar wel gelijk. Vervolgens ging DNB in beroep bij het College van Beroep voor het bedrijfsleven, maar wordt wederom in het ongelijk gesteld.

De Nederlandsche Bank heeft namelijk niet bewezen dat Bunq met haar monitoring van transacties en klanten niet aan de wettelijke eisen voldoet, zo stelt het College. Dat vindt wel dat de bank de herkomst van financiële middelen van klanten beter had moeten onderzoeken. Ook had de bank beter moeten letten op politiek prominente personen. Een deel van de aanwijzing van DNB blijft daardoor staan.

"Onze ingenieurs hebben risicogebaseerde methoden ontwikkeld en geavanceerde technologie op basis van kunstmatige intelligentie ingebouwd om fraude slimmer en efficiënter te bestrijden. De Nederlandsche Bank heeft onze methoden lange tijd afgewezen en ons in plaats daarvan gedwongen hun verouderde aanpak te volgen", stelt Ali Niknam, ceo van Bunq.

Volgens Niknam was er sprake van een "David vs. Goliath-zaak". Hij is blij met de overwinning en uitspraak van de rechter. "Haar beslissing maakt de weg vrij voor vooruitgang in de hele sector en opent de deur naar een veiliger financiële sector." Door de uitspraak wordt een bredere samenwerking tussen de financiële sector en online spelers mogelijk, aldus de ceo. Het Financieele Dagblad stelt dat de uitspraak een bom legt onder de manier waarop DNB tot op heden zijn toezicht heeft ingericht.

Reacties (6)
18-10-2022, 14:33 door Anoniem
Een groot risico is dat je met AI uitgesloten wordt je er niets tegen kan doen. Bijvoorbeeld omdat totaal niet transparant is hoe de AI werkt.
18-10-2022, 14:50 door Anoniem
Een groot risico is dat je met AI uitgesloten wordt je er niets tegen kan doen. Bijvoorbeeld omdat totaal niet transparant is hoe de AI werkt.
Alleen is een (normale) bank doorgaans gebaat bij het hebben van klanten.
Zodra ze jou niet als klant willen, heb jij waarschijnlijk geen AI nodig om de reden daarvan te kunnen bedenken.
18-10-2022, 19:45 door Anoniem
Op zich niet slecht al bestaat de echte kunstmatige intelligentie nog niet. (Anders had ik dit bijvoorbeeld zelf niet meer hoeven tikken.)

Het zijn wat mij betreft de banken die de toekomst hebben. Met slim filteren haal je natuurlijk veel beter de echte rare dingen naar boven terwijl je tegen veel lagere kosten kunt werken. Als een Nederlandsche Bank daar niet in mee wil gaan dan is dat toch ook een beetje klagen dat zo een Bunq niet marktconform net zo simpel is als de rest. Toch?

Zolang zulke slimme filters enkel binnen de Bunq worden gebruikt prima. Gaan ze data aan Coca Cola verkopen, ander verhaal. Dan krijg je maffiaconstructies. Wat ik nog wel erg op prijs zou stellen is dat zulke filters mij even waarschuwen voor er wat scheef zou gaan, of godbetere de rekening geblokkerd zou kunnen raken. Dat als ik bijvoorbeeld 20 miljoen over wil boeken, ik een popupje krijg dat ze dat aan de FIOD moeten doorgeven, en of ik wel zeker weet dat ik dat wil. En dat de kans bestaat dat ik ook in het weekend voor joker sta bij de kiloknallers van de Albert Heijn aan de kassa om er daarna achter te komen dat mijn benzinetank leeg genoeg is om het net niet meer te halen tot thuis. Waar ik het nummer van de helpdesk heb liggen.

Daarnaast zou het nog prettiger zijn als in datzelfde popupje het nummer van de FIOD staat. Zodat ik daar zelf dan van tevoren contact mee op kan nemen voordat ze invallen gaan plegen met mokers terwijl ik juist een nieuwe voordeur heb. En helemaal geschilderd. Dat ik van te voren even kan uitleggen dat het voor een Afrikaanse dictator is, die 20 miljoen. Maar dat die naar mijn weten niet op een zwarte lijst staat. Je kunt er op die manier een hoop ellende mee voorkomen. Plus dat de buren er niks van hoeven te weten. Ook prettig.

Wat dat betreft schat ik zulke Bunqers trouwens wel hoger in dat ze dat ook snappen. Bij de bestaande ouwemutsenbanken ligt mijn verwachting al zo laag dat eventuele zeespiegelstijgingen overbodig zijn. Toevallig zat ik twee weken geleden weer te kijken om zo een Bunq erbij te nemen. Het enige wat me eigenlijk weerhoudt: Ze zijn in Nederland gevestigd. Mooi land hoor, daar niet van. Maar je weet nooit wat er nou weer door zowel de tweede als de eerste kamer komt, omdat het arbeidsethos daar zo bedroevend laag is dat de ene na de ander in een burnout vliegt. Het zit daar maar wat stom te lachen allemaal. Alsof dat leuk is. Dus ik twijfel nog. Maar wordt wel liever kunstmatig ge-intelligentied door intelligente banken dan door stomme. Zeker als die daar naar alle kanten ook keurig mee omgaan. dat zou iDeal zijn!
19-10-2022, 07:59 door Bitje-scheef
Door Anoniem:
Een groot risico is dat je met AI uitgesloten wordt je er niets tegen kan doen. Bijvoorbeeld omdat totaal niet transparant is hoe de AI werkt.
Alleen is een (normale) bank doorgaans gebaat bij het hebben van klanten.
Zodra ze jou niet als klant willen, heb jij waarschijnlijk geen AI nodig om de reden daarvan te kunnen bedenken.

Dat antwoord is erg zwart-wit, een bank kan bijvoorbeeld bepaalde sectoren uitsluiten en afbouwen. Horeca is bijvoorbeeld een sector die afgebouwd wordt. Kun je dan terecht bij een andere bank, vaak wel, maar niet altijd. "Bent u wel eens afgewezen bij een andere bank" is zo'n hele mooie vraag met stoplicht acties.

Het gevaar met AI is echter dat iemand onterecht wordt afgewezen en er geen procedure is om hier tegen in te gaan. Of dat de bank halsstarrig vast blijft houden aan de beslissing zonder een goede argumentatie.
19-10-2022, 09:02 door Anoniem
Omdat de wet voorschrijft dat een bank beter moet controleren of er wordt witgewassen, ofwel ze moeten politietje spelen om foute klanten te kunnen identificeren en classificeren hoe groot het risico is dat deze nieuwe klant "witwasgevoelig" is.
De risicogroepen zijn de ondernemers die veel met contant geld te maken hebben zoals o.a. horeca, retailers, prostitutie.

Het is al duidelijk moeilijker voor een prostitué/prostituee een zakelijk bankaccount te openen bij een regulire bank (, een bank met filialen/kantoren met personeel) om nieuwe klanten face-2-face te indentificeren en te classificeren voor witwas-riscio. Omdat bij deze beroepen het risico (te) groot is, worden deze klanten-in-spe al bij voorbaat afgewezen.

Voor Bunq, een internet-bank zonder filialen, moet de identificatie en risico-classificatie online uitgevoert worden en aangezien ze veel minder personeel in dienst hebben dan niet-alleen-online-banken is dit niet te behappen.
Aan de hand van online vragenlijsten om je als zo'n risicovolle nieuwe klant te classificeren wordt je 'verhoord' en de antwoorden worden dan gevoed aan de machinelearning (néh,is geen AI) compu van de bank die er 'beter' in zou zijn (*kuch* we hebben geen fte genoeg) om deze controles uit te voeren.

Met machine-learning worden alle antwoorden gewogen met een (door de bank ingevulde) puntensysteem , alle onderlinge verbanden tussen alle antwoorden worden met (al-dan-niet goede) algoritmes gezeefd om het risicofactor voor de nieuwe klant te bepalen. Mocht de compu met het antwoord komen dat het risico te hoog is dan zegt de bank dat de klant niet welkom is -> "Computer says NO"

En verwacht nou maar niet dat je bezwaar kan maken, ook daar hebben ze het personeel niet voor.

En je kan er op wachten .... dat vervolgens andere banken zien dat het nu is toegestaan om de identificatie/riscoanalyze op deze wijze uitgevoerd mag gaan worden (pingping), de computer vaken No gaat zeggen en de risicovolle klant -ofwel ondernemer die veel met contant geld te maken heeft- een dikke middelvinger van de bank terugkrijgt om niet het risico te lopen boetes te worden opgelegd voor et niet geod politietje spelen en witwassen reguleert!
19-10-2022, 09:42 door Anoniem
Door Anoniem: Een groot risico is dat je met AI uitgesloten wordt je er niets tegen kan doen. Bijvoorbeeld omdat totaal niet transparant is hoe de AI werkt.

Dat is misschien intern voor de bank een probleem . Maar op zich mag een bank toch niet vertellen (aan de klant) welke factor of combinatie van factoren de rode vlag liet afgaan .

Wat bij Bunq een probleem is - ze blokkeren wel heel snel een rekening, en zijn daarna volkomen onbereikbaar als de klant wil en kan uitleggen waar die transactie over gaat . Daar zit je dan, als klant - je kunt helemaal niks met je Bunq rekening.

Voor een bank met een marginaal aantal klanten is het aantal klachten daarover ontzettend groot .

Het maakt m.i. niet zo veel uit _hoe_ een bank het doet, maar ze moeten wel snel en goed bereikbaar zijn - en kunnen acteren - als de vergissing bij nader inzien een foutje blijkt .
Ik gok dat de klassieke banken - die inderdaad nu enorme aantallen mensen op "compliance" hebben zitten - die klantervaring _wel_ belangrijk vinden, en heel veel tijd besteden aan het reviewen van de rekeningen die door ai/big data/statistiek/koelies gevlagd zijn .

En bung de AI laat beslissen, en dan anderhalve man en een paardelul in de backoffice heeft zitten die mogen beslissen of de computer niet een beetje voorbarig was.

Bunq is wel de laatste bank waar ik iets mee zou doen.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.