image

GroenLinks-PvdA wil opheldering over gebruik AI-tool door incassobureau

dinsdag 2 april 2024, 17:06 door Redactie, 16 reacties

GroenLinks-PvdA heeft demissionair ministers Yesilgöz van Justitie en Veiligheid en Schouten voor Armoedebeleid opheldering gevraagd over een incassobureau dat een AI-tool inzet om de kans op probleemschulden vroegtijdig te signaleren. De AI-tool van Intrum monitort digitale gesprekken naar eigen zeggen op zo’n zeshonderd variabelen, zoals 'tone of voice', het moment van contact of de manier van contact.

"Hierdoor kan het slimme systeem bepalen of iemand potentieel risico loopt om problematische schulden te ontwikkelen", zo stelt het incassobureau. "In zo’n geval zoekt het gespecialiseerde klantteam samen met de betreffende persoon naar een passende oplossing om langdurige problemen te voorkomen. Deze ontwikkeling is een baanbrekende stap in de wereld van incasso’s en schuldinvordering."

Rejo Zenger van burgerrechtenbeweging Bits of Freedom waarschuwt tegenover het AD dat het risico op zeer willekeurige beslissingen heel groot is bij gebruik van zulke systemen, als ze niet heel goed zijn getraind. "Dat kan bizarre situaties opleveren als mensen in een kwetsbare positie, zoals schuldenaren, daarmee te maken krijgen", zo laat hij weten. "En volgens mij zijn er genoeg voorbeelden waarbij gebruik van algoritmes heeft gezorgd voor ernstige gevallen van discriminatie en privacy-schending."

GroenLinks-PvdA-Kamerleden Kathmann en Mohandis willen nu van de ministers weten hoeveel incassobureaus en andere schuldenorganisaties gebruik van AI maken. "Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen van correspondentie van mensen met schulden? Op welke data is dit systeem getraind en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee aan dataminimalisatie?", zo willen de twee verder weten.

Yesilgöz en Schouten moeten ook duidelijk maken of ze risico’s zien bij het inzetten van zelflerende AI door incassobureaus, zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie? Kathmann en Mohandis vinden dat organisaties in de schuldenindustrie uiterst terughoudend moeten zijn bij de inzet van AI en algoritmes en vragen of de ministers dat ook vinden.

De GroenLinks-PvdA-Kamerleden vragen ook om de garantie dat het gebruik van AI voor consumenten altijd optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke correspondentie door een dergelijk systeem te laten controleren. De ministers moeten tevens laten weten welke kaders erop dit moment gelden voor het gebruik van AI door incassobureaus en schuldeisers. De bewindslieden hebben drie weken om de vragen te beantwoorden.

Reacties (16)
02-04-2024, 17:28 door Anoniem
Dat is een duurzaam verhaal over de criminele activiteiten van deze groep dat voortkomt uit Intrum Justitia volgens de website van Intrum zelf.

Die waren twintig jaar geleden al brieven aan het versturen alsof ze van het OM kwamen. Logo leek er ook veel op. De handel bestond uit cessie van niet invorderbare schulden, die kochten ze op bij de (semi) overheidsinstellingen zoals ziekenfondsen, woningbouwverenigingen etc. En dan maar dreigbrieven sturen, daar waren ze toen al goed in, mensen afpersen, hun huizen uit laten zetten door schulden.

Bij die handel heeft de overheid dus toen verdient, en dat zullen ze wel nog steeds doen alleen nu met AI. Het wordt steeds erger.
02-04-2024, 19:59 door Anoniem
Wel aan de andere kant A.I. een testament laten opmaken.
Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?

Het maakt sommigen al wel een beetje bang.

Komen er wettelijk voorgeschreven algoritme opstellingen?

Alles wat niet ten dienste van de burgers is, is tegen ons burgers.

#laufer
03-04-2024, 08:11 door EenPoging - Bijgewerkt: 03-04-2024, 08:11
Mooi dat er eens kritisch wordt gekeken naar dit soort zaken.
03-04-2024, 08:13 door Anoniem
Door Anoniem: #laufer
Niet om het een of ander, maar dit leest meer als een psyop campagne dan een normaal bericht wat iemand zou plaatsen.

Wel aan de andere kant A.I. een testament laten opmaken.
--> Uitspraak die maar amper koppelt aan het artikel, lijkt op een verwijzing, maar geen bronvermelding bevat of iets.


Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?
--> Suggestieve vragen zonder antwoorden, die eigenlijk nergens op slaan en vooral een groots wereldbeeld schetsen wat op geen enkele manier in realiteit is gevestigd.

Het maakt sommigen al wel een beetje bang.
--> Vage uitspraak die voordoet alsof anderen zich bang moeten voelen

Komen er wettelijk voorgeschreven algoritme opstellingen?
--> Wederom vage vraag (waarvan mij niet eens de intentie duidelijk is)

Alles wat niet ten dienste van de burgers is, is tegen ons burgers.
--> Polariserende, populistische uitspraak. "De burgers" is geen homogeen geheel. Niet alles is voor of tegen. Er zijn dingen voor sommige burgers en tegen anderen. Er zijn andere entiteiten met belangen die ongerelateerd kunnen zijn aan "de burgers"

Mijn punt: als je iets te zeggen hebt zeg het. Stop met deze poetische complotdenkerij en maak je gedachten een keer duidelijk.
03-04-2024, 10:00 door Anoniem
Door EenPoging: Mooi dat er eens kritisch wordt gekeken naar dit soort zaken.
Weet je waar ze in Nederland en ook in de EU heel goed in zijn, veel praten heel interessant doen en
dan na een paar jaar is er nog niets gebeurd. Maar je hebt wel gelijk die criminele horen ergens anders
thuis.

Ben ik de enige die van veel vertrouwen in de overheid op korte termijn helemaal geen vertrouwen meer
heeft in de overheid. De minister-president bijvoorbeeld is nu alleen bezig zijn volgende baan zeker te stellen,
ondanks zijn falen in dit land heeft hij veel kans om die baan te krijgen, dat zegt mij wel veel.
03-04-2024, 11:17 door Anoniem
A.I. wordt hierbij heilig verklaard en alle kritiek wordt weggezet als
populisme, is polariserend, want we moeten toch allemaal mee in de propagandistische en geplande dialoog. Het lijkt wel een standaard repliek van een bot zelf. PvdA was dat niet eens in het leven geroepen door de loge?
03-04-2024, 11:18 door kloek8
Door Anoniem:
Door Anoniem: #laufer
Niet om het een of ander, maar dit leest meer als een psyop campagne dan een normaal bericht wat iemand zou plaatsen.

Wel aan de andere kant A.I. een testament laten opmaken.
--> Uitspraak die maar amper koppelt aan het artikel, lijkt op een verwijzing, maar geen bronvermelding bevat of iets.


Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?
--> Suggestieve vragen zonder antwoorden, die eigenlijk nergens op slaan en vooral een groots wereldbeeld schetsen wat op geen enkele manier in realiteit is gevestigd.

Het maakt sommigen al wel een beetje bang.
--> Vage uitspraak die voordoet alsof anderen zich bang moeten voelen

Komen er wettelijk voorgeschreven algoritme opstellingen?
--> Wederom vage vraag (waarvan mij niet eens de intentie duidelijk is)

Alles wat niet ten dienste van de burgers is, is tegen ons burgers.
--> Polariserende, populistische uitspraak. "De burgers" is geen homogeen geheel. Niet alles is voor of tegen. Er zijn dingen voor sommige burgers en tegen anderen. Er zijn andere entiteiten met belangen die ongerelateerd kunnen zijn aan "de burgers"

Mijn punt: als je iets te zeggen hebt zeg het. Stop met deze poetische complotdenkerij en maak je gedachten een keer duidelijk.

Ben blij met jou reactie.
Zelf als ik dit artikel lees stel de vraag eerder, waarom gaat de overheid zich bemoeiden met innovatie? Moeten bedrijven zich tegenwoordig verantwoorden als ze iets bedenken dat hun dienst of product beter maakt?

Als ik dit artikel lees dan lees ik over een stukje software dat ondersteund in het vinden van "mogelijke" probleemgevallen. Waarom gaan we hier nu moeilijk over doen? al jaren wordt er gebruik gemaakt van software die op basis van invoer bepaald hoe hoog mijn hypotheek maximaal gaat zijn. Daar zit geen menselijke hand meer bij omdat de overheid voor de banken en verstrekkers de regels hiervoor heeft bepaald. Dus de software hoeft dit alleen nog maar te toetsen en ene waarde eruit te spugen met een rente gebaseerd op risicoanalyse....

Laten we nu niet elke innovatie onder een vergrootglas leggen en eerder dit gaan aanmoedigen, kijken wat we ermee kunnen om het leven beter te maken.
03-04-2024, 13:41 door Anoniem
Door kloek8: Als ik dit artikel lees dan lees ik over een stukje software dat ondersteund in het vinden van "mogelijke" probleemgevallen. Waarom gaan we hier nu moeilijk over doen?

Is het zo erg om kritisch en argwanend te zijn?

Het verdienmodel van bedrijven als Intrum is de afbetaling van schulden. Waarbij het verlokkend is om dit uit te smeren over een langere periode, zodat ze meer incassokosten of rente kunnen heffen.

Volg het geld:
Als een client potentieel risico loopt om problematische schulden te ontwikkelen, dan kunnen ze naar hun inkomsten fluiten. Een kale kip kun je namelijk niet plukken. En uit een steen geen bloed persen.
Het is dus eigen belang, zodat ze langer kunnen melken ipv iemand failliet laten verklaren oid.

Deze schuldenaren zijn vaak al kwetsbaar. Het is niet alsof ze veel keuzes hebben. Er is meestal een achterliggende reden waarom ze in de schulden beland zijn.
Schuldsanering is vaak een betere optie, als ze daar al voor in aanmerking komen.
Op een eerder moment al goed met geld leren omgaan misschien nog beter. (voorkomen is beter dan genezen, heb ik altijd geleerd)


Ik ga er dan ook niet blind van uit dat een commercieel bedrijf zo maar charitatief iets voor deze mensen doet.
AI kost geld. Dat moet ergens uit betaald worden.
Zijn er dan zoveel clienten met problematische schulden? Waar is dat dan door veroorzaakt?
Of worden de tarieven verhoogd?


En dan hebben we het nog niet over de 600 onbekende variabelen.
Waar letten ze allemaal op?
En welke vooroordelen zitten daarin verstopt?
Wat als de AI gaat hallucineren?

Moet je kwetsbare mensen die al weinig keuzes hebben, ook nog eens als proefkonijn inzetten?
03-04-2024, 14:05 door Anoniem
Door Anoniem: A.I. wordt hierbij heilig verklaard en alle kritiek wordt weggezet als
populisme, is polariserend, want we moeten toch allemaal mee in de propagandistische en geplande dialoog. Het lijkt wel een standaard repliek van een bot zelf. PvdA was dat niet eens in het leven geroepen door de loge?
Anon van 08:13 hier: mijn probleem was niet dat er kritiek geleverd wordt. Ik denk dat het zeer problematisch is dat we dit soort technieken los gaan laten in situaties waar kwetsbare mensen veel risico's lopen. Volgens mij hebben we dat onderhand wel geleerd. (zie: toeslagenschandaal)
Mijn probleem met #laufer was dat die geen kritiek levert. In plaats daarvan worden er alleen wat vage vragen gesteld en gevoelens opgeroepen. Als je kritiek hebt, verwoord dat dan, want dan kunnen anderen er nog iets mee. Niemand is geholpen met nietszeggend poetisch gebrabbel.
Overigens kun je toch niet met droge ogen beweren dat "Alles wat niet ten dienste van de burgers is, is tegen ons burgers." niet twee partijen tegenover elkaar zet (dus polariserend is) of gebruikmaakt van een "volk-elite" tegenstelling (burgers-onzichtbare tegenpartij).

Door kloek8:
Ben blij met jou reactie.
Zelf als ik dit artikel lees stel de vraag eerder, waarom gaat de overheid zich bemoeiden met innovatie? Moeten bedrijven zich tegenwoordig verantwoorden als ze iets bedenken dat hun dienst of product beter maakt?
De overheid bemoeit zich met innovatie omdat we niet willen dat onschuldige mensen er slachtoffer van worden. Ja, wat mij betreft moeten bedrijven zich altijd verantwoorden als ze hun dienst aanpassen en daarbij (een groep) mensen onterecht schade aandoen.
We zijn ook gestopt met asbest, slavernij, PFAS, kinderarbeid en 100 andere dingen. Daar werd prima geld aan verdiend, maar veroorzaakte uiteindelijk te veel schade aan de mens.
03-04-2024, 14:08 door Anoniem
Door kloek8: Zelf als ik dit artikel lees stel de vraag eerder, waarom gaat de overheid zich bemoeiden met innovatie? Moeten bedrijven zich tegenwoordig verantwoorden als ze iets bedenken dat hun dienst of product beter maakt?

[...]

Laten we nu niet elke innovatie onder een vergrootglas leggen en eerder dit gaan aanmoedigen, kijken wat we ermee kunnen om het leven beter te maken.
De reden dat men erover valt is niet omdat er iets innovatiefs wordt toegepast maar omdat er al zat voorbeelden van dit soort systemen zijn geweest die ingebouwde vooroordelen bleken te hebben, omdat de data waarmee ze getraind waren die vooroordelen bevatten. Zoek op "AI bias" en je vindt met gemak diverse besprekingen van dit verschijnsel.

Ook iets om bij stil te staan is dat dit soort systemen in wezen een soort statistische analyse doen en het resultaat toepassen op individuele gevallen. De kracht van die systemen is dat ze verbanden leggen die mensen anders niet uit de data weten te halen, maar dat is tegelijk de zwakte, want hoe dat verband is gevonden en op grond waarvan eigenlijk is voor mensen typisch onnavolgbaar. Het systeem kan op onverwachte dingen reageren (een systeem dat longkanker op röntgenfoto's moest herkennen bleek te reageren op tekst in een hoekje van de afbeeldingen die de bron van de foto's van zieke longen er standaard op plaatste). Dit soort ongelukken zitten in kleine hoekjes als moeilijk of zelfs onmogelijk te doorgronden is hoe een zichzelf trainend systeem tot resultaten komt, en dat is een zwakte. Ook in juridische zin, want men moet kunnen uitleggen op grond waarvan men besluiten neemt. Dat lijkt me voor een incassobureau niet onbelangrijk.

Verder zou ik wat terughoudender zijn met wat je innovatie noemt. De gebruikers van innovaties zijn niet degenen die innoveren, de innovatoren zijn de uitvinders ervan. Ik betwijfel of een incassobureau de wetenschappers in huis heeft die de AI-systemen ontwikkelen. Ze kopen waarschijnlijk een licentie op software die een ander heeft ontwikkeld en trainen die met hun eigen data. Dat vergt ook kennis, maar dat een vrachtwagenchauffeur een groot rijbewijs nodig heeft (kennis dus) maakt hem of haar nog niet de innovator die de vrachtwagen heeft uitgevonden. Het goed trainen van een AI-systeem is zeker geen sinecure, maar het is niet van dezelfde orde als het ontwikkelen van dat systeem dat men met trainingsdata aan het voeden is, dan heb je het over vele jaren aan fundamenteel onderzoek naar hoe je dat soort dingen kan laten werken, en dat onderzoek is echt niet door een incassobureau gedaan. Dát is waar iets nieuws mogelijk wordt gemaakt; dát is waar de innovatie plaatsvindt.
03-04-2024, 14:38 door Anoniem
Dat bedoel ik nou. De menselijke maat is weg,
als alles afgewogen wordt via A.I.

Wat dreigt, verantwoordelijk zoeken voor je verdienmodel op zo'n manier. Eens was de klant koning.

A.I. en je hoeft het "product" niets meer uit te leggen.
Het product zijn u en ik.

Zet A.I. maar op de troon en je gaat het beleven.
03-04-2024, 15:38 door karma4
Omdat een privacy activist stampij maakt moeten er kamervragen gesteld worden. Het zijn wonderlijk tijden.
Zoek op "AI bias" en je vindt met gemak diverse besprekingen van dit verschijnsel.
Die zijn vaak goed te verklaren door menselijke vooringenomenheid. Veel zorgelijker zijn de onnavolgbare vooringenomenheid bij mensen. Als iets een keer voorkomt is dat geen bewijst dat het altijd voorkomt.
03-04-2024, 18:09 door Anoniem
Door karma4: Omdat een privacy activist stampij maakt moeten er kamervragen gesteld worden. Het zijn wonderlijk tijden.
Zoek op "AI bias" en je vindt met gemak diverse besprekingen van dit verschijnsel.
Die zijn vaak goed te verklaren door menselijke vooringenomenheid. Veel zorgelijker zijn de onnavolgbare vooringenomenheid bij mensen. Als iets een keer voorkomt is dat geen bewijst dat het altijd voorkomt.

En wie voeden een AI. Juist diezelfde mensen met hun vooringenomenheden.
Het lost dus geen probleem op, maart maakt het alleen maar massaler, want automaisering zonder onderbouwing waarop de besluiten genomen zijn.
"De AI voelde het aan zijn water", zullen we maar zeggen.
04-04-2024, 06:03 door Anoniem
Alle kritiek, die je om een of andere reden niet zo best uitkomt, afdoen als poëtisch gebrabbel,
is wel heel gemakkelijk om je van een algemeen probleem af te maken.

Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.

We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?

Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.

Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".

#laufer
04-04-2024, 11:30 door Anoniem
Door Anoniem: Alle kritiek, die je om een of andere reden niet zo best uitkomt, afdoen als poëtisch gebrabbel,
is wel heel gemakkelijk om je van een algemeen probleem af te maken.

Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.

We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?

Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.

Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".

#laufer

Tzt kan AI al het werk overnemen. Dan hoeft niemand meer te werken (zo zal het gebracht worden).
Dan kun je talenten gaan ontwikkelen. XD
M.a.w. een besparing aan personeelskosten voor de werkgevers.

Echter...
Als niemand meer werkt, waar leven die mensen dan van?
En als er geen inkomen meer is (want niet werken), dan is er ook niemand meer om de AI geproduceerde producten af te nemen.
Dan stort dus de economie in, en zijn zelfs de rijkste 1% opeens ook armoezaaiers, want geen omzet/winst meer.

https://www.youtube.com/watch?v=20TAkcy3aBY
08-04-2024, 18:53 door Anoniem
Door Anoniem:
Door Anoniem: Alle kritiek, die je om een of andere reden niet zo best uitkomt, afdoen als poëtisch gebrabbel,
is wel heel gemakkelijk om je van een algemeen probleem af te maken.

Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.

We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?

Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.

Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".

#laufer

Tzt kan AI al het werk overnemen. Dan hoeft niemand meer te werken (zo zal het gebracht worden).
Dan kun je talenten gaan ontwikkelen. XD
M.a.w. een besparing aan personeelskosten voor de werkgevers.

Echter...
Als niemand meer werkt, waar leven die mensen dan van?
En als er geen inkomen meer is (want niet werken), dan is er ook niemand meer om de AI geproduceerde producten af te nemen.
Dan stort dus de economie in, en zijn zelfs de rijkste 1% opeens ook armoezaaiers, want geen omzet/winst meer.

https://www.youtube.com/watch?v=20TAkcy3aBY

Dan mogen we allemaal onder leiding van de onredelijke akela gaan schoffelen, loodgieter worden of zonnepaneelinstallateur, of werken in beveiliging op Schiphol, de catering of de zorg. Om je te criminaliseren vanwege je dissidente geluiden met een wettelijk mogelijk gemaakte partijlijn van de ondemocratische instituten op autocratische leest geschoeid.

Hebben ze ons daar waar ze ons hebben willen.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.