Het kabinet verwacht dat meer incassobureaus bij het incassotraject AI gaan inzetten en kan niet garanderen dat het gebruik hiervan optioneel voor mensen zal zijn, zo liet voormalig minister voor Rechtsbescherming Weerwind vorige week aan de Tweede Kamer weten. GroenLinks-PvdA stelde Kamervragen naar aanleiding van een incassobedrijf dat een AI-tool gebruikt om naar eigen zeggen de kans op probleemschulden vroegtijdig te signaleren.

De AI-tool van Intrum monitort digitale gesprekken naar eigen zeggen op zo’n zeshonderd variabelen, zoals 'tone of voice', het moment van contact of de manier van contact. "Hierdoor kan het slimme systeem bepalen of iemand potentieel risico loopt om problematische schulden te ontwikkelen", zo stelt het incassobureau. "In zo’n geval zoekt het gespecialiseerde klantteam samen met de betreffende persoon naar een passende oplossing om langdurige problemen te voorkomen. Deze ontwikkeling is een baanbrekende stap in de wereld van incasso’s en schuldinvordering."

GroenLinks-PvdA-Kamerleden Kathmann en Mohandis wilden opheldering van de minister en onder andere weten hoeveel incassobureaus AI toepassen of dit van plan zijn. "Het kabinet acht het aannemelijk dat steeds meer incassodienstverleners gebruik zullen maken van kunstmatige intelligentie tijdens het minnelijke of buitengerechtelijke incassotraject", antwoordt Weerwind (pdf).

De bewindsman voegt toe dat de ministeries van Binnenlandse Zaken en Justitie en Veiligheid binnenkort met Intrum zullen spreken 'over de breedte van dit thema'. Details hierover zullen later met de Tweede Kamer worden gedeeld. "In hoeverre Intrum voldoet aan de vereisten, waaronder die met betrekking tot dataminimalisatie, die op grond van de Algemene verordening gegevensbescherming (AVG) gelden is ter beoordeling van diens Functionaris Gegevensbescherming en aan de toezichthouder, te weten de Autoriteit Persoonsgegevens (AP). Dat is mij op dit moment niet bekend", gaat Weerwind verder.

De voormalige minister laat tevens weten dat het kabinet ziet dat de inzet van AI door incassobureaus risico's met zich kan meebrengen. "Gelet op voornoemde vindt het kabinet het belangrijk om erop te wijzen dat bij de toepassing van AI al de nodige waarborgen en regels gelden", aldus Weerwind. "Als daarnaast bij het trainen of gebruiken van algoritmes persoonsgegevens worden verwerkt, bijvoorbeeld afkomstig uit gevoelige correspondentie, dan is de AVG van toepassing. Het is aan de toezichthouder om op de naleving toe te zien en hierop te handhaven."

Garantie

Kathmann en Mohandis vroegen ook of het kabinet kan garanderen dat het gebruik van kunstmatige intelligentie voor mensen altijd optioneel is en dat mensen nooit onder druk gezet worden om de persoonlijke correspondentie door een dergelijk systeem te laten controleren. "Nee, dat kan het kabinet niet garanderen", antwoordt Weerwind. De voormalige minister vult aan dat mensen met schulden niet oneigenlijk onder druk mogen worden gezet. "Daarbij geldt dat ten aanzien van persoonlijke correspondentie incassodienstverleners gehouden zijn aan de AVG die bescherming biedt bij de verwerking van (bijzondere) persoonsgegevens van alle betrokkenen."