Door Anoniem: Dus je voert alle parameters van alle aanvragen in in het systeem, en daarbij ook de indicatie "fraude", en dan berekent het systeem de match tussen o.a. nationaliteit en fraude (evt in combinatie met andere parameters). Dat is een "Bayesiaans filter". Wordt ook gebruikt door spamfilters, bijvoorbeeld. Het is een Bayesiaans filter als het op Bayesiaanse kansrekening is gebaseerd. Als de benadering anders is, bijvoorbeeld door een neuraal netwerk te trainen, dan is het geen Bayesiaans filter. Nou kan uit dit soort processen natuurlijk een ongemakkelijke waarheid komen. Als er daadwerkelijk meer gefraudeerd wordt door immigranten dan door autochtonen dan komt dat in dat cijfer voor nationaliteit terecht. Dat wil niet zeggen dat dat bij medewerkers vandaan komt die dan racistisch zouden zijn. Het wil ook niet zeggen dat er geen vooroordelen in verwerkt zijn geraakt, dat risico bestaat wel degelijk. Een ander risico is dat een bias zichzelf in stand kan houden. Neem het volgende scenario: • ...