AI systemen zijn per definitie niet menselijk. AI kan niet redeneren zoals mensen. AI systemen werken zo goed als de makers het ontwikkeld hebben. Daar zit overigens ook een uitdaging: In hoeverre snappen wij als mens nog hoe een AI systeem tot resultaten komt / is gekomen. Dat de uitkomst van een AI systeem kan veranderen doordat de data veranderd, lijkt me een open deur. Dat geldt voor elk systeem. Is je input anders of wijzigen je parameters, dan is de kans zeer groot dat de output ook anders is. De uitdaging zit ‘m in te achterhalen hoe een AI systeem tot een resultaat is gekomen. Dat beantwoorden zit er niet ingebakken, dus krijg je er ook niet zomaar uit. Het is geen mens. Het blijven regels code. Het is om die reden dat de Belastingdienst bij mijn weten (inmiddels) dan ook zeer terughoudend is met het gebruiken van AI. Met AI bedoelen we hier overigens meestal op machine learning gebaseerde toepassingen. Bij de Belastingdienst gaat het om systemen gebaseerd op beslisbomen of business rules. Ook ...