De function creep die nu al begonnen isAfgaand op het artikel hier op Security.nl, is de function creep van de AI-tool nu al begonnen (onderstreping van mij):
Verschillende huisartsenpraktijken doen mee aan een pilot van zorgverzekeraar VGZ waarbij ze een AI-tool de eerste triage van patiënten laten doen om te bepalen of die alleen advies nodig hebben, voor een afspraak kunnen langskomen of direct de huisarts moeten bellen. Naar aanleiding van de eerste resultaten gaat VGZ het gebruik van de AI-tool ook voor andere huisartsen vergoeden.
Het is duidelijk dat het plan is om ooit in de toekomst te zeggen: "Nee, u
kunt niet langskomen en u
kunt de huisarts of praktijkassistent ook niet telefonisch raadplegen. Computer says no. Het zou ons te veel tijd kosten."
"De software helpt bij de intake van patiënten met een zorgvraag. De intake kost de assistent minder tijd dan de gewoonlijke telefonische intake."
Vroeger kon je gewoon een huisarts bellen en hem/haar zelf spreken en om advies vragen. Tegenwoordig is de huisartsenzorg opgesplitst in een "intake" en de rest van de zorg. Voor die "intake" kun je nu alleen nog terecht bij de praktijkassistent. Nu willen ze ook die "intake" weer opsplitsen in een AI-intake (waarbij je alvast betaalt met jouw data) en een soort "vervolg-intake" door de praktijkassistent.
"De assistent krijgt tijd om taken van de huisarts over te nemen. Zo kunnen assistent en huisarts de taken beter verdelen. En houdt de huisarts meer tijd over voor de patiënt in de spreekkamer", aldus VGZ bij de aankondiging van de pilot.
Het idee is dus dat AI gaat bepalen welke patiënt zogenaamd "meer" tijd een aandacht krijgt, maar vooral ook welke patiënt die
niet krijgt. Dit zal leiden tot verschillende soorten huisartsenpraktijken. Reken maar dat de AI in bepaalde postcodegebieden weinig scrupules zal hebben om tegen patiënten te "zeggen" dat er geen aanleiding is voor het raadplegen van een levende persoon. En dat de AI in bepaalde postcodegebieden, op basis van "statistische gegevens" (wat dan "evidence based" genoemd zal worden), de ingevoerde data en mededelingen van patiënten wat anders gaat inschatten.
De AI-tool in kwestie heet 'Klinik Access' en wordt door de makers omschreven als een 'AI-gestuurde online triage oplossing'. "Klinik's AI-gestuurde online triage en patientflow management software beoordeelt (medische) vragen van patiënten en zorgt dat deze vragen bij de juiste zorgverlener terecht komen. Door de capaciteit van alle zorgverleners te benutten, neemt de druk op huisartsen af en krijgen patiënten sneller de juiste zorg", zo laat de website van het bedrijf weten.
Uit deze tekst blijkt dat het bedrijf Klinik Access de AI ook opvat als een zorgverlener, want in het huidige paradigma beoordeelt alleen een zorgverlener "medische vragen". Echter, in het verlenen van daadwerkelijke zorg zit altijd ook een wezenlijk element van menselijk contact. Dat element wordt nu wegbezuinigd uit de zorg tijdens de intake. Zo ontstaat er een nieuw paradigma, waarin "zorg" niet langer zorg hoeft te zijn, maar wordt veranderd in het aansturen van een object dat door de haarvaten van een beslisboom de ene of de andere kant op wordt gestuurd.
De naam Klinik Access is wel slim gekozen, want het kan over twee dingen gaan. In schijn gaat het over de toegang ("access") van de patiënt tot zorg. Maar in werkelijkheid gaat het om de toegang van of via bedrijven tot persoonlijke medische data. Bijvoorbeeld een commerciële keten met als werknemer ingehuurde, gehoorzame huisartsen, voor het gewone volk. De naam zou duidelijker zijn als die volledig werd uitgeschreven: "Klinik Access to Patient Personal Data" oftewel KLAPP-D.
Volgens huisarts Peer van Rooij van Huisartsenpraktijk In de Leonardus in 's-Hertogenbosch is het voordeel van de AI-tool dat mensen die bellen minder lang hoeven te wachten. "We hadden voorheen dat patiënten soms wel een half uur in de wacht stonden. Nu stellen ze hun vragen online. Het scheelt zo’n twintig procent aan telefoontjes." De huisartsenpraktijk heeft hierdoor op piekmomenten minder assistentes nodig. "Het werk is beter planbaar." Alle patiënten die via de tool contact opnemen met de praktijk, krijgen antwoord van de doktersassistente, zo meldt De Telegraaf vandaag.
Nu, in de pilot-fase, krijgen alle patiënten nog antwoord van de doktersassistente. Als deze "pilot" (d.w.z. gedeeltelijk pseudo-onderzoek maar eigenlijk gewennings-tool) overgaat in een "normaliserings"-fase, zullen de "antwoorden" van de doktersassistenten een neiging hebben om schriftelijk te worden (bijv. via een app) en geleidelijk aan eveneens geautomatiseerd worden. De assistent zal alleen nog even een tekstje hoeven door te nemen dat de AI al voor haar/hem klaar heeft gezet en dan op een knop drukken.
Waarom zorgt deze huisarts niet dat hij voldoende praktijkassistenten heeft om ervoor te zorgen dat patiënten als ze bellen niet structureel een half uur in de wacht staan? Omdat VGZ daar niet voor wil betalen? Dan ligt een stevig gesprek tussen arts (of diens beroepsorganisatie) met VGZ of andere verzekeraars voor de hand. Weet je wel, als arts opkomen voor goede zorg voor je patiënten... of is dat heel ouderwets gedacht?
De praktijk van Van Rooij is één van de zestien huisartsenpraktijken die meedoet aan de twee jaar durende pilot van VGZ. De resultaten van de pilot zijn volgens de zorgverzekeraar ’dusdanig positief’ dat het de vergoeding voor de AI-triagesoftware nu ook beschikbaar stelt voor andere huisartsen die ermee aan de slag willen. "De huisartsen krijgen gedurende twee jaar een vergoeding voor de aanschaf en implementatie van het softwarepakket", vertelt Max Andriessen, innovatiemanager bij VGZ.
Ik zou de attitude van een huisarts die op die manier AI tussen zichzelf en patiënten in wil plaatsen, niet meer vertrouwen.
Huisarts Van Rooij denkt dat AI een steeds grotere rol gaat spelen in de huisartsenpraktijk. "Er zal wel altijd een arts bij betrokken moeten blijven”, verwacht hij. "Het gesprek tussen patiënt en arts is heel belangrijk "
Ja, en Facebook, Google en Microsoft vinden de privacy van gebruikers ook "heel belangrijk". We weten inmiddels allemaal dat dat in de praktijk niets betekent en niet meer is dan loze, quasi-geruststellende blabla, want deze bedrijven zoeken qua inbreuken op de privacy telkens de grenzen op van waar zij juridisch mee wegkomen.
Hier zie je dat de huisarts eigenlijk zelf ook al function creep van de AI verwacht, namelijk "een steeds grotere rol". Wat hij er niet bij zegt, is dat dit ook een "steeds kleinere rol" betekent voor de menselijke zorgverlener. Want de steeds grotere hoeveelheid geld die straks aan AI besteed wordt, wordt onttrokken aan de beloning van menselijke zorgverleners. Anders zouden verzekeraars zoals VGZ die AI namelijk niet interessant vinden.
"Er zit altijd een heleboel ruis rondom het werkelijke probleem. Als huisarts heb je de taak om daar doorheen te kijken en te zien wat er werkelijk aan de hand is. De intonatie waarop iemand iets zegt is bijvoorbeeld heel erg van belang. En die nuance kan een computer niet maken."
Nee, er zit niet altijd een heleboel ruis rondom het werkelijke probleem. Sommige patiënten weten haarscherp èn genuanceerd meteen de vinger op de kern te leggen. Kennelijk is deze huisarts wat paternalistisch en heeft geen hoge dunk van zijn eigen patiënten. In samenhang met die attitude vergeet huisarts Van Rooij hier gemakshalve even dat die nuance vanaf het eerste contact met de patiënt belangrijk is. Dat contact wordt nu, afhankelijk van hoe je kiest ernaar te kijken, ofwel uitgesteld tot een latere fase, ofwel veranderd in geautomatiseerd pseudo-"contact" met een computer.
M.J.