Door Anoniem: De huidige AI droomt/hallucineert er af en toe op los. Dat lijk me dus onwenselijk.
Als ze dat probleen weten op te lossen, door extra grenzen vast te stellen en een bron tracing invoeen zodat gecontroleerd kan worden hoe een AI tot zijn "oordeel" komt, dan wordt een AI weer voorspelbaar.
Want als je weet hoe een AI redeneert en welke biassen het bevat, dan kun je die AI manipuleren.
In dat geval is AI gewoon weer een zoekmachine. Hoeven we het ook geen "AI" meer te noemen.
Blijft de vraag over: kan een AI dan helpen bij het leveren van extra informatie voor een rechtzaak?
Nee, de huidige "AI" kan, als het om waarheidsvinding gaat, niet meer dan een zoekmachine, dat wil zeggen: tips aanleveren waar je informatie kunt vinden, die je vervolgens zelf nog moet checken, aan de hand van bronverwijzingen, consistentie met andere informatie, etc.
Wie maken daar gebruik van? Alleen de rechter, of ook de advocaten.
Als een rechter niet aangeeft waarop bepaalde ideeën of standpunten zijn gebaseerd, maar verwijst naar "AI", dan worden de advocaten niet in de gelegenheid gesteld om te checken waarop de rechter zijn ideeën/standpunten nu eigenlijk baseert. Naar "AI" verwijzen is een pretentieuze manier om te zeggen: "Mijn natte vinger vertelt me dat..."
En gaan we dan niet een wedstrijd krijgen wie de "beste" AI heeft ipv een zaak op zijn merites beoordelen. (voor zover dat nu wel gebeurt)
Het gaat nog verder. Het valt niet eens te bewijzen wie de "beste" AI heeft, omdat niet inzichtelijk is hoe een AI bepaalde informatie/fictie heeft gegenereerd.
En stompt dat de vakmensen niet af, omdat die (uit gemakzucht) blind gaan varen op die AI.
"Use it or lose it."
Ja, dat stompt vakmensen inderdaad (nog verder) af. Nu al zie je dat veel rechters, maar ook sommige deskundigen, niet in staat of niet bereid zijn kritisch na te denken over waarop ze hun standpunten nu eigenlijk baseren.
Het verbaast me eigenlijk dat 10 tot 12% van de respondenten hier in deze poll (nota bene op een security-forum) het wel prima vindt als rechters hun oordelen gaan vellen op basis van ficties waarvan geen mens weet waarop die gebaseerd zijn.
M.J.