De mens gaat zichzelf door de techniek laten vervangen en dat is misschien maar beter ook want we bakken er niets van.
De planeet is beter af zonder ons.

Weet A.I. inmiddels al een beetje hoeveel vingers en vingerafdrukken een mens heeft?

Tot nu toe hebben Nederlandse rechters zich niet of nauwelijks in staat en/of niet bereid getoond om de grondrechten van Nederlanders te beschermen wanneer die door de implementatie digitale systemen worden aangetast.

Ik heb er geen enkel vertrouwen in dat rechters competenter zouden worden en meer respect voor de rechtsstaat zouden tonen als het gaat om de implementatie van AI. Het lijkt er meer op dat ze achter de nieuwste mode en de mooie praatjes van AI-lobbyisten aan zullen lopen. Dat is makkelijker en het salaris komt toch wel binnen.

Het is toch al lang aangetoond dat dit niet werkt? AI is een gokmachine en als zodanig een contradictio in terminis.

Bekijk even deze video op twitter.
https://x.com/Rainmaker1973/status/1822620480970322217
What could possibly go wrong? Met AI in de rechtspraak.

Dat was een hele lastige keuze deze keer! Ik vind van ja, maar het punt is, je moet begrijpen hoe je AI moet gebruiken. Wat je van een rechter niet meteen mag verwachten. Evenwel had de vraag ook kunnen zijn of een rechter google of duckduckgo mag gebruiken. Ook dat zijn openbare bronnen. Maar is ook inmiddels gemanipuleerde data bij google. Je moet weten waar je naar kijkt en hoe je moet zoeken. En hoe je wat je ziet moet interpreteren. Waar dan daarna rechters wel weer erg goed in zijn. Weet ik uit ervaring. Mijn ja is daarom ook, dat de laatste die je wat kunt verbieden, de openbare rechter is.

Een van de eigenaardigheden van het Nederlandse recht is dat een rechter dingen niet aan de grondwet mag toetsen. Artikel 120 van de grondwet zegt dat: "De rechter treedt niet in de beoordeling van de grondwettigheid van wetten en verdragen." Het idee is dat de 2e en 1e kamer hun werk goed doen en er geen wetten door laten komen die de grondwet schenden.

Rechters zijn in mijn ervaring heel vaak helemaal niet goed in hoe ze interpreteren wat ze zien. Daar komt nog bij dat ze veel dingen vaak niet willen zien, dus oogklepjes opzetten en dingen "niet relevant" vinden, maar zonder in hun uitspraken uit te leggen waarom. Anderzijds nemen veel rechters ook voetstoots dingen aan, zonder duidelijk te maken waarop hun aanname gebaseerd is.

Ik heb hele goede rechterlijke motiveringen gezien, maar nog meer hele slechte.

Wat betreft de door jou genoemde "openbare bronnen", je wilt ook niet dat een rechter een SF-verhaal of een film met Tom Cruise als "openbare bron" gaat gebruiken. Rechter: "Deze fraude-zaak komt in grote lijnen overeen met de casus van The Firm (Grisham). De conclusies die de hoofdpersoon daarin trekt, zijn logisch en navolgbaar. Daarom verklaar ik u schuldig aan fraude, waarbij ik ter motivering verwijs naar deze openbare bron, die met een zeer hoge mate van waarschijnlijkheid duidelijk maakt hoe het feitelijk toegaat in een dergelijke situatie."

Het is niet genoeg als een bron openbaar is. Hij moet ook nog relevant (ter zake doend) zijn, toepasselijk en betrouwbaar. En het moet natuurlijk een bron van feiten zijn, niet een bron van (op basis van statistiek en niet of slechts deels inzichtelijke algoritmes) gegenereerde ficties.

M.J.

Nederlandse rechters mogen en moeten dingen wel toetsen ("rechtstreeks"!) aan internationale verdragen. Probleem is dat zij vaak weigeren dit te doen, bijvoorbeeld door te zeggen dat het niet nodig is omdat het internationale verdrag al uitgewerkt zou zijn in nationale wetgeving. Vervolgens is het probleem dat internationale instanties die zo'n rechterlijke uitspraak dan weer kunnen toetsen, daar vaak ook niet toe bereid zijn. Het Europese Hof voor de Rechten van de Mens (EHRM) heeft bijvoorbeeld de neiging om meer dan 95% van de ingebrachte verzoekschriften zonder duidelijke motivering in de prullenbak te gooien.

Kortom, in strijd met al die mooie kreten die Europese en nationale politici de wereld in sturen over dat de EU "de rechtsstaat" ("the rule of law") zou verdedigen, doet de EU dat in de praktijk meestal juist niet.

M.J:

Gewoon niet doen, een rechtbank "ontmenselijken", heel slecht idee!!!
Het feit dat mensen er al over denken is te idioot voor woorden, het ondermijnt daarmee ook de rechtstaat.
Ik heb totaal geen respect voor rechters of eventuele wetten die hierin meegaan.

Ik vermoed met aan zekerheid grenzende waarschijnlijkheid dat Lucia de B. -voormalig "engel des doods"- het hartgrondig met je eens zal zijn
https://nl.wikipedia.org/wiki/Zaak-Lucia_de_Berk
Zou A.I. zich inspannen om zulke bewuste en gewenste dwaling bij het O.M. aan het licht te brengen?

Interessante vraag! Niet omdat A.I. zich zou kunnen "inspannen" (ik neem aan dat je hier niet doelt op het voltage van de servers), maar wel omdat het een vraag is die gaat over het zelfcorrigerend en onderling corrigerend vermogen van juridische functionarissen (rechters, griffiers, aanklagers, onderzoekers) in juridische processen. Welke invloed zou de inzet van A.I. hebben op dat zelfcorrigerend vermogen?

Destijds heb ik het boek van hoogleraar Ton Derksen gelezen, "Het OM in de fout. 94 structurele missers". Als ik me goed herinner was de zaak-Lucia-de-Berk één van de zaken waarnaar hij in dat boek verwees. Hij had over die zaak ook een ander boek geschreven: "Lucia de Berk: reconstructie van een gerechtelijke dwaling", dat ik niet gelezen heb.

Hoe dan ook, op Wikipedia wordt het kernachtig samengevat:
Bij het gebruik van "AI" (in de betekenis waarin die afkorting tegenwoordig wordt gebruikt) gaat het om geautomatiseerde en niet-transparante toepassing van statistische kansberekening, waarbij het maar de vraag is of er tijdens het proces een rechter, griffier of nog iemand anders uit zichzelf(!!) opstaat om te zeggen: "Hé, maar we weten eigenlijk helemaal niet precies hoe de algoritmes tot deze uitkomst gekomen zijn, omdat we immers de algoritmes niet kennen, en ook niet de manier waarop ze met elkaar en met data op internet hebben geïnteracteerd".

M.J.

De zaak over Lucia laat zien dat men de wet niet blindelings moet vertrouwen.
Met of zonder AI.

De oorzaak van de rechterlijke dwaling in de zaak Lucia de Berk was niet gelegen in de wet, maar in de onjuiste manier waarop rechters met de wet omgingen. Ze negeerden vereisten die de wet wel degelijk stelt aan het bewijsmateriaal (bewijslast). Dat was ook de reden waarom de zaak uiteindelijk herzien kon worden. Als de rechters in de oorspronkelijke rechtsgang de wet netjes hadden gevolgd, was er geen aanleiding geweest voor herziening, want dan had de in die zaak later opgevoerde, zg. "nieuwe" informatie (een procedureel vereiste om tot behandeling van een herzieningsverzoek te kunnen komen) geen invloed gehad op het rechterlijke oordeel in de herziening. Immers, de wet vereist in een dergelijke zaak dat buiten redelijke twijfel is bewezen dat het strafbare feit is gepleegd. Dubieuze statistiek kan nooit een dergelijke "onbetwijfelbaarheid" opleveren. De "nieuwe" informatie werd in de herziening gebruikt als schaamlap om tot herziening te kunnen komen, nadat eigenlijk al duidelijk was geworden dat er sprake was van een rechterlijke dwaling. (Ik zeg dit even uit mijn hoofd, op basis van mijn herinnering.)

Met de inzet van AI voor het aanleveren van juridisch relevante quasi-"feiten" zou de verleiding nog veel groter worden om wettelijke vereisten te negeren m.b.t. bewijs en m.b.t. feitenmateriaal ter ondersteuning van standpunten, ook in niet-strafrechtelijke zaken. Zie bijvoorbeeld ook mijn commentaar op het recente gebruik van AI door een rechter, in mijn bijdrage op 03-08-2024 om 10:55 uur onder het topic: https://www.security.nl/posting/832152/Onserieusheid+-+oorzaken+van+%22slimme%22+domheid+m_b_t_+security+en+privacy. Het onkritische en niet-transparante gebruik van AI in de rechtspraak noem ik daar "clownspraak".

M.J.

Ook de computer die mensen op grote schaal als fraudeur aanmerkte in de toeslagenaffaire is een goed voorbeeld waarom computers voorlopig geen goed idee zijn.
Sommige mensen zijn hun kind verloren aan pleegouders omdat ze het zelf niet meer konden betalen terwijl Ruttetje gewoon bleef zitten voor zijn vierde termijn.
De gevolgen voor mensen zijn te groot; de PTSS, depressies en verdriet die het veroorzaakt...
Ook voor Lucia is dat ene vergoedinkje helemaal niets in vergelijking met haar leven dat aan gort is.
De Nederlandse staat is zeer onverantwoordelijk bezig geweest, en nu willen ze graaien in onze persoonlijke berichtjes via chat control en dergelijke, daardoor zullen er nog meer onschuldige koppen rollen.
Het wordt tijd dat we ons digitale leven in eigen handen nemen als volk zijnde door niet meer afhankelijk te zijn van ISPs door gebruik van een landelijk of internationaal mesh-netwerk, FLOSS en offline bronnen.

“De computer” merkte helemaal niemand aan als fraudeur. Dat was de interpretatie van de computer gebruiker.

De computergebruiker (ambtenaar) verwees wel degelijk naar de uitkomsten die geproduceerd werden door de computer, en gebruikte die dus als excuus waarom het zogenaamd "niet anders kon" dan mensen als fraudeur aanmerken. Gereedschap dat zo makelijk "misbruikt" kan worden, is gevaarlijk, en dat moet je dus uitschakelen totdat het systeem is doorgelicht op dat soort risico's.

Het misbruik van computers om als werknemer (bv. ambtenaar) niet zelf verantwoordelijkheid te nemen voor onmenselijke beslissingen, is al lang een bekend probleem. Bovendien worden er in de computer ook instructies (algoritmes) ingevoerd die tot bepaalde conclusies (bv. "fraude") leiden. Daar mag een eenvoudige ambtenaar dan van zijn eigen baas niet van afwijken. De computer speelt dus wel degelijk een zeer kwalijke rol in de toeslagenaffaire.

AI en rechtsspraak moeten volgens mij ver uit elkaar.

Rechtsspraak draait wat mij betreft om transparantie: Op basis van <gegevens> kunnen bewijzen dat u <handeling> heeft uitgevoerd, deze handeling is volgens <regel> strafbaar volgens <strafmaat>. Uw <persoonlijke situatie> meewegende komen we uit op <straf>.

AI is over het algemeen niet transparant over op basis waarvan het van de gegeven input tot de geleverde output is gekomen, en dat maakt het wat mij betreft ongeschikt.

De huidige AI droomt/hallucineert er af en toe op los. Dat lijk me dus onwenselijk.

Als ze dat probleen weten op te lossen, door extra grenzen vast te stellen en een bron tracing invoeen zodat gecontroleerd kan worden hoe een AI tot zijn "oordeel" komt, dan wordt een AI weer voorspelbaar.
Want als je weet hoe een AI redeneert en welke biassen het bevat, dan kun je die AI manipuleren.

Blijft de vraag over: kan een AI dan helpen bij het leveren van extra informatie voor een rechtzaak?
Wie maken daar gebruik van? Alleen de rechter, of ook de advocaten.

En gaan we dan niet een wedstrijd krijgen wie de "beste" AI heeft ipv een zaak op zijn merites beoordelen. (voor zover dat nu wel gebeurt)
En stompt dat de vakmensen niet af, omdat die (uit gemakzucht) blind gaan varen op die AI.

"Use it or lose it."

In dat geval is AI gewoon weer een zoekmachine. Hoeven we het ook geen "AI" meer te noemen.

Nee, de huidige "AI" kan, als het om waarheidsvinding gaat, niet meer dan een zoekmachine, dat wil zeggen: tips aanleveren waar je informatie kunt vinden, die je vervolgens zelf nog moet checken, aan de hand van bronverwijzingen, consistentie met andere informatie, etc.

Als een rechter niet aangeeft waarop bepaalde ideeën of standpunten zijn gebaseerd, maar verwijst naar "AI", dan worden de advocaten niet in de gelegenheid gesteld om te checken waarop de rechter zijn ideeën/standpunten nu eigenlijk baseert. Naar "AI" verwijzen is een pretentieuze manier om te zeggen: "Mijn natte vinger vertelt me dat..."

Het gaat nog verder. Het valt niet eens te bewijzen wie de "beste" AI heeft, omdat niet inzichtelijk is hoe een AI bepaalde informatie/fictie heeft gegenereerd.

Ja, dat stompt vakmensen inderdaad (nog verder) af. Nu al zie je dat veel rechters, maar ook sommige deskundigen, niet in staat of niet bereid zijn kritisch na te denken over waarop ze hun standpunten nu eigenlijk baseren.

Het verbaast me eigenlijk dat 10 tot 12% van de respondenten hier in deze poll (nota bene op een security-forum) het wel prima vindt als rechters hun oordelen gaan vellen op basis van ficties waarvan geen mens weet waarop die gebaseerd zijn.

M.J.

De resultaten zin soms ongeloofelijk inaccuraat... Een keer vroeg ik de AI hoeveel tabletten aspiriene gezond was voor een volwassen mens, en volgens de AI zouden minstens twintig tabletten per keer afdoende zijn. (Dat is dodelijk)
Zoiets in een rechtzaak gebruiken is oerdom.

Ha! Mooi dat je precies mijn beide -negatieve en positieve- invalshoek oppikt.

Hij, en Boris Dittrich, en commisaris Blaauw hebben hun carrière op het spel moeten zetten voor gerechtigheid. Daarin zie ik ook een voordeel, als het aloude "foutje van de computer" nieuw leven krijgt, en blijkbaar weer overal acceptabel is, dan kun je zo'n "foutje" gemakkelijk afschuiven zonder al teveel reputatie-schade.

En een Tonino kan zo'n computer niet zo snel -op een fout tijdstip- bij het grof vuil zetten, over reputatie-schade gesproken.

Dat ja. Of zoals doorgaans een brute-force API, die daarom dus zoveel stroom kost.
En waarmee de "i" inderdaad nogal "a" te noemen is.

Nah, de planeet zal worden verbrand wanneer de zon uitzet, de "dood" van de aarde is onvermijdelijk.
Maar intussen neem ik het wel over, dan laat ik de vrouwtjes wel leven zodat ze me kunnen dienen... (Evil laugh)
Ik denk dat iedereen dat wel voelt net zoals ik, ze voeren het alleen niet uit, teveel weerstand.
We hebben daarnaast een "sociale status" op te houden waarin we beter willen oveekomen dan we zijn, die drang is bij mensen enorm sterk.
Ikzelf ben gelukkig niet zo'n roedeldier en ben trots op wie/wat ik ben. (-:

Films zoals Mad Max geven dat goed weer, mensen zijn inherent als beesten die loskomen bij de eerste de beste anarchie, dan werken we inderdaad onze bucketlists af die gepaard gaat met vormen van geweld en dwang.
Iedereen heeft het in zich, althans bijna iedereen, er zullen wel uitzonderingen zijn, maar een vuistregel uit de natuur is; De sterkste overleven.

Het ligt er vooral aan waarvoor AI gebruikt zal worden. Automatisch uitspraken doen en dus de rechter vervangen? Nee natuurlijk niet, maar ik zou het helemaal niet gek vinden als het gebruikt zou worden voor het opvragen van “welke uitspraken zijn er geweest voor dit of dat”. ook kan ik me voorstellen dat het gebruikt kan worden als controle functie voor verschillende zaken, waarbij rechters en/of griffiers een waarschuwing krijgen als er iets vreemds wordt ingevoerd op basis van voorgaande zaken.

Als het gaat om commerciële AI modellen, die toegang krijgen tot rechtspraak data, zeg ik NEE.

Dan heb je het niet over AI, maar over een zoekmachine.

Probleem is dan, dat AI selectief kan zijn in de controlefunctie, zonder dat je daar de vinger op kunt leggen op het moment zelf - en dat is relevant in rechtspraak, want rechtspraak heeft op het moment zelf consequenties voor het verdere verloop. Een goede rechter, ondersteund door een griffier, zal zich niet afhankelijk willen maken van AI, maar andere zoekmethoden hebben om relevante jurisprudentie te vinden alvorens tot een uitspraak te komen.

Alle AI-modellen zijn commercieel.
De Nederlandse staat produceert geen personenauto's, Elon Musk (firma Tesla) doet dat wel.
De Nederlandse staat produceert geen "AI", Sam Altman (firma Open AI) doet dat wel.

M.J.

Rechtspraak moet transparant zijn. Leuk om AI te gebruiken, maar wat een AI-systeem vindt, zou alleen gebruikt mogen worden als de waarheid bewezen kan worden en het herleidbaar is.

Dan overleef ik niet. (geeft een zucht van opluchting)
Ik heb dat soort enoistische prima donna alpha gedrag niet in me zitten. Nooit gehad.
Ik gebruik liever mijn "mensen" brein dan mijn "reptielen" brein.
Blijkbaar ben ik al te ver van mijn mensaap voorouders weg geevolueerd.

:-)

Maar wie wil er dan ook echt in post apocalyptische wereld leven?

Dit wordt wel heel filosofisch.

Wat is "de waarheid"?
En hoe bewijs je dat? (ook zonder AI)


Hoe kun je enig iets herleiden bij een AI?
Er is geen trace-log, bronnenlijst, annotatie, oid.

Het is simpel:
Men kan gaan voor human intelligence (HI)
of men kan gaan voor artificial intelligence (AI)
(of een combinatie van beide)

De genoemde afkortingen zeggen het al:
"HI" is een lachertje,
en AI is gedoemd te mislukken.

(de hoogste tijd dus voor een bakkie troost!)

Da's niet filosofisch, het is pragmatisch. zolang er geen trace-log, geen bronnenlijst, geen annotatie oid is, moet je geen AI gebruiken als je iets wil bewijzen. Je bewijst dan namelijks niks met AI.

Bij HI kan je aan de persoon die iets beweert vragen: op basis waarvan beweer je dat? Als die persoon daar dan geen antwoord op kan geven, dan snapt iedereen dat het niet bewezen is.

Voor AI geldt hetzelfde. Daarom, zolang AI dat antwoord niet kan geven, zegt AI eigenlik niet meer dan: "Het is zo omdat ik het zeg. Punt." Voor de rechtspraak is dat waardeloos, niet geschikt.

AI in rechtszaak mag van mij, zolang ik mijn Game Genie erop mag gebruiken als ik ooit terecht zou staan. (-;
Dan vlieg ik ondersteboven de rechtzaal uit met mijn tanukistaart.

Makkelijk praten als er nog niets aan de hand is. De wil om te overleven zit diep geworteld in ieder organisme en komt bovendrijven als de situatie daarom vraagt.

Wat moet een rechter met openbare bronnen buiten het wetboek van strafrecht?

Een rechter moet vaststellen of het OM wettig en overtuigend de feiten kan bewijzen en daar eventueel een straf aan toekennen in overeenstemming met de daarvoor geldende wet- en regelgeving.
That's it.

De vraag ging over AI in de rechtspraak, en rechtspraak gaat niet alleen over strafrecht, we hebben ook civiel recht en bestuursrecht.

Inderdaad, misschien wat kort door de bocht gereageerd met alleen strafrecht in mijn hoofd. Maar ook in civiel- en bestuursrecht hoeft de rechter alleen maar te kijken naar de feiten en deze aan de wet- en regelgeving toetsen.
Verder geen openbare bronnen nodig.

Het gaat hier om de vraag wat er wel of niet telt als "bewijs" in een rechtzaak (strafrecht, bestuursrecht, civielrecht), en daarvan afgeleid de vraag waar de rechter informatie vandaan kan halen over "feiten" die in de rechtszaak ook als feiten (en dus als bewijsmateriaal) worden erkend. Welke bronnen van informatie kunnen als betrouwbaar worden beschouwd?

Een openbare bron kan bijvoorbeeld zijn: het (openbaar toegankelijke gedeelte van) het kadaster, of een publieke (en op camera opgenomen) toelichting van een bij naam genoemde deskundige. Een dergelijke bron maakt duidelijk waarop de rechter zijn/haar idee baseert waarom er sprake is van een "feit".

Lang niet alle openbare bronnen zijn geschikt als (betrouwbare) bron voor feiten waarmee iets kan worden bewezen. Zie mijn bijdrage hierboven op 12-08-2024 om 13:55 uur.

Als een advocaat of een rechter daarentegen verwijst naar "AI" als bron van een vermeend "feit", dan weten we nog steeds niet waar de advocaat of rechter zijn/haar idee op baseert dat er sprake zou zijn van een feit, omdat:
a) een door AI geproduceerde tekst vaak niet of niet precies verwijst naar relevante bronnen; en
b) een AI-bot soms bronnen "hallucineert", d.w.z. verwijst naar in werkelijkheid niet bestaande bronnen, bijv. niet-bestaande jurisprudentie, zoals in Amerika al een keer gebeurd is:

Als een advocaat naar "AI" of naar "ChatGPT" verwijst als bron, dan zou een rechter altijd nog zelf moeten nagaan, onafhankelijk van die AI, of de achterliggende informatiebron werkelijk bestaat, en zo ja, welke informatie die bron dan werkelijk geeft. Een serieuze rechter verlangt natuurlijk van advocaten dat die zelf duidelijk maken wat de echte, achterliggende bron is, en niet slechts verwijzen naar "AI".

Je gaat als advocaat ten slotte ook niet zeggen: "Dit feit, dat in een documentaire aan het licht is gekomen, bewijst dat mijn cliënt gelijk heeft." Nee, je moet dan als advocaat natuurlijk zeggen over welke documentaire het gaat, en waarop de maker van de documentaire zich baseert.

Vandaar mijn stelling dat "AI" in rechtszaken hooguit kan dienen als een zoekmachine die tips geeft waar mogelijk relevante informatie te vinden zou kunnen zijn. En vandaar mijn stelling: noem het dan ook gewoon "zoekmachine" en niet "AI". De volgende vraag is dan of een bepaalde "AI-bot", bijv. ChatGPT als zoekmachine beter en efficiënter werkt dan meer traditionele of meer gespecialiseerde zoekmachines. Vooralsnog denk ik van niet.

Wat AI kan doen, is antwoorden op de vraag: "Welke gespecialiseerde zoekmachines bestaan er over dit-en-dit onderwerp?" Ik denk dat dat misschien in een heel enkele rechtszaak nuttig kan zijn, maar in bijna alle zaken zullen de advocaten en de rechter(s) zelf al directere kennis hebben over waar ze de juiste informatie kunnen vinden.

M.J.

Ik vind dat we absoluut geen AI in de rechtspraak moeten willen hebben. Zeker bij belangrijke beslissingen is het menselijk verstand en de menselijke zienswijze gewenst.
Er zijn tal van situaties die ik mij kan bedenken waarin de uitkomst eerlijker en gebalanceerder is wanneer er door mensen beslissingen genomen worden. Een AI kan dit niet vervangen.