De mens gaat zichzelf door de techniek laten vervangen en dat is misschien maar beter ook want we bakken er niets van.
De planeet is beter af zonder ons.

Weet A.I. inmiddels al een beetje hoeveel vingers en vingerafdrukken een mens heeft?

Tot nu toe hebben Nederlandse rechters zich niet of nauwelijks in staat en/of niet bereid getoond om de grondrechten van Nederlanders te beschermen wanneer die door de implementatie digitale systemen worden aangetast.

Ik heb er geen enkel vertrouwen in dat rechters competenter zouden worden en meer respect voor de rechtsstaat zouden tonen als het gaat om de implementatie van AI. Het lijkt er meer op dat ze achter de nieuwste mode en de mooie praatjes van AI-lobbyisten aan zullen lopen. Dat is makkelijker en het salaris komt toch wel binnen.

Het is toch al lang aangetoond dat dit niet werkt? AI is een gokmachine en als zodanig een contradictio in terminis.

Bekijk even deze video op twitter.
https://x.com/Rainmaker1973/status/1822620480970322217
What could possibly go wrong? Met AI in de rechtspraak.

Dat was een hele lastige keuze deze keer! Ik vind van ja, maar het punt is, je moet begrijpen hoe je AI moet gebruiken. Wat je van een rechter niet meteen mag verwachten. Evenwel had de vraag ook kunnen zijn of een rechter google of duckduckgo mag gebruiken. Ook dat zijn openbare bronnen. Maar is ook inmiddels gemanipuleerde data bij google. Je moet weten waar je naar kijkt en hoe je moet zoeken. En hoe je wat je ziet moet interpreteren. Waar dan daarna rechters wel weer erg goed in zijn. Weet ik uit ervaring. Mijn ja is daarom ook, dat de laatste die je wat kunt verbieden, de openbare rechter is.

Een van de eigenaardigheden van het Nederlandse recht is dat een rechter dingen niet aan de grondwet mag toetsen. Artikel 120 van de grondwet zegt dat: "De rechter treedt niet in de beoordeling van de grondwettigheid van wetten en verdragen." Het idee is dat de 2e en 1e kamer hun werk goed doen en er geen wetten door laten komen die de grondwet schenden.

Rechters zijn in mijn ervaring heel vaak helemaal niet goed in hoe ze interpreteren wat ze zien. Daar komt nog bij dat ze veel dingen vaak niet willen zien, dus oogklepjes opzetten en dingen "niet relevant" vinden, maar zonder in hun uitspraken uit te leggen waarom. Anderzijds nemen veel rechters ook voetstoots dingen aan, zonder duidelijk te maken waarop hun aanname gebaseerd is.

Ik heb hele goede rechterlijke motiveringen gezien, maar nog meer hele slechte.

Wat betreft de door jou genoemde "openbare bronnen", je wilt ook niet dat een rechter een SF-verhaal of een film met Tom Cruise als "openbare bron" gaat gebruiken. Rechter: "Deze fraude-zaak komt in grote lijnen overeen met de casus van The Firm (Grisham). De conclusies die de hoofdpersoon daarin trekt, zijn logisch en navolgbaar. Daarom verklaar ik u schuldig aan fraude, waarbij ik ter motivering verwijs naar deze openbare bron, die met een zeer hoge mate van waarschijnlijkheid duidelijk maakt hoe het feitelijk toegaat in een dergelijke situatie."

Het is niet genoeg als een bron openbaar is. Hij moet ook nog relevant (ter zake doend) zijn, toepasselijk en betrouwbaar. En het moet natuurlijk een bron van feiten zijn, niet een bron van (op basis van statistiek en niet of slechts deels inzichtelijke algoritmes) gegenereerde ficties.

M.J.

Nederlandse rechters mogen en moeten dingen wel toetsen ("rechtstreeks"!) aan internationale verdragen. Probleem is dat zij vaak weigeren dit te doen, bijvoorbeeld door te zeggen dat het niet nodig is omdat het internationale verdrag al uitgewerkt zou zijn in nationale wetgeving. Vervolgens is het probleem dat internationale instanties die zo'n rechterlijke uitspraak dan weer kunnen toetsen, daar vaak ook niet toe bereid zijn. Het Europese Hof voor de Rechten van de Mens (EHRM) heeft bijvoorbeeld de neiging om meer dan 95% van de ingebrachte verzoekschriften zonder duidelijke motivering in de prullenbak te gooien.

Kortom, in strijd met al die mooie kreten die Europese en nationale politici de wereld in sturen over dat de EU "de rechtsstaat" ("the rule of law") zou verdedigen, doet de EU dat in de praktijk meestal juist niet.

M.J:

Gewoon niet doen, een rechtbank "ontmenselijken", heel slecht idee!!!
Het feit dat mensen er al over denken is te idioot voor woorden, het ondermijnt daarmee ook de rechtstaat.
Ik heb totaal geen respect voor rechters of eventuele wetten die hierin meegaan.

Ik vermoed met aan zekerheid grenzende waarschijnlijkheid dat Lucia de B. -voormalig "engel des doods"- het hartgrondig met je eens zal zijn
https://nl.wikipedia.org/wiki/Zaak-Lucia_de_Berk
Zou A.I. zich inspannen om zulke bewuste en gewenste dwaling bij het O.M. aan het licht te brengen?

Interessante vraag! Niet omdat A.I. zich zou kunnen "inspannen" (ik neem aan dat je hier niet doelt op het voltage van de servers), maar wel omdat het een vraag is die gaat over het zelfcorrigerend en onderling corrigerend vermogen van juridische functionarissen (rechters, griffiers, aanklagers, onderzoekers) in juridische processen. Welke invloed zou de inzet van A.I. hebben op dat zelfcorrigerend vermogen?

Destijds heb ik het boek van hoogleraar Ton Derksen gelezen, "Het OM in de fout. 94 structurele missers". Als ik me goed herinner was de zaak-Lucia-de-Berk één van de zaken waarnaar hij in dat boek verwees. Hij had over die zaak ook een ander boek geschreven: "Lucia de Berk: reconstructie van een gerechtelijke dwaling", dat ik niet gelezen heb.

Hoe dan ook, op Wikipedia wordt het kernachtig samengevat:
Bij het gebruik van "AI" (in de betekenis waarin die afkorting tegenwoordig wordt gebruikt) gaat het om geautomatiseerde en niet-transparante toepassing van statistische kansberekening, waarbij het maar de vraag is of er tijdens het proces een rechter, griffier of nog iemand anders uit zichzelf(!!) opstaat om te zeggen: "Hé, maar we weten eigenlijk helemaal niet precies hoe de algoritmes tot deze uitkomst gekomen zijn, omdat we immers de algoritmes niet kennen, en ook niet de manier waarop ze met elkaar en met data op internet hebben geïnteracteerd".

M.J.

De zaak over Lucia laat zien dat men de wet niet blindelings moet vertrouwen.
Met of zonder AI.

De oorzaak van de rechterlijke dwaling in de zaak Lucia de Berk was niet gelegen in de wet, maar in de onjuiste manier waarop rechters met de wet omgingen. Ze negeerden vereisten die de wet wel degelijk stelt aan het bewijsmateriaal (bewijslast). Dat was ook de reden waarom de zaak uiteindelijk herzien kon worden. Als de rechters in de oorspronkelijke rechtsgang de wet netjes hadden gevolgd, was er geen aanleiding geweest voor herziening, want dan had de in die zaak later opgevoerde, zg. "nieuwe" informatie (een procedureel vereiste om tot behandeling van een herzieningsverzoek te kunnen komen) geen invloed gehad op het rechterlijke oordeel in de herziening. Immers, de wet vereist in een dergelijke zaak dat buiten redelijke twijfel is bewezen dat het strafbare feit is gepleegd. Dubieuze statistiek kan nooit een dergelijke "onbetwijfelbaarheid" opleveren. De "nieuwe" informatie werd in de herziening gebruikt als schaamlap om tot herziening te kunnen komen, nadat eigenlijk al duidelijk was geworden dat er sprake was van een rechterlijke dwaling. (Ik zeg dit even uit mijn hoofd, op basis van mijn herinnering.)

Met de inzet van AI voor het aanleveren van juridisch relevante quasi-"feiten" zou de verleiding nog veel groter worden om wettelijke vereisten te negeren m.b.t. bewijs en m.b.t. feitenmateriaal ter ondersteuning van standpunten, ook in niet-strafrechtelijke zaken. Zie bijvoorbeeld ook mijn commentaar op het recente gebruik van AI door een rechter, in mijn bijdrage op 03-08-2024 om 10:55 uur onder het topic: https://www.security.nl/posting/832152/Onserieusheid+-+oorzaken+van+%22slimme%22+domheid+m_b_t_+security+en+privacy. Het onkritische en niet-transparante gebruik van AI in de rechtspraak noem ik daar "clownspraak".

M.J.

Ook de computer die mensen op grote schaal als fraudeur aanmerkte in de toeslagenaffaire is een goed voorbeeld waarom computers voorlopig geen goed idee zijn.
Sommige mensen zijn hun kind verloren aan pleegouders omdat ze het zelf niet meer konden betalen terwijl Ruttetje gewoon bleef zitten voor zijn vierde termijn.
De gevolgen voor mensen zijn te groot; de PTSS, depressies en verdriet die het veroorzaakt...
Ook voor Lucia is dat ene vergoedinkje helemaal niets in vergelijking met haar leven dat aan gort is.
De Nederlandse staat is zeer onverantwoordelijk bezig geweest, en nu willen ze graaien in onze persoonlijke berichtjes via chat control en dergelijke, daardoor zullen er nog meer onschuldige koppen rollen.
Het wordt tijd dat we ons digitale leven in eigen handen nemen als volk zijnde door niet meer afhankelijk te zijn van ISPs door gebruik van een landelijk of internationaal mesh-netwerk, FLOSS en offline bronnen.

“De computer” merkte helemaal niemand aan als fraudeur. Dat was de interpretatie van de computer gebruiker.

De computergebruiker (ambtenaar) verwees wel degelijk naar de uitkomsten die geproduceerd werden door de computer, en gebruikte die dus als excuus waarom het zogenaamd "niet anders kon" dan mensen als fraudeur aanmerken. Gereedschap dat zo makelijk "misbruikt" kan worden, is gevaarlijk, en dat moet je dus uitschakelen totdat het systeem is doorgelicht op dat soort risico's.

Het misbruik van computers om als werknemer (bv. ambtenaar) niet zelf verantwoordelijkheid te nemen voor onmenselijke beslissingen, is al lang een bekend probleem. Bovendien worden er in de computer ook instructies (algoritmes) ingevoerd die tot bepaalde conclusies (bv. "fraude") leiden. Daar mag een eenvoudige ambtenaar dan van zijn eigen baas niet van afwijken. De computer speelt dus wel degelijk een zeer kwalijke rol in de toeslagenaffaire.

AI en rechtsspraak moeten volgens mij ver uit elkaar.

Rechtsspraak draait wat mij betreft om transparantie: Op basis van <gegevens> kunnen bewijzen dat u <handeling> heeft uitgevoerd, deze handeling is volgens <regel> strafbaar volgens <strafmaat>. Uw <persoonlijke situatie> meewegende komen we uit op <straf>.

AI is over het algemeen niet transparant over op basis waarvan het van de gegeven input tot de geleverde output is gekomen, en dat maakt het wat mij betreft ongeschikt.

De huidige AI droomt/hallucineert er af en toe op los. Dat lijk me dus onwenselijk.

Als ze dat probleen weten op te lossen, door extra grenzen vast te stellen en een bron tracing invoeen zodat gecontroleerd kan worden hoe een AI tot zijn "oordeel" komt, dan wordt een AI weer voorspelbaar.
Want als je weet hoe een AI redeneert en welke biassen het bevat, dan kun je die AI manipuleren.

Blijft de vraag over: kan een AI dan helpen bij het leveren van extra informatie voor een rechtzaak?
Wie maken daar gebruik van? Alleen de rechter, of ook de advocaten.

En gaan we dan niet een wedstrijd krijgen wie de "beste" AI heeft ipv een zaak op zijn merites beoordelen. (voor zover dat nu wel gebeurt)
En stompt dat de vakmensen niet af, omdat die (uit gemakzucht) blind gaan varen op die AI.

"Use it or lose it."

In dat geval is AI gewoon weer een zoekmachine. Hoeven we het ook geen "AI" meer te noemen.

Nee, de huidige "AI" kan, als het om waarheidsvinding gaat, niet meer dan een zoekmachine, dat wil zeggen: tips aanleveren waar je informatie kunt vinden, die je vervolgens zelf nog moet checken, aan de hand van bronverwijzingen, consistentie met andere informatie, etc.

Als een rechter niet aangeeft waarop bepaalde ideeën of standpunten zijn gebaseerd, maar verwijst naar "AI", dan worden de advocaten niet in de gelegenheid gesteld om te checken waarop de rechter zijn ideeën/standpunten nu eigenlijk baseert. Naar "AI" verwijzen is een pretentieuze manier om te zeggen: "Mijn natte vinger vertelt me dat..."

Het gaat nog verder. Het valt niet eens te bewijzen wie de "beste" AI heeft, omdat niet inzichtelijk is hoe een AI bepaalde informatie/fictie heeft gegenereerd.

Ja, dat stompt vakmensen inderdaad (nog verder) af. Nu al zie je dat veel rechters, maar ook sommige deskundigen, niet in staat of niet bereid zijn kritisch na te denken over waarop ze hun standpunten nu eigenlijk baseren.

Het verbaast me eigenlijk dat 10 tot 12% van de respondenten hier in deze poll (nota bene op een security-forum) het wel prima vindt als rechters hun oordelen gaan vellen op basis van ficties waarvan geen mens weet waarop die gebaseerd zijn.

M.J.

De resultaten zin soms ongeloofelijk inaccuraat... Een keer vroeg ik de AI hoeveel tabletten aspiriene gezond was voor een volwassen mens, en volgens de AI zouden minstens twintig tabletten per keer afdoende zijn. (Dat is dodelijk)
Zoiets in een rechtzaak gebruiken is oerdom.

Ha! Mooi dat je precies mijn beide -negatieve en positieve- invalshoek oppikt.

Hij, en Boris Dittrich, en commisaris Blaauw hebben hun carrière op het spel moeten zetten voor gerechtigheid. Daarin zie ik ook een voordeel, als het aloude "foutje van de computer" nieuw leven krijgt, en blijkbaar weer overal acceptabel is, dan kun je zo'n "foutje" gemakkelijk afschuiven zonder al teveel reputatie-schade.

En een Tonino kan zo'n computer niet zo snel -op een fout tijdstip- bij het grof vuil zetten, over reputatie-schade gesproken.

Dat ja. Of zoals doorgaans een brute-force API, die daarom dus zoveel stroom kost.
En waarmee de "i" inderdaad nogal "a" te noemen is.