Rechtbank Rotterdam gebruikt 'AI' als schrijfhulp bij opstellen strafvonnis
De rechtbank Rotterdam heeft in een strafzaak 'AI' gebruikt als schrijfhulp bij het opstellen van een strafvonnis. Het ging specifiek om het opstellen van een concept voor de strafmotivering. Dit is het onderdeel van het strafvonnis waarin wordt uitgelegd hoe de rechtbank tot de straf is gekomen en is volgens de Rechtspraak een belangrijk onderdeel van het strafvonnis.
"Bij het gebruik van de AI heeft de rechtbank de vertrouwelijkheid en integriteit van de strafprocedure vooropgesteld. Er is daarom zorgvuldig beoordeeld dat er geen privacygevoelige informatie en specifieke feiten in de AI-systemen werden ingevoerd die herleidbaar zijn tot de concrete zaak", aldus de Rechtspraak. De bij deze strafzaak direct betrokkenen zijn na de uitspraak over het gebruik van 'AI' geïnformeerd.
De Rechtspraak stelt dat het gebruik van 'AI' voor een versnelde opstelling van de strafmotivering zorgde, alsmede een duidelijke structuur en indeling. Het is niet de verwachting dat openbare 'AI-tools' vaak zullen worden ingezet. "De beperkte invoer van informatie in een openbaar AI-netwerk beperkt de effectiviteit van zulke toepassingen. Ook bestaat het risico dat er te veel informatie over de zaak op een te vroeg moment wordt gedeeld met de openbare AI, wat tot ethische en juridische complicaties kan leiden", legt de Rechtspraak uit.
"Een intern afgeschermd AI-systeem, speciaal ontworpen voor de Rechtspraak en dat alleen vertrouwelijke gegevens gebruikt, zou veel effectiever kunnen zijn", aldus de Rechtspraak. Bij de proef betrokken rechters en griffier kwamen ook met het idee om alle gepubliceerde strafvonnissen op rechtspraak.nl in een afgeschermde database te verzamelen en te integreren in een afgeschermde beveiligde 'AI-toepassing'. "Dit zou strafrechters in staat stellen om relevantere en specifiekere informatie daarin in te voeren."
De Rechtspraak noemt het een reële verwachting dat 'AI' met dergelijke informatie conceptstrafmotiveringen kan genereren. "Deze ontwikkeling biedt kans om binnen de strafrechtspraak verder te kijken naar het gebruik van AI in een ondersteunende vorm, terwijl belangrijke waarden behouden blijven."
Maar "hoe de rechtbank tot de straf is gekomen", dat is als het goed is een proces dat zich in het hoofd en het hart van de rechter en de griffier heeft afgespeeld. Als ze dat door AI laten "opschrijven", dan zijn er de volgende vier mogelijkheden:
1. De rechter en de griffier gaan ervan uit dat AI op telepatische wijze in hun hoofd kan kijken en dat getrouw kan opschrijven;
2. De rechter en de griffier vinden het niet belangrijk dat er wordt opgeschreven hoe zij werkelijk tot de straf zijn gekomen, ze vinden het ook oké als er door de AI-bot een fictie daarover wordt geproduceerd;
3. De rechter en de griffier zijn tot de straf gekomen volledig en uitsluitend op basis van een protocol dat ergens anders al is opgeschreven en hebben aan de "AI" alleen gevraagd om dat te kopiëren, waardoor ze dus eigenlijk geen AI hebben ingezet, maar een copy-paste-functionaliteit.
4. De rechter en de griffier vinden het niet belangrijk dat zij zelf de straf bepalen, wat hen betreft mag een (al dan niet hallucinerende) AI-bot dat ook wel deels of geheel doen, als het hun tijd bespaart.
Elk van deze opties is slecht voor het vertrouwen in de rechtspraak.
M.J.
Maar "hoe de rechtbank tot de straf is gekomen", dat is als het goed is een proces dat zich in het hoofd en het hart van de rechter en de griffier heeft afgespeeld. Als ze dat door AI laten "opschrijven", dan zijn er de volgende vier mogelijkheden:
1. De rechter en de griffier gaan ervan uit dat AI op telepatische wijze in hun hoofd kan kijken en dat getrouw kan opschrijven;
2. De rechter en de griffier vinden het niet belangrijk dat er wordt opgeschreven hoe zij werkelijk tot de straf zijn gekomen, ze vinden het ook oké als er door de AI-bot een fictie daarover wordt geproduceerd;
3. De rechter en de griffier zijn tot de straf gekomen volledig en uitsluitend op basis van een protocol dat ergens anders al is opgeschreven en hebben aan de "AI" alleen gevraagd om dat te kopiëren, waardoor ze dus eigenlijk geen AI hebben ingezet, maar een copy-paste-functionaliteit.
4. De rechter en de griffier vinden het niet belangrijk dat zij zelf de straf bepalen, wat hen betreft mag een (al dan niet hallucinerende) AI-bot dat ook wel deels of geheel doen, als het hun tijd bespaart.
Ik heb het vermoeden dat optie 5 gekozen is.
Maar "hoe de rechtbank tot de straf is gekomen", dat is als het goed is een proces dat zich in het hoofd en het hart van de rechter en de griffier heeft afgespeeld. Als ze dat door AI laten "opschrijven", dan zijn er de volgende vier mogelijkheden:
1. De rechter en de griffier gaan ervan uit dat AI op telepatische wijze in hun hoofd kan kijken en dat getrouw kan opschrijven;
2. De rechter en de griffier vinden het niet belangrijk dat er wordt opgeschreven hoe zij werkelijk tot de straf zijn gekomen, ze vinden het ook oké als er door de AI-bot een fictie daarover wordt geproduceerd;
3. De rechter en de griffier zijn tot de straf gekomen volledig en uitsluitend op basis van een protocol dat ergens anders al is opgeschreven en hebben aan de "AI" alleen gevraagd om dat te kopiëren, waardoor ze dus eigenlijk geen AI hebben ingezet, maar een copy-paste-functionaliteit.
4. De rechter en de griffier vinden het niet belangrijk dat zij zelf de straf bepalen, wat hen betreft mag een (al dan niet hallucinerende) AI-bot dat ook wel deels of geheel doen, als het hun tijd bespaart.
Elk van deze opties is slecht voor het vertrouwen in de rechtspraak.
M.J.
En dan te bedenken dat het AI door mensen geprompt is. Mogen burgers weten door wie? Nee, want privacy enzo, dus dan moet je een ander netwerk opgaan zetten om hun identiteit te achterhalen.
Maar "hoe de rechtbank tot de straf is gekomen", dat is als het goed is een proces dat zich in het hoofd en het hart van de rechter en de griffier heeft afgespeeld. Als ze dat door AI laten "opschrijven", dan zijn er de volgende vier mogelijkheden:
1. De rechter en de griffier gaan ervan uit dat AI op telepatische wijze in hun hoofd kan kijken en dat getrouw kan opschrijven;
2. De rechter en de griffier vinden het niet belangrijk dat er wordt opgeschreven hoe zij werkelijk tot de straf zijn gekomen, ze vinden het ook oké als er door de AI-bot een fictie daarover wordt geproduceerd;
3. De rechter en de griffier zijn tot de straf gekomen volledig en uitsluitend op basis van een protocol dat ergens anders al is opgeschreven en hebben aan de "AI" alleen gevraagd om dat te kopiëren, waardoor ze dus eigenlijk geen AI hebben ingezet, maar een copy-paste-functionaliteit.
4. De rechter en de griffier vinden het niet belangrijk dat zij zelf de straf bepalen, wat hen betreft mag een (al dan niet hallucinerende) AI-bot dat ook wel deels of geheel doen, als het hun tijd bespaart.
Ik heb het vermoeden dat optie 5 gekozen is.
Optie "5" = optie 1 en/of optie 2.
Je moet ook echt stage of inhuur zijn om AI te gebruiken, wordt bepaald door het arbeidscontract, lmfao.
Je moet ook echt stage of inhuur zijn om AI te gebruiken, wordt bepaald door het arbeidscontract, lmfao.
De vraag is of het verstandig is dat ambtenaren gebruik maken van third-party AI (overzees), en mocht dat aan banden gelegd worden, dan nog zit je met stagiairs en inhuur die buiten de ambtelijke werkomgeving om gebruik maken van AI. Zie het als een vorm van Shadow IT, maar daar kunnen dus bedrijfsgegevens bij worden gebruikt waar de eigen organisatie aansprakelijk voor gesteld kan worden (bijvoorbeeld wegens GDPR).
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Cybersecurity Trainer / Full Stack Developer
bij Certified Secure
Ben je toe aan een nieuwe nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
