Ik ondervind in de praktijk eigenlijk alleen maar hinder van AI, er zijn nu al die er blind opvaren. Het punt is, je moet nog steeds je eigen hersenen blijven gebruiken en mijns inziens is dat dit met het voortschrijden van de techniek steeds minder gebeurt omdat de techniek er tussen zit en met AI wordt dat nog erger.

Als voorbeeld, je rent je huis uit de deur valt achter je dicht en je bent je telefoon vergeten, wie ga je nu bellen?
Weet je nog een telefoonnummer van degene die een reservesleutel heeft? Ik denk het niet want alles staat in het adresboek van je GSM dus je ziet waarschijnlijk nooit meer het nummer.

Hetzelfde geldt voor de pincode van je bankpas, ook die heb je niet nodig omdat je gedwongen wordt om een bank-app te gebruiken.

Al met al we worden steeds luier tussen de oren en dat gaat op termijn echt vervelende en slechte consequenties hebben.

Wat er nog bijkomt, is dat het hele idee van "feiten" aan erosie onderhevig lijkt te zijn. Dat begon al bij "de computer": als de computer het zegt, dan zal het wel waar zijn. Nu lijkt dat zich nog verder toe te spitsen in "AI": als AI het zegt, dan zal het wel waar zijn, want wie zijn wij om het beter te weten dan zo'n ontzettend "slim" systeem?

Je ziet nu al dat rechters soms blindvaren op "AI".

Aan de andere kant worden ook steeds meer mensen wakker op dit punt. Dus het zou ook kunnen dat de introductie van "AI" juist leidt tot een omslagpunt, waarna veel mensen weer gaan zoeken naar informatie die komt uit bronnen die ze meer betrouwbaar vinden.

In ieder geval zou in de rechtspraak (strafrechtelijk, bestuursrechtelijk, civiel) mijns inziens door "AI" gegenereerde informatie niet als bewijsmateriaal mogen worden aanvaard, omdat de totstandkoming van die informatie een black box is. Partijen zouden verplicht moeten worden hun standpunten rechtstreeks inzichtelijk te maken. Een verwijzing naar "AI" ter ondersteuning van een standpunt zou ertoe moeten leiden dat rechters onmiddellijk vragen: maar kunt u inzichtelijk maken op welke wijze deze AI precies de betreffende informatie heeft gegenereerd? Als partij dat dan niet kan, zou de rechter de betreffende redenering of conclusie onmiddellijk moeten afwijzen en verder buiten beschouwing laten.

Maar gezien hoe klakkeloos sommige rechters uitspraken accepteren waarin verwezen wordt naar "statistiek" of "kansberekening" (denk aan de zaak Lucia de Berk), ben ik bang dat we op dit punt van veel rechters weinig professionaliteit kunnen verwachten. Vooral in kleinere zaken die geen publiciteit genereren en waar één van de partijen slechts een beperkt-mondige burger is, zal de verleiding voor hen groot zijn om het maar even door "AI" te laten afhandelen, waarna zij er een rechterlijk stempel onder zetten zodat het pro forma toch door een mens is afgewogen. Dan krijg je dus quasi-rechtspraak die in feite is uitbesteed aan computers.

M.J.

Zorg ervoor dat AI antwoorden componenten bevatten die de lezer forceert om basis inhoudelijke materie kennis te hebben en om dit te regelen kan je ook AI gebruiken.

Die AI's bestaan, en worden juridisch toegepast. Iets uit de AH-stal, en speeltje voor oligarchen.

https://www.harvey.ai/[/ur]Wanneer komt de beloofde Big One in SF (sarc)

Enerzijds: klopt. Ik herinner me dat ik in de tweede helft van de jaren '80 een keer iemand sprak die voor een incassobureau werkte, als ik me goed herinner een Amerikaans bedrijf dat ook in Nederland actief was. Die vertelde me dat ze ongeveer alle boekhoudpakketten die maar te verkrijgen waren hadden. Als er een zaak naar de rechter ging werden de gegevens in al die boekhoudpakketten ingevoerd. Die gaven niet hetzelfde beeld, en het meest gunstige beeld voor de schuldeiser werd uitgeprint en typisch voor zoete koek geslikt door de rechter.

Anderzijds zijn rechters natuurlijk hoe dan ook niet feilloos, want niemand is in staat om overal verstand van te hebben. Misschien is het wel kwalijker als de advocaat van de andere partij er ook intrapte en geen goed weerwoord had. Dat rechters en het systeem niet perfect zijn wordt ook al sinds jaar en dag erkend, want als het wel perfect was dan bestond er geen enkele noodzaak om in beroep te kunnen gaan, en daar is duidelijk wel in voorzien.

Dat mensen de dupe worden van dit soort dingen is evident. Is dat enorm toegenomen dankzij computers? Of is er misschien een naïeve episode geweest die ook weer is bijgetrokken? Ik heb er geen zicht op, ik weet niet dat het zo is maar ik weet evenmin dat het niet zo is.