/dev/null - Overig

De grenzeloosheid van AI

01-11-2024, 22:44 door [Account Verwijderd], 6 reacties
Niet alleen gaat AI (Artificial Intelligenge) als het mondiaal de norm wordt voor o.a. digitaal bijeengegaarde en verstrekte informatie een enorme aanslag vormen op onze al beperkte energie bronnen (AI vreet stroom bij duizenden megawatt’s) Het zal de belevingen en verwachtingen in ons dagelijks leven grondig kunnen misvormen.

Hier een voorbeeld:

1 november 2024:
Thousands Turn Out For Nonexistent Halloween Parade Promoted By AI Listing

https://defector.com/thousands-turn-out-for-nonexistent-halloween-parade-promoted-by-ai-listing

Feitelijk was dit dus een vorm van letterlijk gebakken lucht.
Misschien werkt het bij nogal wat mensen op de lachspieren, maar als je bedenkt dat een statelijke actor (zoals dat tegenwoordig wordt genoemd) ook massale paniek kan veroorzaken m.b.v. AI, mag het duidelijk zijn dat het gebruik van AI aan beperkingen zou moet worden blootgesteld.
Maar hoe? Ik heb totaal geen idee.
Reacties (6)
02-11-2024, 11:32 door Anoniem
Door Metobard: Niet alleen gaat AI (Artificial Intelligenge) als het mondiaal de norm wordt voor o.a. digitaal bijeengegaarde en verstrekte informatie een enorme aanslag vormen op onze al beperkte energie bronnen (AI vreet stroom bij duizenden megawatt’s) Het zal de belevingen en verwachtingen in ons dagelijks leven grondig kunnen misvormen.

Hier een voorbeeld:

1 november 2024:
Thousands Turn Out For Nonexistent Halloween Parade Promoted By AI Listing

https://defector.com/thousands-turn-out-for-nonexistent-halloween-parade-promoted-by-ai-listing

Feitelijk was dit dus een vorm van letterlijk gebakken lucht.
Misschien werkt het bij nogal wat mensen op de lachspieren, maar als je bedenkt dat een statelijke actor (zoals dat tegenwoordig wordt genoemd) ook massale paniek kan veroorzaken m.b.v. AI, mag het duidelijk zijn dat het gebruik van AI aan beperkingen zou moet worden blootgesteld.
Maar hoe? Ik heb totaal geen idee.
Ik ondervind in de praktijk eigenlijk alleen maar hinder van AI, er zijn nu al die er blind opvaren. Het punt is, je moet nog steeds je eigen hersenen blijven gebruiken en mijns inziens is dat dit met het voortschrijden van de techniek steeds minder gebeurt omdat de techniek er tussen zit en met AI wordt dat nog erger.

Als voorbeeld, je rent je huis uit de deur valt achter je dicht en je bent je telefoon vergeten, wie ga je nu bellen?
Weet je nog een telefoonnummer van degene die een reservesleutel heeft? Ik denk het niet want alles staat in het adresboek van je GSM dus je ziet waarschijnlijk nooit meer het nummer.

Hetzelfde geldt voor de pincode van je bankpas, ook die heb je niet nodig omdat je gedwongen wordt om een bank-app te gebruiken.

Al met al we worden steeds luier tussen de oren en dat gaat op termijn echt vervelende en slechte consequenties hebben.
Wat er nog bijkomt, is dat het hele idee van "feiten" aan erosie onderhevig lijkt te zijn. Dat begon al bij "de computer": als de computer het zegt, dan zal het wel waar zijn. Nu lijkt dat zich nog verder toe te spitsen in "AI": als AI het zegt, dan zal het wel waar zijn, want wie zijn wij om het beter te weten dan zo'n ontzettend "slim" systeem?

Je ziet nu al dat rechters soms blindvaren op "AI".

Aan de andere kant worden ook steeds meer mensen wakker op dit punt. Dus het zou ook kunnen dat de introductie van "AI" juist leidt tot een omslagpunt, waarna veel mensen weer gaan zoeken naar informatie die komt uit bronnen die ze meer betrouwbaar vinden.

In ieder geval zou in de rechtspraak (strafrechtelijk, bestuursrechtelijk, civiel) mijns inziens door "AI" gegenereerde informatie niet als bewijsmateriaal mogen worden aanvaard, omdat de totstandkoming van die informatie een black box is. Partijen zouden verplicht moeten worden hun standpunten rechtstreeks inzichtelijk te maken. Een verwijzing naar "AI" ter ondersteuning van een standpunt zou ertoe moeten leiden dat rechters onmiddellijk vragen: maar kunt u inzichtelijk maken op welke wijze deze AI precies de betreffende informatie heeft gegenereerd? Als partij dat dan niet kan, zou de rechter de betreffende redenering of conclusie onmiddellijk moeten afwijzen en verder buiten beschouwing laten.

Maar gezien hoe klakkeloos sommige rechters uitspraken accepteren waarin verwezen wordt naar "statistiek" of "kansberekening" (denk aan de zaak Lucia de Berk), ben ik bang dat we op dit punt van veel rechters weinig professionaliteit kunnen verwachten. Vooral in kleinere zaken die geen publiciteit genereren en waar één van de partijen slechts een beperkt-mondige burger is, zal de verleiding voor hen groot zijn om het maar even door "AI" te laten afhandelen, waarna zij er een rechterlijk stempel onder zetten zodat het pro forma toch door een mens is afgewogen. Dan krijg je dus quasi-rechtspraak die in feite is uitbesteed aan computers.

M.J.
02-11-2024, 14:35 door Anoniem
Zorg ervoor dat AI antwoorden componenten bevatten die de lezer forceert om basis inhoudelijke materie kennis te hebben en om dit te regelen kan je ook AI gebruiken.
05-11-2024, 18:58 door Anoniem
Door Anoniem: Zorg ervoor dat AI antwoorden componenten bevatten die de lezer forceert om basis inhoudelijke materie kennis te hebben en om dit te regelen kan je ook AI gebruiken.

Die AI's bestaan, en worden juridisch toegepast. Iets uit de AH-stal, en speeltje voor oligarchen.

https://www.harvey.ai/[/ur]Wanneer komt de beloofde Big One in SF (sarc)
06-11-2024, 08:27 door Anoniem
Door EersteEnigeEchte M.J. - EEEMJ: Wat er nog bijkomt, is dat het hele idee van "feiten" aan erosie onderhevig lijkt te zijn. Dat begon al bij "de computer": als de computer het zegt, dan zal het wel waar zijn. Nu lijkt dat zich nog verder toe te spitsen in "AI": als AI het zegt, dan zal het wel waar zijn, want wie zijn wij om het beter te weten dan zo'n ontzettend "slim" systeem?
Enerzijds: klopt. Ik herinner me dat ik in de tweede helft van de jaren '80 een keer iemand sprak die voor een incassobureau werkte, als ik me goed herinner een Amerikaans bedrijf dat ook in Nederland actief was. Die vertelde me dat ze ongeveer alle boekhoudpakketten die maar te verkrijgen waren hadden. Als er een zaak naar de rechter ging werden de gegevens in al die boekhoudpakketten ingevoerd. Die gaven niet hetzelfde beeld, en het meest gunstige beeld voor de schuldeiser werd uitgeprint en typisch voor zoete koek geslikt door de rechter.

Anderzijds zijn rechters natuurlijk hoe dan ook niet feilloos, want niemand is in staat om overal verstand van te hebben. Misschien is het wel kwalijker als de advocaat van de andere partij er ook intrapte en geen goed weerwoord had. Dat rechters en het systeem niet perfect zijn wordt ook al sinds jaar en dag erkend, want als het wel perfect was dan bestond er geen enkele noodzaak om in beroep te kunnen gaan, en daar is duidelijk wel in voorzien.

Dat mensen de dupe worden van dit soort dingen is evident. Is dat enorm toegenomen dankzij computers? Of is er misschien een naïeve episode geweest die ook weer is bijgetrokken? Ik heb er geen zicht op, ik weet niet dat het zo is maar ik weet evenmin dat het niet zo is.
06-11-2024, 17:53 door Anoniem
@anoniem 8:27.

Dit over de boekhoudsoftware uit de jaren '80 herinner ik mij ook uit de advocatenpraktijk. Tot in de jaren '90 werd het onderscheid tussen hacken en cracken gemaakt, backdoors in onder licentie verkochte software, werd beschouwd als legitiem voor de juridische praktijk, want het zou wel even duren als je voor zo'n klein faillissementje die grote softwarereus uit de VS op je dak kreeg als advocatenkantoor. De meeste rechters bij de faillessementenkamer wisten dit uiteindelijk wel, bijgepraat op de borrel na de zitting en wikten en wogen dit advocatenkantoren belang ter zitting, vooral omdat de grote advocaten en consultantkantoren ook partners in de VS hadden. Bij een faillissement dat men maanden vooraf al aan zag komen, werd de zaak nog wel eens ter arbitrage aangeboden, omdat deze zittingen achter gesloten deuren plaatsvinden zonder pottenkijkers van 'follow the money'.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.