image

Autoriteit Persoonsgegevens eist opheldering techbedrijf over AI-chatbot

donderdag 14 september 2023, 13:35 door Redactie, 2 reacties

De Autoriteit Persoonsgegevens (AP) heeft bij een niet nader genoemd techbedrijf opheldering gevraagd over de integratie van een AI-chatbot in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers. Volgens de privacytoezichthouder gaan de ontwikkelingen rond de inzet van AI razendsnel.

"Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s", zo stelt de AP. "Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon."

De toezichthouder wil van het techbedrijf weten hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn. Eerder kondigde de toezichthouder aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.

Reacties (2)
14-09-2023, 13:57 door Anoniem
Dit gaat hoogstwaarschijnlijk over de chatbot van SnapChat die erg populair werd onder jongeren de afgelopen tijd. Hierin werden vaak de adresgegevens van de persoon naar voren geroepen als je deze ging vragen aan de chatbot...
14-09-2023, 14:17 door Anoniem
In Scandinavië, in de jaren '60 of zo was er een man die beweerde de computer te hebben gebouwd die alles wist. Toen ging alles nog met een TTY. Een printer waar een toetsenbord aan vast zat. Je tikte wat in. Dat werd geprint. En het antwoord van de computer werd dan er onder geprint. Beeldschermen bestonden nog niet. De techniek was er nog niet om al die pxels op een scherm te zetten.

Er werd een hele club investeerders uitgenodigd voor een demo. Ze konden vragen intikken op de TTY. En het antwoord werd er onder geprint. Eerst verbazing alom dat het werkte. Totdat de tikfouten op begonnen te vallen.

Wat bleek, de briljante uitvinder zat in het kamertje ernaast. Met een encyclopedie en nog wat naslagwerken. Aan een andere TTY. Omdat computers toen nog traag waren, viel het eerst niet op dat hij alles zat over te tikken. Dat het antwoord even duurde. Maar hij ging door de mand met zijn tikfouten.

Een episch oplichtersverhaal, nog steeds. Maar gaat ook over de AI van nu. Want dat is eigenlijk op het zelfde kunstje gebaseerd. Alleen al die data past nu wel op harde schijven. Toen was dat onmogelijk. Maar het principe blijft het zelfde.

Voor nu zullen we moeten leren omgaan met AI. Het is gewoon te handig voor een heleboel dingen. Het antwoordt sneller want er moet niks meer handmatig uit de encyclopedie overgetikt te worden. Het maakt ook minder tikfouten. Dus het gaat minder snel door de mand. Waar het wel door de mand gaat is als je weet dat iets niet klopt. Gewoon niet waar is. Data is zelden compleet, dat het correct is is ongewis en altijd enkel op het verleden gebaseerd. Het is ook geen intelligentie. Dat is een marketing woord. Intelligent is voelen of denken, hier klopt iets niet. Of er staat gewoon onzin. AI blijft een mannetje in de andere kamer die gewoon alles over zit te typen.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.